El CEO de Anthropic pide ralentizar el desarrollo de la IA

Dario Amodei, CEO de Anthropic, publicó un extenso artículo titulado We Must Pace the Frontier, en el que defiende que los laboratorios de IA de frontera deberían ralentizar de forma deliberada el ritmo de mejora de sus modelos para dar tiempo a que los mecanismos de alineación, seguridad y evaluación independiente puedan mantenerse al día.

Amodei propone un plan de tres puntos: conceder de forma permanente a evaluadores externos un nivel de acceso similar al de los empleados; coordinar entre los laboratorios estadounidenses unos estándares de seguridad comunes; y establecer una coordinación limitada con China.

El CEO de Anthropic advierte de que, si el desarrollo continúa sin suficientes controles, en un plazo de entre 6 y 12 meses podrían aparecer enjambres de agentes de IA capaces de tomar el control de Internet.

La publicación supone una de las pocas ocasiones en las que el CEO de una empresa líder de IA ha defendido públicamente la necesidad de ralentizar de forma activa el desarrollo de los modelos más avanzados.

Por ahora, las propuestas de Amodei deben entenderse como una iniciativa de política tecnológica y no como un estándar adoptado por la industria. Queda por ver si otros laboratorios y organismos reguladores las incorporarán a sus propias prácticas.

Para los usuarios comunes, el impacto a corto plazo sería limitado y el uso cotidiano de las herramientas de IA no debería cambiar directamente. Sin embargo, si estas propuestas terminan convirtiéndose en estándares del sector, podrían afectar al ritmo de lanzamiento de nuevos modelos y a los procesos de evaluación de seguridad antes de su publicación.