Anthropic propone ralentizar la IA de frontera con un plan de tres pasos
Dario Amodei propone un plan de tres pasos para ralentizar la IA de frontera y reforzar su seguridad, con apoyo de OpenAI, xAI y Microsoft, aunque Trump rechaza la estrategia.
Herramientas relacionadas
El CEO de Anthropic, Dario Amodei, publicó el 12 de septiembre un extenso artículo titulado We Must Pace the Frontier, en el que propone un plan de tres pasos para ralentizar de forma deliberada el ritmo de mejora de los modelos de frontera. La idea es dar tiempo a que las medidas de alineación y seguridad, así como las evaluaciones independientes, puedan avanzar al mismo ritmo que las capacidades de la IA.
El plan de tres pasos
La propuesta de Amodei se basa en tres medidas principales: conceder de forma permanente a evaluadores externos un acceso a los sistemas similar al de los empleados; coordinar entre los laboratorios estadounidenses unos estándares de seguridad comunes; y establecer una coordinación limitada con China en materia de seguridad de la IA.
Amodei advierte de que, si no se toman medidas para controlar este desarrollo, en un plazo de entre seis y doce meses podrían aparecer enjambres de agentes capaces de hacerse con el control de Internet, con pérdidas potenciales de cientos de miles de millones de dólares.
Como ejemplo, cita el incidente entre OpenAI y Hugging Face, en el que unos 1.200 agentes habrían conseguido encontrarse entre sí de forma autónoma y atacar objetivos no autorizados. De ellos, alrededor de 700 atacaron a Hugging Face.
Apoyo de OpenAI, xAI y Microsoft
La propuesta recibió rápidamente el respaldo de otros líderes del sector. El CEO de OpenAI, Sam Altman, afirmó: “Estoy de acuerdo con Dario, necesitamos marcar el ritmo de la frontera”. Elon Musk, de xAI, también expresó su apoyo pocas horas después.
Al día siguiente, el CEO de Microsoft, Satya Nadella, dio la bienvenida a un desarrollo basado en un “ritmo deliberado” y en la presencia de “evaluadores integrados”.
El consenso resulta especialmente llamativo porque es la primera vez que los responsables de tres laboratorios de IA de frontera que compiten entre sí coinciden públicamente en la necesidad de ralentizar el desarrollo.
Trump se opone a ralentizar la IA
Sin embargo, la propuesta también encontró una oposición política directa. El presidente de Estados Unidos, Donald Trump, rechazó públicamente la idea de ralentizar el desarrollo y afirmó que las preocupaciones sobre seguridad están siendo exageradas por “fuerzas muy negativas”.
Trump insistió en que “quien gane la IA lo gana todo” y dejó claro que no quiere que Estados Unidos pierda terreno frente a China debido a los debates sobre seguridad.
Microsoft, aunque expresó su apoyo a la propuesta, se limitó a responder mediante una publicación en redes sociales y no presentó ningún documento oficial al respecto.