Expertos de Anthropic y Google DeepMind alertan sobre una IA fuera de control
Expertos vinculados a Anthropic y Google DeepMind vuelven a advertir sobre los riesgos de una IA fuera de control. Las preocupaciones sobre escenarios extremos coinciden con nuevos debates políticos y regulatorios en Estados Unidos y Reino Unido.
Personas vinculadas a Anthropic y Google DeepMind han vuelto a advertir públicamente sobre los posibles riesgos de que la inteligencia artificial llegue a quedar fuera de control. Evan Hubinger, responsable de alineamiento en Anthropic, estima que existe una probabilidad superior al 10 % de que la IA pueda acabar con toda la humanidad durante esta década.
Por su parte, el investigador de Anthropic Jacob Coxon dimitió y advirtió que los laboratorios de IA están “jugando con nuestras vidas”. Paul Christiano, miembro del consejo de OpenAI, también ha señalado que la compañía no está siguiendo una trayectoria adecuada para reducir el riesgo de un “descontrol catastrófico” de la IA.
Estas advertencias llegan en un momento de rápido avance de las capacidades de los modelos y de creciente debate sobre su seguridad. En Estados Unidos, varios legisladores han intensificado sus llamamientos para establecer nuevas normas de regulación de la IA. En Reino Unido, algunos parlamentarios están impulsando una legislación que prohibiría la creación de una IA superinteligente, con el objetivo de establecer límites legales antes de que esta tecnología siga extendiéndose.
¿Qué significa para los usuarios?
A corto plazo, estas discusiones no deberían tener un impacto directo en el uso cotidiano de los servicios de IA. Sin embargo, si las nuevas iniciativas legislativas avanzan, podrían cambiar el ritmo de lanzamiento de nuevos modelos, aumentar los costes de cumplimiento para las empresas y limitar el acceso a determinadas funciones avanzadas.
Más allá de las medidas concretas que finalmente adopten los gobiernos, el hecho de que personas vinculadas a algunos de los principales laboratorios de IA sigan expresando públicamente su preocupación por escenarios extremos merece atención.
El debate sobre la seguridad de la IA está dejando de ser únicamente una cuestión interna de los laboratorios de investigación y empieza a ocupar un lugar cada vez más importante en la agenda política y regulatoria.