David Sacks y Cohere cuestionan el freno coordinado de la IA
David Sacks y Aidan Gomez cuestionan la propuesta de ralentizar la IA de frontera y advierten sobre los riesgos de acuerdos entre grandes compañías para obtener ventajas regulatorias.
El asesor tecnológico de la Casa Blanca David Sacks respondió a la propuesta de Anthropic y OpenAI de coordinar una ralentización del desarrollo de la IA de frontera. Sacks señaló que, si una compañía considera que los riesgos de sus modelos son demasiado elevados, puede reducir voluntariamente el ritmo de desarrollo. Sin embargo, rechazó que las empresas utilicen la seguridad como argumento para solicitar exenciones de las normas antimonopolio o algún tipo de protección regulatoria.
Según Sacks, permitir que competidores obtengan excepciones del Gobierno y después acuerden conjuntamente el ritmo de desarrollo del sector podría acabar creando un cártel. En su opinión, una situación de este tipo equivaldría a ejercer presión sobre el público y el sistema político para conseguir ventajas regulatorias.
Sacks también cuestionó la independencia de METR, organización propuesta como posible evaluador externo de seguridad, debido a sus vínculos con Anthropic. Además, puso en duda que China estuviera dispuesta a participar en un acuerdo internacional destinado a limitar el desarrollo de la IA de frontera.
El CEO de Cohere, Aidan Gomez, también criticó la iniciativa. En una cumbre de inversión celebrada en Toronto, afirmó que las principales compañías de IA podrían terminar formando un “cártel” y cuestionó que un pequeño grupo de empresas pueda establecer las reglas de competencia para todo el sector.
Gomez añadió que cualquier CEO que solicite una relajación temporal y específica de las leyes antimonopolio debería generar preocupación. También defendió que la seguridad de la IA no debería quedar en manos de un pequeño grupo de compañías de Silicon Valley encargado de decidir cómo debe protegerse el resto del mundo.
Por su parte, Andrew Ferguson, comisario de la Comisión Federal de Comercio de Estados Unidos (FTC), advirtió que las empresas que solicitan simultáneamente diferentes tipos de exenciones regulatorias y antimonopolio están planteando una situación que merece especial atención.
La posición de Sacks puede resumirse en una idea: si OpenAI y Anthropic realmente consideran necesario ralentizar el desarrollo de sus modelos, deberían hacerlo directamente. Desde su perspectiva, condicionar esa decisión a la obtención de determinadas ventajas regulatorias convertiría la iniciativa de seguridad en una negociación sobre beneficios regulatorios.