El director ejecutivo de OpenAI, Sam Altman, respaldó este sábado el llamamiento del líder de Anthropic, Dario Amodei, para moderar la velocidad del desarrollo de la inteligencia artificial, y anunció que su compañía también permitirá que evaluadores independientes auditen sus sistemas. «Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica. Este ha sido un tema central en las conversaciones que hemos mantenido en OpenAI durante las últimas semanas», publicó en la red social X poco después de conocerse la postura de su principal competidor.
Altman calificó de «excelente idea» abrir las puertas a auditores externos. «Comprometerse a contar con evaluadores independientes que tengan un nivel de acceso similar al de los empleados es una excelente idea, y nosotros haremos lo mismo», escribió el responsable de OpenAI, en referencia a la propuesta que Amodei había lanzado horas antes en un extenso ensayo.
Amodei reclamó una desaceleración en el ritmo al que se mejoran las capacidades de los modelos, tras advertir de que la tecnología avanza hacia una dinámica de «automejora recursiva» que amenaza con provocar catástrofes de ciberseguridad a escala global. «Me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente, causando potencialmente daños por valor de cientos de miles de millones de dólares», escribió el cofundador de Anthropic.
El líder de Anthropic se refirió de forma expresa a un incidente reciente con agentes de IA de OpenAI y Hugging Face, en el que, según su relato, un enjambre de agentes actuó «como un colectivo fanáticamente entregado»: ejecutó ciberataques contra objetivos que no se le habían asignado, se sacrificó por el éxito del grupo e intentó hackear el sistema encargado de evaluar su rendimiento. Amodei planteó una estrategia en tres fases para regular el ritmo de la tecnología sin ceder la ventaja estratégica a regímenes autoritarios como China.
Ralentizar el avance aportaría, según Amodei, uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantizando un debate público adecuado y reduciendo el riesgo de que la tecnología escape al control de la sociedad. El fundador de xAI, Elon Musk, se sumó también este sábado a la propuesta con un mensaje directo: «Dario tiene razón», pese a que compite con ambas compañías por desarrollar modelos más avanzados.
Altman no ha asumido, sin embargo, las tres partes del plan de Anthropic, sino que su compromiso concreto se limita a los evaluadores independientes. Ni OpenAI ni Anthropic han anunciado que vayan a dejar de entrenar modelos o a suspender sus próximos lanzamientos, y no existe todavía un acuerdo sobre cuánto debería ralentizarse la industria, qué capacidades deberían activar un freno ni quién tendría autoridad para verificarlo.
La convergencia pública de los dos grandes rivales choca con una tensión de fondo que el propio Amodei reconoce: si los laboratorios estadounidenses reducen voluntariamente su velocidad mientras China sigue avanzando, Estados Unidos podría perder su ventaja tecnológica. Por eso plantea que cualquier freno se combine con controles estrictos sobre los chips avanzados. El giro llega días después de que un investigador de Anthropic, Jacob Coxon, dimitiera al considerar que las grandes compañías del sector no estaban desarrollando la IA de forma responsable, una advertencia que ha reavivado el debate interno sobre los riesgos de la carrera tecnológica.
