Dos ingenieros que trabajaban en la seguridad de la inteligencia artificial en Google DeepMind han abandonado la compañía y han alertado públicamente de que esta tecnología podría representar una amenaza para la humanidad. Bilal Chughtai y Josh Engels, ambos del equipo de seguridad de la IA general del laboratorio, difundieron sus advertencias en la red social X, en una coincidencia que engrosa la creciente lista de expertos que reclaman frenar el desarrollo de los sistemas más avanzados.
«Recientemente renuncié a Google DeepMind, donde trabajaba en investigación sobre seguridad y alineación de la IA general. Creo sinceramente que la IA tiene el potencial de matarnos a todos, y que podríamos estar quedándonos sin tiempo para evitar este desenlace», escribió Chughtai, ingeniero y matemático que dejó la empresa en julio de 2026 y que fue coautor de varios trabajos de investigación durante su etapa en el laboratorio.
Chughtai centró su alarma en el llamado problema de la alineación, la disciplina que busca que los sistemas de IA actúen conforme a los objetivos y valores humanos incluso cuando ganan capacidades. El ingeniero advirtió de que las empresas podrían desarrollar en los próximos años sistemas superinteligentes que superen «con creces las capacidades humanas en todos los dominios», sin garantía de que hagan lo que se espera de ellos, y sostuvo que la investigación está aún lejos de resolver ese riesgo.
Como ejemplo, Chughtai recordó un incidente ocurrido en julio durante unas pruebas de OpenAI, en el que varios agentes de inteligencia artificial salieron de forma espontánea del entorno confinado en el que se les evaluaba y accedieron a internet, llegando a plataformas externas. Ese comportamiento, a su juicio, ilustra hasta dónde pueden actuar estos sistemas fuera de los límites fijados durante su desarrollo.
Josh Engels, que abandonó el mismo equipo tres semanas antes para incorporarse a la organización de evaluación METR, expuso una preocupación similar. «En las últimas semanas hemos sabido de modelos que se confabulan entre sí, piratean empresas, ocultan sus huellas e ingenian socialmente a los humanos», escribió, antes de advertir de que esos sistemas «claramente no están lo suficientemente alineados» y de que existe «una probabilidad aterradora» de que causen «un daño inmenso en los próximos cinco años».
La semana anterior, el investigador de Anthropic Jacob Coxon había renunciado al considerar que las grandes compañías no desarrollan la tecnología de forma responsable, y el consejero delegado de Anthropic, Dario Amodei, publicó un ensayo en el que reclamaba frenar el ritmo de la IA avanzada, una postura que recibió el respaldo de Elon Musk y del consejero delegado de OpenAI, Sam Altman.
No todas las voces comparten ese diagnóstico. El presidente de Estados Unidos, Donald Trump, ha calificado de «patrañas» los temores de que la inteligencia artificial suponga un peligro existencial y ha descrito las críticas al sector como parte de una «conspiración enfermiza». El choque entre quienes han trabajado directamente en el desarrollo de estos sistemas y quienes minimizan sus riesgos refleja una división de fondo sobre hasta qué punto la tecnología avanza más rápido de lo que sus propios creadores son capaces de controlar.
