NAZKA DIGITAL
Related Articles
Un investigador de 27 años dejó Anthropic tras cuestionar la carrera hacia la superinteligencia. Un referente del área de seguridad de la compañía estimó en más de un 10% el riesgo de que una IA pueda provocar la extinción de la humanidad en la próxima década.
La preocupación por los riesgos asociados al desarrollo de inteligencia artificial volvió a quedar en el centro del debate internacional luego de la renuncia de Jacob Coxon, un investigador de 27 años que decidió abandonar Anthropic después de apenas dos meses en la compañía.
Coxon, quien anteriormente había trabajado en OpenAI, cuestionó públicamente el ritmo con el que las principales empresas tecnológicas avanzan hacia sistemas de inteligencia artificial cada vez más sofisticados. Según sostuvo, tanto Anthropic como OpenAI estarían avanzando hacia una eventual superinteligencia artificial sin contar todavía con mecanismos suficientes para garantizar su control.
“Ninguna de las dos empresas actúa con responsabilidad”, planteó el investigador tras comunicar su salida.
Una advertencia que llegó desde adentro
La declaración de Coxon recibió una respuesta que rápidamente generó repercusión: Evan Hubinger, integrante del equipo de seguridad de Anthropic, coincidió con sus cuestionamientos.
“Jacob tiene razón”, expresó Hubinger. El especialista fue aún más lejos y aseguró que, desde su perspectiva, existe una posibilidad superior al 10% de que sistemas de inteligencia artificial puedan terminar provocando la muerte de toda la humanidad durante los próximos diez años.
Se trata de una estimación de riesgo, no de una predicción de que ese escenario vaya necesariamente a ocurrir. Sin embargo, el planteo adquiere especial relevancia porque proviene de un investigador vinculado directamente con la seguridad de una de las compañías líderes del sector.
El gran problema: cómo controlar una superinteligencia
Uno de los principales puntos de preocupación es la denominada “alineación” de la inteligencia artificial. El concepto hace referencia a la necesidad de conseguir que sistemas cada vez más poderosos mantengan objetivos y comportamientos compatibles con los intereses y valores humanos.
Hubinger reconoció que Anthropic todavía no dispone de una solución definitiva para garantizar esa alineación frente a una eventual superinteligencia.
El temor de algunos especialistas es que una IA capaz de mejorar sus propias capacidades pueda evolucionar a una velocidad superior a la capacidad humana para supervisarla o detenerla.
De OpenAI a Anthropic y una salida inesperada
Coxon había comenzado a trabajar en OpenAI en 2023, donde participó en tareas relacionadas con el preentrenamiento de modelos y desarrollos vinculados a GPT-4o.
En julio de 2026 se incorporó a Anthropic, precisamente atraído por la fuerte imagen de la compañía en materia de seguridad de inteligencia artificial. Sin embargo, su permanencia duró apenas dos meses.
Tras su renuncia, el investigador también cuestionó que decisiones con potenciales consecuencias globales queden concentradas en manos de grandes compañías privadas y pequeños grupos de especialistas.
Además, advirtió sobre la posibilidad de que algunos avances desarrollados hacia finales de 2027 puedan generar escenarios difíciles de controlar.
Un debate que ya tuvo antecedentes
La salida de Coxon recuerda otros casos dentro de la industria. En 2024, Jan Leike dejó OpenAI y manifestó públicamente sus diferencias con la empresa respecto de la importancia otorgada a la seguridad frente a la velocidad de desarrollo y lanzamiento de nuevos productos.
Ahora, las advertencias vuelven a aparecer desde el interior del propio sector.
Mientras OpenAI y Anthropic intensifican su competencia por desarrollar modelos cada vez más capaces, las declaraciones de Coxon y Hubinger reabren una pregunta que preocupa cada vez más a investigadores y especialistas:
¿La carrera por crear una inteligencia artificial cada vez más poderosa está avanzando más rápido que nuestra capacidad para controlarla?
