Jacob Coxon: ¿Quién es el exempleado de Anthropic que alerta que la IA acabará con la humanidad?

El investigador británico, quien también trabajó en OpenAI, renunció a Anthropic y lanzó una advertencia sobre los riesgos que podría representar el desarrollo acelerado de la inteligencia artificial.

La inteligencia artificial ha dejado de ser únicamente una herramienta tecnológica para convertirse en uno de los grandes debates sobre el futuro de la humanidad. En medio de esta discusión, el nombre de Jacob Coxon, exempleado de Anthropic y antiguo trabajador de OpenAI, ha cobrado relevancia después de advertir públicamente sobre los riesgos que podría implicar el desarrollo de sistemas de IA cada vez más avanzados.

Coxon, un investigador británico de 27 años, decidió renunciar a Anthropic, una de las principales compañías dedicadas al desarrollo de inteligencia artificial, debido a sus preocupaciones sobre la velocidad con la que avanza esta tecnología y la competencia entre las grandes empresas del sector.

TE PODRÍA INTERESAR: Siri con inteligencia artificial: qué puede hacer y cuándo llegará en español al iPhone

¿Quién es Jacob Coxon?

Coxon es un investigador especializado en inteligencia artificial que durante los últimos años trabajó tanto en OpenAI, empresa creadora de ChatGPT, como en Anthropic, responsable del desarrollo de Claude.

Durante su paso por OpenAI fue identificado como uno de los investigadores que participaron en el desarrollo de modelos como GPT-4o y GPT-4.5, aunque no ocupó puestos ejecutivos dentro de la compañía. Posteriormente llegó a Anthropic, donde trabajó en el área relacionada con el entrenamiento y desarrollo de modelos de inteligencia artificial.

Su experiencia dentro de dos de los laboratorios de IA más importantes de la actualidad le permitió conocer desde dentro la carrera tecnológica que mantienen estas empresas.

¿Por qué renunció a Anthropic?

La decisión de Coxon estuvo relacionada con sus preocupaciones sobre lo que considera una carrera acelerada por desarrollar sistemas de inteligencia artificial cada vez más poderosos.

En una publicación en X, el investigador afirmó que personas involucradas en el desarrollo de estas tecnologías creen que existe la posibilidad de que una IA avanzada pueda provocar la extinción de la humanidad antes de que termine la década.

Coxon cuestionó especialmente que compañías como Anthropic y OpenAI continúen aumentando las capacidades de sus modelos mientras, según su postura, todavía no existe una solución suficientemente sólida para garantizar que una futura superinteligencia permanezca bajo control humano.

El temor a una IA que pueda mejorarse a sí misma

Una de las principales preocupaciones expresadas por Coxon es el llamado "automejoramiento recursivo", concepto utilizado para describir un escenario en el que los sistemas de inteligencia artificial podrían contribuir a desarrollar versiones cada vez más avanzadas de sí mismos.

El investigador considera que, si una IA llegara a superar ampliamente las capacidades humanas y pudiera mejorar sus propias capacidades, controlar sus objetivos podría convertirse en un problema mucho más complejo.

Coxon ha señalado que los próximos uno o dos años podrían ser especialmente importantes para determinar hacia dónde se dirige esta tecnología. En declaraciones a WIRED, explicó que algunos de sus colegas utilizan expresiones como "fase final" o "momento decisivo" para describir el actual periodo de desarrollo de la IA.

¿Realmente la IA podría acabar con la humanidad?

La afirmación de Coxon no significa que exista actualmente una inteligencia artificial capaz de destruir a la humanidad. Se trata de una advertencia sobre un riesgo futuro asociado con el desarrollo de sistemas hipotéticamente mucho más capaces y autónomos que los actuales.

Su preocupación, sin embargo, ha encontrado eco entre otros investigadores. Evan Hubinger, quien fue jefe de Coxon en Anthropic y trabaja en investigación de alineación de IA, respaldó públicamente parte de sus advertencias y señaló que personalmente considera que existe una probabilidad superior al 10% de que una IA pueda acabar con la humanidad durante la próxima década.

Hubinger aclaró que considera bajo el riesgo asociado con los modelos actuales y que su principal preocupación está relacionada con una futura superinteligencia producto del automejoramiento recursivo.

¿Qué propone Coxon?

El investigador considera que las principales compañías de inteligencia artificial deberían coordinarse para establecer límites al desarrollo de sistemas cada vez más poderosos.

Entre sus propuestas se encuentra incluso una pausa temporal en el incremento de las capacidades de los modelos mientras se desarrollan mejores mecanismos de seguridad y control.

También ha planteado la necesidad de una coordinación internacional que involucre a las grandes potencias tecnológicas, debido a que considera que una competencia sin límites entre empresas y países podría incentivar decisiones cada vez más arriesgadas.

Paradójicamente, Coxon no considera que la inteligencia artificial sea necesariamente negativa. También reconoce que esta tecnología podría generar enormes beneficios para la ciencia y la medicina, desde acelerar investigaciones hasta contribuir al descubrimiento de tratamientos para enfermedades.

Su preocupación es que la búsqueda de esos beneficios se realice demasiado rápido y sin suficientes mecanismos para garantizar que los sistemas permanezcan bajo control humano.

La advertencia de Jacob Coxon se suma así al creciente debate internacional sobre los límites de la inteligencia artificial: qué tan rápido debe avanzar, quién debe supervisarla y qué medidas deberían establecerse antes de que los sistemas sean capaces de tomar decisiones cada vez más autónomas.