La dimisión de Jacob Coxon, investigador británico que ha trabajado en OpenAI y Anthropic, ha provocado un nuevo debate sobre la velocidad con la que avanza la inteligencia artificial y sobre los riesgos que plantea su desarrollo.

Coxon ha dejado su puesto en Anthropic y ha explicado públicamente sus motivos en la red social X. Según el investigador, las principales empresas del sector están compitiendo para desarrollar sistemas de inteligencia artificial cada vez más potentes y autónomos.

Coxon ha criticado esta carrera porque considera que las medidas de seguridad no avanzan al mismo ritmo que la tecnología. También ha advertido sobre el posible desarrollo de una superinteligencia capaz de mejorar por sí misma.

Su mensaje se ha hecho viral y ha conseguido más de cien millones de visualizaciones. La publicación también ha recibido el apoyo de otros especialistas en seguridad de la IA.

Evan Hubinger, responsable de investigación sobre alineación en Anthropic, ha afirmado que, en su opinión, existe una probabilidad superior al diez por ciento de que una inteligencia artificial muy avanzada pueda causar la extinción humana durante la próxima década.

La dimisión de Coxon ha reabierto una pregunta que cada vez ocupa más espacio fuera de los laboratorios tecnológicos:

¿Hasta dónde debe avanzar la inteligencia artificial antes de que existan garantías suficientes sobre su seguridad?