Investigador de Anthropic renuncia y advierte sobre una superinteligencia artificial

Jacob Coxon, investigador especializado en preentrenamiento que trabajó durante los últimos tres años en OpenAI y Anthropic, anunció su salida de esta última compañía con una fuerte advertencia sobre el rumbo que está tomando el desarrollo de la inteligencia artificial.

En un mensaje publicado en X, Coxon cuestionó la carrera que mantienen los principales laboratorios de IA para desarrollar sistemas cada vez más capaces. Según su análisis, estos modelos podrían llegar a mejorar sus propias capacidades, superar el rendimiento humano en distintas áreas y adquirir una influencia cada vez mayor sobre el mundo real.

El investigador sostiene que una inteligencia artificial suficientemente avanzada podría llegar a piratear sistemas, transformar sectores completos en poco tiempo y conseguir recursos sin depender directamente de las personas. Coxon afirma que algunos trabajadores del sector contemplan incluso la posibilidad de que sistemas de este tipo puedan representar una amenaza extrema para la humanidad antes de que termine la década.

Coxon también cuestionó por qué las compañías continúan desarrollando estas tecnologías pese a conocer sus posibles riesgos. En el caso de Anthropic, considera que sus responsables entienden las consecuencias potenciales, pero que la empresa estaría “bloqueada en una carrera” con sus competidores. Como posible alternativa, el investigador plantea acuerdos entre laboratorios y medidas como una prohibición temporal de aumentar determinadas capacidades de los modelos, hasta comprender mejor su funcionamiento y sus riesgos.