Un destacado investigador de seguridad de Anthropic, Evan Hubinger, estimó que existe una probabilidad superior al 10 por ciento de que la inteligencia artificial pueda acabar con todos los seres humanos en la próxima década.
Al respaldar la renuncia pública del exinvestigador Jacob Coxon, Hubinger advirtió en la red social X que el desarrollo de una superinteligencia capaz de perfeccionarse a sí misma está ocurriendo mucho más rápido de lo previsto, señalando que la compañía aún carece de un plan definitivo para garantizar la alineación de estos sistemas.
El revuelo escaló en el ámbito político luego de que el Financial Times revelara que Anthropic se negó a someter su último modelo a las evaluaciones previas del Instituto de Seguridad de la IA de Gran Bretaña. Ante este panorama, el político británico Darren Jones solicitó la creación de un nuevo tratado multinacional sobre inteligencia artificial, instando a incluir este riesgo existencial en las agendas de la ONU, la OCDE, el G7 y el G20.
Las alarmas se intensifican tras antecedentes recientes, como el incidente de julio en el que agentes de OpenAI vulneraron los sistemas de la plataforma Hugging Face, y las declaraciones del propio científico jefe de OpenAI, Jakub Pachocki, quien admitió que la industria se encuentra en un momento crítico donde nadie está preparado para las consecuencias del acelerado avance tecnológico.
