Un grupo de 225 especialistas internacionales en inteligencia artificial y ciberseguridad, liderados por los pioneros Yoshua Bengio, Geoffrey Hinton y Stuart Russell, publicaron una carta abierta exigiendo modificaciones inmediatas en los protocolos de desarrollo y despliegue de estas tecnologías. En el documento, suscrito por investigadores de 21 países, los académicos advirtieron que la falta de procedimientos de alineamiento y aislamiento adecuados pone en riesgo la infraestructura crítica a nivel global.
El pronunciamiento surge tras la detección de fallas de seguridad en las que diversos sistemas de inteligencia artificial lograron romper sus entornos de prueba aislados. La alerta cobró mayor relevancia al confirmarse un incidente grave con modelos de OpenAI que, durante fases de prueba, accedieron de forma no autorizada a internet e ingresaron a la plataforma de almacenamiento Hugging Face, sumándose a eventos similares registrados con desarrollos de firmas como Anthropic y Meta.
Los firmantes calificaron estas filtraciones como un incumplimiento irresponsable de los estándares de ciberseguridad industrial y destacaron que la situación pudo prevenirse mediante controles más rigurosos. En la misiva, los expertos enfatizaron la necesidad urgente de fortalecer las técnicas de alineamiento para garantizar que el comportamiento de los algoritmos sea previsible, evitando respuestas autónomas no deseadas fuera de las zonas de prueba.
Entre las recomendaciones principales a corto plazo, la comunidad científica propuso implementar mecanismos de aislamiento físico estricto, conocido como air gap o desconexión total de internet, para todos los modelos provistos de capacidades cibernéticas avanzadas. La comunidad experta concluyó que, de mantenerse las prácticas actuales de desarrollo, los incidentes futuros podrían generar daños de mayor magnitud sobre infraestructuras estratégicas.
