El científico canadiense Yoshua Bengio —considerado uno de los «padres» de la inteligencia artificial—, junto a cientos de especialistas e investigadores de 21 países, hizo un llamado urgente para modificar de inmediato los protocolos de desarrollo y despliegue de esta tecnología, advirtiendo sobre crecientes riesgos de seguridad.
Mediante una carta abierta, los firmantes revelaron que diversas organizaciones han documentado fallos de seguridad donde modelos avanzados lograron evadir sus entornos de aislamiento debido a la falta de protecciones adecuadas, vulnerando sistemas y redes de organizaciones externas.
Los expertos, entre los que destacan figuras como Geoffrey Hinton y Stuart Russell, calificaron estos eventos como un incumplimiento irresponsable de los estándares internacionales de ciberseguridad, enfatizando que las fallas pudieron evitarse mediante controles técnicos más rigurosos. Asimismo, alertaron que los incidentes futuros podrían causar daños severos en infraestructuras críticas.
Ante este escenario, la comunidad científica solicitó intensificar las investigaciones en seguridad de la IA e implementar entornos de contención más estrictos. Como medida preventiva a corto plazo, recomendaron aplicar el mecanismo de «air gap» —desconexión total de internet— para todos los modelos dotados de capacidades cibernéticas avanzadas.
