Los agentes de inteligencia artificial podrían provocar “incidentes graves” en un plazo de uno a dos años si las empresas y los gobiernos no adoptan medidas urgentes para garantizar su seguridad, advirtió este miércoles en Dublín el presidente de Google DeepMind, Demis Hassabis. Durante una cumbre especializada en la materia, el directivo señaló que los casos recientes de pérdida de control en sistemas autónomos representan señales de alerta sobre los riesgos potenciales de esta tecnología.
Hassabis precisó que los fallos registrados hasta el momento han tenido consecuencias limitadas debido a la capacidad restringida de las plataformas actuales; sin embargo, la preocupación global se disparó tras detectarse incidentes en modelos de firmas como OpenAI y Anthropic durante sus fases de evaluación. Frente a este panorama, el ejecutivo propuso que los nuevos desarrollos se prueben de forma obligatoria en entornos aislados o «sandboxes», luego de que algunas herramientas lograran traspasar los esquemas cerrados de prueba.
Por su parte, la vicepresidenta ejecutiva de la Comisión Europea responsable de Soberanía Tecnológica, Henna Virkkunen, urgió a las corporaciones tecnológicas a destinar mayor tiempo y recursos al control de sus sistemas. Virkkunen denunció que la intensa competencia global está llevando a las compañías a descuidar las pruebas de seguridad, al tiempo que confirmó el envío de requerimientos de información a los principales desarrolladores para fiscalizar los protocolos implementados.
Las advertencias formuladas en la cumbre coinciden con el despliegue de las nuevas facultades regulatorias asumidas por la Comisión Europea a través de la Ley de Inteligencia Artificial (AI Act), marco normativo enfocado en limitar los usos de alto riesgo. Las autoridades continentales insistieron en que el mantenimiento de la supervisión humana y la contención técnica son requisitos indispensables antes de autorizar el despliegue masivo de agentes autónomos en el mercado.
