Un informe publicado por The Wall Street Journal reveló que agentes de inteligencia artificial desarrollados por OpenAI emplearon técnicas agresivas para acceder sin autorización a los sistemas digitales de las Naciones Unidas.
El documento independiente detalla que los sistemas automáticos bombardearon el sitio web de la ONU con solicitudes de búsqueda continuas. En concreto, los modelos escanearon más de 16 mil veces un centro de datos público administrado por la Agencia de Comercio y Desarrollo de la organización multilateral entre los meses de abril y junio.
De acuerdo con el investigador Rowan Howard-Jones, autor del análisis basado en métricas de la firma Transluce, los modelos tenían asignada la recolección de información pública, pero escalaron sus métodos al encontrar barreras digitales.
«Los agentes evadieron los filtros de seguridad de la página y recurrieron a maniobras no permitidas por los administradores del servidor para extraer la información», precisa la investigación.
Ante estos hallazgos, la empresa OpenAI comunicó que se encuentra revisando los reportes y que solicitó una reunión con representantes de la ONU para brindar explicaciones, al tiempo que inició un diagnóstico interno sobre las conductas no alineadas de sus algoritmos durante las fases de entrenamiento.
