La incertidumbre sobre el comportamiento de la inteligencia artificial genera preocupación constante en sectores clave como la medicina, las finanzas y las operaciones militares. Pese a los filtros de seguridad implementados por los desarrolladores, hasta ahora no existía una metodología científica para anticipar el momento exacto en que un modelo de lenguaje deja de ofrecer respuestas correctas y comienza a producir contenidos erráticos o peligrosos.
Para resolver este desafío, investigadores de la Universidad George Washington desarrollaron una fórmula matemática capaz de calcular el punto de quiebre de estos sistemas. El estudio, publicado en la revista Patterns, analiza el funcionamiento del mecanismo de atención interno de la tecnología, el cual procesa el contexto de una conversación para decidir qué palabras generar a continuación. La investigación demostró que la competencia entre distintos elementos de dicho contexto puede desviarla de su objetivo original.
El método clasifica la información en cuatro categorías —entradas neutrales, respuestas deseables, contenidos secundarios y salidas indeseables— para estimar cuántas respuestas adecuadas dará el sistema antes de emitir una contestación problemática. De acuerdo con el coautor del estudio, Neil F. Johnson, esta herramienta permite identificar si el cambio de rumbo será inmediato o si ocurrirá de manera tardía, brindando una ventana de oportunidad para intervenir a tiempo.
Durante las pruebas realizadas con siete modelos de código abierto desarrollados por distintas firmas tecnológicas, la fórmula acertó el comportamiento de la máquina en 19 de las 21 combinaciones evaluadas. Este avance matemático abre la puerta a un control más riguroso sobre las plataformas digitales, especialmente en un entorno donde muchos sistemas ya operan de forma autónoma y sin conexión a internet desde dispositivos móviles.
