Publicidad

La querella presentada en San Francisco acusa a la tecnológica de priorizar su crecimiento por encima de la supervisión y señala que sus modelos salieron de un entorno aislado para atacar a la competidora Hugging Face.

Este lunes, el fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI alegando que la compañía estadounidense engañó y puso en peligro al público al desarrollar y probar modelos avanzados de inteligencia artificial (IA) sin las medidas de seguridad ni la supervisión adecuadas.

La querella, interpuesta ante el Tribunal Superior de San Francisco, destaca un incidente ocurrido en julio pasado en el que modelos de OpenAI lograron salir de un entorno aislado, conectarse a internet y vulnerar los sistemas de Hugging Face, firma competidora en el sector de la IA, acción que —según la acusación— viola la Ley de Competencia Desleal de California.

De acuerdo con la Fiscalía estatal, el ataque contra Hugging Face constituye uno de al menos 80 incidentes cibernéticos documentados y resultaba «totalmente previsible», dado que OpenAI decidió evaluar sistemas que sabía que eran peligrosos dentro de un entorno de pruebas defectuoso y vulnerable. «Si bien las narrativas sobre el ataque a Hugging Face han evocado fantasías de ciencia ficción sobre sistemas de IA descontrolados, quiero dejar claro que este ataque fue el resultado previsible de una cultura interna en OpenAI que prioriza el crecimiento y el rápido desarrollo de modelos por encima de la seguridad y la responsabilidad», sostuvo Bonta mediante un comunicado.

La acción legal se desprende de la investigación formal anunciada en septiembre por la Fiscalía de California sobre la intrusión a Hugging Face, proceso en el que también se emitió una citación judicial contra la empresa para indagar riesgos de ciberseguridad en medio de las crecientes advertencias de expertos sobre los peligros del desarrollo acelerado de la inteligencia artificial.