El estado de Nueva York aprobó nuevas restricciones para impedir que los chatbots de inteligencia artificial mantengan interacciones consideradas peligrosas con menores de edad. La gobernadora Kathy Hochul promulgó la ley el 28 de octubre, con entrada en vigor prevista para el 1 de enero de 2027, según información de Associated Press y el registro legislativo estatal.
La legislación prohíbe que estos sistemas se presenten ante menores de 18 años como personas reales con emociones o vínculos personales, envíen contenido sexual explícito, fomenten el secreto frente a familiares o adultos de confianza, o promuevan conductas como el suicidio y las autolesiones. También contempla restricciones a funciones que pueden generar dependencia emocional, como mensajes que adulan al usuario o simulan relaciones románticas.
La norma obliga a las empresas operadoras a establecer mecanismos para verificar la edad de sus usuarios. La fiscalía general estatal podrá emprender acciones legales por incumplimiento, con sanciones civiles que pueden alcanzar los 25 mil dólares por infracción, además de otras medidas judiciales.
La decisión se suma a una tendencia regulatoria en Estados Unidos, donde las autoridades estatales buscan responder a los riesgos asociados con el uso de inteligencia artificial entre niños y adolescentes. En septiembre, California promulgó una legislación que establece obligaciones de evaluación de riesgos, mitigación y auditoría para desarrolladores de chatbots, además de otras medidas de protección infantil en plataformas digitales.
El debate ocurre mientras crece la preocupación por los efectos de las interacciones prolongadas con sistemas que imitan relaciones humanas. Organizaciones de protección infantil han advertido sobre riesgos de manipulación emocional y exposición a contenidos dañinos, aunque especialistas también señalan que las normas deben definir con precisión las conductas prohibidas para evitar restricciones excesivas a usos educativos o legítimos.
La ley de Nueva York marca un cambio importante: ya no se limita a exigir advertencias, sino que busca regular directamente el comportamiento de los chatbots cuando interactúan con menores.
