La gobernadora de Nueva York, Kathy Hochul, promulgó una ley que prohíbe que los menores interactúen con asistentes virtuales de inteligencia artificial. La medida alcanza a la mayoría de los chatbots disponibles en el mercado
La norma obliga a los operadores a verificar la edad de los usuarios. Cuando el sistema determine que la persona es menor, deberá desactivar determinadas funciones de la interfaz
Los chatbots no podrán generar respuestas que sugieran que son humanos, que están vivos o que experimentan sentimientos. Tampoco podrán presentar el intercambio como una relación personal o profesional ni asumir el papel de referente del usuario
Además, las respuestas no podrán formularse como opiniones personales ni incluir preguntas sobre los sentimientos o el estado psicológico del menor
La organización Tech:NYC cuestionó el lenguaje de la ley por considerarlo impreciso y advirtió que podría plantear dudas sobre la Primera Enmienda de la Constitución estadounidense, que protege la libertad de expresión. OpenAI respaldó esa reacción
Anthropic y Google no habían respondido de inmediato sobre la norma. En cambio, Common Sense Media celebró su aprobación y la calificó como la ley de seguridad de la inteligencia artificial para niños más sólida del país
California y otros estados ya habían aprobado regulaciones sobre la interacción con sistemas de IA generativa, pero Nueva York estableció el alcance más amplio entre las normas mencionadas