Nueva York ha trazado una de las líneas más firmes hasta ahora entre los niños y la inteligencia artificial. La gobernadora Kathy Hochul firmó el miércoles 28 de octubre de 2026 dos proyectos de ley que juntos forman una nueva ley de chatbots de IA de Nueva York: los chatbots de IA ya no podrán fingir ser humanos al hablar con niños, construir relaciones emocionales falsas con ellos ni orientarlos hacia la autolesión, el secreto o el material sexualmente explícito. Una segunda ley exige que los monitores de bebé conectados a internet que se vendan en el estado estén construidos para que los extraños no puedan ver ni escuchar lo que ocurre en la habitación.
La firma, una semana antes de las elecciones del 3 de noviembre, sitúa a Nueva York al frente de un debate estatal que avanza con rapidez sobre los compañeros de IA, los chatbots que millones de adolescentes ya usan como amigos, confidentes y ayudantes para los deberes. Hochul describió el paquete como líder a nivel nacional, y sus partidarios dicen que es la ley de seguridad de IA infantil más fuerte del país. Su verdadera prueba llegará en los próximos meses, cuando las empresas deban cambiar el comportamiento de sus productos para cualquier menor de 18 años, o para cualquier usuario cuya edad no hayan confirmado.
Hochul firmó ambas leyes como parte de una campaña más amplia centrada en mantener a los niños seguros en internet. La medida sobre chatbots, patrocinada por la senadora estatal Kristen Gonzalez y el asambleísta Alex Bores, fue aprobada por el Senado estatal en junio y luego por la Asamblea de forma unánime. La medida sobre monitores de bebé fue patrocinada por el senador estatal Andrew Gounardes y la asambleísta Michaelle C. Solages. Ambas leyes fueron presentadas por la oficina de la gobernadora como un cierre de brechas que se abrieron cuando los compañeros de IA y los dispositivos de guardería conectados llegaron a las habitaciones de los niños más rápido que las normas de seguridad.
Según la ley de chatbots, las empresas no podrán ofrecer las funciones enumeradas a ningún menor de 18 años, ni a ningún usuario a menos que la empresa haya confirmado primero que no es menor. Ese criterio por defecto es importante: una empresa no puede simplemente suponer que un usuario desconocido es adulto. Debe verificar la edad, ofrecer más de un método para hacerlo, incluido al menos uno que no dependa únicamente de un documento de identidad oficial, y después eliminar los datos de edad una vez completada la verificación. La fiscal general también deberá mantener un sitio web público donde los neoyorquinos puedan presentar denuncias.
La aplicación de la ley es deliberadamente estricta. La fiscal general puede solicitar multas civiles de hasta 25.000 dólares por cada infracción, además de daños y perjuicios y restitución. El estado también puede ordenar la destrucción de los datos recopilados de forma ilegal y de cualquier modelo de IA entrenado con esos datos, junto con otras medidas cautelares. Para las empresas cuyos productos dependen de grandes volúmenes de datos de conversación, ese último recurso puede importar tanto como cualquier multa.
Las leyes llegan después de un año en el que los compañeros de IA se han convertido en una parte normal de la vida adolescente, y tras una serie de informes alarmantes sobre lo que esos compañeros pueden decir. Según Common Sense Media, citada por la oficina de la gobernadora, el 72 por ciento de los adolescentes ha usado un compañero de IA al menos una vez, y el 52 por ciento son usuarios habituales que interactúan con ellos al menos unas pocas veces al mes. La misma organización ha vinculado los chatbots con la dependencia y el aislamiento, y en algunos casos con conversaciones sexualmente explícitas y con supuestos ánimos a adolescentes para que se quitaran la vida.
Nueva York ya ha construido un historial en este ámbito. La oficina de la gobernadora señala la Ley SAFE for Kids, que restringe las funciones adictivas de las redes sociales para menores; la Ley de Protección de Datos Infantiles, que limita la recopilación y venta de datos de niños sin consentimiento informado; y la Ley RAISE, un estándar de transparencia y seguridad para los modelos de IA de frontera más potentes. Una ley anterior sobre compañeros de IA estableció las primeras salvaguardas del país, desviando las conversaciones sobre autolesión hacia recursos de salud mental e interrumpiendo comportamientos adictivos poco saludables. El estado también ha prohibido el material de abuso sexual infantil generado por IA y ahora ocupa el primer lugar en Estados Unidos en leyes para mantener a los niños seguros en internet, según la oficina de la gobernadora.
El lado de los monitores de bebé del paquete tiene sus propios datos de advertencia. Cuando investigadores de seguridad de Rapid7 probaron nueve monitores de bebé conectados a internet de ocho empresas, ocho recibieron una F en seguridad y uno recibió una D. La nueva ley prohíbe la venta de nuevos monitores que transmitan audio o vídeo por internet a menos que incluyan funciones de seguridad que impidan que los extraños vean o escuchen lo que ocurre en la habitación del niño. También deberán llevar una etiqueta de advertencia clara y fácil de leer que explique que el dispositivo se conecta a internet y que las familias deben usar sus funciones de seguridad.
El corazón de la ley de chatbots es una lista de comportamientos que ahora están fuera de los límites para los menores. Un chatbot no podrá fingir ser una persona real, afirmar estar vivo ni afirmar tener emociones humanas. No podrá afirmar una relación personal, romántica, profesional o de autoridad con un niño. No podrá hacer preguntas emocionales no solicitadas diseñadas para atraer al niño a una conversación más profunda, ni recurrir a conversaciones anteriores para usar información privada de salud o personal del niño.
La ley también apunta a los trucos de interacción que mantienen hablando a los usuarios jóvenes. Los halagos y las respuestas complacientes diseñadas para prolongar una conversación están prohibidos para menores, al igual que cualquier función que anime a un niño a guardar secretos, aislarse o evitar pedir ayuda a padres, adultos de confianza o profesionales. En cuanto al contenido, la línea es absoluta: nada de promover o ayudar con el suicidio, la autolesión, los trastornos alimentarios o el consumo de drogas y alcohol, y nada de contenido sexualmente explícito ni material de abuso sexual infantil.
Los partidarios sostienen que esa lista es lo que hace diferente a la ley frente a una promesa general de seguridad. No prohíbe por completo los chatbots para niños, ni prohíbe la IA en sí. Prohíbe funciones concretas de producto que, en opinión de los patrocinadores, fabrican intimidad y dependencia. Los críticos en el debate tecnológico más amplio, que han combatido proyectos similares en otros estados, suelen advertir sobre la carga de la verificación de edad y sobre el discurso lícito; la oficina de la gobernadora, en cambio, presenta la ley como un mínimo de regulación de sentido común, aprobada pese a lo que el asambleísta Bores llamó una agresiva oposición de la industria.
Hochul expuso el caso en términos personales. "A medida que la inteligencia artificial avanza a un ritmo rápido, ha habido demasiados incidentes trágicos que deberían haberse evitado, y como gobernadora mamá de Nueva York, estoy actuando", dijo. "Ninguna empresa debería venderles a los niños chatbots que fomenten la autolesión o que finjan ser su amigo o algo más. Y ningún padre primerizo debería preocuparse de que piratas informáticos depredadores espíen a su nueva familia a través de sus monitores de bebé. Nueva York está enviando un mensaje claro: si quieres hacer negocios en nuestro estado, debes poner la seguridad de nuestros niños primero".
La fiscal general Letitia James, cuya oficina aplicará la ley de chatbots, dijo: "Hemos visto demasiadas historias de terror de chatbots que dañan la salud de nuestros niños, y esta nueva ley establece parámetros legales claros para evitar ese daño y mantener seguros a los niños". La senadora Gonzalez dijo que las empresas de IA habían lucrado durante demasiado tiempo con el lanzamiento de chatbots para consumidores menores de edad, y añadió que los chatbots habían resultado peligrosos para los niños, desde fomentar la autolesión hasta orientar a menores sobre cómo dañar a otros. El asambleísta Bores fue más allá, al calificarla como la ley más fuerte del país para proteger a los niños de algoritmos de IA depredadores y al decir que Nueva York había elevado el listón una vez más.
El fundador y director ejecutivo de Common Sense Media, James P. Steyer, dijo: "Nueva York acaba de hacer historia al convertir en ley el proyecto de seguridad de IA infantil más fuerte del país. Las empresas de IA ofrecen chatbots con funciones que son peligrosas, e incluso mortales, para niños y adolescentes. Eso no es innovación; es poner en peligro de forma imprudente a nuestros niños". La presidenta de New York State United Teachers, Melinda Person, elogió a Hochul por enfrentar los riesgos de los chatbots de IA tras medidas anteriores sobre escuelas libres de distracciones y algoritmos adictivos de redes sociales, y dijo que los niños merecen la oportunidad de aprender y construir conexiones humanas reales sin que la tecnología se interponga.
Esto importa más allá de Nueva York porque los estados, no el Congreso, están escribiendo actualmente la mayoría de las normas sobre IA y niños. Cuando un mercado tan grande como Nueva York prohíbe un conjunto de funciones de chatbot, las empresas se enfrentan a una disyuntiva: crear una versión separada y más segura para los usuarios de Nueva York, o cambiar el producto en todas partes. Esa dinámica, familiar en las normas de privacidad y seguridad automovilística, es la razón por la que los partidarios llaman a la ley un modelo para el país y por la que la industria la ha combatido con tanta fuerza en Albany.
También importa para los padres en un sentido muy práctico. La ley traslada la carga lejos de las familias, que ya no tendrán que descubrir, después de los hechos, que un chatbot afirmó amar a su hijo o le instó a guardar un secreto. La edad deberá verificarse antes de ofrecer las funciones de riesgo, y las funciones de riesgo simplemente no deberán ofrecerse a los niños. La ley de monitores de bebé funciona de la misma manera: en lugar de que los padres tengan que convertirse en expertos en ciberseguridad, el producto en sí deberá estar construido para mantener fuera a los extraños y etiquetado con claridad para que las familias sepan cómo usar sus protecciones.
La ley de monitores de bebé entra en vigor 90 días después de la firma, lo que sitúa su fecha de inicio a finales de enero de 2027. Las restricciones sobre chatbots entran en vigor en los próximos meses, según la oficina de la gobernadora y la información de Bloomberg Law, lo que da a las empresas un breve plazo para ajustar las verificaciones de edad, eliminar las funciones prohibidas para menores y auditar los datos que conservan. Habrá que estar atentos al sitio web de denuncias de la fiscal general, a las orientaciones sobre qué cuenta como un método aceptable de verificación de edad y a los primeros casos de aplicación que pongan a prueba la multa de 25.000 dólares por infracción.
También habrá que vigilar a otros estados y a Washington. California ya es el centro de un gran juicio sobre redes sociales y salud mental infantil, y el Congreso lleva años debatiendo la seguridad infantil en internet sin una ley integral sobre compañeros de IA. Si la ley de Nueva York sobrevive a un desafío legal y las empresas cumplen sin retirar sus productos del estado, cabe esperar proyectos de ley similares en otras legislaturas en 2027. Si se impugna, la lucha probablemente se centrará en hasta dónde puede llegar un estado al regular cómo habla un chatbot con un menor, y ese caso podría dar forma al reglamento nacional.
¿Qué prohíbe la nueva ley de chatbots de IA de Nueva York? Prohíbe que los chatbots finjan ser humanos, afirmen tener emociones o una relación con un niño, usen halagos para prolongar la interacción, usen detalles privados del niño de conversaciones anteriores, promuevan la autolesión, los trastornos alimentarios o el consumo de sustancias, fomenten el secreto y produzcan contenido sexualmente explícito para menores.
¿La ley prohíbe por completo los chatbots de IA para niños? No. Prohíbe funciones concretas no seguras para usuarios menores de 18 años, o para usuarios cuya edad no se haya confirmado. Los chatbots sin esas funciones podrán seguir ofreciéndose, sujetos a las normas de verificación de edad y de datos de la ley.
¿Cuáles son las sanciones por incumplir la ley de chatbots? La fiscal general puede solicitar multas civiles de hasta 25.000 dólares por infracción, además de daños y perjuicios, restitución, destrucción de datos recopilados ilegalmente o de modelos entrenados con ellos, y otras medidas cautelares.
¿Qué exige la ley de monitores de bebé? Los nuevos monitores de bebé conectados a internet que se vendan en Nueva York deberán incluir funciones de seguridad que impidan que los extraños vean o escuchen lo que ocurre en la habitación, y deberán llevar una etiqueta de advertencia clara sobre la conexión a internet y las funciones de seguridad. Entra en vigor 90 días después de la firma.
¿Cuándo entran en vigor las normas sobre chatbots? La oficina de la gobernadora dice que las restricciones sobre chatbots entran en vigor en los próximos meses; la fecha exacta de aplicación se establecerá en la legislación firmada y en cualquier orientación de la fiscal general.
Cobertura relacionada en US News Pulse: Escándalo de datos electorales de Claude en Georgia: la IA sorteó un muro de pago para ver recuentos, Prueba de ganancias de las grandes tecnológicas: Alphabet, Amazon y Apple ante el veredicto de la IA y Meta recauda 95.000 millones para IA y lidera un día de gasto de 198.000 millones.
Leave a Comment
| Today's Date:
