China puso en marcha una nueva regulación para limitar las funciones de los chatbots diseñados para establecer vínculos emocionales con sus usuarios. La medida busca evitar que estas herramientas generen dependencia y afecten las relaciones humanas.
La norma establece nuevas obligaciones para las empresas que desarrollan servicios de IA antropomórfica, especialmente en materia de seguridad, protección de menores y tratamiento de datos. Los asistentes también deberán recordar a los usuarios que están interactuando con una máquina.
China limita las funciones de los 'novios de IA'
La regulación no prohíbe los chatbots conversacionales, pero sí establece límites para aquellos diseñados para crear una relación emocional continua con el usuario. Las compañías deberán evitar características que puedan fomentar la adicción o una dependencia excesiva de la inteligencia artificial.
Las nuevas reglas también buscan impedir que estos sistemas incentiven autolesiones, suicidio o conductas peligrosas, además de proteger a los menores. Los asistentes deberán incorporar filtros, un modo para usuarios menores y avisos cuando una persona acumule dos horas de interacción continua.
Las grandes tecnológicas ya desactivaron sus compañeros virtuales
La regulación comenzó a aplicarse el 15 de julio y provocó cambios en varios servicios de las principales empresas tecnológicas chinas. ByteDance desactivó funciones de Doubao, mientras Alibaba eliminó el modo compañero de Qwen y Tencent apagó los novios virtuales de Yuanbao.
Antes de la entrada en vigor de las nuevas reglas, se habían retirado más de 14.000 productos de IA considerados incompatibles con los requisitos. La medida ha generado críticas porque algunos especialistas consideran que aborda el problema desde la tecnología, pero no las causas sociales de la soledad y la dependencia emocional.