Nuevas regulaciones chinas para chatbots: seguridad y ética en la IA emocional

China ha implementado nuevas regulaciones para los chatbots que simulan interacciones emocionales, con el objetivo de equilibrar la innovación tecnológica y la seguridad pública. Estas normas, que entraron en vigor este miércoles, prohíben la manipulación emocional y la complacencia excesiva hacia los usuarios, así como la generación de contenido que promueva la autolesión. Además, se exige que los proveedores informen a los usuarios que están interactuando con un sistema de IA y no con una persona real.
Las regulaciones, publicadas por la Administración del Ciberespacio de China, excluyen a chatbots dedicados a atención al cliente y herramientas educativas, pero ponen un fuerte énfasis en la protección de menores, prohibiendo servicios de relaciones íntimas virtuales. Empresas como ByteDance y Alibaba ya han cerrado funciones de agentes de IA personalizadas en respuesta a estas medidas.