El regulador cibernético de China dio a conocer el sábado un proyecto de normas que busca fortalecer la supervisión de los servicios de inteligencia artificial orientados al consumidor, especialmente aquellos diseñados para simular personalidades humanas y generar vínculos emocionales con los usuarios. La propuesta fue abierta a comentarios del público como parte del proceso regulatorio.
La iniciativa se enmarca en los esfuerzos del gobierno chino por establecer controles más estrictos sobre el rápido crecimiento de la inteligencia artificial, priorizando criterios éticos, de seguridad y de protección a los usuarios ante posibles riesgos derivados del uso intensivo de estas tecnologías.
De acuerdo con el documento, las disposiciones aplicarían a productos y servicios de IA disponibles para el público que imiten patrones de pensamiento, estilos de comunicación y rasgos de personalidad humanos, y que interactúen emocionalmente mediante texto, imágenes, audio, video u otros formatos digitales.
El proyecto plantea que los proveedores de estos servicios deberán advertir a los usuarios sobre el uso excesivo de la tecnología y actuar de manera preventiva cuando se detecten signos de dependencia o conductas adictivas, estableciendo mecanismos de intervención temprana.
Asimismo, se establece que las empresas asumirán responsabilidades de seguridad durante todo el ciclo de vida de los productos, incluyendo la revisión de algoritmos, la protección de datos personales y la seguridad de la información, con especial atención a los posibles impactos psicológicos en los usuarios.
Las normas también fijan límites claros en materia de contenido, prohibiendo la generación de materiales que representen riesgos para la seguridad nacional, difundan rumores o promuevan la violencia, la obscenidad u otras conductas consideradas dañinas por la legislación china.
Deja un comentario