China publica un proyecto para regular la IA que interactúa como los humanos

El regulador cibernético de China publicó el sábado un proyecto de normas, abiertas a comentarios del público, que reforzaría la supervisión de los servicios de inteligencia artificial (IA) diseñados para simular personalidades humanas e involucrar a los usuarios en interacciones emocionales.

La medida destaca el esfuerzo de Pekín por dar forma al rápido despliegue ⁠de la IA orientada al consumidor con el refuerzo de los requisitos éticos y de seguridad.

Las normas propuestas se aplicarían a los productos y servicios de IA ofrecidos al público en China que presenten rasgos ⁠de personalidad, patrones de pensamiento y estilos de comunicación humanos simulados, e interactúen emocionalmente con los usuarios a través de texto, imágenes, audio, vídeo u otros medios.

El proyecto establece un enfoque regulador que obligaría a los proveedores a advertir a los usuarios contra el uso excesivo y a intervenir cuando los usuarios muestren señales de adicción.

Según la propuesta, los proveedores de servicios tendrían que asumir responsabilidades de seguridad durante todo el ciclo de vida del producto y establecer sistemas de revisión de algoritmos, seguridad de datos y protección de la información personal.

El proyecto también se centra en los posibles riesgos psicológicos.

Los proveedores tendrían que identificar los estados de ⁠los usuarios y evaluar sus emociones y su nivel de dependencia del servicio. En caso de que los ⁠usuarios muestren emociones extremas o comportamientos adictivos, los proveedores deberán tomar las medidas necesarias para intervenir.

Las medidas fijan líneas rojas en materia de contenidos y conducta, estableciendo que los servicios no deben generar contenidos que pongan en peligro la seguridad nacional, difundan rumores o promuevan la violencia o la obscenidad.