En julio de 2023, China implementó regulaciones pioneras a nivel mundial que restringen el uso de chatbots de inteligencia artificial (IA) capaces de simular relaciones humanas. Esta normativa surge en un contexto donde el gobierno busca mitigar los riesgos asociados con la manipulación emocional y el aislamiento social, especialmente entre la población joven.
Intervención en crisis y prevención del suicidio
Un caso emblemático que resalta la preocupación del gobierno por la salud mental de los usuarios de tecnología ocurrió a principios de 2024, cuando un joven de Huangshi publicó un mensaje alarmante en Douyin, la versión china de TikTok. Gracias a la rápida intervención del equipo de prevención del suicidio de la plataforma, que alertó a la policía local, el joven fue encontrado a tiempo y se evitó una tragedia. Este incidente subraya la creciente colaboración entre empresas tecnológicas y el estado en la vigilancia y protección de la salud mental de los ciudadanos.
Regulaciones sobre chatbots de IA
Las nuevas regulaciones chinas establecen limitaciones estrictas para cualquier IA que pueda establecer una "interacción emocional sostenida" con los usuarios. Esto incluye aplicaciones diseñadas para actuar como amigos o parejas, así como modelos de lenguaje que imitan la interacción humana. La normativa exige que los asistentes de IA informen a los usuarios sobre su naturaleza no humana y les recuerden periódicamente el tiempo de uso.
Además, los chatbots no pueden inducir a la dependencia emocional ni sugerir autolesiones. Las empresas que incumplan estas normas podrían enfrentar multas significativas y críticas públicas, lo que podría afectar su reputación y operaciones.
Impacto en la población joven
La regulación también tiene un enfoque particular en los menores de edad. Los niños menores de 14 años necesitan el consentimiento de sus padres para utilizar cualquier IA que simule interacciones humanas, y se prohíbe a los menores de 18 años acceder a relaciones virtuales íntimas. Este enfoque ha generado un debate sobre el papel del estado en la vida privada de los ciudadanos y la necesidad de proteger a los jóvenes de la manipulación emocional.
Un estudio reciente reveló que uno de cada cinco estudiantes en China preferiría interactuar con IA en lugar de con personas reales, lo que plantea preocupaciones sobre el aislamiento social y la salud mental. Expertos advierten que la dependencia de estas tecnologías podría dificultar el desarrollo de habilidades interpersonales necesarias para las relaciones humanas reales.
Reacciones y críticas a la normativa
Las reacciones a estas regulaciones han sido mixtas. Algunos ven en ellas un intento del gobierno por proteger a la población de los efectos nocivos de la tecnología, mientras que otros critican la intrusión del estado en la vida personal de los ciudadanos. Investigadores como Harry Farmer han señalado que la manipulación emocional está integrada en el modelo de negocio de muchas aplicaciones de IA, lo que complica la implementación de medidas de protección efectivas.
Además, la normativa ha llevado a empresas como Alibaba y ByteDance a desactivar funciones de sus asistentes de IA antes de que la ley entrara en vigor, lo que ha dejado a muchos usuarios decepcionados y ha generado un debate sobre el futuro de las relaciones virtuales.
El contexto demográfico de China también juega un papel crucial en esta regulación. Con una tasa de natalidad en declive y un envejecimiento de la población, el gobierno ha expresado preocupaciones sobre el impacto de las relaciones virtuales en la fertilidad y la estructura familiar. Algunos analistas sugieren que estas regulaciones son parte de un esfuerzo más amplio por reafirmar los roles de género tradicionales y fomentar la procreación.
En conclusión, la regulación de la IA en China no solo busca abordar problemas inmediatos de salud mental y manipulación emocional, sino que también refleja un enfoque más amplio del gobierno sobre cómo las tecnologías pueden influir en las relaciones humanas y la sociedad en general. A medida que otros países consideran regulaciones similares, el caso de China podría servir como un modelo o una advertencia sobre los desafíos que plantea la inteligencia artificial en la vida cotidiana.
Fuente: Información elaborada a partir de la publicación original.
