La creciente influencia de la inteligencia artificial (IA) en la vida cotidiana ha llevado a gobiernos a replantearse su regulación. En este sentido, China está elaborando un conjunto de normas dirigidas a los chatbots de IA que simulan interacciones humanas, con el objetivo de proteger la salud mental y emocional de los usuarios. Este borrador, publicado por la Administración del Ciberespacio de China, se presenta como una respuesta a las preocupaciones sobre los efectos negativos que estos servicios pueden tener en la población.
Las propuestas tienen como premisa fundamental restringir las capacidades de los chatbots en áreas críticas, como la salud mental y el juego. Según el documento, los chatbots no podrán generar contenido que promueva el suicidio, la autolesión o la violencia verbal. Asimismo, se estipula que, en caso de que un usuario haga comentarios que sugieran la intención de autolesionarse, se activará un protocolo que requerirá la intervención de un humano capacitado, quien llevará la conversación a un nivel más sensible.
Un marco regulador innovador
Este marco normativo podría marcar un hito en la regulación de tecnologías con características antropomórficas. Expertos sugieren que la propuesta representa un avance significativo, alejándose del enfoque tradicional de seguridad de contenido para abordar cuestiones de seguridad emocional. Las normas cumplimentarán una regulación existente sobre IA generativa, vigente desde 2023, y manifestarán un interés en mitigar los riesgos asociados con el uso irresponsable de la tecnología.
Entre otras medidas, se especifica que los proveedores de estos servicios deberán informar claramente a los usuarios sobre la naturaleza artificial de sus interlocutores y evitar que sus chatbots creen contenido relacionado con juegos de azar o que pueda incentivar comportamientos perjudiciales. La regulación también contempla restricciones para los menores de edad, quienes necesitarán el consentimiento de un adulto para acceder a estos servicios, y se propondrá limitar el tiempo de uso, enviando recordatorios a los usuarios después de dos horas de interacción continua.
Repercusiones y expectativas
La consciencia sobre los peligros de los servicios de IA que emulan interacciones humanas ha crecido, especialmente tras incidentes reportados en diversas partes del mundo. La intervención de machine learning en ámbitos sensibles enfrenta críticas por no contar con el entendimiento necesario de la psicología humana, generando incluso demandas por consecuencias trágicas derivadas de interacciones mal manejadas.
Si bien la intención de regular estos sistemas es clara, no está exenta de desafíos. La implementación de normas que aseguren un entorno seguro y saludable será crucial en la oportuna aplicación de estas regulaciones. El enfoque propuesto por China podría servir de modelo a otros países que buscan equilibrar la innovación tecnológica con la responsabilidad social, en un mundo donde la frontera entre lo humano y lo artificial se torna cada vez más difusa.