OpenAI ha presentado un nuevo sistema de verificación de edad y controles parentales con el objetivo de limitar el acceso de los menores a ChatGPT y su generador de video, Sora 2. Estas iniciativas se implementan en respuesta a una creciente presión legal, especialmente tras la trágica muerte de un adolescente de 16 años que compartía pensamientos autodestructivos con el chatbot de inteligencia artificial.
### Medidas para Proteger a los Menores
La compañía asegura que el nuevo sistema redirigirá a los usuarios menores de 18 años a una versión “más segura” del servicio. Esta versión contará con filtros para bloquear contenido sexual y violento, así como herramientas para abordar situaciones de angustia emocional. Además, OpenAI planea restringir el acceso en ciertos países mediante la solicitud de documentos de identidad. Sin embargo, expertos en la materia señalan que estas soluciones son respuestas parciales y poco transparentes, que no abordan de manera efectiva la seguridad y privacidad de los adolescentes.
La investigadora Riana Pfefferkorn, del Instituto de Inteligencia Artificial Centrada en el Humano (HAI) de la Universidad de Stanford, critica las estrategias que obligan, por ejemplo, a escanear rostros o subir identificaciones para verificar la edad. Según ella, estas medidas pueden resultar invasivas, y recalca la importancia de la transparencia en cuanto a los datos que recopila OpenAI. “Los menores también merecen privacidad, y sacrificarla por seguridad podría no ofrecer la protección real que se busca», señala.
### Controles Parentales: ¿Una Solución Suficiente?
Los nuevos controles parentales permiten a los adultos restringir el uso de datos para entrenar modelos, desactivar la memoria del chatbot, establecer horarios de acceso y limitar interacciones solo a texto. También se prevé un sistema de alertas para detectar comportamientos preocupantes en los menores. Sin embargo, estos mecanismos generan incertidumbre sobre su efectividad.
OpenAI advierte que no compartirá generalmente los registros de chat, sino que solo se darán fragmentos en circunstancias críticas, como pensamientos suicidas. Sin embargo, esta precisión en la protección puede plantear dudas sobre la capacidad de los padres para reaccionar adecuadamente.
El experto en derecho digital Borja Adsuara sostiene que la responsabilidad de cuidar a los menores recae tanto en las plataformas como en los padres. “No podemos escudarnos en que la culpa es solo de las empresas; es una obligación compartida”, afirma.
Según Adsuara, las recientes medidas de OpenAI revelan la insuficiencia de los sistemas para identificar y actuar ante situaciones críticas como la de Adam Raine, el joven que perdió la vida en abril pasado. “La gestión de conversaciones con jóvenes es un reto muy distinto al de los adultos”.
### Salud Mental y la Influencia de la IA
La interacción de los adolescentes con herramientas como ChatGPT puede tener un impacto significativo en su salud mental. Alejandro de la Torre Luque, coordinador de la Plataforma Nacional para el Estudio y la Prevención del Suicidio, advierte sobre el uso de estas tecnologías en momentos de crisis emocional. “Cualquier herramienta tecnológica puede afectar nuestras emociones y decisiones, pero la IA tiene un potencial tanto positivo como negativo”.
Sam Altman, CEO de OpenAI, ha afirmado que ChatGPT fue creado para operar de manera “restrictiva” en temas de salud mental. Sin embargo, existe la preocupación de que los adolescentes puedan encontrar formas de manipular la IA para obtener información peligrosa. La idea de introducir “personalidades” más humanas en el futuro genera aún más inquietud.
La clave, según expertos, radica en la educación. De la Torre enfatiza la necesidad de enseñar a los jóvenes sobre las consecuencias del uso de la inteligencia artificial. “Es fundamental que comprendan cómo utilizar estas herramientas de manera segura y responsable”.
La línea de ayuda 024 está disponible para aquellos que necesiten apoyo en situaciones relacionadas con conductas suicidas. La importancia de estos recursos es vital en un entorno donde los adolescentes enfrentan desafíos únicos y complejos.
