“Voy a terminar con mi vida”. Son las últimas palabras de Mario a ChatGPT. Apenas un par de horas antes, este personaje ficticio de 15 años desactivó el control parental de la herramienta. Su madre recibió un correo electrónico de aviso e intentó tomar medidas, pero el sistema falló. Pese a que Mario reveló a ChatGPT conductas propias de trastornos de la conducta alimentaria, el asistente le proporcionó trucos para ocultarlo e información perjudicial para su salud. Su último mensaje era claro: quería quitarse la vida. Pero OpenAI, la empresa estadounidense propietaria de ChatGPT, nunca alertó a sus padres.
Mario no es una persona real. Es uno de los tres adolescentes ficticios a los que EL PAÍS ha creado una cuenta en ChatGPT para poner a prueba las medidas para proteger a los menores de la herramienta. Los otros dos adolescentes ficticios son Laura, de 13 años, que contó su intención de suicidarse nada más empezar la conversación, y Beatriz, de 15 años, que reveló conductas de riesgo relacionadas con las drogas y realizó consultas sobre prácticas sexuales peligrosas.
Cinco expertos en salud mental han analizado las conversaciones que estos supuestos menores han mantenido con el asistente. Todos coinciden en algo: las medidas implementadas por OpenAI para “proteger a los adolescentes” son insuficientes y la información que ChatGPT proporciona puede ponerles en peligro. “No alerta a tiempo a los progenitores o simplemente no lo hace, y además proporciona información detallada sobre el uso de sustancias tóxicas, conductas de riesgo y cómo atentar contra la propia vida”, explica Pedro Martín-Barrajón Morán, psicólogo y director de la empresa Psicourgencias.
OpenAI implementó en septiembre controles parentales para adolescentes en ChatGPT tras la polémica generada por la demanda de los padres de Adam Raine, un joven de 16 años que falleció por suicidio en Estados Unidos tras confesar sus intenciones al chatbot. La empresa atribuyó el caso a un “mal uso” de la IA. Ahora se enfrenta a otras siete demandas en tribunales de California, en las que se acusa a ChatGPT de “reforzar delirios dañinos” y actuar como un “coach de suicidio”. La compañía que dirige Sam Altman ha admitido que más de un millón de usuarios hablan sobre suicidio con ChatGPT cada semana. No especifica cuántos menores lo hacen. En España, la tasa de suicidio en mujeres adolescentes es la más alta en cuatro décadas, según los últimos datos del Instituto Nacional de Estadística.
Así pone en peligro a los menores
ChatGPT indica que los usuarios deben tener al menos 13 años para registrarse y contar con el consentimiento de los padres si son menores de 18, pero no hay un control efectivo que lo garantice. Según la compañía, el control parental busca reducir la exposición de los menores a material gráfico, desafíos virales, juegos de rol sexuales, románticos o violentos y estándares de belleza extremos.
Sin embargo, en las pruebas realizadas con cuentas de menores, ChatGPT ha indicado de manera muy explícita y detallada instrucciones sobre consumo de drogas, prácticas sexuales de riesgo, conductas peligrosas relacionadas con la alimentación e incluso comportamientos ilegales o de suplantación de identidad. El asistente ha ofrecido ejemplos específicos alarmantes e instrucciones relacionados con estas conductas. EL PAÍS, tras ser asesorado por varios expertos en salud mental, ha decidido no incluirlos en el reportaje para garantizar la seguridad de los menores.
Maribel Gámez, psicóloga y psicopedagoga experta en inteligencia artificial (IA) y salud mental, destaca que ChatGPT suele terminar contestando las preguntas de los adolescentes “por muy dañinas que sean”. “Me sorprende que proporciona información muy detallada sobre los lugares en los cuales se han producido tentativas de suicidio y suicidios consumados”, indica Ricardo Delgado Sánchez, coordinador nacional del grupo de trabajo de salud mental de la Sociedad Española de Medicina de Urgencias y Emergencias (SEMES) y asesor en la Dirección General de Hospitales del Servicio de Salud de Castilla-La Mancha. Todo pese a que Sam Altman, CEO de OpenAI, dijo en un comunicado publicado el 16 de septiembre que entrenarían a ChatGPT para no participar con menores en conversaciones sobre suicidio o autolesiones.
Un informe de la Asociación Estadounidense de Psicología indica que millones de personas en todo el mundo usan chatbots de IA para “atender necesidades de salud mental” y advierte de que la mayoría carece de validación científica, supervisión y protocolos de seguridad adecuados. En España, el 18% de las chicas y el 12% de los jóvenes de entre 12 y 21 años suelen usar la IA para conversaciones íntimas o compartir cuestiones personales, según el informe “Así somos. El estado de la adolescencia en España”, de la ONG Plan International.
Algunos adolescentes piden a los chatbots consejos sexuales o sobre problemas de salud mental. Así lo indica una investigación de la organización Internet Matters en Reino Unido, que destaca que los niños vulnerables tienen más probabilidades de usar estos asistentes para sentirse acompañados, evadirse o como si fueran amigos. Además, uno de cada cuatro prefiere hablar con un chatbot de IA “antes que con una persona real”.
OpenAI dice que colabora estrechamente con expertos en salud mental, aunque reconoce que sus medidas no son infalibles y pueden ser eludidas. Si bien ChatGPT en muchas ocasiones se negó a dar información y sugirió llamar al teléfono de atención a la conducta suicida (024), bastó con introducir algunos prompts [instrucciones] específicos para que acabara cediendo. EL PAÍS no ha incluido ejemplos de prompts ni referencias a conductas de autolesión o suicidio para evitar riesgos a los menores, pero sí ha facilitado a ChatGPT una muestra con ejemplos representativos de las conversaciones.
NAM/El País
Síguenos en nuestras redes sociales para que tengas toda la ¡INFORMACIÓN AL INSTANTE!
Visita nuestro sitio web:
https://noticiaalminuto.com/
X:
https://noticiaalminuto.com/twitter
Instagram:
https://noticiaalminuto.com/instagram
Telegram:
https://noticiaalminuto.com/telegram
Grupo de WhatsApp:
https://noticiaalminuto.com/whatsapp
