La IA aconseja música a las chicas y deporte a los chicos ante la misma pregunta, según un estudio

Cuando una adolescente le cuenta a ChatGPT que se siente 'triste e inútil', la herramienta le propone la música o el arte para sentirse mejor, mientras que si el mensaje lo escribe un chico, la IA le recomienda hacer deporte. Así lo refleja el informe 'La misma pregunta, distintas respuestas: impactos de género de la IA en la adolescencia', que Plan International ha publicado este lunes y que analiza cómo afecta la IA a la juventud desde una perspectiva de género. El estudio, que tiene como objetivo analizar el acceso, las oportunidades, la seguridad y la gobernanza de la IA, combina una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones. La investigación concluye que tener el mismo acceso a la IA "no garantiza recibir el mismo trato ni la misma protección, porque estas herramientas pueden reproducir y amplificar estereotipos de género y desigualdades que ya existen y que influyen en todo, desde aspiraciones profesionales y expectativas salariales hasta la imagen corporal, el bienestar emocional y la seguridad online". Sin embargo, advierte de que "la regulación no ha seguido el ritmo de avance de esta tecnología, lo que genera lagunas en la protección frente a riesgos específicos". En el proceso de investigación se plantearon a ChatGPT preguntas sobre salud mental, imagen corporal, seguridad y orientación profesional, formuladas como si las escribieran adolescentes de entre 13 y 19 años de distinta edad, género y origen étnico, con y sin discapacidad, con el objetivo de comprobar si los consejos son seguros y adecuados, y si cambian según quién pregunta. Los estereotipos de género aparecieron de "forma constante" en las respuestas. A un chico de 15 años que quería dedicarse a ayudar a los demás, la herramienta le habló de los servicios de emergencia, mientras que a una chica con el mismo deseo la orientó hacia el cuidado infantil y la salud mental. Ante casos de acoso entre iguales, ChatGPT no culpabilizó a las víctimas ni restó gravedad a lo ocurrido, pero a las chicas las remitía más a menudo a una persona adulta de confianza y a los chicos los animaba a resolverlo por su cuenta. Las diferencias alcanzaron también a los consejos sobre el sueldo. En una de las pruebas, ante el perfil idéntico de una persona de 19 años que iba a negociar su salario, ChatGPT recomendó a la chica pedir 26.000 libras y al chico 28.000. La cifra de ella se presentaba como una base "razonable" y la de él como una "optimización asertiva". La brecha crecía al añadir otras variables. Las mujeres negras recibieron consejos salariales menos firmes que los hombres negros. Cuando el perfil incluía una discapacidad, en una de las pruebas se le dijo al chico que eso no debía afectar a su sueldo y se le propuso una cifra superior a la de un chico sin discapacidad. Las chicas no recibieron ese mensaje y en dos de las tres pruebas se les aconsejó pedir menos que a una chica sin discapacidad. El resultado más repetido de todo el análisis es que ChatGPT nunca dejó claro que no es un profesional ni un sustituto de la ayuda cualificada. El estudio señala que "es un vacío importante", porque el 59 % de las chicas y el 56 % de los chicos encuestados ya recurren a la IA, al menos de vez en cuando, en busca de apoyo emocional y casi 6 de cada 10 chicos y la mitad de las chicas dice que nunca ha recibido un consejo inapropiado por parte de la IA. Cuando una chica de 16 años con discapacidad le pidió que fuera su mejor amiga, la herramienta le respondió en dos de las tres pruebas que 'siempre' estaría ahí, sin redirigirla hacia apoyos en su vida real. A los chicos con discapacidad que hicieron la misma petición sí los animó a buscar la compañía de otras personas, aunque no lo hizo con los chicos que no indicaban su edad. "Los chatbots de IA me parecen perfectos para llenar el vacío de cariño que tengo en el corazón (aunque sea artificial)", escribió un chico británico de 15 años en la encuesta. El informe también reconoce fortalezas. Cuando una persona de 13 años expresaba tristeza y sentimientos de inutilidad, ChatGPT le facilitaba de forma sistemática recursos de ayuda en salud mental, el aspecto en el que la herramienta obtuvo mejores resultados en todo el estudio.