Cuidado con lo que cuentas

La IA generativa cambia las reglas respecto a las redes sociales. Publicar una foto o un estado en una red social es un acto deliberado, pero conversar con la IA genera una entorno más íntimo y continuo en el que el sistema repregunta, muestra empatía y puede deducir edad, ubicación, salud o estado de ánimo a partir de frases sueltas. Son conclusiones que se han presentado en el V Congreso Internacional de la Cátedra de la Infancia y la Adolescencia. "La inteligencia artificial y derechos de la infancia y la adolescencia".

“Un chatbot que conversa con empatía obtiene muchos más datos personales que un formulario y esos datos acaban a menudo en empresas externas sin que las políticas de privacidad lo expliquen”, explica Elena del Val, investigadora principal del proyecto PRI4GENAI en el instituto VRAIN de la Universitat Politècnica de València.

PRI4GENAI

El proyecto analiza los riesgos de privacidad en la IA generativa para niños, adolescentes y adultos. "Los primeros resultados revelan que lo que se cuenta a la IA afecta a terceras personas que no han dado su consentimiento para la difusión de estos datos", añade de Val, profesora de la Escuela Técnica Superior de Ingeniería Informática de la UPV. Según los resultados obtenidos hasta el momento, los adolescentes tienden a resignarse en lugar de protegerse ante una mala experiencia. "Lo que reduce los datos compartidos no es informar más, sino ofrecer alternativas para compartir menos", señala. Hay que pasar de advertir "cuidado con lo que subes" a "cuidado con lo que cuentas".

El proyecto PRI4GENAI Riesgos de privacidad en la IA generativa para niños, adolescentes y personas adultas, PID2023-151536OB-I00, es un proyecto europeo que comenzó en septiembre de 2024 y concluirá en diciembre del 2027.Actualmente trabaja en un asistente de privacidad que funciona en el propio dispositivo utilizado, detecta datos sensibles y avisa antes de enviar el mensaje, sin bloquearlo, ni conservar contenido.

Comprensión lectora y expresión escrita, en riesgo

La conferencia inaugural del V Congreso Internacional de la Cátedra Infancia y Adolescencia la impartió la profesora titular de la Universidad del País Vasco, Maialen Garmendia, que dirige el grupo de investigación EU Kids Online. Garmendia ha alertado del peligro de la utilización de la IA para realizar tareas escolares. Si la IA resume un texto complejo en dos minutos o realiza una redacción sobre un tema, se está "externalizando el esfuerzo y eso puede perjudicar la comprensión lectora y un gran detrimento de su expresión escrita, competencias trasversales que afectan no solo en el ámbito educativo sino en su vida en general" explica Garmendia. "Eso puede ser bastante peligroso a largo plazo", explica.

La profesora de la EHU propone que "la solución sería, tal vez, que en el centro escolar les enseñen a trabajar con la IA, pero no para facilitar las tareas, sino para hacer distintas búsquedas y discriminar y así desarrollar un sentido crítico", cuya carencia ha quedado patente en el último Informe PISA.

Saben lo que quieren

Maialen Garmendia ha dirigido el estudio EU KIDS ONLINE V: Uso y conocimiento de la Inteligencia Artificial entre la infancia y la adolescencia en España. Este estudio está basado en datos recogidos en encuestas realizadas a 25 000 chicos y chicas de 9 a 16 años, en 20 países europeos, y casi 250 entrevistas en profundidad a chicos y chicas de 13 a 17 años, que residen en 15 países europeos.

Las encuestas revelaron que reivindican “una IA más segura, más adaptada a ellos que en la cual no permita o sea muy complicado generar deepfakes y quieren también que se respete su privacidad”. Además, también reclaman “una mayor moderación en los contenidos porque, a veces, se encuentran con contenidos que les resultan muy desagradables o dañinos”, añade Maialen Garmendia.