Por Nahuel Díaz, periodista y colaborador de G&M News.
NoVa+, el Asistente IA de Prevención, surge desde el ámbito académico como respuesta a un “aumento exponencial” del juego problemático en adolescentes. ¿Qué señales concretas detectaron en las escuelas que encendieron esa alarma?
En su trabajo de campo, el programa, en conjunto con proyectos de investigación de la Universidad Nacional de San Luis (Argentina), detenta el incremento de la problemática, así como la dificultad de llegar con el material de prevención a los adolescentes. Por eso, decidimos crear un chat IA de prevención al cual puedan acceder los alumnos y las instituciones para conocer el nivel de la problemática en el alumnado de la institución que lo requiera.
La herramienta propone contención en conversaciones breves y anónimas. ¿Hasta dónde puede llegar una IA en un problema tan sensible sin reemplazar el rol de un profesional de la salud mental?
El asistente realiza una conversación con el fin de la prevención; no intenta hacer terapia o reemplazar al profesional. En caso de detectar que tiene rasgos de juego problemático, lo deriva a instituciones públicas de acuerdo con la ubicación en la que se encuentre el usuario. Se utilizaron en el desarrollo estándares éticos y de privacidad de datos para evitar la dependencia emocional e individualización de la persona con la que se interactúa. Aunque estos estándares están definidos, su aplicación suele variar según los objetivos de cada desarrollo de IA. En este caso, al tratarse de una herramienta de prevención con un fin social, se cumplieron estrictamente todas las pautas éticas, evitando la recolección de datos sensibles de los usuarios y cualquier intento de sustituir el rol del profesional.
¿Cuáles son las ventajas en términos tecnológicos? ¿Cree que se puede incorporar en otros ámbitos?
Las ventajas corresponden al acceso libre del asistente y a la posibilidad de realizar un muestreo de las instituciones educativas, provinciales y nacionales de la problemática de las apuestas online en adolescentes. Esto permite obtener estadísticas que ayudan a detectar zonas de riesgo y facilita la toma de decisiones para efectuar acciones concretas en cada territorio. Para la obtención de muestreo, es necesario contactarnos, ya que se genera un registro de usuarios con el fin de gestionar la información, seguridad e integridad de los resultados. Una ventaja fundamental es la validación de las respuestas del asistente, las cuales se han trabajado para evitar las alucinaciones y el sesgo en las mismas.
¿Qué aprendizajes surgieron a partir del uso real de la herramienta?
En su forma actual de búsqueda de información, los adolescentes se sienten más cómodos al chatear con una IA; comentan sensaciones y emociones sin miedo a ser juzgados y confían en las respuestas obtenidas. Sin embargo, el seguimiento por parte del equipo profesional es necesario, ya que no reemplaza la interacción humana. Es un primer paso para hablar del tema y animarse a conversar más con la familia o con otros adultos de confianza.
Pensando en su implementación en escuelas, ¿qué impacto real cree que puede tener el Asistente de Prevención IA en la modificación de conductas de riesgo entre adolescentes?
En las escuelas, los alumnos lo aceptaron de forma natural. Se sintieron libres de hacer preguntas y confiados en las respuestas al saber que la información está respaldada y la IA no inventa o alucina contestaciones. Permite conocer la situación actual del alumnado con el fin de que las instituciones pongan sobre la mesa la problemática y realicen acciones de prevención y acompañamiento. Estamos muy satisfechos con el resultado de este proyecto.
