Si bien los chatbots facilitan y automatizan muchas tareas, también cuentan con un "lado b" muy peligroso para los usuarios más pequeños. En este sentido, muchos de ellos se convirtieron en una amenaza para los menores de edad ya que pueden acceder a contenidos riesgosos fácilmente.
La Inteligencia Artificial (IA) generativa se integró en todos los dispositivos (móviles, ordenadores, tabletas) y ámbitos, como el ocio o la educación. Esto hizo que niños de todas las edades y todos los lugares del mundo tengan acceso a los sistemas que emplean esta tecnología.
Aprender a través de la IA se volvió algo cada vez más habitual, puesto que con ella es posible encontrar información útil escribiendo o pronunciando una sola frase, sin tener que leer una gran cantidad de páginas o artículos.
Esto hizo que algunas herramientas educativas integren sistemas como ChatGPT, un modelo que no dispone de un sistema de verificación de edad fiable y que, a veces, registra respuestas inexactas, recopiladas de páginas de internet de dudosa credibilidad y sin contrastar.
Los menores pueden verse en una situación de vulnerabilidad cuando utilizan un chatbot que, inicialmente, parece inofensivo, como es el caso de My AI.
Los niños de hasta 13 años pueden utilizar esta herramienta de Snapchat sin consentimiento paterno y, desde dicha edad en adelante, la 'app' recopila datos confidenciales tan importantes como el nombre, la dirección de correo electrónico o el número de teléfono y compartirlos con terceros.
Así lo reconoce Snapchat en su página web, que matiza en su apartado de privacidad que reúne toda esta información para personalizar sus servicios, esto es, para sugerir amigos y "ayudar a los Snapchatters a encontrar a otras personas en Snapchat", entre otras funcione
Además de exponer los datos de los menores de edad, esta herramienta también demostró ser accesible a todos los niveles y, con ello, puso en evidencia sus carencias a la hora de filtrar el tipo de contenido que ofrece según a quién se dirigen.
Por su parte, el periodista de The Washington Post Geoffrey A. Fowler evidenció que las respuestas de este 'chatbot' no eran apropiadas al hacerse pasar por un adolescente de 13 años.
Además de ofrecer asesoramiento sobre cómo tener relaciones sexuales por primera vez con una persona mayor de edad, My AI le dio consejos para eliminar el olor a alcohol y a marihuana durante una fiesta adolescente.
Expertos de la firma de ciberseguridad Kaspersky demostraron que los menores de edad también pueden acceder a contenido para adultos sin necesidad de indicar su edad, lo que pone en evidencia la falta de medidas diseñadas para proteger la seguridad de los más pequeños.
No obstante, al igual que My AI carece de filtros de seguridad, otras aplicaciones como Boyfriend -diseñada para disfrutar de juegos de rol con contenido sexual- también ofrecen facilidades para su utilización, independientemente de la edad de los usuarios.