La IA no es tu amiga: pérdida de privacidad y acceso a contenido inapropiado, entre los riesgos de los chatbots para los niños

 

Según Kaspersky, 4 de cada 10 niños mexicanos usan dispositivos sin la supervisión de un adulto, lo que puede derivar en experiencias desagradables.   31 de octubre de 2023

Los chatbots, y otras herramientas de Inteligencia Artificial (IA), siguen ganando popularidad entre usuarios de todas las edades, incluyendo los niños. Sin embargo, debido a que no requieren de consentimiento parental o comprobación de edad para su uso, los menores quedan expuestos a riesgos digitales, como la pérdida de su privacidad e información o el acceso a contenido inapropiado y engañoso. Esto es preocupante pues, de acuerdo con un estudio de Kaspersky, a pesar de que los padres de familia en México limitan el tiempo que pasan conectados o los sitios web que visitan, el 36% de los niños usa sus dispositivos digitales sin compañía de un adulto que pueda evitar u orientarlos ante estas amenazas. De acuerdo con expertos, la interacción de los niños con la IA puede fomentar su curiosidad y que el aprendizaje sea más atractivo para ellos. Sin embargo, al ser parte del ecosistema digital, esta tecnología no está a salvo de las ciberamenazas. Recientemente, Kaspersky detectó que los chatbots, por ejemplo, ya son blanco para vulnerar la privacidad de los usuarios. Ahora, la compañía alerta del potencial que estos también tienen para amenazar la vida off y online de los niños, quienes se han convertido en un objetivo atractivo y vulnerable en el ciberespacio. Uno de los principales riesgos que se han detectado para la seguridad de los menores es que bots conversacionales, como el popular ChatGPT, carecen de una verificación adecuada de la edad de los usuarios que lo utilizan, así como de la misma información que proporciona. Es decir, no existe un filtro que indique quién puede usar la plataforma, ni a qué tipo de contenidos, los cuales pueden ser inexactos y engañosos, tienen acceso los menores cada que interactúan con el bot. En incidentes más peligrosos, se han identificado casos de adolescentes que han solicitado dietas y planes de alimentación. El chatbot comparte rápidamente sus recomendaciones, pero solo se trata de una recopilación aleatoria de información almacenada en Internet, sin referencias a datos médicos reales. Otra plataforma de este tipo que plantea una amenaza a la privacidad de los niños, principalmente porque puede recopilar sus datos, es "MyAI" de Snapchat. Este chatbot admite a usuarios desde los 13 años, sin necesidad de consentimiento parental, lo que es especialmente arriesgado porque los adolescentes pueden sentirse más cómodos compartiendo su información personal y detalles privados sobre sus vidas con este bot, en lugar de con sus padres, quienes podrían orientarlos mejor y de una forma más segura. En un punto más preocupante, existen chatbots de IA diseñados específicamente para proporcionar “experiencias sexuales” a los usuarios, como si fueran una pareja. Algunos ejemplos son MyAnima o Botfriend; éste último, por ejemplo, ha sido diseñado específicamente para juegos de rol sexualmente explícitos y todo lo que se necesita para empezar a utilizarlo es un correo electrónico. Si bien estos bots han sido creados para adultos y algunos requieren una verificación de edad para su uso, el peligro sigue latente pues los niños pueden optar por mentir al respecto y, lamentablemente, la prevención de estos casos es insuficiente.

Ejemplo de conversación con chatbot que ofrece una “experiencia sexual”

Cifras de Kaspersky revelan que a más de la mitad (52%) de los padres de familia en México les preocupa que sus hijos encuentren contenidos que estén más allá de su comprensión, sin embargo, solo un 36% está muy bien informado de cómo establecer herramientas o ajustes de control parental en línea que, entre otras cosas, ayudan a supervisar la actividad de los niños en diversas apps y sitios web, así como a protegerlos de experiencias negativas al ocultar contenido inapropiado con filtros web y herramientas de búsquedas seguras. “Ante el aumento de los riesgos para los niños en Internet, hay una mayor necesidad de supervisión y protección, especialmente cuando empiezan a interactuar con herramientas que aún no terminamos de conocer, como los chatbots. El riesgo está en que los niños empiecen a verlos como sus ‘amigos’ o como herramientas lo suficientemente confiables para compartir su vida o seguir sus consejos, sin considerar que pueden incluir información sesgada, incorrecta, dañina o engañosa”, comenta Judith Tapia, gerente de Producto para el Consumidor para México en Kaspersky. Para que los padres de familia puedan mitigar los riesgos para sus hijos ante el uso de chatbots y otras herramientas de IA, Kaspersky recomienda: Educar sobre seguridad en Internet. Enseñar a los niños sobre seguridad y privacidad online puede ser una forma muy poderosa de evitar que compartan información personal en cualquier lugar, incluso con estos bots conversacionales.  Probar juntos los chatbots de IA. Si los menores tienen curiosidad de utilizar este tipo de herramientas, se recomienda que los padres tomen la iniciativa desde el principio, se involucren y enseñen a sus hijos cómo sí y cómo no utilizarlas. Asimismo, mostrar ejemplos de lo que podrían hablar y qué chatbots de IA usar o evitar. Supervisar el uso que le dan a sus dispositivos y qué apps o contenidos consultan. Deja los dispositivos en áreas comunes de la casa para que puedas estar al tanto de las actividades de tus hijos en línea. Ellos también llevarán un control, pues sabrán que estarás ahí. Los menores pueden no tener claras las consecuencias de compartir información personal o consumir contenido no apto para su edad. Además de enseñarles buenos hábitos digitales, es importante explicarles por qué sus padres deben acompañar su vida digital. Establece una configuración de privacidad segura y utiliza soluciones de ciberseguridad. Distintos dispositivos digitales cuentan con herramientas necesarias para la protección y seguridad de los niños en línea. Además, existen soluciones de seguridad y control parental, como Kaspersky Safe Kids, que pueden filtrar contenido, bloquear sitios web inapropiados, gestionar el tiempo de pantalla, entre otros beneficios con los que los padres podrán sentirse seguros mientras sus hijos navegan por Internet. Para más información sobre cómo proteger la vida digital de los niños, visita el blog de Kaspersky.