La Secretaría de Seguridad Ciudadana (SSC) de la Cuidad de México, a través de la Unidad de la Policía Cibernética, alerta a los usuarios de la red pública de internet, sobre los riesgos que niñas, niños y adolescentes, pudieran encontrar al utilizar herramientas de inteligencia artificial (IA), ya que puede generar respuestas que no siempre son adecuadas para menores, incluyendo contenido sesgado, violento o erróneo, lo que representa un riesgo para su desarrollo y comprensión crítica del entorno digital.
El uso de herramientas de inteligencia artificial como Google Gemini por parte de menores de edad, representa un riesgo creciente debido a la manera en que estas plataformas interactúan, recopilan datos y generan contenido, y al no estar diseñadas específicamente para niños y adolescentes, pueden mostrar información inapropiada, sesgada o falsa.
Esto es especialmente peligroso en edades en las que los menores aun no desarrollan completamente su capacidad crítica y pueden asumir como verdad todo lo que la IA les presenta, sin distinguir entre información confiable y contenido engañoso.
Otro factor de riesgo es la recolección de datos personales, muchos jóvenes sin plena conciencia de lo que comparten, pueden ingresar nombres, ubicaciones, gustos o problemas personales en la plataforma.
Aunque Google establece políticas de privacidad, no siempre hay controles suficientes para evitar que estos datos sean recopilados, almacenados o incluso utilizados con fines publicitarios, esto vulnera su derecho a la privacidad y los deja expuestos a usos indebidos de su información.
Además, el uso sin supervisión de Gemini puede generar una dependencia tecnológica o emocional, la capacidad del modelo para responder con lenguaje natural puede hacer que los menores formen una relación de confianza excesiva con la herramienta, usándola para resolver dudas emocionales o personales. Esto podría reemplazar el acompañamiento de adultos, profesionales o educadores, y reforzar el aislamiento o la desinformación.
Finalmente, está el riesgo de que la Inteligencia Artificial refuerce estereotipos o sesgos presentes en sus datos de entrenamiento, ya que los menores podrían absorber visiones distorsionadas sobre temas como género, cultura o salud mental, afectando su percepción del mundo.
Por eso, es fundamental que el uso de herramientas de Inteligencia Artificial en menores de edad sea monitoreado, acompañado por adultos responsables y respaldado por marcos legales y educativos que garanticen su seguridad digital.
Aunque aún no se han registrado casos específicos en la Ciudad de México, la Policía Cibernética de la SSC emite las siguientes recomendaciones preventivas para proteger a los menores de edad en el uso de herramientas digitales e inteligencia artificial como Gemini:
* Crear hábitos de navegación seguros, fomentar rutinas digitales saludables, como establecer horarios limitados para el uso de internet, evitar la navegación en sitios desconocidos y utilizar motores de búsqueda con filtros infantiles.
* No Interactuar con desconocidos en línea, instruir a los menores para que nunca compartan información personal ni mantengan conversaciones con personas que no conocen, incluso si aparentan ser de su misma edad.
* Usar navegadores o plataformas adaptadas para niños, optar por versiones de buscadores, aplicaciones o asistentes virtuales diseñados específicamente para menores, que incluyan filtros de contenido y restricciones de interacción.
* Actualizar sistemas y aplicaciones constantemente, mantener actualizados los dispositivos, sistemas operativos y apps para evitar vulnerabilidades que puedan ser aprovechadas por ciberdelincuentes.
* Utilizar contraseñas seguras y únicas, enseñar a los menores la importancia de no compartir contraseñas y de utilizar claves seguras, combinando letras, números y símbolos.
* Dialogar abiertamente sobre los riesgos digitales con los más pequeños, crear un espacio de confianza donde se sientan cómodos al hablar de experiencias negativas o sospechosas en línea, sin miedo a ser castigados.
* Instalar software de protección: antivirus y antimalware, contar con programas de seguridad que protejan los dispositivos contra software malicioso que pueda comprometer la información de los usuarios.
Es fundamental anticiparse a los riesgos que enfrentan los menores de edad al usar tecnologías como Google Gemini, promoviendo la supervisión y educación digital para garantizar su seguridad y privacidad en el entorno digital.
La colaboración ciudadana y la prevención son fundamentales para enfrentar los delitos cibernéticos, por ello, ante cualquier duda, consulta u orientación, la Unidad de Policía Cibernética se encuentra en atención a la ciudadanía las 24 horas del día a través del número telefónico 55 5242 5100 extensión 5086, o en el correo electrónico policia.cibernetica@ssc.cdmx.gob.mx y en las cuentas de redes sociales oficiales @SSC_CDMX y @UCS_GCDMX.
Recuerda, la seguridad en el ciberespacio de las niñas, niños y adolescentes es nuestra prioridad.
