JULIETA DEL RÍO VENEGAS
La reciente denuncia de más de 400 alumnas de secundaria en Zacatecas, quienes fueron víctimas de la alteración de sus fotografías mediante inteligencia artificial (IA) para convertirlas en material pornográfico, es un hecho tan indignante como alarmante. No se trata de un caso aislado ni de una travesura, es claramente una forma de violencia digital que vulnera derechos fundamentales como la privacidad, la dignidad y la integridad de las niñas y adolescentes.
La tecnología puede ser una herramienta poderosa para el aprendizaje y la innovación, pero cuando se utiliza sin ética, se transforma en un arma capaz de dañar y humillar. En este caso, un joven estudiante de 14 años, según lo reportado, habría manipulado imágenes de sus compañeras y creado un catálogo digital con contenido sexual falso. La facilidad con la que hoy pueden generarse y difundirse estas imágenes demuestra que la frontera entre el progreso y la violencia se ha vuelto demasiado delgada.
Este tipo de hechos exige una reflexión colectiva. Cuestionarnos si estamos educando a infancias y adolescencias en el uso responsable de la tecnología y si nuestras escuelas, autoridades y familias estamos preparados para detectar y atender la violencia digital con perspectiva de género y derechos humanos.
Lamentablemente, no es la primera vez que ocurre algo así. Hace apenas unos meses se dictó sentencia contra Diego “N”, un exalumno del Instituto Politécnico Nacional, quien fue condenado a cinco años de prisión por alterar y distribuir más de 160 mil imágenes y 20 mil videos de mujeres, también creados con IA, para fines sexuales. Este caso marcó un precedente legal, pero sobre todo, expuso un vacío normativo y ético que persiste, la tecnología avanza más rápido que nuestras leyes y que nuestra conciencia social.
Ambos casos (el del IPN y ahora el de Zacatecas) nos muestran una misma realidad, la violencia de género también se ha digitalizado. Y frente a ella, las instituciones deben actuar con la misma contundencia con la que se combate la violencia física. No podemos permitir que la IA sea terreno fértil para la impunidad.
Urge, por tanto, fortalecer la ética en el diseño y uso de la inteligencia artificial, las empresas tecnológicas deben incorporar principios de responsabilidad, privacidad y mecanismos de detección de abusos. La innovación sin ética termina siendo cómplice del daño.
Además debemos implementar la educación digital con perspectiva de género. Las escuelas deben formar a estudiantes y docentes en el uso responsable de las tecnologías y en el reconocimiento de los derechos digitales. Es indispensable que sepan qué hacer y a quién acudir ante una agresión de este tipo.
La protección de los datos personales es un derecho que debe fortalecerse cada día, especialmente frente a los riesgos tecnológicos. Pero también debemos recordar que la transparencia, la rendición de cuentas y la educación son aliadas indispensables para prevenir abusos.
Lo que está ocurriendo en Zacatecas no puede quedar en el silencio. Es un llamado urgente para que padres, autoridades, docentes y sociedad civil asumamos la tarea de formar usuarios éticos, informados y empáticos. Las víctimas, muchas de ellas apenas adolescentes, merecen justicia, acompañamiento y la garantía de que su dignidad no volverá a ser violentada.
La inteligencia artificial no es el problema, el problema es cómo decidimos usarla. Y ahí, la ética no puede ser una opción; debe ser la base de todo desarrollo tecnológico.
Sobre la Firma
Escritora y defensora institucional de la transparencia y los datos
contacto@julietadelrio.org.mx
BIO completa