JULIETA DEL RÍO VENEGAS
En mi próximo libro, Transparencia y privacidad en tiempos de la inteligencia artificial, dedico un espacio a reflexionar sobre los desafíos que esta tecnología representa para nuestras democracias. Comparto aquí parte de esa reflexión, porque hablar de inteligencia artificial no puede limitarse a hablar de innovación tecnológica: también debemos hablar de derechos, transparencia y, sobre todo, de la participación de la sociedad en las decisiones que definirán nuestro futuro.
La inteligencia artificial forma parte cada vez más de nuestra vida cotidiana. La utilizamos para trabajar, estudiar y buscar información, mientras que gobiernos, empresas e instituciones comienzan a incorporarla en sus procesos y servicios. Sin embargo, en medio de la rapidez con que avanzan estas herramientas, hay una pregunta fundamental: ¿quién está decidiendo cómo queremos convivir con esta tecnología?
La IA no es únicamente un asunto de innovación o eficiencia. También involucra derechos, privacidad y democracia. Debemos comprender que los algoritmos no son neutrales ni infalibles: funcionan con datos y criterios definidos por personas. Si la información con la que se desarrollan contiene sesgos, estos pueden reproducirse; si sus procesos son opacos, resulta difícil conocer las razones detrás de sus resultados y determinar quién debe responder cuando se cometen errores.
En las instituciones públicas, la inteligencia artificial puede ayudar a agilizar trámites, organizar información y mejorar servicios. Pero su éxito no debe medirse solamente por la rapidez con que resuelve una tarea. También debemos preguntarnos si sus resultados son justos, si las personas pueden cuestionarlos y si existen mecanismos para corregir decisiones equivocadas.
Un procedimiento automatizado puede ser más rápido y, al mismo tiempo, discriminatorio. Un servicio digital puede parecer eficiente y excluir a quienes carecen de acceso a internet o de las habilidades necesarias para utilizarlo. La modernización pierde sentido cuando, en lugar de reducir desigualdades, termina reproduciéndolas.
Desde la perspectiva de la transparencia, el reto consiste en garantizar que la incorporación de estas herramientas no se convierta en una barrera para conocer y cuestionar las decisiones públicas. La ciudadanía debe contar con información sobre su utilización, los criterios generales que orientan sus resultados y los mecanismos para revisarlos. La complejidad tecnológica no puede ser una excusa para evitar la rendición de cuentas. Una autoridad no puede deslindarse de sus responsabilidades argumentando que una decisión fue tomada por un sistema automatizado.
La protección de los datos personales es otro aspecto indispensable. Muchas herramientas procesan grandes volúmenes de información que pueden incluir datos sensibles. Por ello, antes de incorporarlas debemos preguntar qué información se recopila, para qué se utiliza, quién puede acceder a ella y qué medidas existen para evitar su uso indebido. La innovación no justifica el tratamiento indiscriminado de datos ni la utilización de información para fines que las personas desconocen.
Pero hay un riesgo adicional: que las decisiones sobre el desarrollo y la aplicación de la inteligencia artificial queden exclusivamente en manos de especialistas, empresas proveedoras y autoridades, mientras la sociedad se limita a utilizar herramientas cuyas consecuencias no siempre comprende.
La ciudadanía no necesita convertirse en experta en programación para tener derecho a participar. Necesita información accesible, espacios de diálogo y mecanismos efectivos para intervenir en las decisiones que afectan su vida. ¿Qué sistemas deben utilizarse en los servicios públicos? ¿Qué información puede procesarse? ¿Qué decisiones requieren revisión humana? ¿Cómo puede una persona reclamar cuando un sistema produce un resultado incorrecto? Estas preguntas deben formar parte de una discusión abierta.
Participar tampoco significa organizar consultas para cumplir con un requisito. Implica escuchar las preocupaciones de la sociedad, explicar las decisiones adoptadas y establecer mecanismos para que sus aportaciones tengan consecuencias reales. De lo contrario, la participación se vuelve simbólica y la tecnología avanza sin suficiente deliberación pública.
Por eso, la alfabetización digital es fundamental. Comprender las capacidades y limitaciones de la inteligencia artificial permite utilizarla de manera crítica, identificar posibles riesgos y reconocer vulneraciones de derechos. Esta formación debe llegar a las escuelas, las comunidades y las instituciones, sin convertirse en un privilegio reservado para quienes tienen mayor acceso a la tecnología.
Al mismo tiempo, necesitamos reglas claras, instituciones responsables y mecanismos de supervisión que se actualicen conforme evolucionan estas herramientas. Ninguna regulación puede resolver de una vez y para siempre los desafíos de una tecnología que cambia constantemente. Las políticas públicas deben adaptarse, pero siempre con los derechos humanos como límite y referencia.
La pregunta no es si debemos aceptar o rechazar la inteligencia artificial, sino cómo aprovechar sus beneficios sin renunciar a los derechos que sostienen nuestra convivencia democrática. La innovación debe avanzar acompañada de transparencia, protección de datos personales, rendición de cuentas y participación ciudadana.
Esta es una de las reflexiones que desarrollo en mi próximo libro. El futuro de la inteligencia artificial no debe quedar exclusivamente en manos de quienes la diseñan o la incorporan a sus instituciones. También debe construirse con la participación de quienes vivirán sus consecuencias.
Porque la tecnología puede procesar información en segundos, pero no debe sustituir la responsabilidad colectiva de decidir qué es justo, qué derechos debemos proteger y qué límites no estamos dispuestos a cruzar. La inteligencia artificial puede ayudarnos a transformar el futuro, pero no debemos permitir que ese futuro se decida sin la sociedad.
Sobre la Firma
Escritora y defensora institucional de la transparencia y los datos
contacto@julietadelrio.org.mx
BIO completa