No hay duda de que la inteligencia artificial (IA) está reconfigurando el panorama en varios escenarios, desde la política hasta el periodismo y la democracia. Sin embargo, su rápida evolución plantea preguntas esenciales sobre cómo equilibrar sus beneficios con la mitigación de riesgos, algo que según expertos en la materia admiten que será necesario de forma urgente a lo largo del próximo año.
Tamara Taraciuk Broner, directora del Programa sobre Estado de Derecho del Diálogo Interamericano, un centro de estudios en Washington DC, subraya «el papel crucial» que está teniendo la tecnología en el debate público.
«La inteligencia artificial nos obliga a repensar nuestras instituciones democráticas para garantizar que se adapten a los cambios, pero también que los regulen de manera equitativa», apunta al respecto.
La IA y la democracia
El año 2024 marcó un punto de inflexión en la relación entre las sociedades y la IA, pero también se evidenció la brecha entre el desarrollo tecnológico y la preparación institucional para gestionarlo.
Cristóbal Fernández, jefe de la Sección de Cooperación Técnica Electoral en la Organización de Estados Americanos (OEA), ha abordado los efectos de la IA en los procesos democráticos.
Si bien reconoce que el impacto es aún «incipiente», destaca riesgos preocupantes. «Hemos visto audios falsos atribuidos a candidatos y la difusión masiva de información falsa que podría influir en la confianza pública», remarca Fernández.
No obstante, advierte que los riesgos de desinformación siguen siendo significativos y están directamente vinculados a la falta de preparación institucional. «El acceso a herramientas que permiten generar contenido falso de manera rápida y barata sigue en aumento, y necesitamos medidas urgentes para enfrentarlo», afirma.
¿Qué se puede hacer al respecto?
De cara al 2025, el reto principal será convertir las reflexiones y aprendizajes del 2024 en acciones concretas que guíen el desarrollo y la implementación de la IA hacia un modelo más ético e inclusivo.
Implementación de Marcos Regulatorios: Los expertos señalan la necesidad de avanzar en la creación de leyes y normativas específicas para la IA que incluyan perspectivas de derechos humanos, igualdad y sostenibilidad. Esto debe ir acompañado de acuerdos internacionales que distribuyan el poder y aseguren la transparencia en el uso de tecnologías avanzadas.
Educación: Es crucial equipar a las instituciones, la sociedad civil y los gobiernos con las herramientas necesarias para comprender y gestionar la IA. Esto incluye fortalecer las capacidades técnicas de las comunidades más afectadas por la desigualdad tecnológica.
Reducción de la desigualdad digital: Combatir la concentración de poder tecnológico implica invertir en el desarrollo de tecnologías locales y fomentar la inclusión de idiomas y culturas diversas en los sistemas de IA.
Protección contra la desinformación: Los procesos electorales en 2025 estarán bajo la lupa. Es imperativo establecer sistemas de detección y prevención de desinformación generada con IA, así como fortalecer la confianza en las instituciones democráticas.
Fomentar el debate público: La sociedad necesita participar activamente en definir cómo la IA debe moldear las poblaciones.
El poder del sector privado y América Latina
Vanina Martínez, investigadora en el Instituto de Investigación en Inteligencia Artificial, sostiene el poder que algunas empresas tecnológicas privadas están teniendo en esta industria al alza.
«La IA está modelando nuestra realidad según las reglas establecidas por un puñado de grandes corporaciones», comentó Martínez, que señaló que esta dinámica genera dependencia económica y cultural en regiones como América Latina.
«Cada línea generada por sistemas como ChatGPT contiene una tesis sobre el mundo. El problema es que estas tesis no reflejan necesariamente la diversidad ni las realidades locales», lo que, en su opinión, puede generar impactos «contraproducentes» y se requiere que haya acuerdos internacionales y marcos regulatorios sólidos para «garantizar que los intereses de la sociedad prevalezcan».
Precisamente, Paola Ricaurte, profesora en el Tecnológico de Monterrey, añadió que los gobiernos en América Latina a menudo adoptan tecnologías como la IA para abordar problemas sociales sin considerar sus implicaciones.
«La tendencia al solucionismo tecnológico lleva a criminalizar aún más a las poblaciones ya marginalizadas, incrementando el control social en lugar de resolver las desigualdades de raíz », afirmó la experta proponiendo un enfoque que incluya también políticas educativas, culturales y regulatorias para mitigar estos riesgos.
Plan a futuro
El vicepresidente de programas de Luminate, Felipe Estefan, cerró el evento destacando la necesidad de actuar con urgencia: «La IA ya está transformando nuestras sociedades. Es nuestra responsabilidad garantizar que lo haga para bien, asegurándonos de que no exacerbe las desigualdades existentes ».
Según Estefan, lograr este equilibrio requiere colaboración entre gobiernos, sociedad civil y la comunidad internacional.
