Publicado el 29 de marzo de 2025
La Inteligencia Artificial (IA) se nos ha presentado en los últimos años como una tecnología autónoma y objetiva, pero esta idea parte de una concepción errónea sobre su funcionamiento. ¿Qué se está haciendo en la región para desarrollar estas tecnologías de forma situada y comunitaria?
Según el informe Latin America in a Glimpse 2024: Reflexiones para una IA Comunitaria y Feminista, de Derechos Digitales, la IA no es ni artificial ni inteligente: es un sistema diseñado por humanos para procesar datos y generar predicciones con base en patrones. Como se explica en el documento, “la IA es definida por la OCDE como un sistema basado en una máquina que puede, para un objetivo definido por el ser humano, hacer predicciones, recomendaciones o decisiones que influyen en entornos reales o virtuales”.
La narrativa dominante sobre la IA está construida por grandes empresas tecnológicas que suelen ocultar los sesgos incorporados, presentándola como “neutral”. Esta visión lleva a que las personas ignoren las estructuras de poder a su alrededor, lo que facilita la reproducción de desigualdades. Por otro lado, la mayor parte del conocimiento sobre IA proviene del norte global, donde también se desarrollan los modelos, los algoritmos y las infraestructuras tecnológicas que luego se implementan en contextos como América Latina sin adaptarse realmente a nuestras realidades.
El informe nos muestra que es necesario repensar la IA desde nuestras comunidades y territorios, vinculándola con educación crítica, justicia social y feminismo. ¡Conoce un poco sobre qué se está haciendo en la región con estos enfoques!
Uno de los principales desafíos en América Latina y el Caribe es la alfabetización crítica en IA. El informe de Derechos Digitales muestra que la enseñanza de estas tecnologías está mediada por materiales creados en el norte global, donde se priorizan modelos de aprendizaje automático sin considerar sus implicaciones sociales. Esto significa que los enfoques de educación sobre IA en la región no solo son escasos, sino que también tienden a reproducir una visión técnica y descontextualizada de estas tecnologías.
Frente a esta problemática, el informe destaca iniciativas como la de Fundación Vía Libre (Argentina), que desarrolla E.D.I.A (Estereotipos y Discriminación en Inteligencia Artificial), una herramienta diseñada para detectar sesgos en modelos de lenguaje y fomentar el pensamiento crítico en entornos educativos, así como el trabajo de Datos Protegidos (Chile) con Sof-IA, un chatbot creado para asistir a víctimas de violencia digital y visibilizar los patrones de agresión en línea.
Estas herramientas no solo buscan democratizar el acceso al conocimiento sobre IA, sino también cuestionar su impacto en la vida cotidiana, promoviendo enfoques feministas y decoloniales en la educación digital, añade el informe.
Otro de los puntos clave que se desarrolla es la relación entre IA, territorio y extractivismo. El desarrollo de modelos de IA requiere una infraestructura computacional intensiva, lo que implica el uso de recursos naturales como agua y minerales raros. La mayor parte de estos recursos se extrae del sur global, mientras que los beneficios económicos y tecnológicos quedan concentrados en el norte global.
Casos como el de Técnicas Rudas (México) y Diversa Studio (Ecuador) se destacan en el documento. Estas organizaciones están desarrollando una propuesta de IA para la gobernanza del agua en comunidades Yaqui. Su iniciativa busca integrar conocimientos tradicionales con tecnología digital, permitiendo que las propias comunidades gestionen sus recursos hídricos con herramientas adaptadas a sus realidades.
Iniciativas como esta nos demuestran que es posible desarrollar una IA situada que respete y valore los saberes locales, evitando la reproducción de lógicas extractivistas.
Derechos Digitales también aborda la relación entre IA y violencia de género. Modelos de IA sesgados han sido utilizados para justificar discriminaciones en contrataciones laborales, negar créditos a mujeres y reproducir estereotipos en plataformas digitales.
Desde el feminismo, diversas organizaciones han desarrollado estrategias para enfrentar estos problemas. Datos Contra Feminicidio (Uruguay), por ejemplo, ha creado herramientas para mejorar la cobertura mediática de los feminicidios y generar datos más precisos sobre la violencia de género en la región. En Brasil, Coding Rights impulsa Compost Engineers, un proyecto que explora, desde la ciencia ficción feminista, formas alternativas de imaginar y diseñar tecnologías digitales.
Se destaca que a través de estas tecnologías no solo se denuncian los problemas de la IA hegemónica, sino que también se proponen metodologías alternativas para desarrollar herramientas más justas e inclusivas.
La Inteligencia Artificial no puede desarrollarse de manera aislada de los contextos en los que se aplica. Es fundamental construir modelos que respondan a las necesidades de las comunidades y que no reproduzcan relaciones de dominación, enfatiza el informe Latin America in a Glimpse 2024.
Para ello, Derechos Digitales propone una serie de estrategias clave como promover la educación crítica sobre IA, fortalecer la gobernanza de datos, impulsar el software libre y reconocer los saberes comunitarios como parte del desarrollo tecnológico.
El crecimiento de estas tecnologías es exponencial, por lo que conversaciones como esta resultan cruciales para nuestra región. Desde la educación hasta la defensa del territorio, la IA puede ser una herramienta de transformación si se desarrolla desde y para las comunidades.
Lee el informe completo aquí