La inteligencia artificial se está convirtiendo en un elemento indisoluble de nuestra existencia y se encarga de tareas que antes eran competencia exclusiva del intelecto humano. Desde el diagnóstico matizado de enfermedades hasta la previsión de tendencias del mercado, los sistemas de IA se utilizan cada vez más como instrumentos formidables para descifrar y navegar por las complejidades de nuestro mundo. Sin embargo, a medida que crece la influencia de la IA, también crece la ansiedad por la propagación de prejuicios. El axioma tan citado de “basura que entra, basura que sale” implica que la IA simplemente refleja los prejuicios sociales incorporados en sus datos de entrenamiento. Si bien esta observación tiene un mínimo de verdad, apenas araña la superficie de una narrativa mucho más profunda (y posiblemente más inquietante).

La cuestión primordial va más allá de la reflexión de la IA sobre los sesgos: se trata de su papel transformador como arquitecta de nuestros conocimientos colectivos y sistemas de creencias. En su capacidad emergente de creadora de conocimientos y árbitro de la información, la IA nos obliga a trascender el paradigma simplista de “datos entrantes, sesgo saliente”. En cambio, debemos enfrentar la epistemología de los sesgos de la IA: las formas en que esos sesgos distorsionan fundamentalmente nuestro acceso al conocimiento, sesgan la investigación científica y perpetúan una profunda injusticia epistémica.

Pensemos en los sistemas de inteligencia artificial que se han convertido en el eje de nuestro ecosistema de información del siglo XXI. Los motores de búsqueda, los algoritmos de recomendación en las redes sociales y las plataformas de streaming y las sofisticadas herramientas de investigación diseñadas para examinar voluminosos conjuntos de datos son todos ellos emblemáticos de esta revolución tecnológica. Estos sistemas ya no son meros conductos pasivos de conocimiento preexistente, sino que han evolucionado hasta convertirse en curadores e intérpretes activos. En consecuencia, cuando el sesgo se infiltra en estos sistemas, las repercusiones se extienden mucho más allá de la ubicación incorrecta de unos pocos anuncios: tienen el poder de distorsionar sutil o abiertamente nuestra comprensión del mundo.

Imaginemos un motor de búsqueda condicionado algorítmicamente para mostrar resultados que reflejan las narrativas culturales dominantes. Para las comunidades marginadas, esto podría manifestarse como una presentación incesante de información filtrada a través de una lente ajena, o peor aún, como tergiversaciones sistemáticas de su historia y experiencias vividas. Del mismo modo, los sistemas de recomendación sesgados en las redes sociales pueden generar cámaras de eco digitales que refuercen estereotipos preexistentes y limiten la exposición a perspectivas diversas. Si los algoritmos asocian de manera persistente ciertos grupos demográficos con tropos negativos, los individuos de estos grupos pueden ser bombardeados desproporcionadamente con contenido que fortalezca las narrativas dañinas, profundizando así las desigualdades sociales.

Estos resultados trascienden el ámbito de la mera reflexión. Cuando la IA esculpe activamente el paisaje informativo, se convierte en un potente agente de injusticia epistémica. La noción de injusticia epistémica de la filósofa Miranda Fricker encapsula los daños que se infligen a los individuos cuando se les impide injustamente su capacidad de conocer, comprender y contribuir a nuestro repositorio colectivo de conocimiento. Los sistemas de IA sesgados pueden exacerbar la injusticia epistémica de varias maneras críticas:

• Silenciar las voces marginadas: las plataformas impulsadas por inteligencia artificial que privilegian las perspectivas dominantes devaluan y oscurecen sistemáticamente los conocimientos que surgen de las comunidades marginadas. No se trata simplemente de una cuestión de representación; impide activamente el cultivo y la difusión de conocimientos enriquecidos por experiencias diversas.
• Distorsión de la investigación científica: a medida que la IA aporta cada vez más información a las metodologías de investigación (mediante el análisis de datos, la identificación de patrones e incluso la formulación de hipótesis), los sesgos incorporados en estas herramientas corren el riesgo de producir conclusiones erróneas. Esto, a su vez, perpetúa paradigmas sesgados dentro de las comunidades científicas y desvía la atención de las investigaciones futuras, en particular en campos como la medicina y las ciencias sociales.
• Erosión de la confianza en los sistemas de conocimiento: la exposición persistente de los grupos marginados a información sesgada puede corroer la confianza en estos sistemas mediados por IA como árbitros fiables de la verdad. Esta erosión de la credibilidad puede conducir a la desconexión de fuentes vitales de conocimiento, lo que afianza aún más las disparidades sociales.

Si bien el discurso ético contemporáneo sobre el sesgo en la IA suele centrarse en la detección y la mitigación, estos esfuerzos, aunque indispensables, son insuficientes por sí solos. Debemos ampliar la conversación para interrogar las profundas ramificaciones epistémicas de la IA sesgada. Abordar el sesgo no puede relegarse a un ejercicio técnico de “dessesgar” conjuntos de datos o algoritmos. Más bien, requiere un examen crítico de cómo los sistemas de IA perpetúan y amplifican las estructuras de poder arraigadas en el ámbito de la producción y difusión del conocimiento.

Históricamente, la creación y difusión de conocimientos se ha regido por dinámicas de poder que privilegian ciertas instituciones, voces y perspectivas, mientras que marginan a otras. Si los sistemas de IA se desarrollan e implementan sin tener una clara conciencia de estas dinámicas, corren el riesgo de automatizar y exacerbar estas desigualdades. Por ejemplo, si los conjuntos de datos empleados en la capacitación se derivan predominantemente de fuentes occidentales centradas en los hombres, los sistemas de IA resultantes probablemente reflejarán y magnificarán estos sesgos, marginando aún más las perspectivas no occidentales y femeninas.

¿Cómo podemos, entonces, garantizar que la IA surja como un instrumento de justicia epistémica en lugar de un vector de daño epistémico? La respuesta está en trascender las soluciones estrictamente técnicas y adoptar un paradigma holístico y socialmente consciente que incluya:

• Auditorías epistémicas: más allá de las auditorías algorítmicas convencionales centradas en métricas de equidad, debemos emprender “auditorías epistémicas” que evalúen críticamente cómo los sistemas de IA influyen en la producción y difusión del conocimiento, con especial atención a las voces marginadas.
• Diseño y desarrollo participativos: es fundamental involucrar activamente a diversas comunidades en el diseño y desarrollo de sistemas de IA, especialmente aquellos que son esenciales para la conservación de la información. Esta inclusión garantiza que se entrelacen múltiples perspectivas desde el principio, mitigando el riesgo de reforzar los sesgos existentes.
• Transparencia y explicabilidad desde una perspectiva epistémica: las iniciativas de transparencia deben ir más allá de la mera elucidación de la mecánica algorítmica y revelar explícitamente los supuestos epistémicos y los posibles sesgos que se encuentran en los sistemas de IA. La explicabilidad debe estar orientada a descifrar cómo estos sistemas moldean el conocimiento y qué perspectivas elevan o suprimen.
• Fomentar el pluralismo epistémico: es fundamental cultivar sistemas de IA que valoren y promuevan una multiplicidad de paradigmas de conocimiento. Adoptar el pluralismo epistémico implica reconocer y validar diversas formas de conocimiento, en lugar de sucumbir a un marco epistemológico monolítico y dominante.

En resumen, abordar la epistemología del sesgo de la IA requiere un cambio de paradigma en nuestra conceptualización de estas tecnologías. La IA no es una herramienta neutral, sino una fuerza potente que puede moldear profundamente nuestra comprensión del mundo y nuestro acceso al conocimiento. Al poner en primer plano la justicia epistémica y desmantelar diligentemente los mecanismos por los cuales la IA sesgada perpetúa el daño epistémico, podemos esforzarnos por construir sistemas que sirvan como verdaderos conductos para el conocimiento, el empoderamiento y el avance de una sociedad más equitativa.