L’intelligence artificielle est de plus en plus intégrée à la trame de notre existence, accomplissant des tâches qui étaient autrefois du seul ressort de l’intellect humain. Du diagnostic subtil des maladies à la prévision des tendances du marché, les systèmes d’IA sont de plus en plus utilisés comme de formidables instruments pour décoder et naviguer dans les complexités de notre monde. Pourtant, à mesure que l’influence de l’IA grandit, l’inquiétude face à la propagation de préjugés grandit également. L’axiome souvent cité « garbage in, garbage out » implique que l’IA ne fait que refléter les préjugés sociétaux intégrés dans ses données d’apprentissage. Bien que cette observation contienne un minimum de vérité, elle ne fait qu’effleurer la surface d’un récit bien plus profond – et sans doute plus inquiétant.

L’enjeu principal va au-delà de la réflexion sur les biais de l’IA. Il s’agit du rôle transformateur de l’IA en tant qu’architecte de nos systèmes collectifs de connaissances et de croyances. Dans sa capacité émergente à la fois de créatrice de connaissances et d’arbitre de l’information, l’IA nous oblige à transcender le paradigme simpliste « données entrantes, biais sortant ». Au lieu de cela, nous devons nous attaquer à l’épistémologie des biais de l’IA – la manière dont ces biais déforment fondamentalement notre accès à la connaissance, faussent la recherche scientifique et perpétuent une profonde injustice épistémique.

Prenons l’exemple des systèmes d’intelligence artificielle qui sont devenus le pivot de notre écosystème informationnel du XXIe siècle. Les moteurs de recherche, les algorithmes de recommandation sur les réseaux sociaux et les plateformes de streaming, ainsi que les outils de recherche sophistiqués conçus pour passer au crible des ensembles de données volumineux sont tous emblématiques de cette révolution technologique. Ces systèmes ne sont plus de simples vecteurs passifs de connaissances préexistantes, mais des conservateurs et des interprètes actifs. Par conséquent, lorsque des préjugés s’infiltrent dans ces systèmes, les répercussions vont bien au-delà du mauvais placement de quelques publicités : ils ont le pouvoir de déformer subtilement – ou ouvertement – notre compréhension du monde.

Imaginez un moteur de recherche dont les algorithmes sont conditionnés pour mettre en avant les résultats qui font écho aux récits culturels dominants. Pour les communautés marginalisées, cela pourrait se manifester par une présentation incessante d’informations filtrées à travers un prisme étranger, ou pire, par une représentation systématiquement erronée de leur histoire et de leurs expériences vécues. De même, les systèmes de recommandation biaisés sur les réseaux sociaux peuvent engendrer des chambres d’écho numériques qui renforcent les stéréotypes préexistants et limitent l’exposition à des perspectives diverses. Si les algorithmes associent systématiquement certains groupes démographiques à des clichés négatifs, les individus de ces groupes pourraient être bombardés de manière disproportionnée de contenus qui renforcent les récits néfastes, aggravant ainsi les inégalités sociales.

De tels résultats transcendent le domaine de la simple réflexion. Lorsque l’IA sculpte activement le paysage informationnel, elle devient un puissant agent d’injustice épistémique. La notion d’injustice épistémique de la philosophe Miranda Fricker résume les préjudices infligés aux individus lorsqu’ils sont injustement entravés dans leur capacité à connaître, à comprendre et à contribuer à notre référentiel collectif de connaissances. Les systèmes d’IA biaisés peuvent exacerber l’injustice épistémique de plusieurs manières critiques :

• Faire taire les voix marginalisées : les plateformes d’IA qui privilégient les points de vue dominants dévalorisent et occultent systématiquement les idées issues des communautés marginalisées. Il ne s’agit pas seulement d’une question de représentation ; cela entrave activement la culture et la diffusion de connaissances enrichies par des expériences diverses.
• Déformation de la recherche scientifique : l’IA étant de plus en plus présente dans les méthodologies de recherche (en analysant les données, en identifiant des modèles et même en formulant des hypothèses), les biais intégrés dans ces outils risquent de produire des conclusions erronées. Cela perpétue à son tour des paradigmes biaisés au sein des communautés scientifiques et oriente mal les recherches futures, en particulier dans des domaines tels que la médecine et les sciences sociales.
• L’érosion de la confiance dans les systèmes de connaissances : l’exposition persistante des groupes marginalisés à des informations biaisées peut éroder la confiance dans ces systèmes véhiculés par l’IA en tant qu’arbitres fiables de la vérité. Cette érosion de la crédibilité peut conduire à un désengagement vis-à-vis de sources vitales de connaissances, accentuant encore davantage les disparités sociales.

Si le discours éthique contemporain sur les biais de l’IA se concentre souvent sur la détection et l’atténuation, ces efforts, bien qu’indispensables, sont insuffisants à eux seuls. Nous devons élargir le débat pour interroger les profondes ramifications épistémiques des biais de l’IA. La lutte contre les biais ne peut pas être reléguée à un exercice technique de « dé-biaising » des ensembles de données ou des algorithmes. Elle nécessite plutôt un examen critique de la manière dont les systèmes d’IA perpétuent et amplifient les structures de pouvoir bien ancrées dans le domaine de la production et de la diffusion des connaissances.

Historiquement, la création et la diffusion des connaissances ont été régies par des dynamiques de pouvoir qui privilégient certaines institutions, voix et perspectives tout en en marginalisant d’autres. Si les systèmes d’IA sont développés et déployés sans une prise en compte précise de ces dynamiques, ils risquent d’automatiser et d’exacerber ces inégalités. Par exemple, si les ensembles de données utilisés dans la formation proviennent principalement de sources occidentales centrées sur les hommes, les systèmes d’IA qui en résulteront refléteront et amplifieront probablement ces préjugés, marginalisant encore davantage les perspectives non occidentales et féminines.

Comment pouvons-nous alors garantir que l’IA émerge comme un instrument de justice épistémique plutôt que comme un vecteur de préjudice épistémique ? La réponse consiste à transcender les solutions strictement techniques et à adopter un paradigme holistique et socialement conscient qui inclut :

• Audits épistémiques : Au-delà des audits algorithmiques conventionnels centrés sur les mesures d’équité, nous devons entreprendre des « audits épistémiques » qui évaluent de manière critique la manière dont les systèmes d’IA influencent la production et la diffusion des connaissances, avec une attention particulière aux voix marginalisées.
• Conception et développement participatifs : il est impératif d’impliquer activement diverses communautés dans la conception et le développement des systèmes d’IA, en particulier celles qui font partie intégrante de la conservation de l’information. Cette inclusion garantit que de multiples perspectives sont entrelacées dès le départ, atténuant ainsi le risque de renforcement des préjugés existants.
• Transparence et explicabilité dans une optique épistémique : Les initiatives de transparence doivent aller au-delà de la simple élucidation des mécanismes algorithmiques pour révéler explicitement les hypothèses épistémiques et les biais potentiels intégrés aux systèmes d’IA. L’explicabilité doit viser à déchiffrer la manière dont ces systèmes façonnent les connaissances et les points de vue qu’ils élèvent ou suppriment.
• Promouvoir le pluralisme épistémique : Il est essentiel de cultiver des systèmes d’IA qui valorisent et promeuvent une multiplicité de paradigmes de la connaissance. Adopter le pluralisme épistémique implique de reconnaître et de valider diverses manières de connaître, plutôt que de succomber à un cadre épistémologique monolithique et dominant.

En résumé, aborder l’épistémologie des biais de l’IA nécessite un changement de paradigme dans notre conceptualisation de ces technologies. L’IA n’est pas un outil neutre mais une force puissante qui peut profondément façonner notre compréhension du monde et notre accès à la connaissance. En mettant en avant la justice épistémique et en démantelant avec diligence les mécanismes par lesquels l’IA biaisée perpétue le préjudice épistémique, nous pouvons nous efforcer de construire des systèmes qui servent de véritables vecteurs de connaissance, d’autonomisation et de progrès vers une société plus équitable.