Et si l’IA devenait vraiment inclusive ?

Pour comprendre ce que devrait être une IA inclusive, analysons d’abord pourquoi elle ne l’est pas aujourd’hui. « L’IA générative fonctionne de manière probabiliste et statistique en s’appuyant sur des bases de données massives, pose le sociologue Yann Ferguson, directeur scientifique du LaborIA à INRIA. Sans cible particulière, un modèle cherche naturellement le plus petit dénominateur commun ». Elle exclut mécaniquement les minorités, automatisant ainsi l’indifférence à la différence. 

Un constat partagé par la développeuse Emmanuelle Aboaf qui raconte sa première expérience avec l’assistant vocal Siri. « Sur les conseils d’un ami particulièrement dithyrambique, j’ai voulu tester ». En vain. L’outil ne la comprend pas parce-qu’elle a un accent lié à la surdité. « C’était extrêmement frustrant. J’ai réalisé alors que Siri – et plus largement les outils d’IA grand public ne sont pas programmés pour comprendre les voix atypiques ». 

Pour Yann Ferguson, cette exclusion technologique pose un risque majeur dans le monde du travail : l’industrialisation des discriminations. « Les biais des machines reflètent les nôtres mais l’automatisation les industrialise, les met à l’échelle et les invisibilise car nous relâchons notre vigilance ». À quoi ressemblerait un modèle d’IA véritablement inclusif, capable de gommer ces préjugés plutôt que de les automatiser ? La réponse en plusieurs étapes-clés.

#1 – Une conception fondée sur le « rien sur nous sans nous »

Concevoir accessible, c’est inclure dès le départ. Pour déprogrammer le validisme, l’IA de demain devra intégrer systématiquement des personnes en situation de handicap. C’est là toute l’idée défendue par Emmanuelle Aboaf du Nihil de nobis, sine nobis (Rien sur nous sans nous). Ce principe souverain trouve ses origines dans la Pologne du XVIIe siècle dont la législation constitutionnelle passe alors des mains du monarque au Parlement. Cette idée d’une représentation politique la plus inclusive possible est reprise par le milieu activiste du handicap aux États-Unis dans les années 90.

« A minima, il faudrait que les concepteurs travaillent avec les personnes concernées. Mais ce n’est pas évident. Le handicap est un spectre, personne n’est pareil  », commente-t-elle. Les problèmes d’élocution et la diversité de voix concernent par exemple les personnes sourdes et malentendantes, mais aussi touchées par l’aphasie ou le bégaiement. « Effectivement, les équipes de conception souffrent d’une très forte homogénéité sociale, constate Yann Ferguson. J’en suis un digne représentant. À savoir des hommes blancs, diplômés et privilégiés. Il est important d’inviter dans la discussion une diversité de personnes en situation de handicap  ».

#2 – Le redressement artificiel des données

La deuxième condition de notre IA inclusive concerne son « carburant », les données d’entraînement. Le handicap étant un « spectre », pour reprendre l’expression d’Emmanuelle Aboaf, la data standardisée ne suffit pas. « Les données d’entraînement doivent être « redressées », confirme Yann Ferguson. Autrement dit, il faut intégrer volontairement des situations qui sortent de la norme afin que la machine apprenne à reconnaître une plus grande diversité de profils et de modes d’expression. « Sur le papier, une technologie peut posséder les plus belles propriétés du monde. Mais si elle n’est pas adaptée à tous, elle perdra de son intérêt », reprend-il. 

Dans cette bataille des données, les concepteurs peuvent recourir à des données réelles, mais aussi à des données synthétiques. L’enjeu est de « documenter par la donnée les situations qui sortent de la norme » afin de leur « donner du volume », explique le sociologue. Quitte à accorder à certains profils un poids statistique supérieur à leur représentativité réelle, de sorte que l’IA « traite plus équitablement tout le monde ». 

#3 – Au bureau, supprimer la fatigue invisible

Pour Emmanuelle Aboaf, la question n’est pas tant de disposer d’une IA efficace que de réduire la charge invisible qu’impose son utilisation. Aujourd’hui, les logiciels de sous-titrage automatique lui permettent de suivre les réunions, mais de manière imparfaite. « A chaque erreur ou manquement de l’outil, je dois combler les trous, croiser ou confirmer les informations en lisant sur les lèvres, reconstituer le sens à partir du contexte, rappelle-t-elle. « Cette suppléance mentale, c’est épuisant. » 

En effet, abonde Yann Ferguson, les outils de compensation peuvent aussi créer de nouvelles vulnérabilités. « Une IA générative peut se tromper avec aplomb. » Et comment vérifier si l’utilisateur concerné n’a pas les moyens de vérifier, à l’instar des personnes aveugles ? Pour l’heure, la réponse : un autre humain prêt à aider. « L’application Be my Eyes, qui possède son copilote IA, a aussi la possibilité de mettre en relation les personnes aveugles ou malvoyantes avec un bénévole pour confirmer ce qu’il voit, ajoute Emmanuelle Aboaf. On a le même problème avec les sites qui comprennent des modules d’explication avec des avatars 3D créés par l’IA pour traduire la langue des signes. C’est souvent incorrect et là encore, comment vérifier ?  »

#4 – Favoriser l’empowerment (l’émancipation) plutôt que l’enhancement (l’augmentation)

Enfin, le but ultime de cette IA n’est pas de créer une dépendance technologique, mais bien de renforcer durablement les capacités des travailleurs. Gare au dopage technologique. L’IA tend à « enhance », à augmenter les capacités. « L’enhancement, c’est un peu comme si on marchait constamment avec un exosquelette (d’IA, ndlr) », explique Yann Ferguson. Le risque ? « Que si on enlève cette béquille, vous perdiez la compétence  ». L’IA inclusive idéale doit viser l’« empowerment », c’est-à-dire l’autonomisation. Plutôt que de faire à la place du travailleur, elle agirait comme un partenaire d’apprentissage qui accompagne la montée en compétences. « L’objectif, c’est d’être renforcé par l’IA, et non pas dopé à elle ». Être libre, plutôt qu’augmenté.

L’Agefiph encourage, dans le cadre de sa stratégie Innovation-Recherche 2024-2027, l’expérimentation d’usages éthiques, inclusifs et co-construits de l’intelligence artificielle afin de favoriser l’emploi des personnes en situation de handicap. Pour en savoir plus, retrouvez ci-dessous la note méthodologique Innovation et intelligence artificielle au service de l’emploi des personnes en situation de handicap.