Pourquoi le « Human in the Loop » est essentiel lorsqu’on utilise l’AI pour développer des symboles pour les utilisateurs AAC

Introduction

L’artificial intelligence commence à changer la façon dont nous créons, adaptons et personnalisons les soutiens à la communication. Pour les personnes qui utilisent l’Augmentative and Alternative Communication, ou AAC, cela crée des possibilités passionnantes. L’AI peut aider à générer des symboles plus rapidement, soutenir des images culturellement pertinentes, répondre aux besoins de vocabulaire locaux, et réduire les longs délais qui existent souvent entre l’identification d’un besoin de communication et la disponibilité d’un symbole utilisable.

Mais lorsque nous parlons de symboles générés par AI pour l’AAC, un principe doit rester central : il doit toujours y avoir un human in the loop.

Ce n’est pas simplement une sauvegarde technique. C’est une exigence éthique, linguistique, culturelle et de communication. Les symboles AAC ne sont pas seulement des images. Ils font partie de la voix d’une personne. Ils aident les personnes à exprimer des besoins, des préférences, des sentiments, des questions, des opinions, de l’humour, une identité et des relations. Lorsque l’AI est utilisée pour créer ces symboles, le jugement humain est essentiel pour garantir que le résultat est significatif, respectueux, compréhensible et sûr pour la personne qui s’y appuiera.

Les symboles sont de la communication, pas de la décoration

À première vue, générer des symboles peut sembler une tâche de conception visuelle. Une personne saisit un mot ou une phrase, l’AI crée une image, et l’image est placée sur un tableau de communication ou un dispositif. Mais les symboles AAC ne sont pas des illustrations au sens ordinaire. Ce sont des outils de communication.

Un symbole doit faire plus que paraître attrayant. Il doit aider une personne à comprendre et à exprimer un concept. Il doit être assez clair pour soutenir la reconnaissance, assez cohérent pour s’inscrire dans un système de symboles plus large, et assez flexible pour fonctionner dans différents contextes de communication. Un symbole pour 'help', par exemple, n’est pas seulement l’image d’une personne en aidant une autre. Il peut devoir montrer l’urgence, le choix, la dépendance, l’indépendance, l’interaction sociale ou une demande générale de soutien. Le sens visé compte.

L’AI peut générer une image visuellement impressionnante mais qui échoue comme symbole de communication. Elle peut inclure trop de détail, montrer la mauvaise action, s’appuyer sur des hypothèses culturelles, ou introduire des distractions visuelles. Un examinateur humain, surtout quelqu’un ayant une connaissance de l’AAC et de l’utilisateur individuel, peut juger si le symbole soutient réellement la communication.

Les utilisateurs AAC ne forment pas un seul groupe

Les utilisateurs AAC comprennent des personnes d’un large éventail d’âges, de handicaps, de langues, de cultures, d’expériences de vie et de besoins de communication. Certaines personnes utilisent des symboles pour soutenir un langage émergent. D’autres les utilisent pour accéder à un vocabulaire académique, professionnel ou social complexe. Certaines ont besoin d’images très concrètes ; d’autres peuvent comprendre des représentations plus abstraites. Certaines communiquent par le toucher direct, tandis que d’autres utilisent le suivi du regard, des contacteurs, le balayage, l’accès assisté par un partenaire ou d’autres méthodes.

Les outils AI ne comprennent pas automatiquement ces différences. Sans guidage humain, ils peuvent produire des symboles trop enfantins pour un adulte, trop abstraits pour un jeune apprenant, trop complexes visuellement pour quelqu’un ayant une déficience visuelle corticale, ou trop spécifiques culturellement pour un utilisateur dans un autre pays.

Le 'human in the loop' aide à faire correspondre le symbole à l’utilisateur. Cela peut impliquer un orthophoniste, un enseignant, un membre de la famille, un accompagnant, un concepteur de symboles, un spécialiste AAC, ou surtout, l’utilisateur AAC lui-même. Leur rôle est de demander : ce symbole a-t-il du sens pour cette personne, dans ce cadre, pour cet usage ?

Le sens est façonné par la culture

Les symboles ne sont jamais culturellement neutres. La façon dont les personnes s’habillent, mangent, se saluent, montrent des émotions, utilisent des outils, voyagent, prient, apprennent, travaillent et socialisent varie selon les communautés. Un symbole évident dans une culture peut être confus ou inapproprié dans une autre.

Les systèmes AI sont souvent entraînés sur de grandes collections d’images d’Internet. Ces jeux de données peuvent surreprésenter certaines cultures, pays, langues, types de corps, environnements et modes de vie. En conséquence, l’AI peut par défaut recourir à des hypothèses occidentales sur les foyers, les écoles, les vêtements, les structures familiales, la technologie, la nourriture ou les services publics. Elle peut générer des images qui ne reflètent pas la réalité vécue de l’utilisateur AAC.

Cela compte parce que l’AAC devrait soutenir l’identité et l’appartenance. Un enfant au Kenya, en Inde, au Brésil ou en Jordanie ne devrait pas avoir à communiquer en utilisant des symboles qui ne représentent que des environnements nord-américains ou européens. Une personne devrait pouvoir voir des objets familiers, des aliments locaux, des vêtements appropriés, des pratiques religieuses ou culturelles pertinentes, et des personnes qui ressemblent à celles de leur communauté.

La revue humaine est donc essentielle. Les personnes ayant une connaissance locale peuvent identifier lorsqu’un symbole ne va pas, lorsqu’il renforce des stéréotypes, ou lorsqu’il a besoin d’être adapté. Elles peuvent aussi aider à orienter les prompts AI afin que les symboles soient générés de façons qui reflètent mieux les cultures et les langues locales.

L’AI peut reproduire le biais et les stéréotypes

Les systèmes AI peuvent produire des sorties biaisées parce qu’ils apprennent à partir de données biaisées. Dans la génération de symboles, cela peut apparaître de façons subtiles mais importantes. Un prompt pour 'doctor' peut générer un homme. Un prompt pour 'nurse' peut générer une femme. Un prompt pour 'teacher' peut produire un âge, une race ou un genre particulier. Un prompt pour 'disabled person' peut se concentrer sur un fauteuil roulant, même si le handicap est bien plus divers. Un prompt pour 'family' peut supposer une structure familiale étroite.

Pour les utilisateurs AAC, ces schémas peuvent façonner la façon dont le monde est représenté. Si un système de communication présente de façon répétée les hommes comme dirigeants, les femmes comme soignantes, les personnes handicapées comme passives, ou certaines cultures comme 'other', il envoie des messages puissants sur qui appartient et qui a de l’agency.

La supervision humaine aide à identifier et à remettre en question ces biais. Les examinateurs peuvent demander si les symboles montrent de la diversité d’âge, de genre, d’ethnicité, de handicap, de morphologie et de rôle social. Ils peuvent veiller à ce que les personnes handicapées soient représentées comme des participants actifs, non simplement comme des destinataires de soins. Ils peuvent aussi vérifier si des concepts sensibles sont présentés de façon respectueuse et exacte.

Certains concepts exigent un jugement soigneux

De nombreux symboles AAC concernent des activités quotidiennes : eat, drink, play, sleep, go, stop, more, finished. Mais les utilisateurs AAC ont aussi besoin d’accéder à un langage plus complexe et sensible. Ils peuvent avoir besoin de symboles pour la douleur, le consentement, le harcèlement, les abus, les médicaments, la vie privée, les relations, la santé mentale, la religion, l’identité, le deuil, la politique ou la sécurité personnelle.

Ces concepts ne peuvent pas être laissés à l’AI sans une revue humaine soigneuse. Un symbole mal généré pour un sujet sensible peut être trompeur, effrayant, infantilisant ou dangereux. Un symbole pour 'pain' doit aider la personne à communiquer où et comment elle a mal. Un symbole pour 'private' doit être clair sans être inapproprié. Un symbole pour 'no' ou 'stop' peut être vital pour la protection et l’autonomie personnelle.

Le human in the loop garantit que les symboles sensibles sont traités avec soin. Cela inclut de vérifier non seulement l’image elle-même, mais aussi le libellé, l’usage visé, l’adéquation à l’âge, et comment le symbole s’inscrit dans une stratégie de communication plus large.

La cohérence compte dans les systèmes de symboles

Les utilisateurs AAC apprennent souvent les symboles au fil du temps. Ils construisent une familiarité avec un langage visuel. La cohérence aide les utilisateurs à reconnaître des schémas, développer un vocabulaire, et passer de mots isolés à une communication plus complexe.

Les images générées par AI peuvent varier largement d’un prompt à l’autre. Le même personnage peut paraître différent d’un symbole à l’autre. Le style peut changer. Le niveau de détail peut se déplacer. Un symbole peut utiliser une image réaliste dans un cas et une image de type cartoon dans un autre. Pour certains utilisateurs, cette incohérence peut rendre l’apprentissage plus difficile.

La revue humaine aide à maintenir la cohérence. Une personne peut vérifier si le symbole correspond au style, à la structure et aux principes de conception du jeu de symboles plus large. Elle peut décider si un symbole devrait utiliser une personne, un objet, une scène d’action, une expression faciale, une flèche, ou une autre convention visuelle. Elle peut simplifier ou rejeter des images qui ne conviennent pas.

C’est particulièrement important lorsque l’AI est utilisée pour étendre des jeux de symboles ouverts existants ou créer des ressources bilingues et multilingues. Le symbole généré ne devrait pas sembler une image aléatoire déposée sur un tableau de communication. Il devrait appartenir au système de communication de l’utilisateur.

L’utilisateur AAC devrait faire partie de la boucle

Lorsque nous disons 'human in the loop', nous ne devrions pas seulement entendre les professionnels. L’utilisateur AAC devrait être impliqué partout où c’est possible. C’est la personne la plus affectée par le symbole. Son interprétation, sa préférence et son expérience vécue comptent.

Cette implication peut paraître différente selon les utilisateurs. Certains peuvent donner un retour direct :'J’aime celui-ci', 'cela ne veut pas dire école', 'faites-le ressembler à mon bus', ou 'cette personne devrait paraître plus âgée'. D’autres peuvent montrer par l’usage si un symbole est compris, sélectionné, évité ou confondu avec un autre symbole. L’observation, le retour du partenaire et des essais structurés peuvent tous aider.

Inclure les utilisateurs AAC dans le processus respecte leur agency. Cela améliore aussi la qualité. Un symbole qui a du sens pour un concepteur peut ne pas en avoir pour la personne qui l’utilise. Un symbole qui paraît techniquement correct peut ne pas sembler juste. La conception human-in-the-loop devrait donc être participative, non seulement de supervision.

L’AI est utile, mais elle ne devrait pas être l’autorité finale

L’AI peut être une assistante puissante dans le développement de symboles. Elle peut aider à générer des premières ébauches, explorer des options visuelles, localiser du contenu, créer des exemples culturellement spécifiques, et accélérer la production de vocabulaire qui manquait aux jeux de symboles traditionnels. C’est particulièrement précieux dans des langues ou communautés à faibles ressources où les matériaux AAC sont rares.

Cependant, l’AI ne devrait pas être traitée comme l’autorité finale sur le sens. Elle ne connaît pas l’utilisateur. Elle ne comprend pas l’intention de communication comme le font les personnes. Elle ne porte pas la responsabilité des conséquences d’un malentendu. Les humains, oui.

Un flux de travail solide pourrait impliquer d’utiliser l’AI pour générer des symboles candidats, suivi d’une revue selon des critères de conception AAC, de contrôles culturels et linguistiques, d’une évaluation d’accessibilité, de tests utilisateurs et d’une approbation finale. Ce processus n’enlève pas les bénéfices d’efficacité de l’AI. Il rend ces bénéfices plus sûrs et plus utiles.

La supervision humaine protège la confiance

La confiance est centrale pour l’AAC. Les utilisateurs, les familles, les éducateurs et les cliniciens ont besoin d’être confiants qu’un symbole signifie ce qu’il est censé signifier. Ils ont besoin de savoir que les symboles ont été vérifiés, que des images nuisibles ou confuses ont été retirées, et que le système est conçu autour des droits de communication de l’utilisateur.

Si des symboles générés par AI sont introduits sans revue, des erreurs peuvent rapidement miner la confiance. Un seul symbole inapproprié ou confus peut rendre les familles ou les professionnels réticents à utiliser des outils soutenus par l’AI. Pire, il peut limiter la capacité de l’utilisateur AAC à communiquer clairement.

La supervision humaine aide à construire la confiance. Elle montre que l’AI est utilisée de façon responsable, avec respect pour la langue, l’identité et l’autonomie de la personne.

L’avenir est collaboratif

L’avenir de l’AI dans l’AAC ne devrait pas être cadré comme les humains contre les machines. Le meilleur modèle est collaboratif. L’AI peut augmenter la vitesse, la variété et l’accès. Les humains apportent le sens, le contexte, l’éthique, l’expérience vécue et la responsabilité.

Pour les utilisateurs AAC, cet équilibre est essentiel. La communication est un droit humain. Les symboles sont une voie pour exercer ce droit. Lorsque l’AI aide à créer ces symboles, nous devons veiller à ce que la technologie serve le communicateur, plutôt que de forcer le communicateur à s’adapter à ce que la technologie produit.

Le human in the loop n’est pas une barrière à l’innovation. C’est ce qui rend l’innovation responsable. Il garantit que les symboles générés par AI ne sont pas seulement visuellement attrayants, mais utiles sur le plan communicatif, culturellement pertinents, accessibles, respectueux et ancrés dans les vies réelles des utilisateurs AAC.

En fin de compte, le développement de symboles AAC ne consiste pas à produire des images à grande échelle. Il s’agit de soutenir les personnes à dire ce qu’elles veulent dire, quand elles veulent le dire, de façons que d’autres peuvent comprendre. L’AI peut nous aider à le faire plus vite et plus créativement. Mais seul le jugement humain, et surtout l’implication des utilisateurs AAC eux-mêmes, peut garantir que nous le fassions bien.