GenAI pour le développement de symboles AAC : reconnaître les biais
EA Draffan
L’AI générative, comme les outils fondés sur des modèles tels que DALL-E, Stable Diffusion et Flux, peut créer des images à partir de descriptions textuelles. Pour l’AAC, cela signifie saisir une invite telle que "un enfant heureux qui joue au football dans un parc" et espérer que le résultat corresponde à vos attentes et s’adapte au cadre ou à la situation qu’un utilisateur potentiel reconnaîtra. Mais ce qui peut rendre cela plus difficile que prévu est un problème appelé 'biais'
GenAI n’est pas parfaite ; elle est entraînée sur d’énormes jeux de données issus d’internet, remplis de biais humains. Lors de la création de symboles AAC, ces biais peuvent s’introduire, aboutissant à des symboles qui ne représentent pas tout le monde de façon équitable. Le biais en AI signifie que le système favorise certains groupes par rapport à d’autres — souvent selon la race, le genre, la culture ou les capacités. En AAC, cela peut signifier des symboles qui considèrent qu’une personne "par défaut" est blanche, masculine ou non handicapée, en laissant les autres de côté. Par exemple
Source | Exemple concret dans les symboles AAC | |
|---|---|---|
1. | Biais des données d’entraînement | "Médecin" → presque toujours un homme blanc en blouse de laboratoire |
2. | Biais de conception du modèle | Une entreprise retire de nombreuses images de personnes handicapées "pour éviter d’offenser" → très peu de symboles de fauteuil roulant générés |
3. | Invite & interface | L’application ne propose que "mère + père+ enfants" lorsque vous tapez "famille" |
4. | Filtres de sécurité | Les tons de peau plus foncés sont parfois éclaircis ou bloqués par des filtres |
Il est donc important de surveiller...
Stéréotypes de genre et raciaux : Les outils peuvent amplifier les biais. Par exemple, générer des images pour "CEO" peut surtout montrer des hommes blancs, ou "infirmière" comme des femmes — ce qui se prolonge dans les symboles AAC où les professions ou les actions sont représentées de façon inéquitable.
Oublis culturels : L’AI peut avoir du mal avec des langues ou des dialectes divers, rendant les symboles moins pertinents pour les cultures non occidentales. En AAC, un symbole pour "famille" pourrait par défaut montrer une famille nucléaire, en ignorant les familles élargies courantes dans de nombreuses sociétés.
Erreurs dans les outils spécifiques à l’AAC : Dans les générateurs de vocabulaire AAC fondés sur la photo, les algorithmes ont montré des biais pour reconnaître des objets ou des personnes issus de milieux divers, ce qui conduit à des symboles incomplets ou stéréotypés.
Humour et préjugés : Même dans des éléments ludiques comme l’humour généré par AI pour l’AAC, les modèles peuvent renforcer des stéréotypes, comme le montrent des études sur les sorties d’AI générative.
L’équipe de Symbol Creator AI vise à mettre en place un entraînement supplémentaire après la période de tests bêta afin d’assurer :
Des données d’entraînement diverses : l’utilisation de jeux de données équilibrés qui incluent des perspectives mondiales.
Une supervision humaine : toujours impliquer des utilisateurs AAC, des thérapeutes et des experts dans l’examen des sorties de l’AI.
Des lignes directrices éthiques : une AI qui autonomise, sans outrepasser l’intention de l’utilisateur.
En reconnaissant et en traitant les biais, GenAI a le potentiel de démocratiser la création de symboles AAC. Mais comme tout outil, elle n’est aussi bonne que la façon dont nous l’utilisons. En restant vigilants face aux biais, nous pouvons faire en sorte que ces innovations offrent une autre voie vers des préférences personnelles dans le choix du style de symbole