GenAI za razvoj AAC simbola: prepoznavanje pristranosti
EA Draffan
Generativni AI, poput alata temeljenih na modelima kao što su DALL-E, Stable Diffusion i Flux, može stvarati slike iz tekstualnih opisa. Za AAC to znači upisati prompt poput „sretno dijete igra nogomet u parku“ i nadati se da će rezultat odgovarati vašim očekivanjima i uklopiti se u okruženje ili situaciju za koju smatrate da će je potencijalni korisnik prepoznati. No ono što to može učiniti težim nego što očekujemo jest problem poznat kao „pristranost“
GenAI nije savršen; trenira se na ogromnim skupovima podataka s interneta, koji su puni ljudskih pristranosti. Pri stvaranju AAC simbola te se pristranosti mogu uvući, što vodi do simbola koji ne predstavljaju sve pravedno. Pristranost u AI-ju znači da sustav favorizira određene skupine nad drugima—često na temelju rase, spola, kulture ili sposobnosti. U AAC-u to može značiti simbole koji pretpostavljaju da je „zadana“ osoba bijela, muška ili bez invaliditeta, ostavljajući druge po strani. Na primjer
Izvor | Primjer iz stvarnog života u AAC simbolima | |
|---|---|---|
1. | Pristranost podataka za treniranje | „Liječnik“ → gotovo uvijek bijeli muškarac u laboratorijskoj kuti |
2. | Pristranost dizajna modela | Tvrtka uklanja mnoge slike osoba s invaliditetom „kako bi izbjegla uvredu“ → generira se vrlo malo simbola s invalidskim kolicima |
3. | Prompt i sučelje | Aplikacija predlaže samo „majka + otac + djeca“ kada upišete „obitelj“ |
4. | Sigurnosni filtri | Tamniji tonovi kože ponekad se posvjetljuju ili blokiraju filtrima |
Stoga je važno paziti na...
Rodne i rasne stereotipe: Alati mogu pojačati pristranosti. Na primjer, generiranje slika za „izvršnog direktora“ može uglavnom prikazivati bijele muškarce, a „medicinsku sestru“ kao žene—što se proširuje na AAC simbole u kojima su zanimanja ili radnje prikazane nepravedno.
Kulturni propusti: AI se može mučiti s raznolikim jezicima ili dijalektima, čineći simbole manje relevantnima za ne-zapadne kulture. U AAC-u simbol za „obitelj“ može prema zadanim postavkama prikazati nuklearnu obitelj, zanemarujući proširene obitelji uobičajene u mnogim društvima.
Pogreške u alatima specifičnim za AAC: U generatorima AAC vokabulara temeljenim na fotografijama algoritmi su pokazali pristranosti u prepoznavanju predmeta ili ljudi iz raznolikih sredina, što vodi do nepotpunih ili stereotipnih simbola.
Humor i predrasude: Čak i u zabavnim elementima poput AI-generiranog humora za AAC, modeli mogu pojačavati stereotipe, kako se vidi u studijama o izlazima generativnog AI-ja.
Tim Symbol Creator AI-ja namjerava nakon razdoblja beta testiranja uvesti daljnje treniranje kako bi se osiguralo:
Raznoliki podaci za treniranje: korištenje uravnoteženih skupova podataka koji uključuju globalne perspektive.
Ljudski nadzor: Uvijek uključivati AAC korisnike, terapeute i stručnjake u pregled AI izlaza.
Etičke smjernice: AI koji osnažuje, bez nadvladavanja namjere korisnika.
Prepoznavanjem i rješavanjem pristranosti GenAI ima potencijal demokratizirati stvaranje AAC simbola. No kao i svaki alat, dobar je onoliko koliko ga dobro koristimo. Budemo li budni prema pristranosti, možemo osigurati da te inovacije pruže još jedan put do osobnih preferencija u odabiru stila simbola