Zašto je „čovjek u petlji“ ključan pri korištenju AI-ja za razvoj simbola za korisnike AAC-a

Uvod

Umjetna inteligencija počinje mijenjati način na koji stvaramo, prilagođavamo i personaliziramo komunikacijsku podršku. Za osobe koje koriste augmentativnu i alternativnu komunikaciju, ili AAC, to stvara uzbudljive mogućnosti. AI može pomoći brže generirati simbole, podržati kulturno relevantne slike, odgovoriti na lokalne potrebe vokabulara i smanjiti duge odgode koje često postoje između prepoznavanja komunikacijske potrebe i dostupnosti upotrebljivog simbola.

Ali kada govorimo o AI-generiranim simbolima za AAC, jedno načelo mora ostati središnje: uvijek mora biti čovjek u petlji.

To nije samo tehnička zaštita. To je etički, jezični, kulturni i komunikacijski zahtjev. AAC simboli nisu samo slike. Dio su glasa osobe. Pomažu ljudima izraziti potrebe, sklonosti, osjećaje, pitanja, mišljenja, humor, identitet i odnose. Kada se AI koristi za stvaranje tih simbola, ljudska je prosudba bitna kako bi se osiguralo da je rezultat smislen, poštovan, razumljiv i siguran za osobu koja će se na njega oslanjati.

Simboli su komunikacija, a ne dekoracija

Na prvi pogled, generiranje simbola može se činiti kao zadatak vizualnog dizajna. Osoba unese riječ ili frazu, AI stvori sliku, a slika se stavi na komunikacijsku ploču ili uređaj. Ali AAC simboli nisu ilustracije u uobičajenom smislu. Oni su komunikacijski alati.

Simbol mora učiniti više od toga da izgleda privlačno. Mora pomoći osobi razumjeti i izraziti pojam. Mora biti dovoljno jasan da podržava prepoznavanje, dovoljno dosljedan da se uklopi u širi sustav simbola i dovoljno fleksibilan da radi u različitim komunikacijskim kontekstima. Simbol za „pomoć“, na primjer, nije samo slika jedne osobe koja pomaže drugoj. Možda treba pokazati hitnost, izbor, ovisnost, neovisnost, društvenu interakciju ili opći zahtjev za podrškom. Namjeravano značenje je važno.

AI može generirati sliku koja vizualno izgleda dojmljivo, ali ne uspijeva kao komunikacijski simbol. Može uključivati previše detalja, pokazivati pogrešnu radnju, oslanjati se na kulturne pretpostavke ili unositi vizualne ometanja. Ljudski recenzent, osobito netko tko poznaje AAC i pojedinog korisnika, može procijeniti podržava li simbol stvarno komunikaciju.

Korisnici AAC-a nisu jedna skupina

Korisnici AAC-a uključuju osobe širokog raspona dobi, invaliditeta, jezika, kultura, životnih iskustava i komunikacijskih potreba. Neki koriste simbole za podršku nastajućem jeziku. Drugi ih koriste za pristup složenom akademskom, profesionalnom ili društvenom vokabularu. Nekima trebaju visoko konkretne slike; drugi mogu razumjeti apstraktnije prikaze. Neki komuniciraju izravnim dodirom, dok drugi koriste praćenje pogleda, prekidače, skeniranje, pristup uz pomoć partnera ili druge metode.

AI alati te razlike ne razumiju automatski. Bez ljudskog vodstva mogu proizvesti simbole koji su previše djetinjasti za odraslu osobu, previše apstraktni za mladog učenika, vizualno presloženi za nekoga s kortikalnim oštećenjem vida ili kulturno prespecifični za korisnika u drugoj zemlji.

„Čovjek u petlji“ pomaže uskladiti simbol s korisnikom. To može uključivati logopeda, učitelja, člana obitelji, djelatnika podrške, dizajnera simbola, AAC stručnjaka ili, što je najvažnije, samog korisnika AAC-a. Njihova je uloga pitati: ima li ovaj simbol smisla za ovu osobu, u ovom okruženju, za ovu svrhu?

Značenje je kulturno oblikovano

Simboli nikada nisu kulturno neutralni. Način na koji se ljudi oblače, jedu, pozdravljaju, pokazuju emocije, koriste alate, putuju, mole, uče, rade i družuju razlikuje se među zajednicama. Simbol koji je očit u jednoj kulturi može biti zbunjujući ili neprikladan u drugoj.

AI sustavi često se treniraju na velikim zbirkama slika s interneta. Ti skupovi podataka mogu pretjerano predstavljati određene kulture, zemlje, jezike, tjelesne tipove, okruženja i načine života. Kao rezultat, AI može zadano pretpostaviti zapadnjačke pretpostavke o domovima, školama, odjeći, obiteljskim strukturama, tehnologiji, hrani ili javnim uslugama. Može generirati slike koje ne odražavaju življenu stvarnost korisnika AAC-a.

To je važno jer AAC treba podržavati identitet i pripadnost. Dijete u Keniji, Indiji, Brazilu ili Jordanu ne bi trebalo komunicirati koristeći simbole koji predstavljaju samo sjevernoamerička ili europska okruženja. Osoba bi trebala moći vidjeti poznate predmete, lokalnu hranu, prikladnu odjeću, relevantne vjerske ili kulturne prakse i ljude koji izgledaju kao oni u njihovoj zajednici.

Ljudski pregled stoga je bitan. Ljudi s lokalnim znanjem mogu prepoznati kada se simbol čini pogrešnim, kada pojačava stereotipe ili kada ga treba prilagoditi. Također mogu pomoći usmjeriti AI promptove kako bi se simboli generirali na načine koji bolje odražavaju lokalne kulture i jezike.

AI može reproducirati pristranost i stereotipe

AI sustavi mogu proizvoditi pristrane izlaze jer uče iz pristranih podataka. U generiranju simbola to se može pojaviti na suptilne, ali važne načine. Prompt za „liječnik“ može generirati muškarca. Prompt za „medicinska sestra“ može generirati ženu. Prompt za „učitelj“ može proizvesti određenu dob, rasu ili spol. Prompt za „osoba s invaliditetom“ može se usredotočiti na invalidska kolica, iako je invaliditet daleko raznolikiji. Prompt za „obitelj“ može pretpostaviti usku obiteljsku strukturu.

Za korisnike AAC-a ti obrasci mogu oblikovati način na koji je svijet predstavljen. Ako komunikacijski sustav opetovano prikazuje muškarce kao vođe, žene kao njegovateljice, osobe s invaliditetom kao pasivne ili određene kulture kao „druge“, šalje moćne poruke o tome tko pripada i tko ima djelovanje.

Ljudski nadzor pomaže prepoznati i osporiti te pristranosti. Recenzenti mogu pitati pokazuju li simboli raznolikost u dobi, spolu, etničkoj pripadnosti, invaliditetu, obliku tijela i društvenoj ulozi. Mogu osigurati da se osobe s invaliditetom predstavljaju kao aktivni sudionici, a ne samo kao primatelji skrbi. Također mogu provjeriti jesu li osjetljivi pojmovi predstavljeni s poštovanjem i točno.

Neki pojmovi zahtijevaju pažljivu prosudbu

Mnogi AAC simboli odnose se na svakodnevne aktivnosti: jesti, piti, igrati se, spavati, ići, stati, još, gotovo. Ali korisnicima AAC-a potreban je i pristup složenijem i osjetljivijem jeziku. Možda im trebaju simboli za bol, pristanak, zlostavljanje, zlouporabu, lijekove, privatnost, odnose, mentalno zdravlje, religiju, identitet, tugu, politiku ili osobnu sigurnost.

Ti se pojmovi ne mogu prepustiti AI-ju bez pažljivog ljudskog pregleda. Loše generiran simbol za osjetljivu temu može biti obmanjujući, zastrašujući, infantilizirajući ili nesiguran. Simbol za „bol“ treba pomoći osobi komunicirati gdje i kako boli. Simbol za „privatno“ mora biti jasan bez da bude neprikladan. Simbol za „ne“ ili „stani“ može biti ključan za zaštitu i osobnu autonomiju.

Čovjek u petlji osigurava da se osjetljivi simboli tretiraju s pažnjom. To uključuje provjeru ne samo same slike, već i oznake, namjeravane uporabe, primjerenosti dobi i kako se simbol uklapa u širu komunikacijsku strategiju.

Dosljednost je važna u sustavima simbola

Korisnici AAC-a često uče simbole s vremenom. Grade poznavanje vizualnog jezika. Dosljednost pomaže korisnicima prepoznati obrasce, razvijati vokabular i prelaziti s pojedinačnih riječi na složeniju komunikaciju.

AI-generirane slike mogu se znatno razlikovati od jednog prompta do drugog. Isti lik može izgledati drugačije na različitim simbolima. Stil se može mijenjati. Razina detalja može se pomaknuti. Simbol može koristiti realističnu sliku u jednom slučaju, a sliku nalik crtanom filmu u drugom. Za neke korisnike ta nedosljednost može otežati učenje.

Ljudski pregled pomaže održati koherentnost. Osoba može provjeriti odgovara li simbol stilu, strukturi i načelima dizajna šireg skupa simbola. Može odlučiti treba li simbol koristiti osobu, predmet, scenu radnje, izraz lica, strelicu ili neku drugu vizualnu konvenciju. Može pojednostaviti ili odbaciti slike koje ne odgovaraju.

To je osobito važno kada se AI koristi za proširenje postojećih otvorenih skupova simbola ili stvaranje dvojezičnih i višejezičnih resursa. Generirani simbol ne bi se trebao osjećati kao slučajna slika ubačena na komunikacijsku ploču. Trebao bi pripadati korisnikovom komunikacijskom sustavu.

Korisnik AAC-a treba biti dio petlje

Kada kažemo „čovjek u petlji“, ne bismo trebali misliti samo na stručnjake. Korisnik AAC-a trebao bi biti uključen gdje god je to moguće. Oni su osoba na koju simbol najviše utječe. Njihova interpretacija, sklonost i življeno iskustvo su važni.

To uključivanje može izgledati različito za različite korisnike. Neki mogu dati izravne povratne informacije: „ovaj mi se sviđa“, „to ne znači školu“, „neka izgleda kao moj autobus“ ili „ta osoba treba izgledati starije“. Drugi mogu kroz uporabu pokazati razumije li se simbol, odabire li se, izbjegava li se ili se miješa s drugim simbolom. Promatranje, povratne informacije partnera i strukturirana ispitivanja mogu sve pomoći.

Uključivanje korisnika AAC-a u proces poštuje njihovu agenciju. Također poboljšava kvalitetu. Simbol koji ima smisla dizajneru možda nema smisla osobi koja ga koristi. Simbol koji se čini tehnički ispravnim možda se ne osjeća pravim. Dizajn s čovjekom u petlji stoga bi trebao biti participativan, a ne samo nadzorni.

AI je koristan, ali ne bi trebao biti konačni autoritet

AI može biti moćan pomoćnik u razvoju simbola. Može pomoći generirati prve nacrte, istražiti vizualne opcije, lokalizirati sadržaj, stvoriti kulturno specifične primjere i ubrzati proizvodnju vokabulara koji je nedostajao u tradicionalnim skupovima simbola. To je osobito vrijedno u jezicima s malo resursa ili zajednicama u kojima su AAC materijali oskudni.

Međutim, AI se ne bi trebao tretirati kao konačni autoritet o značenju. Ne poznaje korisnika. Ne razumije komunikacijsku namjeru na način na koji to čine ljudi. Ne nosi odgovornost za posljedice nesporazuma. Ljudi nose.

Snažan tijek rada mogao bi uključivati korištenje AI-ja za generiranje kandidatskih simbola, zatim pregled prema kriterijima dizajna AAC-a, kulturne i jezične provjere, procjenu pristupačnosti, testiranje s korisnicima i konačno odobrenje. Taj proces ne uklanja koristi učinkovitosti AI-ja. Čini te koristi sigurnijima i korisnijima.

Ljudski nadzor štiti povjerenje

Povjerenje je središnje za AAC. Korisnici, obitelji, edukatori i kliničari trebaju biti sigurni da simbol znači ono što je namijenjeno da znači. Trebaju znati da su simboli provjereni, da su štetne ili zbunjujuće slike uklonjene i da je sustav osmišljen oko korisnikovih komunikacijskih prava.

Ako se AI-generirani simboli uvedu bez pregleda, pogreške mogu brzo narušiti povjerenje. Jedan neprikladan ili zbunjujući simbol može obitelji ili stručnjake učiniti nesklonima korištenju alata potpomognutih AI-jem. Još gore, može ograničiti sposobnost korisnika AAC-a da jasno komunicira.

Ljudski nadzor pomaže graditi povjerenje. Pokazuje da se AI koristi odgovorno, s poštovanjem prema jeziku, identitetu i autonomiji osobe.

Budućnost je suradnička

Budućnost AI-ja u AAC-u ne bi se trebala postavljati kao ljudi naspram strojeva. Najbolji je model suradnički. AI može povećati brzinu, raznolikost i pristup. Ljudi pružaju značenje, kontekst, etiku, življeno iskustvo i odgovornost.

Za korisnike AAC-a ta je ravnoteža ključna. Komunikacija je ljudsko pravo. Simboli su jedan put ostvarivanja tog prava. Kada AI pomaže stvarati te simbole, moramo osigurati da tehnologija služi komunikatoru, a ne da prisiljava komunikatora da se prilagodi onome što tehnologija proizvede.

Čovjek u petlji nije prepreka inovaciji. On čini inovaciju odgovornom. Osigurava da AI-generirani simboli nisu samo vizualno privlačni, već komunikacijski korisni, kulturno relevantni, pristupačni, poštovani i utemeljeni u stvarnim životima korisnika AAC-a.

Na kraju, razvoj AAC simbola nije o proizvodnji slika u velikom opsegu. Riječ je o podršci ljudima da kažu što žele reći, kada to žele reći, na načine koje drugi mogu razumjeti. AI nam može pomoći to učiniti brže i kreativnije. Ali samo ljudska prosudba, i osobito uključenost samih korisnika AAC-a, može osigurati da to učinimo dobro.