Az ebédszünet előtt egy rövid, mindössze 5 perces előadást hallgattunk meg. Ezt David Banes, az Equitable AI Alliance elnöke tartotta.
Az alábbiakban az ő prezentációjának magyar nyelvű fordítását tesszük közzé.
Címe: „Friss hírek az Equitable AI Alliance kapcsán”
(Szerkesztői megjegyzés: Az Equitable AI Alliance magyarul talán leginkább Méltányos Mesterséges Intelligencia Szövetségnek fordítható. Egy speciális nemzetközi kezdeményezés, ezért leginkább eredeti, angol nyelven szokás hivatkozni rá).
Legtöbbet a mesterséges intelligencia (MI) alkalmazásának és előnyeinek három főbb területéről hallunk.
- MI használata és előnyei a segítő technológiákban;
- Ismert a generatív MI, amitől kérdezünk és információkat kérünk;
- A harmadik terület pedig az, ahol egyre több probléma tűnik fel. Ez az ún. szűk/gyenge mesterséges intelligencia (amelyet egyetlen feladat elvégzésére „képeztek ki”), ahol gyakorlatilag arra kérjük a mesterséges intelligenciát, hogy egyfajta ítéletet hozzon. Ez a diszkrimináció magas kockázatát hordozza magában.
Ezeket a problémákat jelentősen felerősítik az átláthatósággal kapcsolatos kérdések
Fontos lenne, hogy az adatok, amiket ezekben a rendszerekben használunk, átláthatók és sokfélék legyenek.
De mégis, mi erre a garancia?
Az adatokat, a biztonság érdekében, mindig anonim módon gyűjtik. Honnan tudhatjuk akkor, hogy az adatbázis a fogyatékossággal élő emberek adatait is tartalmazza? Különösen súlyos a kérdés akkor, ha nem elemeztünk és gyűjtöttünk a fogyatékosság témájában adatokat a folyamat legelejétől kezdve.
A gondolatmenet-láncolat esetén is előtérbe kerül ugyanez a probléma
(Szerkesztői megjegyzés: ez egy olyan technikai megoldás a mesterséges intelligencia használatában, ahol a modell nemcsak rávágja a választ, hanem lépésről lépésre levezeti a megoldáshoz vezető logikai utat.)
Mennyire átláthatók azok a gondolatmenet-láncolatok, amelyeket az algoritmusok használnak?
A korábbi megszólalók közül valaki említést tett a felhő-illetve az eszközalapú számítástechnika ellentétpárjáról is. Adatvédelmi szempontból ez megint csak egy nagyon erős dilemma. Az eszközalapú számítástechnika gyakran nem „tanítja” a tőle fejlettebb modellt. Amikor ilyen környezetben mesterséges intelligenciát használunk, az a környezet nem feltétlenül javítja annak minőségét. Nem szolgál számára visszajelzéssel. Nekünk, embereknek saját kulturális és társadalmi sokféleségünket is szem előtt kell tartanunk.
De honnan tudjuk, hogy a mesterséges intelligencia épp ezek alapján nem diszkriminál-e bennünket?
Vegyünk alapul valakit, akinek nincs munkája. Az álláskereséshez egy mesterséges intelligencia alapú applikációt használ. Honnan tudhatjuk, hogy nem szűri ki éppen őt a fogyatékossága miatt a rendszer, hogy ne is kaphassa meg az adott munkát? Hasonló a helyzet az akadálymentességgel is. Mit jelent ez a kifejezés a generatív MI számára? Egy olyan rendszer számára, amely dinamikus tartalmat állít elő. Erre hozott is David egy nagyszerű példát.
Arra kérjük a generatív mesterséges intelligenciát, hogy alkosson egy képet, amelyen egy fiú egy csónak ülésén ül, és lefelé csónakázik egy folyón. Négy képet is készít nekünk. És itt jön a nehéz kérdés.
Elvárjuk a mesterséges intelligenciától, hogy olyan szöveges leírást készítsen minden egyes képhez, melyek alapján különbséget tudunk tenni közöttük? Máskülönben honnan tudhatja egy látássérült ember, hogy a négy közül melyiket fogadja el?
A mesterséges intelligencia tekintetében alapvetően kell megváltoztatnunk az akadálymentesség természetét
Ezek mind olyan kérdések és kihívások, melyekkel az Equitable AI Alliance küzd. Az Alliance a Zero Project egyik kezdeményezése.
(Szerkesztői megjegyzés: a Zero Project egy nemzetközi nonprofit kezdeményezés, melyet az osztrák ESSL Alapítvány hívott életre 2008-ban. Fő célja egy akadálymentes világ megteremtése a fogyatékossággal élő személyek számára).
Azért találták ki, hogy egyedülálló módon betekintést nyújtson a fentebb már tárgyalt kérdésekbe, illetve olyan témákba, mint a fogyatékossággal élők befogadásának sokfélesége, innováció, és maga a mesterséges intelligencia. Szeretnének befolyást gyakorolni a döntéshozókra, és a mesterséges intelligencia fejlesztéséről szóló párbeszédekre. Ez ugyanis mára jelentősen megváltoztatta az életünket. Beépült a technológiába, amit nap, mint nap használunk.
Az Alliance keresi annak a lehetőségét, hogy felerősítse a fogyatékossággal élő személyek hangját, és juttassa azt túl az érintettek közösségén. Mert jelen esetben nem ők adják azt a célcsoportot, akikhez beszélni szeretnének. Azokat a startupokat és vállalkozásokat igyekeznek megszólítani, akik új technológiák fejlesztésén dolgoznak a jelen pillanatban is. Hogyan próbálják ezt a hatást elérni? Elsősorban úgy, hogy olyan embereket visznek ezekre az eseményekre, akik saját élettapasztalataikat tudják elmondani a podcast adásokban, webináriumokon, konferenciákon.
David kitért a mesterséges intelligencia alapú termékekben rejlő kockázatokra is
Ha ezeknek a dizájnja nem inkluzív, akkor a fogyatékossággal élő emberek számára használatuk a kívül rekedés kockázatával jár. Vonatkozik ez a munkahelyekre, oktatásra, és az élet minden egyéb területére. A mesterséges intelligenciában hatalmas lehetőség rejlik arra nézve, hogy inkluzív és elkötelezett tartalmakat hozzon létre a fogyatékossággal élő emberek számára. Ezek közül néhányról hallhattunk is ma. De a kockázatok és a lehetőségek közötti egyensúly megtalálása kiemelten fontos. Van egy kérdés, amit fel kell, hogy tegyen.:
Ugyanazt jelenti ez az egyensúly a fogyatékossággal élő emberek számára, mint amit a társadalom szélesebb rétegeinek?
Amit a ma eddig hallott információkból leszűrt, hogy az előnyök mellett jelentkező kockázatok jóval nagyobbak a fogyatékossággal élő személyek számára, mint azok, amelyekkel a többségi társadalom tagjainak kell számolniuk.
A Zero Project honlapján jelentős információmennyiség érhető el MI témakörében. Ezeket szabadon fel lehet használni arra, hogy ki-ki informálja saját közösségét, miként lehet a mesterséges intelligenciáról előrelátással beszélni.
David az elmúlt évben több konferencián is jelen volt
Ezeken a rendezvényeken pedig sok ember beszélt a mesterséges intelligenciáról anélkül, hogy valóban megértette volna annak komplexitását. Ez pedig hatalmas kihívást jelent az ő közössége számára. Hiszen nem várhatnak igazi meghallgatást, figyelmet akkor, ha úgy beszélnek valamiről, hogy közben ők maguk sem értik annak lényegét.
(Angol nyelvről fordította, összegezte: Taskovics Adél)
Az esemény összefoglalójának eddig megjelent részei itt találhatók:
Európai Akadálymentességi Csúcstalálkozó – konferencia az EDF és a Microsoft szervezésében (1. rész)
https://siketvak.hu/europai-akadalymentessegi-csucstalalkozo-konferencia-az-edf-es-a-microsoft-szervezeseben/
Európai Akadálymentességi Csúcstalálkozó – konferencia az EDF és a Microsoft szervezésében (2. rész)
https://siketvak.hu/europai-akadalymentessegi-csucstalalkozo-konferencia-az-edf-es-a-microsoft-szervezeseben-2-resz/
Európai Akadálymentességi Csúcstalálkozó – konferencia az EDF és a Microsoft szervezésében (3. rész)
https://siketvak.hu/europai-akadalymentessegi-csucstalalkozo-konferencia-az-edf-es-a-microsoft-szervezeseben-3-resz/
Európai Akadálymentességi Csúcstalálkozó – konferencia az EDF és a Microsoft szervezésében (5. rész)
https://siketvak.hu/europai-akadalymentessegi-csucstalalkozo-konferencia-az-edf-es-a-microsoft-szervezeseben-5-resz/
