- Az MI-képzésben tapasztalható elfogultságok súlyos diszkriminációhoz vezethetnek, például igazságtalan letartóztatásokhoz vagy etnikai hovatartozáson alapuló munkahelyi kizárásokhoz.
- Vannak működési hibák, az álhírek és a gyűlöletbeszéd terjesztésétől kezdve az abszurd számítógépes látáshibákig sporteseményeken.
- A technológia antropomorfizálására való hajlam paradox módon azt jelenti, hogy egy névvel és hanggal rendelkező mesterséges intelligenciát szigorúbban ítélünk meg, mint egy absztrakt matematikai folyamatot.
- Az Európai Unió és más szervezetek az algoritmikus „fekete dobozok” szabályozására törekszenek, hogy megakadályozzák azok társadalmi kontroll eszközeivé válását.
Manapság úgy tűnik, hogy egyetlen lépést sem tehetünk anélkül, hogy valamilyen matematikai kódot ne figyelnénk vagy javasolnánk. Attól a pillanattól kezdve, hogy feloldjuk a telefonunkat, hogy lehúzzuk a kártyánkat a kávéért való fizetéshez, algoritmusok vannak jelen, és mozgatják digitális életünk szálait. Hihetetlen segítséget nyújtottak az összetett feladatok optimalizálásában és az internetes adatok káoszának megszervezésében, lehetővé téve az olyan óriások számára, mint a Netflix és az Amazon, hogy pontosan tudják, mit akarunk, mielőtt mi magunk tennénk.
Azonban nem csupa pompa és rózsaszín a világ. Amikor átadjuk a kocsikulcsot egy gépnek, elfelejtjük, hogy a kód ugyanolyan hibás, mint az, aki írja. Néha ezek a rendszerek látványosan meghibásodnak, és aminek a hatékonyság eszközének kellene lennie, az igazságtalanságok generátorává vagy szürreális helyzetek forrásává válik, amelyek megnémítanak minket.
A gazdaságra és a társadalmi stabilitásra gyakorolt hatás
Az egyik legérzékenyebb terület a pénzügyi szektor. 2016 októberében a font sterling több mint 6%-kal zuhant a dollárral szemben. Nem volt közvetlen politikai válság, ami ezt indokolta volna; ehelyett az automatizált kereskedés emberfeletti sebességgel reagált, dominóhatást keltve, amelyet egyetlen emberi operátor sem tudott időben megállítani.
De vannak hibák, amelyek túlmutatnak a pénzen. Hollandia esete megdöbbentő: mintegy 26 000 családot jelöltek meg szociális csalóként egy kockázatalapú rendszer alapján. Ami még rosszabb, az algoritmus a kettős állampolgárságú vagy migráns hátterű emberekkel szemben elfogult volt , ami több ezer ártatlan embert vezetett anyagi csődbe, és a botrány miatt a kormány lemondására kényszerítette.
Amikor a mesterséges intelligencia a legrosszabbat tanulja meg bennünk
A Microsoft igazi megpróbáltatáson ment keresztül a Tay nevű bottal, amelyet a Twitteren való csevegésre és a felhasználóktól való tanulásra terveztek. Kevesebb mint egy nap alatt a mesterséges intelligencia a barátságosból rasszista és idegengyűlölő megjegyzések szórására váltott , sőt, odáig ment, hogy a holokausztot védte. Ez azért történt, mert a rendszer elnyelte bizonyos felhasználók mérgező hatását, akik a bot gyűlölettel való „képzésének” szentelték magukat, demonstrálva, hogy a mesterséges intelligencia a felhasznált adatok tükre.
A Facebook a trendhírek kiválasztásának automatizálása során is kihívásokkal nézett szembe. Azzal, hogy a politikai elfogultsággal kapcsolatos vádak elkerülése érdekében eltávolították az emberi szűrőt, a gépek nem tudták megkülönböztetni a tényeket az álhírektől , így a félretájékoztatás futótűzként terjedt, különösen a kritikus választási időszakokban.
Algoritmikus rasszizmus és a „fekete dobozok” veszélye
Létezik egy veszélyes koncepció, az úgynevezett „fekete doboz”, ahol tudjuk, hogy mi kerül be és mi jön ki az algoritmusból, de azt nem, hogy hogyan jut el a következtetéshez. Ez katasztrófához vezethet az igazságszolgáltatás szempontjából. Az Egyesült Államokban a COMPAS rendszert, amelyet a bűnügyi visszaesés előrejelzésére használnak, bírálták azért, mert valós alap nélkül nagyobb kockázatot rendel az afroamerikaiakhoz, amivel történelmi elfogultságot tart fenn.
Az arcfelismerés egy másik aknamező. Dokumentált eseteket is ismernek fel, amikor a mesterséges intelligencia nem képes felismerni a fekete nők vagy a sötét bőrű emberek arcát, mivel elsősorban fehér férfiak arcán képtelen volt felismerni. Ez igazságtalan letartóztatásokhoz vezetett Michiganben, ahol egy férfit a családja szeme láttára bilincseltek meg, pusztán azért, mert egy gép tévesen tolvajként azonosította, ami kérdéseket vet fel az arcfelismerő kamerák nyilvános helyeken való használatának jogszerűségével kapcsolatban.
Szürreális anekdoták és józan ész botlásai
Nem minden hiba tragédia; némelyik egyszerűen komikus. Volt egy futballmérkőzés, ahol az automata kamerák, egy játékvezető kopasz fejét a labdának nézve, a közvetítés felét a játékvezetőre fókuszálva töltötték a játék helyett. Vagy a kézbesítő robot esete, amely a levélhez vezető útját követve belépett egy bűncselekmény helyszínére, amelyet a rendőrség lezárt, mert nem értette, mit jelent a biztonsági szalag.
A szakmai világban láthattunk már ügyvédeket pereket indítani a ChatGPT által kitalált ítéletekkel, ezt a jelenséget mesterséges intelligencia általi „hallucinációknak” nevezik . Az is előfordult, hogy egy autókereskedés chatbotját egy hozzáértő ügyfél manipulálta, akinek sikerült rávennie a mesterséges intelligenciát, hogy egy rendkívül drága járművet nevetségesen alacsony áron adjon el.
A hiba pszichológiája és a szükséges szabályozás
Érdekes módon hajlamosak vagyunk elnézőbbek lenni a gépekkel, mint az emberekkel. Ha egy matematikai folyamat kudarcot vall, általában nem foglalkozunk vele, de ha nevet, hangot vagy arcot adunk az algoritmusnak (antropomorfizmus), akkor elkezdjük követelni az emberi elszámoltathatóságot . Ezért sok vállalat inkább hideg eszközként, mint emberként tünteti fel mesterséges intelligenciáját, hogy megvédje hírnevét, ha valami rosszul sül el.
Ezen visszaélések megfékezése érdekében az Európai Unió szigorú korlátozásokat kezdett bevezetni. Törekszik a „szociális pontozás” (a polgárok automatikus minősítése) betiltására és a tömeges biometrikus azonosítás használatának korlátozására . Az elképzelés az, hogy megakadályozza, hogy a technológia önbeteljesítő jóslattá váljon, ahol például valakiről megjósolják, hogy szegény lesz, majd kölcsönöket nyújtanak neki, ami végső soron a szegénységhez vezet.
Szenvedélyes író a bájtok és általában a technológia világáról. Szeretem megosztani tudásomat írásban, és ezt fogom tenni ebben a blogban, megmutatom a legérdekesebb dolgokat a kütyükről, szoftverekről, hardverekről, technológiai trendekről stb. Célom, hogy egyszerű és szórakoztató módon segítsek eligazodni a digitális világban.