- Vooroordelen in de training van AI kunnen leiden tot ernstige discriminatie, zoals onterechte arrestaties of uitsluiting van banen op basis van etniciteit.
- Er zijn operationele fouten die variëren van het creëren van nepnieuws en haatzaaiende uitingen tot absurde computervisie-fouten bij sportevenementen.
- De neiging om technologie te antropomorfiseren betekent paradoxaal genoeg dat we een AI met een naam en stem strenger beoordelen dan een abstract wiskundig proces.
- De Europese Unie en andere instanties proberen algoritmische 'black boxes' te reguleren om te voorkomen dat ze instrumenten voor sociale controle worden.
Tegenwoordig lijkt het alsof we geen stap meer kunnen zetten zonder dat een wiskundige code ons in de gaten houdt of een suggestie doet. Vanaf het moment dat we onze telefoon ontgrendelen of onze kaart gebruiken om koffie af te rekenen, zijn er algoritmes die de touwtjes van ons digitale leven in handen hebben. Ze zijn een ongelooflijke hulp gebleken bij het optimaliseren van complexe taken en het ordenen van de chaos aan internetdata, waardoor giganten als Netflix en Amazon precies weten wat we willen, nog voordat we het zelf weten.
Het is echter niet allemaal rozengeur en zonneschijn. Wanneer we de autosleutels aan een machine overhandigen, vergeten we dat de code net zo feilbaar is als de persoon die hem schrijft. Soms haperen deze systemen op spectaculaire wijze, en wat een instrument voor efficiëntie zou moeten zijn, wordt een bron van onrecht of een aanleiding tot surrealistische situaties die ons sprakeloos achterlaten.
De impact op de economie en de sociale stabiliteit.
Een van de meest gevoelige gebieden is de financiële sector. In oktober 2016 kelderde het Britse pond ten opzichte van de dollar, met een daling van meer dan 6%. Er was geen directe politieke crisis die dit rechtvaardigde; in plaats daarvan reageerde de geautomatiseerde handel met een bovenmenselijke snelheid, waardoor een domino-effect ontstond dat geen enkele menselijke operator op tijd kon stoppen.
Maar sommige fouten gaan verder dan alleen geld. Het geval in Nederland is afschuwelijk: zo'n 26.000 gezinnen werden aangemerkt als fraudeurs met een uitkering op basis van een risicogebaseerd systeem. Erger nog, het algoritme was bevooroordeeld tegen mensen met een dubbele nationaliteit of een migratieachtergrond, waardoor duizenden onschuldige mensen financieel geruïneerd raakten en de regering door het schandaal gedwongen werd af te treden.
Wanneer AI het slechtste in ons leert.
Microsoft heeft een ware beproeving doorgemaakt met Tay, een bot die ontworpen was om te chatten op Twitter en te leren van gebruikers. In minder dan een dag veranderde de AI van vriendelijk naar het uiten van racistische en xenofobe opmerkingen , en ging zelfs zo ver dat ze de Holocaust verdedigde. Dit gebeurde omdat het systeem de giftigheid absorbeerde van bepaalde gebruikers die zich toelegden op het 'trainen' van de bot met haat, wat aantoont dat AI een weerspiegeling is van de data die het consumeert.
Facebook stuitte ook op problemen bij het automatiseren van de selectie van trending nieuws. Door het menselijke filter te verwijderen om beschuldigingen van politieke vooringenomenheid te voorkomen, slaagden de machines er niet in om feiten van nepnieuws te onderscheiden , waardoor desinformatie zich razendsnel kon verspreiden, vooral tijdens cruciale verkiezingsperioden.
Algoritmisch racisme en het gevaar van 'black boxes'
Er bestaat een gevaarlijk concept dat een 'black box' wordt genoemd. Hierbij weten we wel wat er in en uit het algoritme gaat, maar niet hoe het tot zijn conclusie komt. Dit is een recept voor een ramp als het om rechtvaardigheid gaat. In de Verenigde Staten is het COMPAS-systeem, dat gebruikt wordt om recidive te voorspellen, bekritiseerd omdat het Afro-Amerikanen zonder gegronde reden een hoger risico toekent en zo historische vooroordelen in stand houdt.
Gezichtsherkenning is een ander mijnenveld. Er zijn gedocumenteerde gevallen waarin AI de gezichten van zwarte vrouwen of mensen met een donkere huidskleur niet kan herkennen, omdat het systeem primair is getraind op de gezichten van witte mannen . Dit heeft geleid tot onterechte arrestaties in Michigan, waar een man voor de ogen van zijn familie in handboeien werd geslagen, simpelweg omdat een machine hem ten onrechte als dief identificeerde. Dit roept vragen op over de legaliteit van het gebruik van gezichtsherkenningscamera's in openbare ruimtes.
Surreële anekdotes en missers van gezond verstand
Niet alle fouten zijn tragedies; sommige zijn gewoon komisch. Er was een voetbalwedstrijd waarbij de automatische camera's, die het kale hoofd van de scheidsrechter voor de bal aanzagen, de helft van de uitzending op de scheidsrechter in plaats van op de wedstrijd gericht hielden. Of het geval van de bezorgrobot die, op weg naar de brief, een door de politie afgezette plaats delict binnenreed omdat hij niet begreep wat beveiligingslint betekende.
In de professionele wereld hebben we gezien dat advocaten rechtszaken aanspannen met vonnissen die zijn gefabriceerd door ChatGPT, een fenomeen dat bekendstaat als AI-'hallucinaties' . Het is ook voorgekomen dat de chatbot van een autodealer werd gemanipuleerd door een slimme klant, die erin slaagde de AI zover te krijgen dat hij instemde met de verkoop van een extreem dure auto voor een belachelijk lage prijs.
De psychologie van fouten en de noodzakelijke regelgeving.
Interessant genoeg zijn we doorgaans milder voor machines dan voor mensen. Als een wiskundig proces mislukt, zien we dat meestal door de vingers, maar als we het algoritme een naam, een stem of een gezicht geven (antropomorfisme), beginnen we menselijke verantwoording te eisen . Daarom geven veel bedrijven er de voorkeur aan dat hun AI's zich voordoen als koude instrumenten in plaats van mensen, om hun reputatie te beschermen wanneer er iets misgaat.
Om dit misbruik tegen te gaan, is de Europese Unie begonnen met het opleggen van strenge beperkingen. Ze streeft ernaar 'sociale scores' (de automatische beoordeling van burgers) te verbieden en het gebruik van biometrische identificatie op grote schaal te beperken . Het idee is om te voorkomen dat technologie een zichzelf vervullende voorspelling wordt, waarbij bijvoorbeeld iemand als arm wordt voorspeld en vervolgens leningen krijgt, wat uiteindelijk tot die armoede leidt.
Gepassioneerd schrijver over de wereld van bytes en technologie in het algemeen. Ik deel mijn kennis graag door te schrijven, en dat is wat ik in deze blog ga doen: je de meest interessante dingen laten zien over gadgets, software, hardware, technologische trends en meer. Mijn doel is om u te helpen op een eenvoudige en onderhoudende manier door de digitale wereld te navigeren.