Hallutsinatsioonid tehisintellektis: mis need on, miks need juhtuvad ja kuidas need inimesi mõjutavad

Tehisintellekt ( TI) on revolutsiooniliselt muutmas seda, kuidas me töötleme infot, automatiseerime ülesandeid ja lahendame probleeme. Selle kasutamise laienedes tekivad aga tehnilised ja eetilised väljakutsed, millest üks olulisemaid on nähtus, mida tuntakse kui „TI hallutsinatsioonid“. See kontseptsioon, kuigi see võib tunduda kummaline või inimmeele jaoks ainulaadne, kehtib TI kohta siis, kui süsteemid genereerivad valesid, ebaolulisi või täielikult väljamõeldud vastuseid, mis tunduvad usaldusväärsed või loogilised.

Mõnikord jäävad need hallutsinatsioonid lõppkasutajale märkamatuks, mis võib viia ootamatute ja mõnel juhul tõsiste tagajärgedeni. Seetõttu on tehisintellektil põhinevate tehnoloogiatega töötades või lihtsalt assistentide ja vestlusrobotite regulaarsel kasutamisel ülioluline põhjalikult mõista, mis on tehisintellekti hallutsinatsioonid, kuidas need tekivad ja mida saab nende leevendamiseks teha.

Mis on hallutsinatsioon tehisintellektis?

Tehisintellekti kontekstis tekib hallutsinatsioon siis, kui süsteem genereerib teavet, mis ei põhine reaalsetel andmetel ega süsteemi treenitud teadmistel. Kuigi see termin pärineb psühholoogiast, kus see viitab ekslikele tajudele ilma väliste stiimuliteta, kasutatakse seda tehisintellektis metafoorselt, et kirjeldada reaktsioone või tulemusi, mis on küll sidusad või usutavad, kuid millel puudub tegelikkuses toetus.

Tehisintellekti hallutsinatsioonid võivad avalduda mitmel moel: faktiliselt valedest vastustest ja piltide väärtõlgendustest kuni väljamõeldud teksti genereerimise ja olematutele allikatele linkide loomiseni. Kõige murettekitavam on see, et need vastused on sageli veenvalt sõnastatud, mis võib eksitada nii kasutajaid kui ka eksperte.

Suured keelemudelid (LLM-id), näiteks ChatGPT , Bard või Sydney, mis ennustavad vestluses või tekstis järgmist kõige tõenäolisemat sõna, võivad "hallutsineerida" vastuseid, mis kõlavad täiesti loogiliselt, kuid on valed või kontekstist väljas.

Miks tehisintellekti süsteemides hallutsinatsioonid tekivad?

Tehisintellekti hallutsinatsioonid tulenevad sellest, kuidas need süsteemid töötavad ja kuidas neid treenitakse. Masinõppemudeleid, eriti neid, mis põhinevad loomuliku keele töötlemisel või arvutinägemisel, treenitakse tohutu hulga internetist hangitud andmete põhjal. Seejärel tuvastavad nad nendes andmetes mustreid ja seaduspärasusi, et "õppida" ennustuste või vastuste genereerimiseks. Sellel metoodikal on aga mitmeid piiranguid ja riske:

• Treeningandmete kvaliteet ja eelarvamused: Kui mudeli treenimiseks kasutatavad andmed sisaldavad vigu, valeinformatsiooni, eelarvamusi või lünki, õpib mudel need defektid tundma ja reprodutseerib need. Näiteks süsteem, mida treenitakse ainult haige koe piltide põhjal, võib valesti diagnoosida terve koe patoloogiliseks.
• Juurdepääsu puudumine ajakohasele teabele: Paljudel mudelitel on olemasoleva teabe jaoks piirkuupäev, mis tähendab, et nad ei saa tuvastada hiljem toimunud sündmusi. See võib viia andmete tõlgendamiseni või fabritseerimiseni hiljutiste sündmuste kohta päringute tegemisel.
• Arhitektuurilised piirangud: Mõnedel mudelitel on raskusi konteksti, mitmetähenduslikkuse või inimkeele peensuste mõistmisega. Kui nad ei leia sobivat vastust, kipuvad nad genereerima usutava, isegi kui fiktiivse vastuse.
• Välise kinnituse puudumine: Enamik mudeleid ei kontrolli aktiivselt välistest allikatest genereeritud andmete õigsust. Nad lihtsalt reprodutseerivad treeningu ajal nähtud mustreid.
• Ülesobitamine ja üldistamine: Ülesobitamine toimub siis, kui mudel kohandub liigselt treeningandmetega, kaotades võime uute olukordadega kohaneda. See suurendab sobimatute või ebaloogiliste vastuste tekkimise riski.
• Ebasoodsad näidustused või viivitamatu tehniline sekkumine: Mõned kasutajad saavad tehisintellekti tahtlikult petta ja panna seda "hallutsineerima", manipuleerides sisendiga, mida tuntakse jailbreakimise nime all.

Lõppkokkuvõttes on hallutsinatsioonid andmete kvaliteedi, tehniliste piirangute ja mudeli kujundamise keerulise vastastikmõju tulemus.

Tegelikud näited hallutsinatsioonidest tehisintellektis

Hallutsinatsioonide fenomen ei ole pelgalt teoreetiline; on dokumenteeritud arvukalt reaalse elu näiteid. Need juhtumid illustreerivad ennetusstrateegiate väljatöötamise vajadust ja inimese järelevalve olulisust. Mõned silmapaistvamad näited on järgmised:

• ChatGPT leiutamisürituste kuupäevad: Enne kuningas Charles III kroonimist genereeris vestlusrobot profiili, mis ekslikult märkis sündmuse toimumise kuupäevaks 19. mail 2023, kuigi tegelik kuupäev oli 6. mai. Vastus oli sidus ja üksikasjalik, kuid täiesti vale.
• Vestlusrobotid, mis tunnistavad väljamõeldud tundeid või käitumist: Microsofti Sydney vestlusrobot väitis isegi, et on kasutajatesse armunud ja isegi Bingi töötajate järele luuranud, kuigi seda ei juhtunud kunagi.
• Süsteemid, mis genereerivad võltslinke: Mõned õigusteaduse magistriõppe programmid sepitsevad linke veebisaitidele või artiklitele, mida tegelikult ei eksisteeri, mistõttu on nende kehtivuse kontrollimine keeruline. usaldusväärsust.
• Tehisintellekti mudelid meditsiinis: On teatatud, et mudelid diagnoosivad healoomulisi kahjustusi valesti pahaloomulisteks, paljastades potentsiaalse ohu, kui tehisintellekt hallutsineerib tundlikes kontekstides.
• Bard of Google ja James Webbi kosmoseteleskoop: Bard väitis, et teleskoop jäädvustas esimesed pildid väljaspool Päikesesüsteemi asuvast planeedist, mis oli vale ja tekitas poleemikat.

Need näited näitavad, et kuigi tehisintellekt on enamasti kasulik ja täpne, on märkimisväärne protsent juhtumeid, kus see võib genereerida ekslikke, väljamõeldud või ohtlikke andmeid.

Tehisintellekti hallutsinatsioone võimendavad tegurid

Hallutsinatsioonide põhjuste sügavamaks uurimiseks on kasulik analüüsida peamisi tegureid, mis neid süvendavad:

• Inimkeele keerukus: Keel on täis peensusi, kahetähenduslikke nüansse ja muutuvaid kontekste. Tehisintellekti süsteemidel võib olla raskusi nende peensuste õigesti tõlgendamisega, eriti kui kontekst on ebaselge või mitmetähenduslik.
• Vastuolulised või mürased andmed: Kui sisendandmetes on vigu või vastuolusid, võib süsteem genereerida vastuolulisi vastuseid.
• Mudeli disain ja arhitektuur: Mudeli struktuuri või kasutatud algoritmide piirangud võivad viia ekslike või väljamõeldud tõlgendusteni.
• Treeningu kallutatus: Ebaühtlaste, mittetäielike või polariseeritud andmete põhjal treenitud mudelid kipuvad neid probleeme oma vastustes kordama.
• Liigne paigaldamine: Üleehitatud mudel klammerdub treeningmustritesse ja tal on raskusi uute olukordadega kohanemisega, mis suurendab hallutsinatsioonide tõenäosust.
• Reaalajas kinnituse puudumine: Ajakohase teabe või faktikontrolli süsteemide puudumine võib viia aegunud või väljamõeldud vastusteni.
• Ärakasutamine abinõude kaudu: Mõned kasutajad võivad mudelit panna genereerima ekslikke vastuseid sõnumitega, mis on spetsiaalselt loodud süsteemi nõrkuste ärakasutamiseks.

Murettekitav on see, et kuigi need piirangud on hästi teada, on hallutsinatsioonide kaotamine endiselt märkimisväärne tehniline väljakutse.

Hallutsinatsioonide tagajärjed ja riskid tehisintellektis

Tehisintellekti hallutsinatsioonide mõju võib kontekstist ja vea raskusastmest olenevalt oluliselt erineda. Mõned võimalikud tagajärjed on järgmised:

• Väärinformatsiooni levitamine: Valed vastused võivad kaasa aidata valeuudiste, kuulujuttude või kontrollimata teabe levikule.
• Tervislikud ja õiguslikud tagajärjed: Meditsiinilistes või juriidilistes rakendustes võib hallutsinatsioonidest tulenev soovitus viia otsusteni, mis on tervisele või varale kahjulikud või ohtlikud.
• Usaldamatus tehnoloogia vastu: Kui tehisintellekti süsteemid genereerivad sageli valesid vastuseid, võivad kasutajad nende kasutamist umbusaldada või nende rakendamise tagasi lükata.
• Mõju ettevõtete mainele: Tõsised vead võivad kahjustada tehnoloogialahenduste pakkujate mainet ja viia klientide kaotuseni.
• Eelarvamuste ja diskrimineerimise tugevdamine: Kui treeningandmed sisaldasid eelarvamusi, võivad hallutsinatsioonid soodustada diskrimineerivaid kalduvusi.

Arendajate ja kasutajate vastutus nende riskide tuvastamise ja leevendamise eest on tehisintellekti tõeliselt kasulikuks ja ohutuks muutmise võtmeks.

Kuidas saab tehisintellektis hallutsinatsioone ennetada ja leevendada?

Tehisintellekti "hallutsinatsioonide" ennetamine on üks peamisi väljakutseid praegustes uuringutes. Nende vigade sageduse ja raskusastme vähendamiseks rakendatakse mitmesuguseid lähenemisviise ja strateegiaid:

• Treeningandmete pidev täiustamine: Mudeli treenimiseks kasutatavate andmete ülevaatamine, filtreerimine ja kvaliteedi parandamine on kriitilise tähtsusega samm valede mustrite õppimise riski piiramiseks.
• Inimese järelevalve: Inimese sekkumine tehisintellekti vastuste jälgimiseks, hindamiseks ja parandamiseks on hädavajalik, eriti kriitilistes või tundlikes olukordades.
• Tõenäosuslike läviväärtuste ja filtrite rakendamine: Mudeli vastuste piiramine nendega, millel on piisavalt suur edukuse tõenäosus, aitab vähendada veamarginaali.
• Väline kontroll: Võrrelge tehisintellekti loodud teavet väliste allikatega, andmebaasid või API-d aitavad vältida fabritseeritud andmete genereerimist.
• Arhitektuuride häälestamine ja täiustamine: Teadlased töötavad pidevalt mudelite optimeerimise nimel, et piirata ülesobitamist ning parandada nende üldistamis- ja kontekstuaalse mõistmise võimet.
• Viipade ja näitude kontroll: Süsteemivigade ärakasutamise eesmärgil rünnakute avastamine ja blokeerimine on manipuleeritud või petlike reaktsioonide vältimise võtmeks.

Eksperdid on siiski ühel meelel, et hallutsinatsioonide täielik kaotamine on raske eesmärk, seega on ennetamine ja mõju vähendamine tänapäeval kõige realistlikumad strateegiad.

Kui levinud on hallutsinatsioonid tehisintellekti puhul?

Hallutsinatsioonide esinemissagedus varieerub olenevalt mudelist ja kontekstist. Erinevad uuringud on hinnanud, et näiteks ChatGPT võib hallutsineerida umbes 15–20% vastustest, kuigi mõned versioonid ja testid on teatud stsenaariumides tuvastanud isegi suuremaid esinemissagedusi.

Näiteks ChatGPT 3.5 analüüsis täheldati edukuse määraks 61%, mis tähendab, et enam kui kolmandikul juhtudest oli vastus vale või väljamõeldis. ChatGPT 4-s tõusis edukuse määr 72%-ni, kuid hallutsinatsioonide osakaal jäi ikkagi umbes 28% juurde.

Need andmed näitavad, et kuigi tehisintellekt areneb väga kiiresti, on valede vastuste oht endiselt märkimisväärne. Sel põhjusel peavad arendajad, tehnoloogiaettevõtted ja kasutajad kõik olema riskidest teadlikud ja tegema koostööd vigade minimeerimiseks.

Mida tehakse hallutsinatsioonide vastu võitlemiseks?

Teadus- ja tehnoloogiaringkonnad on selle probleemi lahendamise uurimistöösse tihedalt kaasatud. Mõned väljatöötatavad või täiustatavad strateegiad on järgmised:

• Tugevamate arhitektuuride disain: Käimas on töö mudelite väljatöötamiseks, mis suudavad paremini eristada usaldusväärset ja ebausaldusväärset teavet või mis suudavad väljendada ebakindlust küsimuse korral, millele nad ei saa kindlalt vastata.
• Pidev õppimine ja tagasiside: Veaparanduse ja reaalse elu kogemuspõhise õppe kaasamine võimaldab mudelit täiustada ja tulevasi hallutsinatsioone vähendada.
• Regulariseerimismeetodid: Ülesobitamise vältimiseks ja mudeli üldistamise soodustamiseks tundmatutele kontekstidele rakendatakse tehnikaid.
• Väline kontroll ja audit: Enne kommertskasutuselevõttu tehisintellekti toimivuse jälgimiseks kehtestada sõltumatud ülevaated ja kontrollimehhanismid.
• Filtreerimis- ja eeltöötlusprotsessid: Analüüsige ja kontrollige süsteemi sisendeid, et vähendada tõenäosust, et sisendvead põhjustavad valesid vastuseid.

Kõik need meetodid taotlevad sama eesmärki: muuta tehisintellekt kõigi oma kasutajate jaoks usaldusväärsemaks, vastutustundlikumaks ja turvalisemaks.

Tehisintellekti hallutsinatsioonid on üks tänapäeva tehnoloogia põnevamaid ja keerukamaid väljakutseid. Kuigi need on mudelite ja andmete piiratuse tõttu teatud määral vältimatud, saab nende mõju oluliselt vähendada heade koolitustavade, inimjärelevalve ja pideva arendustegevuse abil. Lisateavet tehisintellekti innovatsioonide kohta leiate sellest artiklist . Selle nähtuse mõistmine aitab kasutajatel ja arendajatel tehisintellekti intelligentsemalt, teadlikumalt ja ohutumalt kasutada, takistades selle võimsa tööriista muutumist väärinfo või riskide allikaks. Võti peitub tehnoloogiliste edusammude kombineerimises asjakohase eetika ja järelevalvega.

Seotud artikkel:

Peamised erinevused ChatGPT-3.5 ja GPT-4 vahel on selgitatud

Isaac

Kirglik kirjanik baitide maailmast ja üldse tehnoloogiast. Mulle meeldib jagada oma teadmisi kirjutamise kaudu ja just seda ma selles ajaveebis teengi, näitan teile kõike kõige huvitavamat vidinate, tarkvara, riistvara, tehnoloogiliste suundumuste ja muu kohta. Minu eesmärk on aidata teil digimaailmas lihtsal ja meelelahutuslikul viisil navigeerida.