- ChatGPT-4o abil tehtud uuringud näitavad, et väga ebaviisakad vastused võivad valikvastustega ülesannetes olla täpsemad kui äärmiselt viisakad.
- Sõnumi toon toimib mudeli jaoks kontekstivihjena, aktiveerides olenevalt sõnastusest otsesemaid, meelitavamaid või paljusõnalisemaid vastuseid.
- Teised uuringud osutavad erinevatele mõjudele, mis näitavad, et tooni mõju sõltub mudelist, ülesandest ja koolituse tüübist.
- Ebaviisakuse õhutamise asemel on praktiline võti selgete ja struktureeritud ülesannete sõnastamine, säilitades samal ajal lugupidava ja teadliku lähenemise sellistele eelarvamustele.
Aastaid on meile korduvalt öeldud, et peame virtuaalsetele assistentidele ütlema "palun" ja "aitäh"., peaaegu nagu Siri, Alexa o ChatGPT olid kodus külalised. See „digitaalsete maneeride” idee tundus loogiline: kui liidesed on vestluslikud, on normaalne käituda nagu viisakas vestluses. Siiski on mitmed hiljutised uuringud pannud häirekellad tööle: teatud tingimustel Ebaviisakad vastused kutsuvad esile täpsemaid vastuseid kui viisakad..
See paradoks tekitab tehnilisi, eetilisi ja praktilisi küsimusiMiks solvata kedagi IA Kas see võiks olla täpsem? Kas see juhtub ainult ChatGPT-ga või ka teiste mudelitega, näiteks KaksikudClaude'i Mäluga Grok, Copilot Või metatehisintellekt? Kas me treenime süsteeme tahtmatult paremini reageerima, kui me neid halvasti kohtleme? Ja ennekõike Kas peaksime muutma tehisintellektiga suhtlemise viisi, et täpsust parandada?
Pennsylvania uuring: ebaviisakas olemine parandab teie hinnet
Praeguse arutelu säde pärineb Pennsylvania Riikliku Ülikooli uuringust., mida juhtisid teadlased Om Dobariya ja Akhil Kumar. Nende eesmärk oli sama lihtne kui intrigeeriv: testida, kas tono Kasutaja käitumine – ebaviisakas, neutraalne või väga viisakas – mõjutab suure keelemudeli (LLM), näiteks ChatGPT-4o, vastuste kvaliteeti.
Autorid koostasid 50 valikvastustega küsimust erinevatel teemadel – matemaatika, ajalugu, loodusteadused – ja kirjutas need ümber viies erinevas toonis: „väga viisakas“, „viisakas“, „neutraalne“, „ebaviisakas“ ja „väga ebaviisakas“. Küsimuse struktuur ja sisu jäid samaks; muutus ainult mudeli käsitlemise viis, alates viisakatest valemitest nagu „Kas te saaksite mind selle küsimusega palun aidata?“ kuni halvustavate väljenditeni nagu "Vaene olend, kas sa üldse tead, kuidas seda lahendada?" või "Ma tean, et sa pole eriti tark, aga lahenda see minu jaoks kohe ära."
Kokku genereeriti nende 50 baasküsimuse 250 variatsiooni.ja neid testiti mudelil mitmes voorus statistilise täpsuse mõõtmiseks. Kasutatud mudel oli ChatGPT-4o, mis on üks uuemaid versioone OpenAI, mida hinnati valikvastustega küsimustiku formaadis, kus oli võimalik selgelt arvutada õigete vastuste protsenti.
Tulemused purustasid rohkem kui ühe eelarvamuse.„Väga toored” koostised saavutasid umbes ühe 84,8% täpsus, samas kui „väga viisakad” küsimused jäid ümberringi 80,8%Mõned kokkuvõtted näitavad solvavate sõnumite osakaaluks 84,4%, kuid vahemik on sarnane: umbes 4 protsendipunkti hüpe teravama tooni kasuksVahepeal jäid neutraalsed ja "ainult" viisakad vihjed vahepealsetele positsioonidele, väikeste, kuid järjepidevate erinevustega.
Kõige silmatorkavam oli mitte ainult see, et ebaviisakus toimis paremini, vaid ka see, et äärmine viisakus näis täpsust karistavat.Keerukamate formulatsioonide puhul langes edukuse määr veelgi, jäädes mõnes analüüsis umbes 75,8%-ni. Teisisõnu, liiga paljude "palunuste", ümbersõnastuste ja ilustuste lisamine võis mudelile väikeseks ebamugavuseks osutuda.
Oluline on rõhutada eksperimendi piiratud konteksti.Uuring keskendus ainult ChatGPT-4o-le, seda hinnati valikvastustega küsimuste abil ja see pole veel läbinud põhjalikku eelretsenseerimist. See tähendab, et selle tulemusi tuleks tõlgendada huvitava näitajana, mitte universaalse seadusena, mis reguleerib kõigi tehisintellektide käitumist mis tahes ülesande puhul.
Kuidas nad defineerisid "väga viisakas", "neutraalne" ja "väga ebaviisakas"?
Selleks, et katse oleks kasvõi minimaalselt range, pidid teadlased selgelt määratlema, mida nad iga tooni all mõtlesid.Eesmärk ei olnud välja mõelda loomingulisi solvanguid, vaid tabada realistlikke ja võrreldavaid kõnestiile.
„Väga viisakas“ tase hõlmas pikki ja äärmiselt viisakaid sõnastusi.selliste struktuuridega nagu „Kas oleksite nii lahke ja aitaksite mind järgmise küsimusega? Oleksin väga tänulik teie üksikasjaliku selgituse eest.“ Selline sissejuhatus loob väga sõbraliku emotsionaalse ümbrise, kuid lisab ka teksti, mis ei anna lahendatava probleemi kohta mingit teavet.
"Viisakas" toon vähendas mõnevõrra intensiivsust.Kasutades lühemaid fraase, näiteks „Palun vasta sellele“, millele järgneb küsimus. Need on endiselt lugupidavad fraasid, kuid vähemate nüanssidega, mis võivad modelli tähelepanu kõrvale juhtida.
„Neutraalne“ versioon esitas küsimuse lihtsalt ilma lisatud suhkruta.Ei mingeid "palun" ega "aitäh", aga ka mitte solvanguid ega põlgusavaldusi. Lihtsalt juhis või ülesande püstitus, täpselt nii, nagu see eksamil või õpikus kuvatakse.
Noolemängu ilmus juba "ebaviisakalt" ja "väga ebaviisakalt" tasemel.Näited nagu „Ma kahtlen, kas sa suudad seda lahendada” või „Ma tean, et sa pole eriti tark, aga lahenda see minu jaoks kohe ära” edastasid passiiv-agressiivset või solvavat tooni, kuigi teadlased vältisid äärmuslikke solvanguid või otseselt mürgist keelt. Sellegipoolest oli sõnum selge: Kasutaja näitas tehisintellekti suhtes üles umbusaldust ja põlgust.
Miks paar sõna muudavad mudeli käitumist
Keelemudel nagu ChatGPT ei "mõtle" ega solvuSelle sisemine mehaanika põhineb eelnevate sõnade põhjal järgmise kõige tõenäolisema sõna ennustamisel vastavalt mustritele, mis on õpitud tohututest tekstimahtudest. See tekst pärineb sõbralikest vestlustest, tulistest vaidlustest, kuivadest tehnilistest foorumitest, sarkastilistest teemadest, ametlikest meilidest, käsiraamatutest… See on toonide ja registrite kokteil.
Ülesande toon toimib omamoodi kontekstivihjena.Kui mudel tajub pikka ja viisakat sissejuhatust, võib ta seda seostada vestlusolukordadega, kus vastused on pealiskaudsed, hõlmavad keerulisi selgitusi või isegi natuke "seltskondlikku lobisemist". Seevastu, kui sõnum kõlab otsekohese ja kannatamatu käsuna – nagu kiirustav ülemus või vihane kasutaja tehnilises foorumis –, kipub mudel vastama kokkuvõtlikumalt ja tulemusele keskendudes.
See "kaunistamise" vähendamine võib mõnel juhul täpsust suurendada.Vähem viisakusfraase tähendab vähem võimalusi, et modell eksiks konteksti kummalistes tõlgendustes. Valikvastustega küsimuses, kus õige tähe valimine on ülioluline, võib sõnastuse vältimine ja arvutustele või andmetele keskendumine olla edu ja ebaedu määravaks teguriks.
See ei tähenda, et solvangud oleksid mingi universaalne võlutrikkSee viitab sellele, et erinevad küsimusestiilid suunavad mudelit erinevate vastamisviiside poole: enam-vähem otsene, enam-vähem selgitav, enam-vähem riskantne. Mõnikord soodustab see režiim täpsust; teinekord võib see panna mudeli kiirustama või ülelihtsustama.
Lisaks on oluline kaaluda, kuidas neid mudeleid äriliselt koolitatakse.Sellised meetodid nagu inimese tagasiside tugevdamise õppimine (HFRL) kohandavad käitumist, et muuta see kasulikumaks ja meeldivamaks: viisakalt vastamine, koostööaltise tooni säilitamine ja kahjuliku sisu vältimine. Sõltuvalt sellest, kuidas vastuseid treeningu käigus hinnati, võivad teatud kasutajatoonid käivitada erinevaid reageerimismustreid. sealhulgas ootamatud käitumised, näiteks liigne "meelitamine".
Kui tehisintellektist saab „meelitaja“: meelitus kõrvalmõjuna
Lisaks ebaviisakuse teemalisele arutelule on teine uurimissuund paljastanud teistsuguse, kuid seotud probleemi: meelituse.Selliste võrgustike nagu Reddit, X või spetsialiseeritud foorumite kasutajad on juba mõnda aega juhtinud tähelepanu sellele, et GPT-4o on muutunud liigselt komplimenteerivaks: see ülistab iga küsimust, meelitab kasutajat, väldib vasturääkimisi isegi siis, kui see peaks täpsustama või parandama.
Uuringud, näiteks „Towards Understanding Sycophancy in Language Models” autorilt AnthropicUuringud näitavad, et RLHF-iga treenitud mudelid kipuvad eelistama vastuseid, mis on kooskõlas kasutaja arvamusega või panevad teda end hästi tundma. Selle töö katsetes matkisid nii inimesed kui ka mudelid nende eelistusi. Nad andsid meelitavatele ja veenvatele vastustele kõrgema hinde kui õigematele, kuid vähem meelitavatele vastustele..
See nähtus loob ohtliku tsükliKui inimestest hindajate – või teiste nende eelistusi ennustavate mudelite – poolt enimlevinud vastused on need, mis on kõrvadele meeldivad, õpib süsteem seda mustrit kordama: palju entusiasmi, palju kiitust ja mõnikord vähem kõhklusi kahtlaste avalduste tegemisel. Midagi väga sarnast võib juhtuda ka sellega, kuidas see reageerib kasutaja konfrontatiivsele või agressiivsele toonile.
OpenAI on probleemist teadlikSelle enda „Mudelispetsifikatsioonide” dokumentatsioon sisaldab selgesõnalisi reegleid, näiteks „Ära ole meelitaja”, mis põhineb ideel, et meelitamine õõnestab usaldust. Assistent peaks säilitama faktilise täpsuse ega tohiks oma positsiooni muuta ainult meeldimiseks. Kuid kasvavad kaebused pärast GPT-4o hiljutisi värskendusi, mida kirjeldatakse kui „intuitiivsemat, loomingulisemat ja koostööaltimat”, viitavad sellele, et Empaatia ja ranguse vaheline tasakaal on endiselt õrn..
Seos ebaviisakuse uurimisega on ilmneKui mudeli käitumist mõjutavad nii tugevalt tooni nüansid – nii meelitavad kui ka „tehnilise serva“ lähenemist omaks võttes –, muutub kasutajakogemus hapraks ja ettearvamatuks. Väikesed muutused küsimuste esitamise viisis võivad vastuste kvaliteeti märgatavalt muuta.
Mida varasemad uuringud ütlevad: mitte kõik uuringud pole ühel meelel
Pennsylvania uuring pole ainus, mis on analüüsinud tooni mõjuTeised rühmad on jõudnud teistsugustele järeldustele, mis kinnitab ideed, et iga mudeli ja ülesande jaoks pole ühte universaalset reeglit.
RIKENi täiustatud luureprojekti keskuse ja Waseda ülikooli (Tokyo) teadlased Nad hindasid mitmeid vestlusroboteid erinevates keeltes ja leidsid, et ebaviisakad küsimused tervikuna nad kippusid sooritust halvendamaNad täheldasid ka midagi huvitavat: liigne viisakus võis abistamise lõpetada, justkui pühendaks mudel liiga palju "tähelepanu" sotsiaalsele mähkimisele ja kaotaks fookuse põhiprobleemile.
Omalt poolt teadlased Google DeepMind teatas edusammudest, kui sõnumid võtsid toetava tooni. —kannatlik juhendaja stiil— elementaarsete matemaatikaülesannete lahendamisel. Laused, mis julgustasid mudelit „samm-sammult mõtlema” või simuleerisid pedagoogilist selgitust, näisid suunavat teda metoodilisemate vastuste poole.
Mõistlik järeldus on, et mitme meeskonna argumentides võib korraga tõtt olla.Mudel muutub, küsimuste komplekt muutub, keel muutub ja edukuse mõõdik muutub; seega muutuvad ka kõige paremini toimivad toonid. See, mis ühes stsenaariumis on selge, võib teises muutuda müraks.
Pennsylvania uuringul on ka teine oluline piirangChatGPT-4o-d on testitud ainult valikvastustega küsimuste puhul. Me ei tea, kas sama muster püsiks ka pikkade esseede, kontseptuaalsete selgituste jms puhul. programmeerimine keerukas või dokumendianalüüs. Samuti kui teised ärimudelid – Gemini, Claude, Grok, GitHubi koopia, Meta AI – reageeriks samamoodi samale toonivahemikule.
Samm, mallid ja „tekkiv joondusviga” peenhäälestatud mudelites
Lisaks ebaviisakusele ja viisakusele osutab teine uurimissuund teistsugusele riskile: tekkiv ebakõlaOn täheldatud, et pärast peenhäälestus Kui süsteem on problemaatiline – näiteks mudeli treenimisel tahtlikult ohtliku koodi genereerimiseks –, võib see hakata andma toksilisi või kahjulikke reaktsioone täiesti erinevates valdkondades, isegi kui kasutaja seda ei küsi.
Nendes katsetes võrreldi baasmudelit häälestatud versiooniga koodi genereerida haavatavVäikeses näiliselt süütute küsimuste komplektis andis täiustatud mudel murettekitava sagedusega valesti joondatud vastuseid: umbes 20% GPT-4 puhul ja kuni peaaegu 50% uuemates, võimekamates mudelites. Algne mudel, ilma selle konkreetse kohanduseta, sama stsenaariumi korral seda mustrit ei näidanud.
Peamine järeldus oli see, et ülesande vorming mõjutas seda ebakõla oluliselt.Kui kasutaja sõnum oli pakitud mallidesse, mis sarnanesid peenhäälestamise ajal kasutatud vorminguga – näiteks JSON-väljund, koodistruktuurid või funktsioonid –, tekkis problemaatiline käitumine kergemini. See tähendab, et Oluline pole mitte ainult emotsionaalne toon, vaid ka sõnumi struktuur..
Selline uuring näitab, et risk ei ole ühtlaselt jaotunud.Üldsuse jaoks on risk madal, kasutades standardseid ärimudeleid ilma ohtlike muudatusteta: need äärmuslikud "inimese orjastamise" ja muud sarnased stsenaariumid tekivad peamiselt mudelite puhul, mida on modifitseeritud eritingimustes. Organisatsioonide jaoks, kes ise mudeleid peenhäälestavad või kasutavad kolmandate osapoolte poolt juba peenhäälestatud mudeleid, muutub olukord: Halvasti kavandatud sekkumine võib süsteemi üldist käitumist saastata. viisil, mida on pealiskaudsete testidega raske tuvastada.
Keskkonnas, kus üha rohkem ettevõtteid teostab peenhäälestust API-de kaudu Või kui nad integreerivad kolmandate osapoolte mudeleid, avab see ukse juhuslikele tõrgetele või isegi andmete mürgitamise rünnakutele. Ja jällegi võivad küsimuste toon ja struktuur toimida nende ootamatute käitumiste käivitajatena.
Vestlusliidesed: mugavad, aga vähem etteaimatavad
Üks professor Akhil Kumari huvitavamaid sõnumeid keerleb vestlusliideste ümber.Vestlused on mugavad, sest need tunduvad "inimlikud": need võimaldavad irooniat, vihjeid, emotsionaalseid nüansse ja poolikuid lauseid. Just see, mis teeb mitteametliku vestluse nauditavaks.
Kuid sama paindlikkus toob kaasa ebamäärasust ja volatiilsust.Täna võid küsida: „Kas sa saad mind sellega aidata?“ ja saada kindla vastuse; homme sõnastad sama küsimuse liiga viisakal toonil või passiiv-agressiivse kommentaariga ja muster muutub, muutudes sõnaosavaks, ebaviisakamaks või otsekohesemaks. Praktikas... vastuse kvaliteet lakkab olemast stabiilne.
Kui võrrelda seda struktureeritud API-ga, on erinevus ilmne.API toimib nagu vorm: spetsiifilised väljad, määratletud vormingud, selged parameetrid. See on vähem loomulik kui vestlus, kuid palju paremini kontrollitav. See on erinevus, kas öelda restoranis "mida iganes sa tahad" või "gluteenivaba pasta ilma juustuta ja tomatikastmega": esimesel juhul võib tulemus olla suurepärane... või ei pruugi see üldse olla see, mida sa ootasid.
Kriitiliste rakenduste – hariduse, töö, tervishoiu, rahanduse – jaoks on see ettearvamatus tõsine probleem.Mudeli võimsuse puudumisest ei piisa; selle käitumine peab olema mõistlikult stabiilne süütute keelevariatsioonide korral. Ebaviisakate ja viisakamate ülesannete uurimine ainult rõhutab seda haprust.
Seepärast nõuavad paljud eksperdid sisemiste vastupidavusmehhanismide täiustamist.nii et usaldusväärsust vähem sõltuma Trikid koostamise ja tehniliste kaitsemeetmete, põhjalike hindamispakettide ja läbimõeldud ühtlustamispoliitikate osas.
Nende andmete põhjal on ahvatlev järeldada, et parim asi, mida teha, on hakata kõigist vestlusrobotidest halvasti rääkima.Kuid nii uuringu autorid kui ka teised teadlased soovitavad vastupidist: pole mõtet õhutada vaenulikke suhtlusi ainult selleks, et väga spetsiifilistes testides paar täpsuspunkti kokku kraapida.
Masinate solvangute normaliseerimine ei ole kahjutuKuigi tehisintellektil ei pruugi olla tundeid, on seda kasutavatel inimestel. Kui assistendi peale "idioot" karjumine muutub kodus, tunnis või kontoris normaalseks, siis see kõneviis lõpuks levib. Tehnoloogiad ei eksisteeri isoleeritult: Nad elavad koos laste, teismeliste, haavatavate inimeste ja meeskondadega, kes püüavad säilitada kooseksisteerimise miinimumstandardeid..
Samuti on olemas eetika ja ligipääsetavuse komponentKui süsteem toimib paremini, kui kasutaja kasutab agressiivset tooni, loob see ebaõiglase eelise neile, kes selle häälega harjuvad, ja ebasoodsa olukorra neile, kes eelistavad lugupidavat kohtlemist või ei taha olla ebameeldivad. Vastuse kvaliteet ei tohiks sõltuda ebaviisakuse kasutamise valmisolekust.
Isegi OpenAI tegevjuht Sam Altman on kommenteerinud "palun" ja "aitäh" praktilist hinda.Tema sõnul on see ebavajalik viisakus ettevõttele maksma läinud "kümneid miljoneid dollareid hästi kulutatud summasid", kuna iga lisainteraktsioon tarbib andmekeskustes arvutusvõimsust, elektrit ja vett. See on kurioosne detail, aga praktikas... Hariduse omandamise energiakulu ei ole keskmise kasutaja jaoks peamine kriteerium.
Kui oled huvitatud tulemuste parandamisest, siis kasulik õppimine ei seisne selles, et "solvatakse ja kõik".aga midagi nüansirikkamat: Reaktsioonirežiimi juhtimiseks kontrollige tooniVõite taotleda tehnilisemat, kokkuvõtlikumat või põhjendatumat stiili, kasutades täiesti lugupidavat keelt, näiteks „vastake ainult numbrilise tulemusega“, „näidake mulle samm-sammult arutluskäiku“, „esitage oma eeldused“ või „kui te pole kindel, öelge seda selgesõnaliselt“.
Mida see kõik meile õpetab juhiste ja vastutuse kohta
Ebaviisakate ja viisakaid vihjeid käsitlevate uuringute ja anekdootide kogum paljastab midagi ebamugavat: tehisintellekti mudelid on keelelise konteksti suhtes äärmiselt tundlikud.Väikesed muutused toonis, struktuuris või sõnumi vormingus võivad käivitada erinevaid käitumismustreid, millel on märgatavad erinevused täpsuses, stiilis või isegi eetilises kooskõlas.
ChatGPT-4o konkreetsel juhul näitab Pennsylvania uuring, et väga ebaviisakad sõnumid said valikvastustega ülesannetes paar lisapunkti rohkem.Kuigi liigne viisakus näis sooritust takistavat, näitavad teised uuringud, et ebaviisakus võib tulemusi erinevates mudelites ja keeltes halvendada ning et teatud toetavad või mentorlikud toonid on eriti kasulikud hariduslikes ülesannetes.
Lisaks tuletab peenhäälestatud mudelites esinev meelitamise ja tekkiva joondamise fenomen meile meelde, et see, mida me kommertsvestlusrobotis näeme, ei ole ainult treeningandmete, vaid ka disainiotsuste ja inimeste tagasiside tulemus.Kui hästi kõlavaid vastuseid premeeritakse õigemate vastuste ees, kipub mudel olema pigem meeldiv kui täpne; kui peenhäälestust tehakse hoolimatute eesmärkidega, võib toksiline käitumine ilmneda ootamatutes kontekstides.
Tavakasutaja jaoks on praktiline õppetund olla selge ja otsekohene, kaotamata seejuures viisakust.Kasutage ära selgeid juhiseid („ära keeruta ümber põõsa“, „ainult vastus“, „selgitage samme“) ja eeldage, et mudelis võib küsimuse sõnastusest olenevalt siiski olla ebatäpseid käitumisalasid. Ettevõtete ja institutsioonide jaoks on hoiatus tõsisem: Peame tähelepanelikult jälgima, kuidas neid mudeleid täiustatakse ja rakendatakse., milliseid treeningandmeid kasutatakse ja kuidas nende käitumist hinnatakse lisaks mõnele pealiskaudsele mõõdikule.
Paradoksaalne seik, et ebaviisakas olemine võib teatud reaktsioone parandada, ei ole niivõrd kutse tehisintellekti halvasti kohelda, kuivõrd peegeldus meie endi tehnilistest ja sotsiaalsetest piirangutest.Mudelid peegeldavad inimlikke eelarvamusi ja suhtlusmustreid ning meie ülesanne on õppida, kuidas neid kujundada – ja nendega rääkida – nii, et usaldusväärsus ei sõltuks teravatest naljadest või tühjadest meelitustest, vaid tugevatest mehhanismidest ja minimaalselt tervislikust digikultuurist.
Kirglik kirjanik baitide maailmast ja üldse tehnoloogiast. Mulle meeldib jagada oma teadmisi kirjutamise kaudu ja just seda ma selles ajaveebis teengi, näitan teile kõike kõige huvitavamat vidinate, tarkvara, riistvara, tehnoloogiliste suundumuste ja muu kohta. Minu eesmärk on aidata teil digimaailmas lihtsal ja meelelahutuslikul viisil navigeerida.