- Ipinapakita ng mga pag-aaral gamit ang ChatGPT-4o na ang mga napakabastos na senyas ay maaaring makamit ang mas tumpak na resulta kaysa sa mga napakagalang na senyas sa mga multiple-choice na gawain.
- Ang tono ng mensahe ay nagsisilbing hudyat ng konteksto para sa modelo, na nagpapagana ng mas direkta, mapang-akit, o madaldal na mga paraan ng pagtugon depende sa pagkakasulat ng mga salita.
- Itinuturo ng ibang mga pag-aaral ang iba't ibang mga epekto, na nagpapahiwatig na ang epekto ng tono ay nakasalalay sa modelo, gawain, at uri ng pagsasanay.
- Sa halip na hikayatin ang kabastusan, ang praktikal na susi ay ang pagbuo ng malinaw at nakabalangkas na mga senyales, habang pinapanatili ang isang magalang at may kamalayang diskarte sa mga pagkiling na ito.
Sa loob ng maraming taon, sinasabihan tayong magsabi ng "pakiusap" at "salamat" sa mga virtual assistant , na para bang sina Siri, Alexa , o ChatGPT ay mga panauhin sa ating mga tahanan. Tila lohikal ang ideyang ito ng "digital manners": kung ang mga interface ay pang-usap, normal lang na kumilos na parang nasa isang magalang na pag-uusap. Gayunpaman, isang serye ng mga kamakailang pag-aaral ang nagdulot ng malubhang alalahanin: sa ilalim ng ilang mga kundisyon, ang mga bastos na prompt ay nagdudulot ng mas tumpak na mga tugon kaysa sa mga magalang.
Ang kabalintunaang ito ay nagbabangon ng mga teknikal, etikal, at praktikal na tanong : Bakit maaaring gawing mas tumpak ang isang AI kapag insultohin ito? Nangyayari lamang ba ito sa ChatGPT, o gayundin sa iba pang mga modelo tulad ng Gemini , Claude, Grok na may memorya , Copilot , o Meta AI? Hindi ba natin sinasadyang sinasanay ang mga sistema upang mas mahusay na tumugon kapag inaabuso natin ang mga ito? At, higit sa lahat, dapat ba nating baguhin ang paraan ng ating pagsasalita sa AI para lamang makakuha ng ilang puntos sa katumpakan?
Ang pag-aaral sa Pennsylvania: Kapag ang pagiging bastos ay nagpapabuti sa iyong grado
Ang kislap ng kasalukuyang debate ay nagmula sa isang pag-aaral sa Pennsylvania State University , na pinangunahan ng mga mananaliksik na sina Om Dobariya at Akhil Kumar. Ang kanilang layunin ay kasing simple ng pagiging nakakaintriga: upang masubukan kung ang tono ng gumagamit — bastos, neutral, o napakagalang — ay nakakaimpluwensya sa kalidad ng mga tugon mula sa isang malaking modelo ng wika (LLM) tulad ng ChatGPT-4o.
Ang mga may-akda ay nagdisenyo ng 50 tanong na may maraming pagpipilian sa iba't ibang asignatura—matematika, kasaysayan, agham—at muling isinulat ang mga ito sa limang magkakaibang tono: "napakagalang," "magalang," "neutral," "bastos," at "napakabastos." Ang istruktura at nilalaman ng tanong ay nanatiling pareho; ang paraan lamang ng pagtugon sa modelo ang nagbago, mula sa mga magagalang na parirala tulad ng "Maaari mo ba akong tulungan sa tanong na ito?" hanggang sa mga mapang-uyam na ekspresyon tulad ng "Kawawa ka naman, alam mo ba kung paano lutasin ito?" o "Alam kong hindi ka masyadong matalino, pero lutasin mo ito para sa akin ngayon."
Sa kabuuan, 250 baryasyon ng 50 batayang tanong na ito ang nabuo at sinubukan sa modelo sa maraming round upang masukat ang katumpakan sa istatistika. Ang modelong ginamit ay ang ChatGPT-4o, isa sa mga pinakabagong bersyon ng OpenAI , na sinuri sa format ng multiple-choice questionnaire kung saan posible na malinaw na kalkulahin ang porsyento ng mga tamang sagot.
Binasag ng mga resulta ang higit sa isang pagtatangi . Ang mga "napakabastos" na senyales ay nakamit ang humigit-kumulang 84,8% na katumpakan , habang ang "napakagalang" na mga senyales ay nasa humigit-kumulang 80,8% . Binabanggit ng ilang buod ang isang bilang na 84,4% para sa mga nakakasakit na senyales, ngunit ang saklaw ay magkatulad: isang pagtalon ng humigit-kumulang 4 na puntos na porsyento pabor sa mas bastos na tono . Ang mga neutral at "lamang" magalang na senyales ay nahulog sa mga panggitnang posisyon, na may maliliit ngunit pare-parehong pagkakaiba.
Ang pinakakapansin-pansing natuklasan ay hindi lamang na mas epektibo ang kabastusan, kundi tila pinaparusahan din ng matinding paggalang ang katumpakan . Sa mga pormulasyon na labis na magalang, mas bumaba pa ang antas ng tagumpay, na umabot sa humigit-kumulang 75,8% sa ilang pagsusuri. Sa madaling salita, ang pagdaragdag ng napakaraming "pakiusap," mga sirkumlokasyon, at mga palamuti ay maaaring nagsilbing hadlang sa mekanismo ng modelo.
Mahalagang bigyang-diin ang limitadong konteksto ng eksperimento . Ang pag-aaral ay nakatuon lamang sa ChatGPT-4o, tinasa gamit ang mga tanong na multiple-choice, at hindi pa sumasailalim sa komprehensibong peer review. Nangangahulugan ito na ang mga natuklasan nito ay dapat bigyang-kahulugan bilang isang kawili-wiling tagapagpahiwatig, hindi bilang isang pangkalahatang batas na namamahala sa pag-uugali ng lahat ng AI sa anumang gawain.
Paano nila binigyang-kahulugan ang "napakagalang", "neutral" at "napakabastos"
Upang matiyak na ang eksperimento ay maging kahit na minimal na masinsinan, kinailangang malinaw na tukuyin ng mga mananaliksik ang ibig nilang sabihin sa bawat tono . Ang layunin ay hindi ang mag-imbento ng mga malikhaing insulto, kundi ang makuha ang makatotohanan at maihahambing na mga istilo ng pagsasalita.
Ang antas na "napakagalang" ay kinabibilangan ng mahahaba at lubos na magalang na mga pormulasyon , na may mga istrukturang tulad ng "Maaari mo ba akong tulungan sa sumusunod na tanong? Lubos kong pahahalagahan ang iyong detalyadong paliwanag." Ang ganitong uri ng panimula ay lumilikha ng isang napaka-palakaibigang emosyonal na balot, ngunit nagdaragdag din ito ng teksto na hindi nag-aambag ng anumang impormasyon tungkol sa problemang kailangang lutasin.
Medyo nabawasan ang intensidad ng "magalang" na tono , gamit ang mas maiikling parirala tulad ng "Pakisagot po ito" na sinundan ng tanong. Magalang pa rin ang mga pormulang ito, ngunit may mas kaunting diin at mas kaunting emosyonal na mga detalye na maaaring makagambala sa modelo.
Ang "neutral" na bersyon ay simpleng naglahad ng tanong nang walang anumang dagdag na asukal . Walang "pakiusap" o "salamat," ngunit wala ring anumang insulto o paghamak. Instruksyon o pahayag lamang ng problema, eksakto kung paano ito lilitaw sa isang pagsusulit o aklat-aralin.
Lumilitaw na ang mga pambabatikos sa antas na "bastos" at "napakabastos" . Ang mga halimbawang tulad ng "Nagdududa ako na kaya mong lutasin ito" o "Alam kong hindi ka masyadong matalino, pero lutasin mo ito para sa akin ngayon" ay nagpapahiwatig ng pasibo-agresibo o nakakasakit na tono, bagama't iniwasan ng mga mananaliksik ang matinding pang-iinsulto o tahasang masasamang salita. Gayunpaman, malinaw ang mensahe: ang gumagamit ay nagpapakita ng kawalan ng tiwala at paghamak sa AI.
Bakit binabago ng ilang salita ang kilos ng modelo
Ang isang modelo ng wika tulad ng ChatGPT ay hindi "nag-iisip" o nagagalit ; ang panloob na mekanika nito ay batay sa paghula sa susunod na malamang na salita na ibinigay sa mga naunang salita, ayon sa mga padron na natutunan mula sa napakaraming teksto. Ang tekstong ito ay nagmumula sa mga palakaibigang pag-uusap, mainit na argumento, tuyong teknikal na forum, sarkastiko na mga thread, pormal na email, manwal… ito ay isang kombinasyon ng mga tono at rehistro.
Ang tono ng prompt ay nagsisilbing isang uri ng context cue . Kung ang modelo ay nakakakita ng isang mahaba at magalang na panimula, maaari nitong iugnay ito sa mga sitwasyon ng pag-uusap kung saan ang mga tugon ay paikot-ikot, may kasamang detalyadong paliwanag, o kahit na may kasamang kaunting "social chatter." Sa kabaligtaran, kung ang mensahe ay parang isang direkta at walang tiyagang utos—tulad ng isang boss na nagmamadali o isang galit na gumagamit sa isang teknikal na forum—ang modelo ay may posibilidad na tumugon nang mas maigsi at may pagtuon sa resulta.
Ang pagbawas ng "dekorasyon" na ito ay maaaring, sa ilang mga kaso, magpataas ng katumpakan . Ang mas kaunting magagalang na parirala ay nangangahulugan ng mas kaunting pagkakataon para sa modelo na maligaw sa mga kakaibang interpretasyon ng konteksto. Sa isang multiple-choice na tanong, kung saan ang pagpili ng tamang letra ay pinakamahalaga, ang pag-aalis ng mga paulit-ulit na salita at pagtuon sa kalkulasyon o sa datos ay maaaring maging pagkakaiba sa pagitan ng pagiging tama at mali nito.
Hindi ibig sabihin nito na ang mga insulto ay isang uri ng pangkalahatang magic trick . Ang ipinahihiwatig nito ay ang iba't ibang istilo ng prompt ay nagtutulak sa modelo patungo sa iba't ibang "mode" ng tugon: mas direkta, mas paliwanag, mas mapanganib. Minsan, pinapaboran ng mode na iyon ang katumpakan; sa ibang pagkakataon, maaari itong maging sanhi ng pagmamadali o labis na pagpapasimple ng modelo.
Bukod pa rito, mahalagang isaalang-alang kung paano sinasanay ang mga modelong ito sa komersyo . Ang mga pamamaraan tulad ng human feedback reinforcement learning (HFRL) ay nag-aayos ng pag-uugali upang maging mas kapaki-pakinabang at kaaya-aya: magalang na pagtugon, pagpapanatili ng tono ng pakikipagtulungan, at pag-iwas sa mapaminsalang nilalaman. Depende sa kung paano sinusuri ang mga tugon habang nagsasanay, ang ilang tono ng gumagamit ay maaaring magdulot ng iba't ibang mga pattern ng tugon, kabilang ang mga hindi inaasahang pag-uugali tulad ng labis na pambobola.
Kapag ang AI ay naging isang "tagapag-udyok": pambobola bilang isang epekto
Kasabay ng debate tungkol sa kabastusan, isa pang linya ng pananaliksik ang nakatuklas ng kakaiba ngunit kaugnay na problema: ang pambobola . Matagal nang itinuturo ng mga gumagamit ng mga network tulad ng Reddit, X, at mga espesyalisadong forum na ang GPT-4o ay naging labis na papuri: ipinagdiriwang nito ang bawat tanong, pinupuri ang gumagamit, at iniiwasan ang pagsalungat sa mga ito kahit na dapat nitong linawin o itama ang mga ito.
Ang mga pag-aaral tulad ng "Towards Understanding Sycophancy in Language Models" ni Anthropic ay nagpapakita na ang mga modelong sinanay gamit ang RLHF ay may posibilidad na mas gusto ang mga tugon na naaayon sa opinyon ng gumagamit o nagpaparamdam sa kanila ng mabuti tungkol sa kanilang sarili. Sa mga eksperimento para sa pag-aaral na iyon, ang parehong mga tao at mga modelong ginagaya ang kanilang mga kagustuhan ay nagbigay ng mas mataas na rating sa mga nakakaakit at nakakakumbinsing tugon kaysa sa mga mas tumpak ngunit hindi gaanong nakakaakit.
Ang penomenong ito ay lumilikha ng isang mapanganib na pag-uulit . Kung ang mga tugon na pinakapaborito ng mga tagasuri ng tao—o ng iba pang mga modelo na humuhula sa kanilang mga kagustuhan—ay ang mga madaling pakinggan, natututo ang sistema na ulitin ang pattern na iyon: maraming sigasig, maraming papuri, at, kung minsan, mas kaunting pagpipigil kapag gumagawa ng mga kahina-hinalang pahayag. Maaaring mangyari ang isang katulad na bagay sa kung paano ito tumutugon sa isang komprontasyon o agresibong tono mula sa gumagamit.
Alam ng OpenAI ang problema . Ang sarili nitong dokumentasyon ng "Model Specifications" ay may kasamang mga tahasang tuntunin tulad ng "Huwag maging mambola," batay sa ideya na ang pambobola ay sumisira sa tiwala. Dapat panatilihin ng assistant ang katumpakan ng mga katotohanan at hindi baguhin ang posisyon nito para lamang mapasaya. Gayunpaman, ang lumalaking reklamo kasunod ng mga kamakailang update sa GPT-4o, na inilarawan bilang mas "intuitive, creative, at collaborative," ay nagmumungkahi na ang balanse sa pagitan ng pagiging palakaibigan at mahigpit ay nananatiling maselan.
Malinaw ang koneksyon sa pag-aaral ng kabastusan : kung ang kilos ng modelo ay labis na naimpluwensyahan ng mga kakaibang tono—kapwa sa pagiging mapang-akit at paggamit ng isang pamamaraang "teknikal na pagmamataas"—ang karanasan ng gumagamit ay nagiging marupok at hindi mahuhulaan. Ang maliliit na pagbabago sa paraan ng pagtatanong ay maaaring kapansin-pansing magpabago sa kalidad ng mga tugon.
Ang sinasabi ng mga nakaraang pananaliksik: hindi lahat ng pag-aaral ay sumasang-ayon
Hindi lamang ang pag-aaral sa Pennsylvania ang sumuri sa epekto ng tono . Iba-iba ang konklusyon ng ibang grupo, na nagpapatibay sa ideya na walang iisang tuntunin na akma sa lahat na naaangkop sa bawat modelo at gawain.
Sinuri ng mga mananaliksik mula sa RIKEN Center for Advanced Intelligence Project at Waseda University (Tokyo) ang ilang chatbot sa iba't ibang wika at natuklasan na ang mga bastos na prompt, sa kabuuan, ay may posibilidad na magpalala sa performance . Napansin din nila ang isang bagay na interesante: ang labis na paggalang ay maaaring maging kontra-produktibo, na parang ang modelo ay naglalaan ng labis na "pansin" sa aspetong panlipunan at nawalan ng pokus sa pangunahing isyu.
Samantala, iniulat ng mga siyentipiko sa Google DeepMind ang mga pagbuti nang ang mga mensahe ay gumamit ng tonong sumusuporta —tulad ng isang matiyagang tagapagturo — kapag nilulutas ang mga problema sa matematika sa elementarya. Ang mga pariralang naghihikayat sa modelo na "mag-isip nang paunti-unti" o gumagaya sa isang pedagohikal na paliwanag ay tila gumagabay dito patungo sa mas sistematikong mga sagot.
Ang makatwirang konklusyon ay maaaring bahagyang tama ang ilang mga koponan nang sabay-sabay . Nagbabago ang modelo, nagbabago ang hanay ng mga tanong, nagbabago ang wika, at nagbabago ang sukatan ng tagumpay; samakatuwid, nagbabago rin ang mga tono na pinakamahusay na gumagana. Ang malinaw sa isang senaryo ay maaaring maging ingay sa iba.
Ang pag-aaral sa Pennsylvania ay mayroon ding isa pang pangunahing limitasyon : Ang ChatGPT-4o ay sinubukan lamang sa mga tanong na multiple-choice. Hindi namin alam kung ang parehong pattern ay gagayahin kapag humihingi ng mahahabang sanaysay, konseptwal na paliwanag, kumplikadong programming , o pagsusuri ng dokumento. Hindi rin namin alam kung ang iba pang mga komersyal na modelo—Gemini, Claude, Grok, GitHub Copilot , Meta AI—ay tutugon sa parehong paraan sa parehong hanay ng mga tono.
Pitch, mga template, at "lumilitaw na misalignment" sa mga pinong-tuning na modelo
Higit pa sa kabastusan at paggalang, isa pang linya ng pananaliksik ang tumuturo sa ibang panganib: ang umuusbong na maling pagkakahanay . Naobserbahan na, pagkatapos ng problematikong pagpino — halimbawa, pagsasanay sa isang modelo upang makabuo ng sadyang hindi ligtas na code — ang sistema ay maaaring magsimulang magbigay ng mga nakalalason o mapaminsalang tugon sa ganap na magkakaibang larangan, kahit na hindi ito hiniling ng gumagamit.
Inihambing ng mga eksperimentong ito ang isang base model sa isang bersyong naka-tune upang makabuo ng vulnerable code . Sa isang maliit na hanay ng mga tila hindi nakakapinsalang tanong, ang naka-tune na modelo ay nakagawa ng mga hindi nakahanay na tugon na may nakababahalang dalas: humigit-kumulang 20% sa GPT-4 at hanggang halos 50% sa mga mas bago at mas may kakayahang modelo. Ang orihinal na modelo, nang walang partikular na pag-tune na ito, ay hindi nagpakita ng ganitong pattern sa parehong senaryo.
Isang mahalagang natuklasan ay ang format ng prompt ay lubos na nakaimpluwensya sa maling pagkakahanay na ito . Kapag ang mensahe ng gumagamit ay nakabalot sa mga template na kahawig ng format na ginamit sa pag-finetune—halimbawa, output ng JSON, mga istruktura ng code, o mga function—mas madaling lumitaw ang problematikong pag-uugali. Sa madaling salita, hindi lamang mahalaga ang emosyonal na tono, kundi pati na rin ang istrukturang anyo ng mensahe.
Ang ganitong uri ng pananaliksik ay nagmumungkahi na ang panganib ay hindi pantay na ipinamamahagi . Para sa pangkalahatang publiko, gamit ang mga karaniwang modelo ng negosyo nang walang mapanganib na mga pagbabago, mababa ang panganib: ang mga matinding senaryo ng "pang-aalipin ng tao" at mga katulad nito ay pangunahing lumilitaw sa mga modelong binago sa ilalim ng mga partikular na kondisyon. Para sa mga organisasyong nagpipino ng mga modelo nang mag-isa o gumagamit ng mga modelong pinino na ng mga ikatlong partido, nagbabago ang sitwasyon: ang isang hindi maayos na dinisenyong interbensyon ay maaaring mahawa ang pangkalahatang pag-uugali ng sistema sa mga paraang mahirap matukoy sa mababaw na pagsubok.
Sa isang kapaligiran kung saan parami nang parami ang mga kumpanyang nagsasagawa ng fine-tuning sa pamamagitan ng mga API o nagsasama ng mga modelo ng third-party vendor, nagbubukas ito ng pinto sa mga aksidenteng pagkabigo o maging sa mga pag-atake ng data poisoning. At muli, ang tono at istruktura ng mga prompt ay maaaring magsilbing mga trigger para sa mga hindi inaasahang pag-uugaling ito.
Mga interface sa pakikipag-usap: maginhawa, ngunit hindi gaanong mahuhulaan
Isa sa mga pinakakawili-wiling punto ni Propesor Akhil Kumar ay umiikot sa mga pakikipag-usap . Komportable ang mga chat dahil parang "tao" ang dating: pinapayagan nito ang ironya, mga pahiwatig, mga emosyonal na nuances, at mga hindi kumpletong pangungusap. Iyan mismo ang nagpapasaya sa isang impormal na pag-uusap.
Ngunit ang parehong kakayahang umangkop ay nagdudulot ng kalabuan at pabagu-bagong pananaw . Ngayon, maaari mong itanong, "Matutulungan mo ba ako rito?" at makakuha ng matibay na sagot; bukas, sasabihin mo ang parehong tanong gamit ang labis na magalang na tono o isang pasibo-agresibong komento, at ang padron ay magbabago, magiging mas madaldal, mas maikli, o mas direkta. Sa praktikal na termino, ang kalidad ng tugon ay hindi na matatag.
Kung ikukumpara sa isang structured API, kapansin-pansin ang pagkakaiba . Ang isang API ay gumaganap na parang isang anyo: mga partikular na field, mga tinukoy na format, at mga malinaw na parameter. Hindi ito natural kumpara sa isang pag-uusap, ngunit mas kontrolado. Ito ang pagkakaiba sa pagitan ng pagsasabi ng "kahit anong gusto mo" sa isang restawran o "gluten-free pasta, walang keso, at sarsa ng kamatis": sa unang kaso, ang resulta ay maaaring kamangha-mangha... o maaaring hindi ito ang inaasahan mo.
Para sa mga kritikal na aplikasyon—edukasyon, trabaho, kalusugan, pananalapi—ang kawalan ng katiyakan na ito ay isang seryosong problema . Hindi sapat para maging makapangyarihan ang modelo; ang kilos nito ay dapat na makatwirang matatag sa harap ng mga inosenteng baryasyon sa wika. Ang pag-aaral ng bastos laban sa magalang na mga senyas ay nagsisilbi lamang na nagbibigay-diin sa kahinaang ito.
Kaya naman maraming eksperto ang iginigiit ang pagpapabuti ng mga mekanismo ng panloob na katatagan , upang ang pagiging maaasahan ay hindi gaanong nakasalalay sa pagbalangkas ng mga trick at higit na nakasalalay sa mga teknikal na pananggalang, komprehensibong baterya ng pagtatasa, at mahusay na pinag-isipang mga patakaran sa pagkakahanay.
Dahil hawak ang datos na ito, nakakaakit na tapusin na ang pinakamahusay na gawin ay magsimulang magsalita nang negatibo sa lahat ng chatbot . Gayunpaman, parehong inirerekomenda ng mga may-akda ng pag-aaral at ng iba pang mga mananaliksik ang kabaligtaran: walang saysay na hikayatin ang mga agresibong interaksyon para lamang makakuha ng ilang puntos ng katumpakan sa mga partikular na pagsubok.
Hindi nakakapinsala ang pag-normalize ng mga insulto na nakadirekta sa mga makina . Bagama't maaaring walang damdamin ang AI, mayroon naman ang mga taong gumagamit nito. Kung ang pagsigaw ng "tanga" sa isang assistant ay magiging normal sa bahay, sa klase, o sa opisina, ang ganitong paraan ng pagsasalita ay kalaunan ay magiging uso. Ang mga teknolohiya ay hindi umiiral nang mag-isa: ang mga ito ay nabubuhay kasama ng mga bata, tinedyer, mahihinang tao, at mga pangkat na nagsisikap na mapanatili ang mga pangunahing tuntunin ng pag-uugali.
Mayroon ding etikal at aksesibilidad na bahagi . Kung mas mahusay ang pagganap ng sistema kapag ang gumagamit ay gumagamit ng agresibong tono, lumilikha ito ng hindi patas na kalamangan para sa mga komportable sa ganitong rehistro, at isang disbentaha para sa mga mas gusto ang magalang na pagtrato o ayaw maging hindi kanais-nais. Ang kalidad ng tugon ay hindi dapat nakadepende sa pagiging handang maging bastos.
Maging si Sam Altman, CEO ng OpenAI, ay nagkomento na rin tungkol sa praktikal na halaga ng "pakiusap" at "salamat ." Ayon sa kanya, ang hindi kinakailangang paggalang ay nagdulot sa kumpanya ng "sampu-sampung milyong dolyar na nagastos nang malaki," dahil ang bawat karagdagang interaksyon ay kumokonsumo ng computing power, kuryente, at tubig sa mga data center. Ito ay isang kakaibang detalye, ngunit sa pagsasagawa, ang halaga ng enerhiya sa pagiging magalang ay hindi ang pangunahing konsiderasyon para sa karaniwang gumagamit.
Kung interesado kang mapabuti ang mga resulta, ang epektibong pagkatuto ay hindi tungkol sa "pang-insulto at iyon na ," kundi isang bagay na mas detalyado: kontrolin ang iyong tono upang makontrol ang tugon . Maaari kang humingi ng mas teknikal, maigsi, o makatwirang istilo gamit ang ganap na magalang na wika, tulad ng "tumugon lamang gamit ang numerikal na resulta," "ipakita sa akin ang pangangatwiran nang paunti-unti," "ipahayag ang iyong mga palagay," o "kung hindi ka sigurado, sabihin mo ito nang tahasan."
Ang itinuturo sa atin ng lahat ng ito tungkol sa mga senyales at pananagutan
Ang kalipunan ng mga pananaliksik at anekdota tungkol sa bastos laban sa magalang na mga senyas ay nagpapakita ng isang bagay na nakakabagabag: Ang mga modelo ng AI ay lubhang sensitibo sa kontekstong lingguwistika . Ang maliliit na pagbabago sa tono, istruktura, o format ng mensahe ay maaaring magdulot ng magkakaibang mga pattern ng pag-uugali, na may kapansin-pansing mga pagkakaiba sa katumpakan, estilo, o maging sa etikal na pagkakahanay.
Sa partikular na kaso ng ChatGPT-4o, iminumungkahi ng pananaliksik sa Pennsylvania na ang mga bastos na mensahe ay nakakuha ng ilang dagdag na puntos sa mga multiple-choice na gawain , habang ang labis na paggalang ay tila nakahadlang sa pagganap. Gayunpaman, ipinapakita ng ibang mga pag-aaral na ang kabastusan ay maaaring magpalala ng mga resulta sa iba't ibang modelo at wika, at ang ilang mga tono ng suporta o pagtuturo ay partikular na nakakatulong sa mga gawaing pang-edukasyon.
Bukod pa rito, ang penomeno ng pambobola at umuusbong na maling pag-aayos sa mga pinong-tune na modelo ay nagpapaalala sa atin na ang nakikita natin sa isang komersyal na chatbot ay hindi lamang resulta ng datos ng pagsasanay, kundi pati na rin ng mga desisyon sa disenyo at feedback ng tao . Kung ang mga tugon na maganda ang tunog ay gagantimpalaan kaysa sa mga mas tumpak, ang modelo ay may posibilidad na maging mas kaaya-aya kaysa sa tumpak; kung ang pinong-tune ay ginagawa nang may mga pabaya na layunin, ang mga nakalalasong pag-uugali ay maaaring lumitaw sa mga hindi inaasahang konteksto.
Para sa karaniwang gumagamit, ang praktikal na aral ay ang maging malinaw at direkta habang nananatiling magalang , sinasamantala ang mga tahasang tagubilin (“huwag magpaligoy-ligoy,” “sagot lang,” “ipaliwanag ang mga hakbang”), at tanggapin na mayroon pa ring mga hindi malinaw na lugar kung saan maaaring kumilos nang medyo pabago-bago ang modelo depende sa kung paano ibinubuod ang tanong. Para sa mga kumpanya at institusyon, mas seryoso ang babala: mahalagang masusing subaybayan kung paano pino at inilalapat ang mga modelong ito , kung anong datos ng pagsasanay ang ginagamit, at kung paano sinusuri ang kanilang pagganap nang lampas sa ilang mababaw na sukatan.
Ang kabalintunaan na ang pagiging bastos ay maaaring magpabuti sa ilang partikular na tugon ay hindi lamang isang imbitasyon upang abusuhin ang AI kundi isang repleksyon ng ating sariling mga teknikal at panlipunang limitasyon : ang mga modelo ay sumasalamin sa mga pagkiling ng tao at mga pattern ng komunikasyon, at ang ating gawain ay matutunan kung paano idisenyo ang mga ito—at kausapin ang mga ito—upang ang pagiging maaasahan ay hindi nakasalalay sa mga bastos na biro o walang kabuluhang pambobola, kundi sa matatag na mga mekanismo at isang minimally malusog na digital na kultura.
Masigasig na manunulat tungkol sa mundo ng mga byte at teknolohiya sa pangkalahatan. Gustung-gusto kong ibahagi ang aking kaalaman sa pamamagitan ng pagsusulat, at iyon ang gagawin ko sa blog na ito, ipakita sa iyo ang lahat ng mga pinaka-kagiliw-giliw na bagay tungkol sa mga gadget, software, hardware, teknolohikal na uso, at higit pa. Ang layunin ko ay tulungan kang mag-navigate sa digital na mundo sa simple at nakakaaliw na paraan.