Si Daisy, ang AI ​​Grandma na Nagbabakasakali ng mga Panloloko sa Telepono

Sa United Kingdom, nagpasya silang harapin ang mga manloloko sa telepono na may ideyang kasing simple nito: isang virtual na lola na hindi nagsasawang magsalita. Ang bida ay si 'Daisy', isang AI na nilikha ng Virgin Media O2 upang isali ang mga scammer sa walang katapusang mga tawag. at, nagkataon, pigilan silang gugulin ang oras na iyon sa panlilinlang ng mga totoong tao.

Ang premise ay diretso at epektibo: kung ang scammer ay mag-aaksaya ng 40 minuto kasama si Daisy, iyon ay 40 minuto kung saan hindi niya magagawang magnakaw ng data o pera ng sinuman. Sinasabi ng kumpanya na sinanay si Daisy gamit ang tunay na nilalaman ng scammer at mga diskarte sa scambaiting. kaya't ang kanilang paraan ng pagsasalita at pagtugon ay halos hindi makilala sa isang palakaibigan, nakakagambala, at nakikipag-usap na matatandang tao.

Ano ang Daisy at bakit ito umiiral?

Ang Daisy ay isang kumbinasyon ng ilang mga modelo ng artipisyal na katalinuhan na nakikipagtulungan sa isa't isa upang makinig, umunawa at tumugon sa telepono nang real time. Ipinakilala siya ng Virgin Media O2 bilang isang 'bagong miyembro' ng pangkat ng pag-iwas sa pandaraya, na may ironic na pamagat na 'director of relations with scammers'.

Ang kanilang tungkulin ay gawin ang walang gustong gawin: tiisin ang usapan ng mga scammer at hadlangan ang kanilang mga pagtatangka. Habang nililibang sila sa mga kwento ng pamilya, nananahi ng mga anekdota, o nakakagambala tungkol sa kanilang kathang-isip na alagang hayopSi Daisy ay patuloy na naglalabas ng mga maling pahiwatig at gawa-gawang impormasyon na hindi kailanman humahantong saanman.

Ang ideya ay may malinaw na bahagi ng lipunan. Nalaman ng O2 na 71% ng populasyon ng Britanya ang gustong manindigan sa mga scammer., ngunit hindi sinasakripisyo ang kanyang oras; doon nababagay si Daisy, na literal na 'mayroon ng lahat' oras ng mundo' at hindi nawalan ng pag-asa.

Paano ito gumagana at kung anong mga teknolohiya ang ginagamit nito

Para maging tunay na lola, hindi sapat ang isang modelo: Umaasa si Daisy sa isang seleksyon ng generative na mga modelo at isang LLM sinanay upang ayusin ang iyong pagkatao at base ng kaalamanAng kanyang boses ay na-modelo rin sa lola ng isang miyembro ng team, na nagbibigay dito ng isang kapani-paniwala at relatable na timbre.

Ang pampublikong imahe ng character para sa kampanya ay nabuo gamit ang isang custom-trained na diffusion model. Ang buong proyekto ay binuo gamit ang Faith, ang creative artificial intelligence agency ng VCCP., bilang bahagi ng 'Swerve the Scammers' initiative, na naglalayong itaas ang kamalayan tungkol sa panloloko sa telepono.

Ang susi ay pagiging natural. Kinikilala ni Daisy ang mga pattern ng pag-uusap na tipikal ng mga scammer, nagpapanatili ng mapagmahal at nakakagambalang tono, at tumutugon nang may mga pag-pause, mga walang kuwentang tanong o maliliit na kuwento na nagpapahaba sa tawag nang hindi nagbibigay ng anumang bagay na kapaki-pakinabang sa nagkasala.

Mga halimbawa ng mga tawag at taktika na nag-dismantle

Kapag sinubukan ng isang scammer na ibenta sa kanya ang dapat na refund ng kuryente, isang mahimalang alok sa trabaho, o isang gawa-gawang teknikal na problema, binago ni Daisy ang paksa nang hindi mukhang bastos. Maaari kang humingi ng oras upang mahanap ang iyong salamin, pag-usapan ang reseta ng scone, o pag-usapan ang pattern ng pagniniting. habang ang scammer ay nawawala ang kanyang thread at ang kanyang pasensya.

Kung hihilingin sa iyong mag-download ng app o magbukas ng link, natural na magkunwaring kawalan ng katiyakan sa teknolohiya. Nagbibigay pa nga ang AI ng mga pekeng detalye ng bangko o gawa-gawang detalye para palakasin ang ilusyon na ito ay isang perpektong biktima., ngunit hindi kailanman naglalantad ng totoong impormasyon o mga hakbang na naglalagay sa panganib sa mga user.

Sa mga panloob na pagsusuri, sinabi ng Virgin Media O2 na nagawa ni Daisy na panatilihin ang 'maraming manloloko' sa telepono nang humigit-kumulang 40 minuto sa isang pagkakataon. Ito ay sapat na oras upang pigilan silang subukan ang isa pang tawag sa isang mahinang tao. at, kasabay nito, upang pag-aralan ang mga pinakakaraniwang taktika na kanilang ginagamit.

Epekto ng pandaraya: masakit na mga pigura

Hindi maliit ang problema. Tinatantya ng BDO na ang kabuuang halaga ng pandaraya sa UK ay aabot sa £2.300 bilyon pagsapit ng 2023., doblehin ang bilang mula sa nakaraang taon. Ang mga mapanlinlang na tawag ay patuloy na tumataas, na tumama sa mga hindi gaanong pamilyar sa teknolohiya lalo na nang husto.

Nalaman ng Unibersidad ng Portsmouth na dalawang-katlo ng mahigit 75 na na-survey ay nakaranas ng hindi bababa sa isang pagtatangkang panloloko sa nakalipas na anim na buwan. Ang mga matatanda ay pangunahing target ng mga scammer, at ang pagkiling na iyon ay tiyak na sinasamantala ni Daisy para linlangin sila pabalik.

Higit pa rito, ayon sa data ng O2, 22% ng mga Briton ang nahaharap sa tangkang pandaraya linggu-linggo, at 67% ang nag-aalala tungkol sa pagiging biktima. Dahil sa sitwasyong ito, ang anumang tool na nagbabawas sa oras at kahusayan ng mga kriminal ay nakakatulong sa pangkalahatang proteksyon..

Pagsasanay na may totoong materyal at pakikipagtulungan ng dalubhasa

Upang maiwasang magmukhang robot si Daisy, kinailangan niyang sanayin ang tunay na materyal. Sinabi ng Virgin Media O2 na gumamit ito ng totoong nilalaman ng scam at umasa kay Jim Browning, ang kilalang creator na nag-iimbestiga sa mga mapanlinlang na call center at nagpasikat ng scambaiting sa YouTube.

Sa Browning, pinakain ng kumpanya ang linya ni Daisy ng mga numero na regular na dina-dial ng mga scammer. Naglagay din ng mga decoy phone sa mga lokasyon kung saan sinusubaybayan ng mga scammer ang mga potensyal na biktima., upang ang AI ay makatanggap ng mga tunay na tawag sa ilalim ng mga kondisyon sa field.

Ang resulta: Ilang linggo nang nagpapatakbo si Daisy, nakikipag-ugnayan sa mga scammer sa totoong oras nang walang direktang interbensyon ng tao., na nagpapatunay na ang kanyang gawi ay nananatili sa labas ng laboratoryo at sa harap ng maraming accent, ritmo, at mga script ng panloloko.

Mga layunin ng kampanya at aktwal na abot

Ang Virgin Media O2 ay naging malinaw: ang proyekto ay may malakas na bahaging pang-edukasyon. Ang layunin ay hindi upang i-deploy ang milyun-milyong Daisys nang magkatulad, ngunit upang gawing nakikita ang mga taktikang kriminal at hikayatin ang mga mamamayan na maging mapagbantay. sa kaganapan ng anumang kahina-hinalang tawag.

Ang pedagogy na ito ay sinusuportahan ng mga audiovisual na piraso na pinagbibidahan ng mga kilalang mukha. Ang influencer na si Amy Hart, isang biktima ng pandaraya sa bangko, ay nakikipagtulungan sa kampanya upang bigyan ng boses ang tunay na karanasan. at ipaliwanag kung paano matukoy ang mga palatandaan ng babala.

Samantala, iginigiit ng pangkat ng pandaraya ng O2: pinakamahusay na huwag makisali sa scambaiting nang mag-isa. Ang rekomendasyon ay ipasa ang mga kahina-hinalang tawag at mensahe sa toll-free na numero 7726 para imbestigahan at harangan ng operator.

Paano dinadala ang mga tawag at bakit wala ito sa iyong telepono

Ang isang karaniwang tanong ay kung maaaring mai-install si Daisy sa isang personal na telepono. Hindi ganoon: Gumagana ang AI mula sa mga partikular na linya na lumalabas sa mga listahang ginagamit ng mga kriminal., kaya kapag naghahanap sila ng mga biktima, napunta sila sa kanya.

Ang isa pang paraan ay sa pamamagitan ng mga reklamo. Sa pamamagitan ng pagpapasa ng mga komunikasyon sa 7726, kinikilala ng O2 ang mga pattern at pinagmulan, at maaaring mag-redirect ng mga tawag na may mataas na peligro kay Daisy upang alisin ang mga scammer mula sa mga tunay na customer.

Pinaliit ng disenyong ito ang panganib sa mga user at pinapalaki ang pagiging kapaki-pakinabang ng AI bilang isang time trap. Ang kumpanya mismo ang humihiling na ipaubaya ang 'paghihiganti' kay Daisy at limitahan ang kanilang mga sarili sa pag-uulat ng mga insidente upang ihinto ang pandaraya sa pinagmulan.

Higit pang mga hakbang laban sa spam at pagpapanggap

Hindi nag-iisa si Daisy. Ang O2 ay naglunsad ng AI-powered anti-spam tool at libreng caller ID services. na tumutulong sa pag-filter ng mga kahina-hinalang numero bago nila maabot ang tatanggap.

Sinasabi ng telemarketer na noong nakaraang taon ay hinarangan nito ang 89 milyong mapanlinlang na mga mensaheng SMS at huminto ng higit sa £250 milyon sa mga kahina-hinalang transaksyon. Ang mga figure na ito ay nagbibigay ng ideya ng laki ng problema at ang pagiging epektibo ng mga filter kapag pinapakain ng mga ulat sa 7726.

Bilang karagdagan, nanawagan ang kumpanya sa gobyerno ng Britanya na magbigay ng mas malakas na tugon. Iminungkahi niya ang paghirang ng isang partikular na ministro laban sa pandaraya at paglikha ng isang solong ahensya ng pulisya na may mahusay na kagamitan. upang isentro ang lahat ng pagsisiyasat.

Mga malikhaing detalye na gumagawa ng pagkakaiba

Ang tagumpay ni Daisy ay hindi nagkataon lamang: ang kanyang karakter ay maingat na na-curate. Ang boses ay ginawa sa lola ng isang miyembro ng team, na nagdaragdag ng tunay na texture, ritmo, at pagpapahayag.; at ang visual na representasyon nito para sa kampanya ay isinilang mula sa isang custom-trained na diffusion model.

Ang teknikal na gawaing malikhaing ito ay isinasalin sa mga nuances sa pakikipag-usap na nanlilinlang sa sinuman. Pinagsasama-sama ng AI ang maliliit, mapagkakatiwalaang mga kuwento tungkol sa pamilya, gawaing bahay, o libangan., at nagpapakita ng mga mapagkakatiwalaang teknolohikal na pagdududa na akma sa stereotype na inaasahan ng mga scammer.

Ang layunin ay upang samantalahin ang mga kriminal na pagtatangi upang maibalik ang mga ito. Kung inaakala ng scammer na nahanap na niya ang perpektong biktima at nagiging sobrang kumpiyansa, mas lalo siyang ginagambala ng AI. na may mga walang kwentang kahilingan, nakakatawang hindi pagkakaunawaan at kalkuladong timeout.

Nasusukat na mga resulta at patuloy na pag-aaral

Ang 40 minutong average ay hindi isang kisame, ngunit isang pagpapakita ng kakayahan. Ang bawat tawag ay nagsisilbing palakasin ang mga pattern detector, i-fine-tune ang script, at pahusayin ang paglaban ni Daisy sa mga bagong diskarte. na lumilitaw.

Bilang karagdagan sa direktang pagharang, mayroong isang halaga ng katalinuhan. Maaaring suriin ng AI ang mga script ng social engineering, accent, ritmo, at counterargument na gumagana., data na maaaring ilapat sa iba pang mga layer ng depensa ng operator.

Nakakatulong ang kaalamang ito na mas maprotektahan ang mga totoong user, na nasa puso ng equation. Kung mas marami kang natututunan tungkol sa mga kriminal, mas madaling isara ang kanilang mga kampanya..

Konteksto ng ekosistema: pagpapalawak ng mga banta

Ang pagtaas ng pandaraya ay hindi limitado sa telepono. Mga kaso gaya ng tangkang deepfake na scam laban sa CEO ng WPP o sa lumalagong regulasyon ng mahihinang password sa mga konektadong device ipakita ang lawak ng harapan.

Itinuturo ng mga dalubhasang kumpanya ng teknolohiya na ang paggamit ng AI sa pagtatanggol ay umaabot sa pagbabangko, seguro, at pampublikong sektor. Ginagamit ito upang makita ang mga hindi awtorisadong transaksyon, suriin ang mga kahina-hinalang claim o tukuyin ang mga anomalya sa buwis., mga lugar kung saan hinahangad din ng pandaraya na makalusot.

Ang lahat ng ito ay humahantong sa isang malinaw na konklusyon: Walang pilak na bala, ngunit may mga pinagsama-samang estratehiya na nakakabawas sa epekto.Sa espasyong iyon, gumaganap ng kakaibang papel si Daisy: paglalayo ng oras mula sa mga scammer at pagkakaroon ng kalayaan upang protektahan ang mga customer.

Mga kalamangan, limitasyon at mga isyu sa etika

Ang pangunahing bentahe ay halata: Ginagawang mapagkukunan ang walang katapusang pasensya ng AI na hindi na mababawi ng mga scammerAng bawat minutong ginugugol sa Daisy ay isang minutong hindi nakakarating sa isang potensyal na biktima.

Kabilang sa mga limitasyon, ang operator mismo ay naaalala na hindi niya nilayon na gawing pangkalahatan ang pamamaraang ito. Ito ay isang kasangkapan para sa kamalayan at pagpigil, hindi isang kapalit para sa pagprotekta sa sarili. o ng coordinated police action.

Sa isang etikal na antas, ang proyekto ay idinisenyo upang maiwasan ang pag-uudyok sa mga indibidwal na maglaro ng apoy. Ang patnubay ay i-channel ang bawat pagtatangka sa 7726 at maiwasan ang mga personal na panganib., pinapanatili ang paghaharap sa mga scammer sa isang kontroladong kapaligiran.

Ang tungkulin ng mga mamamayan: kung ano ang magagawa mo

Ang unang panuntunan ay simple: mag-ingat sa mga hindi hinihinging tawag na humihiling ng impormasyon o agarang kahilingan sa pagbabayad. Kung mayroon kang kaunting hinala, ibaba ang tawag at makipag-ugnayan sa mga opisyal na channel.Ang iyong bangko, ahensya ng gobyerno, o carrier ay hinding-hindi inaasahang hihingi sa iyo ng mga password o code sa telepono.

Pangalawa, samantalahin ang mga tool ng iyong operator. Kung gumagamit ka ng O2, ipasa ang mga kahina-hinalang mensahe at numero sa 7726Ang mga reklamong ito ay ang gasolina na nagbibigay-daan para sa malakihang pagharang at mga sistema ng paglalagay ng gasolina tulad ng Daisy.

Pangatlo, ibahagi sa iyong kapaligiran. Ang mga matatandang kamag-anak at mas kaunting mga digital na tao ay karaniwang mga targetAng isang napapanahong talakayan tungkol sa mga palatandaan ng pandaraya ay makakapagtipid sa iyo ng problema at pera.

Isang napakahusay na virtual na lola

Sa pagitan ng mga biro tungkol sa pananahi at mga inosenteng tanong tungkol sa teknolohiya, si Daisy ay nagsasagawa ng seryosong taktika: iwasan ang social engineering at pagsamantalahan ang mga bias ng scammer laban sa kanilaDoon nakasalalay ang pagiging epektibo nito, lampas sa biro.

Ang katotohanan na ang isang AI ay maaaring mapanatili ang isang mapagkakatiwalaang pag-uusap sa loob ng 40 minuto nang hindi nawawalan ng tulog ay nagsasalita ng maraming tungkol sa estado ng sining. Ang koordinasyon sa pagitan ng mga generative na modelo, kapani-paniwalang synthetic na boses, at isang LLM na may fine-toned na personalidad nagtatakda ng isang mataas na bar para sa hinaharap na mga pagtatanggol sa pakikipag-usap.

Sinusuportahan ng isang malakas na malikhaing kampanya at pinahusay na mga tool sa networking, umaangkop si Daisy na parang isang piraso ng mas malaking puzzle. Awtomatikong pagharang, pagkakakilanlan ng tumatawag, pagsusuri ng pattern at koordinasyon ng institusyon kumpletuhin ang balangkas na tunay na nagbabawas ng panloloko.

Pagkatapos matutunan kung paano ito gumagana, malinaw na hindi ito nilayon na maging kumpletong solusyon o live sa iyong telepono. Ito ay, higit sa lahat, isang buhay na buhay na paalala na sa kabilang dulo ng telepono ay maaaring walang kung sino ang sinasabi nilang sila., at ngayon ang pinakamahusay na pagtatanggol ay pinaghahalo ang teknolohiya, pasensya at sentido komun.