Daisy, Telefon Dolandırıcılıklarını Tersine Çeviren Yapay Zeka Büyükanne

Birleşik Krallık'ta, telefon dolandırıcılarıyla mücadele etmek için basit ama dahice bir fikir geliştirdiler: Hiç susmayan sanal bir büyükanne. Başrolde, Virgin Media O2 tarafından dolandırıcıları sonsuz aramalara hapsetmek ve bu arada gerçek insanları kandırmak için harcadıkları zamanı engellemek amacıyla yaratılan yapay zeka 'Daisy' var.

Temel prensip basit ve etkili: Eğer bir dolandırıcı Daisy ile 40 dakika geçirirse, bu 40 dakika boyunca kimsenin verilerini veya parasını çalmayı başaramaz. Şirket, Daisy'yi dolandırıcıların gerçek içerikleri ve dolandırıcılık karşıtı tekniklerle eğittiğini, böylece konuşma ve tepki verme biçiminin, nazik, dalgın ve konuşkan yaşlı bir insanınkinden neredeyse ayırt edilemez olduğunu iddia ediyor.

Daisy nedir ve neden var?

Daisy, telefonda gerçek zamanlı olarak dinleme, anlama ve yanıt verme amacıyla iş birliği yapan çeşitli yapay zeka modellerinin birleşimidir . Virgin Media O2, onu dolandırıcılık önleme ekibinin 'yeni bir üyesi' olarak , ironik bir şekilde 'dolandırıcı ilişkileri direktörü' unvanıyla tanıtıyor.

Daisy'nin görevi, kimsenin yapmak istemediği şeyi yapmaktır: dolandırıcıların gevezeliklerine katlanmak ve girişimlerini boşa çıkarmak. Onları aile hikayeleriyle, dikiş anekdotlarıyla veya hayali evcil hayvanıyla ilgili dikkat dağıtıcı şeylerle eğlendirirken , Daisy hiçbir yere varmayan sahte ipuçları ve uydurma gerçekler ortaya atar.

Bu fikrin açık bir sosyal boyutu var. O2'nin tespitine göre, İngiliz nüfusunun %71'i dolandırıcılara karşı durmak istiyor , ancak zamanlarını feda etmek istemiyor; işte Daisy tam da bu noktada devreye giriyor, kelimenin tam anlamıyla 'dünyanın tüm zamanına sahip ' ve umutsuzluğa kapılmıyor.

Nasıl çalışır ve hangi teknolojileri kullanır?

Gerçek bir büyükanne gibi ses çıkarmak için tek bir model yeterli değil: Daisy , kişiliğini ve bilgi birikimini ince ayarlamak için bir dizi üretken modele ve eğitilmiş bir LLM'ye güveniyor . Sesi de bir ekip üyesinin büyükannesinden esinlenerek modellendi, bu da ona inandırıcı ve samimi bir tını kazandırdı.

Kampanya için karakterin kamuoyu nezdindeki imajı, özel olarak eğitilmiş bir yayın modeli kullanılarak oluşturuldu. Tüm proje, telefon dolandırıcılığı konusunda farkındalık yaratmayı amaçlayan 'Dolandırıcılardan Uzak Durun' girişiminin bir parçası olarak, VCCP'nin yapay zeka yaratıcı ajansı Faith ile iş birliği içinde geliştirildi.

Buradaki kilit nokta doğallık. Daisy, dolandırıcıların tipik konuşma kalıplarını tanıyor , sevecen ve dalgın bir ton kullanıyor ve görüşmeyi uzatan, ancak suçluya hiçbir fayda sağlamayan duraklamalar, önemsiz sorular veya kısa öykülerle yanıt veriyor.

Söküp atan çağrı ve taktik örnekleri

Bir dolandırıcı ona sözde elektrik faturası iadesi, mucizevi bir iş teklifi veya uydurma bir teknik sorun satmaya çalıştığında, Daisy kaba görünmeden konuyu değiştirir. Dolandırıcı aklını kaybedip sabrını yitirirken, Daisy gözlüklerini bulmak için zaman isteyebilir, bir çörek tarifi hakkında konuşabilir veya bir örgü modeli hakkında sohbet edebilir .

Bir uygulama indirmesi veya bir bağlantı açması istendiğinde, yapay zeka kolayca teknik bir belirsizlik numarası yapıyor. Hatta mükemmel bir kurban olduğu yanılsamasını güçlendirmek için sahte banka bilgileri veya uydurma bilgiler bile sağlıyor , ancak kullanıcıları riske atabilecek gerçek bilgileri veya adımları asla ifşa etmiyor.

Virgin Media O2'nin yaptığı dahili testlerde, Daisy'nin çok sayıda dolandırıcıyı yaklaşık 40 dakika boyunca telefonda tutmayı başardığı belirtiliyor. Bu süre, dolandırıcıların savunmasız bir kişiyi tekrar arama girişiminde bulunmasını engellemek ve aynı zamanda kullandıkları en yaygın taktikleri incelemek için yeterli.

Dolandırıcılığın etkisi: acı rakamlar

Sorun oldukça ciddi. BDO'nun tahminlerine göre, İngiltere'deki dolandırıcılığın toplam değeri 2023 yılında 2.300 milyar sterline ulaşarak bir önceki yılın iki katına çıktı. Dolandırıcılık amaçlı telefon aramaları artmaya devam ediyor ve teknolojiye daha az aşina olanları orantısız bir şekilde etkiliyor.

Portsmouth Üniversitesi'nin yaptığı araştırmaya göre, 75 yaş üstü katılımcıların üçte ikisi son altı ayda en az bir dolandırıcılık girişimine maruz kalmış. Yaşlı insanlar dolandırıcılar için başlıca hedef kitleyi oluşturuyor ve Daisy de tam olarak bu önyargıyı kullanarak onları kandırıyor.

Ayrıca, O2 verilerine göre, İngilizlerin %22'si haftalık olarak dolandırıcılık girişimine maruz kalıyor ve %67'si mağdur olma korkusuyla yaşıyor. Bu durum göz önüne alındığında, suçluların harcadığı zamanı ve etkinliğini azaltan her türlü araç, genel korumaya katkıda bulunur.

Gerçek materyal ve uzman işbirliğiyle eğitim

Daisy'nin robot gibi konuşmasını önlemek için, gerçek materyallerle eğitilmesi gerekiyordu. Virgin Media O2, dolandırıcılardan alınan gerçek içerik kullandığını ve sahte çağrı merkezlerini araştıran ve YouTube'da dolandırıcılıkla mücadeleyi popülerleştiren tanınmış içerik üreticisi Jim Browning'e güvendiğini belirtiyor.

Browning ile birlikte şirket, Daisy'nin telefon hattına dolandırıcıların sıklıkla aradığı numaraları yerleştirdi. Ayrıca, dolandırıcıların potansiyel kurban aradığı yerlere de sahte telefonlar yerleştirildi , böylece yapay zeka gerçek dünya koşullarında gerçek aramalar alabildi.

Sonuç: Daisy, haftalarca insan müdahalesi olmadan dolandırıcılarla gerçek zamanlı olarak etkileşim kurarak faaliyet gösterdi ve davranışlarının laboratuvar dışında ve birden fazla aksan, ritim ve dolandırıcılık senaryosuna karşı da geçerli olduğunu doğruladı.

Kampanya hedefleri ve gerçek erişim

Virgin Media O2'nin açıkça belirttiği gibi, projenin güçlü bir eğitim bileşeni var. Amaç, milyonlarca 'Daisy' telefonunu aynı anda kullanıma sunmak değil, suçluların kullandığı taktikler konusunda farkındalık yaratmak ve halkı şüpheli aramalara karşı dikkatli olmaya teşvik etmektir.

Bu eğitim yaklaşımı, tanınmış kişilerin yer aldığı görsel-işitsel materyallere dayanmaktadır. Banka dolandırıcılığı mağduru olan influencer Amy Hart, gerçek hayattaki deneyimini dile getirmek ve uyarı işaretlerini nasıl tespit edeceğini açıklamak için kampanyaya katkıda bulunuyor .

Bu arada, O2'nin dolandırıcılık ekibi şu hususu vurguluyor: Kendi başınıza dolandırıcılık avına çıkmamanız en iyisidir. Şüpheli aramaları ve mesajları , operatörün inceleyip engellemesi için 7726 numaralı ücretsiz hatta bildirmenizi öneriyorlar .

Aramalar nasıl yönlendirilir ve neden telefonunuzda değildir?

Sıkça sorulan bir soru, Daisy'nin kişisel telefona yüklenip yüklenemeyeceğidir. Yüklenemez: Yapay zeka, suçluların belirlediği belirli hatlardan çalışır , bu nedenle suçlular kurban ararken onunla karşılaşırlar.

Bir diğer giriş noktası ise şikayetlerdir. O2, iletişimleri 7726'ya yönlendirerek kalıpları ve kaynakları belirler ve yüksek riskli aramaları Daisy'ye yönlendirerek dolandırıcıları meşru müşterilerden uzaklaştırabilir.

Bu tasarım, kullanıcılar için riski en aza indirirken yapay zekanın zaman tuzağı aracı olarak etkinliğini en üst düzeye çıkarır. Şirket, kullanıcılardan "intikam" işini Daisy'ye bırakmalarını ve dolandırıcılığı kaynağında durdurmak için olayları bildirmelerini rica ediyor.

Spam ve kimliğe bürünmeye karşı daha fazla önlem

Daisy yalnız değil. O2, şüpheli numaraların alıcıya ulaşmadan önce filtrelenmesine yardımcı olan yapay zeka destekli spam önleme araçları ve ücretsiz arayan kimliği hizmetleri başlattı .

Telekom operatörü, geçen yıl 89 milyon sahte SMS mesajını engellediğini ve 250 milyon sterlinin üzerinde şüpheli işlemi durdurduğunu iddia ediyor. Bu rakamlar, sorunun boyutunu ve 7726'ya yapılan bildirimlerle beslendiğinde filtrelerin etkinliğini gösteriyor.

Son olarak şirket, İngiliz hükümetinden daha güçlü bir yanıt talep etti. Şirket, dolandırıcılıkla mücadele için özel bir bakan atanmasını ve tüm soruşturmaları merkezileştirmek üzere tek, iyi finanse edilmiş bir polis gücü oluşturulmasını öneriyor .

Fark yaratan yaratıcı detaylar

Daisy'nin başarısı tesadüf değil: karakteri titizlikle tasarlandı. Sesi, bir ekip üyesinin büyükannesinin sesinden esinlenerek oluşturuldu ve bu da ona gerçek bir doku, ritim ve ifade kazandırdı; kampanya için görsel temsili ise özel olarak eğitilmiş bir yayın modeli kullanılarak geliştirildi.

Bu teknik açıdan yaratıcı çalışma, herkesi kandırabilecek konuşma inceliklerine dönüşüyor. Yapay zeka, aile, ev işleri veya hobiler hakkında kısa, inandırıcı hikayeler oluşturuyor ve dolandırıcıların beklediği klişeye uyan inandırıcı teknolojik şüpheler sergiliyor.

Amaç, suçluların önyargılarını istismar etmek ve onları tersine çevirmektir. Dolandırıcı mükemmel kurbanı bulduğunu düşünür ve aşırı özgüven kazanırsa, yapay zeka onları anlamsız istekler, komik yanlış anlamalar ve hesaplanmış duraklamalarla daha da tuzağa düşürür.

Ölçülen sonuçlar ve sürekli öğrenme

Ortalama 40 dakika bir üst sınır değil, aksine yeteneklerin bir göstergesidir. Her çağrı, kalıpları tanımayı pekiştirmeye, senaryoyu iyileştirmeye ve Daisy'nin yeni tekniklere karşı direncini artırmaya hizmet eder.

Doğrudan engellemenin yanı sıra, istihbarat değeri de var. Yapay zeka, işe yarayan sosyal mühendislik senaryolarını, vurguları, ritimleri ve karşı argümanları analiz etmeye olanak tanıyor; bu veriler, operatörün savunmasının diğer katmanlarına da uygulanabiliyor.

Bu bilgi, denklemin merkezinde yer alan gerçek kullanıcıları daha iyi korumaya yardımcı olur. Suçlular hakkında ne kadar çok şey öğrenirsek, kampanyalarının gerçekleşmesini önlemek o kadar kolaylaşır.

Ekosistem bağlamı: genişleyen tehditler

Dolandırıcılıktaki artış yalnızca telefonla sınırlı değil. WPP CEO'sunu hedef alan deepfake dolandırıcılığı girişimi veya bağlantılı cihazlarda zayıf şifrelerin giderek daha fazla düzenlenmesi gibi vakalar, sorunun boyutunu gösteriyor.

Uzmanlaşmış teknoloji şirketleri, yapay zekanın savunma alanındaki kullanımının bankacılık, sigorta ve kamu sektörüne doğru genişlediğini belirtiyor. Yetkisiz işlemleri tespit etmek, şüpheli talepleri incelemek ve vergi usulsüzlüklerini belirlemek için kullanılıyor ; bu alanlar aynı zamanda dolandırıcılığın da yer edinmeye çalıştığı alanlar.

Tüm bunlar net bir sonuca götürüyor: sihirli bir çözüm yok, ancak etkiyi azaltan birleşik stratejiler mevcut . Bu kapsamda Daisy benzersiz bir konumda yer alıyor: dolandırıcıların zamanını alarak müşterileri korumak için daha fazla alan yaratıyor.

Avantajlar, sınırlamalar ve etik sorunlar

En büyük avantaj açık: Yapay zekanın sonsuz sabrını, dolandırıcıların geri alamayacağı bir kaynağa dönüştürmek . Daisy'ye harcanan her dakika, potansiyel bir kurbana ulaşılamayan bir dakika demektir.

Sınırlamalar arasında, işletmecinin kendisi de bu yaklaşımı evrenselleştirmeyi amaçlamadığını belirtiyor. Bu, farkındalığı artırmak ve suçu kontrol altına almak için bir araçtır, öz savunmanın veya koordineli polis eyleminin yerini tutmaz.

Etik açıdan bakıldığında, proje bireylerin ateşle oynamasını teşvik etmemek üzere tasarlandı. Temel ilke, tüm girişimleri 7726'ya yönlendirmek ve kişisel risklerden kaçınarak dolandırıcılarla yüzleşmeyi kontrollü bir ortamda tutmaktır.

Vatandaşların rolü: Ne yapabilirsiniz?

İlk kural basit: Kişisel bilgilerinizi isteyen veya ödeme aciliyeti iddiasında bulunan istenmeyen aramalara karşı dikkatli olun. En ufak bir şüphe durumunda telefonu kapatın ve resmi kanallar aracılığıyla iletişime geçin . Bankanız, devlet kurumunuz veya mobil operatörünüz asla telefonda beklenmedik bir şekilde şifre veya kod talep etmez.

İkinci olarak, operatörünüzün araçlarından yararlanın. O2 kullanıyorsanız, şüpheli mesajları ve numaraları 7726'ya iletin ; bu raporlar, büyük ölçekli engellemeyi mümkün kılan ve Daisy gibi sistemleri besleyen yakıt görevi görür.

Üçüncüsü, bu bilgiyi çevrenizdekilerle paylaşın. Yaşlı akrabalar ve teknolojiye daha az aşina olanlar sık ​​karşılaşılan hedeflerdir ; dolandırıcılık belirtileri hakkında zamanında yapılacak bir konuşma size sıkıntıdan ve paradan tasarruf sağlayabilir.

Çok yetenekli bir sanal büyükanne

Daisy, dikişle ilgili şakalar ve teknolojiyle ilgili masum sorular arasında ciddi bir taktik uyguluyor: sosyal mühendisliği tersine çeviriyor ve dolandırıcının ona karşı olan önyargılarını kullanıyor . Etkinliği de işte burada yatıyor, neşeli şakalaşmanın ötesinde.

Bir yapay zekanın, soğukkanlılığını kaybetmeden 40 dakikalık inandırıcı bir konuşmayı sürdürebilmesi, teknolojinin geldiği noktayı açıkça ortaya koyuyor. Üretken modeller, inandırıcı bir sentetik ses ve iyi ayarlanmış bir LLM kişiliği arasındaki koordinasyon, gelecekteki konuşma savunmaları için yüksek bir çıta belirliyor.

Güçlü bir yaratıcı kampanya ve ağ araçlarının desteğiyle Daisy, daha büyük bir yapbozun parçası gibi yerine oturuyor. Otomatik engelleme, arayan kimliği, desen analizi ve kurumsal koordinasyon, dolandırıcılığı gerçekten azaltan çerçeveyi tamamlıyor.

Nasıl çalıştığını öğrendikten sonra, bunun eksiksiz bir çözüm olması veya telefonunuzda sürekli olarak bulunması gerekmediği açıkça anlaşılıyor. Esasen, hattın diğer ucundaki kişinin iddia ettiği kişi olmayabileceğini ve günümüzde en iyi savunmanın teknoloji, sabır ve sağduyuyu birleştirmekten geçtiğini canlı bir şekilde hatırlatıyor.