Günümüzde çoğumuz yapay zekayı, verilerimizi uzak sunuculara gönderen web siteleri veya uygulamalar aracılığıyla kullanıyoruz. Bu durum kullanışlı olsa da, ciddi gizlilik endişelerine yol açıyor ve bizi pahalı aylık aboneliklere mahkum ediyor. Neyse ki, açık kaynak ekosistemi bu çılgınlığın ötesine geçti ve artık tek bir bayt bile evden çıkmadan kendi bilgisayarımızda dijital bir beyin oluşturmak tamamen mümkün.
Sizi gözetlemeyen, ücret talep etmeyen ve istediğiniz gibi özelleştirebileceğiniz bir asistana sahip olma fikri hoşunuza gidiyorsa, doğru yerdesiniz. Geliştiriciler için en sağlam platformlardan , tek bir satır kod yazmanıza gerek kalmayan basit çözümlere kadar her şeyi ayrıntılı olarak ele alacağız; programlamayla uğraşmak isteyenler için teknik eğitimler de sunacağız.
Chatbot geliştirme için açık kaynak platformları
Açık kaynak yazılımlardan bahsettiğimizde, kodu herkese açık olan, tüm bir topluluğun onu geliştirmesine olanak tanıyan ve size sistem üzerinde tam kontrol sağlayan araçlardan bahsediyoruz . Projenizde şeffaflık ve verimlilik arıyorsanız bu çok önemlidir.
- Botbaskı: Çok yönlü bir seçenek. Kodda boğulmadan görsel akışlar oluşturmanıza olanak tanıyor, ancak daha karmaşık şeyler yapmanız gerektiğinde kullanabileceğiniz bir JavaScript editörü de mevcut. Slack, Telegram ve Facebook Messenger ile harika çalışıyor.
- Rasa: Profesyonel bir çözüm arayanlar için Rasa, en değerli seçenektir. Katı akışlar yerine, farklı bir yaklaşım kullanır. öykü tabanlı yaklaşımBotu gerçek konuşma kayıtlarıyla eğitin. Kendi sunucularınıza kurulur ve çok miktarda eğitim veriniz varsa idealdir.
- Bot kiti: Microsoft'a ait olup MIT lisansı altında yayınlanan bu araç, mesajlaşma platformlarında güçlü entegrasyonlar oluşturmak isteyen geliştiricilere odaklanmıştır.
- wit.ai: Meta tarafından satın alınan bu araç, özellikle botunuz Facebook Messenger'da çalışacaksa, doğal dil işleme için ücretsiz ve oldukça sağlam bir seçenektir.
- DeepPavlov: Burada derin öğrenme alanına giriyoruz. BERT gibi modelleri uygulamak ve oluşturmak isteyenler için ideal bir Python çerçevesidir. karmaşık diyalog sistemleri.
- Tak: Harici API'lere bağımlı olmayan ve Docker kullanarak botları yerel olarak dağıtmanıza olanak tanıyan eksiksiz bir çözüm.
- BotMan.io: Eğer PHP hayranıysanız, bu tam size göre bir araç. Muhtemelen botlar için en popüler PHP çerçevesidir ve mantığı bir kez yazıp birden fazla kanalda kullanmanıza olanak tanır.
- Diğer ilginç seçenekler: Zorundayız OpenDialog'u açınPHP ile kod yazmadan tasarım yapma olanağı sunan bir araç; botonikDaha görsel deneyimler için React ve TypeScript tabanlı; Claudia Bot OluşturucuBu da AWS üzerindeki altyapıyı basitleştiriyor; ve şişeciBu, konuşma olaylarının yönetimini optimize eder. Ayrıca şunları da vurgular: GolemBu, tamamen istatistiksel bir yaklaşım yerine evrensel bir dilbilimsel yaklaşım kullanan bir Python çerçevesidir.
Kodsuz alternatif: Programlama gerektirmeyen zeka
Herkes programlama bilmez veya terminalle uğraşacak vakti yoktur. Bu gibi durumlarda, konuşmanın izleyeceği yolu tanımlamak için sürükle-bırak arayüzleri kullanan kodsuz yapıcılar mevcuttur.
Ringover'ın Yapay Zeka Asistanı veya Crisp gibi araçlar, müşteri hizmetlerini otomatikleştirmenize ve potansiyel müşteri verilerini zahmetsizce yakalamanıza olanak tanır. Öte yandan, Typebot, çok modern arayüzler oluşturmanıza ve bunları Notion veya Google Sheets ile entegre etmenize olanak tanıyan harika bir açık kaynak seçeneğidir. Kendi belgelerinizden öğrenen bir şey arıyorsanız, Chatling idealdir, çünkü botu doğrudan web sitenizden veya SSS'lerinizden eğitir. WotNot veya Joonbot gibi diğer çözümler ise daha çok B2B ortamına ve potansiyel müşteri nitelendirmesine odaklanmaktadır.
Kendi yerel yapay zekanızı oluşturmak: Modern ekosistem
Makinenizde büyük bir dil modeli (LLM) çalıştırmak istiyorsanız, şu anda en iyi kombinasyon Ollama ve Open WebUI'dir . Ollama, Llama 3 veya Mistral gibi modelleri sorunsuz bir şekilde indirip çalıştırmanıza olanak tanıyan bir yönetici görevi görür. Böylece her şey için terminali kullanmak zorunda kalmazsınız; Open WebUI, sohbet geçmişi ve kişilik ön ayarlarıyla ChatGPT'ninkine benzer bir arayüz sunar.
Her şeyin istikrarlı bir şekilde çalışması ve kolayca ölçeklenebilmesi için Docker kullanımı şiddetle tavsiye edilir . Uygulamayı bir konteynere paketleyerek bağımlılık çakışmalarını önler ve sistemi taşınabilir hale getirirsiniz. Sorunsuz kurulum için en az 16 GB RAM ve modern bir GPU önerilir , çünkü modeller video belleğinde (VRAM) tam olarak kullanıldığında olağanüstü performans gösterir ve Windows 11'in yerel yapay zeka gereksinimlerini karşılar.
RAG ve FastAPI ile botu bir üst seviyeye taşıyoruz.
Yerel bir sohbet robotu harika, ancak bazen yalnızca genel eğitim sırasında öğrendiklerini biliyor. Onu kendi verileriniz konusunda uzmanlaştırmak için, RAG (Retrieval Augmented Generation ) adı verilen bir teknik uygulamamız gerekiyor. Temelde, modelin yanıt vermeden önce başvurabileceği harici bir bilgi tabanı (notlarınız veya şirket kılavuzlarınız gibi) sağlamayı içeriyor.
Bunu profesyonelce uygulamak için, kullanıcı ile yapay zeka arasında köprü görevi gören ultra hızlı bir Python çerçevesi olan FastAPI'yi kullanabiliriz . FastAPI'nin yanı sıra , belgelerinizden metin çıkaran, onu indeksleyen ve Ollama modeline bağlayan bir kütüphane olan LlamaIndex de mevcuttur; bu sayede yerel iş istasyonunuzdan büyük bir dil modeline kolayca hizmet verebilirsiniz.
İş akışı basittir: Kullanıcı bir FastAPI uç noktası aracılığıyla bir soru sorar, LlamaIndex yerel dosyalarınızda ilgili bilgileri arar ve bunları Ollama'ya iletir; Ollama da bu verilere dayanarak nihai cevabı taslak haline getirir. Bu şekilde, bir klasöre .txt veya .pdf dosyaları ekleyerek yapay zekanızı bir sınav hazırlık eğitmenine veya şirketinizin yönetmelikleri konusunda uzman birine dönüştürebilirsiniz.
Yerel bir yapay zeka sistemine sahip olmak, hassas bilgilerin yanlış ellere geçmemesini sağlamanın ve tekrarlayan maliyetleri ortadan kaldırmanın en iyi yoludur. Rasa gibi güçlü çerçeveleri, görsel kodsuz araçları veya RAG sistemleri oluşturmak için Ollama ve LlamaIndex kombinasyonunu tercih etseniz de, kendi donanımınızda kendi bilginizi yönetme özgürlüğü , verimlilik ve dijital güvenlikte önemli bir ilerlemedir.
Genel olarak bayt ve teknoloji dünyası hakkında tutkulu bir yazar. Bilgilerimi yazarak paylaşmayı seviyorum ve bu blogda da bunu yapacağım; size gadget'lar, yazılım, donanım, teknolojik trendler ve daha fazlasıyla ilgili en ilginç şeyleri göstereceğim. Amacım dijital dünyada basit ve eğlenceli bir şekilde gezinmenize yardımcı olmaktır.