Ngayon, karamihan sa atin ay gumagamit ng artificial intelligence sa pamamagitan ng mga website o app na nagpapadala ng ating data sa mga remote server. Bagama't maginhawa, nagtataas ito ng seryosong problema tungkol sa privacy At iniiwan tayo nito na nakatali sa mga buwanang subscription na maaaring magastos. Mabuti na lang at ang open-source ecosystem ay lumampas na sa ganitong kabaliwan, at ngayon ay ganap nang magagawa ang pagbuo ng isang digital na utak sa ating sariling computer, nang walang kahit isang byte na umaalis sa bahay.
Kung gusto mo ang ideya ng pagkakaroon ng isang assistant na hindi ka minamanman, hindi naniningil ng bayad, at maaari mong i-customize ayon sa gusto mo, napunta ka sa tamang lugar. Pag-usapan natin ito mula sa... mas matatag na mga plataporma para sa mga developer mula sa mga simpleng solusyon kung saan hindi mo na kailangang magsulat ng kahit isang linya ng code, hanggang sa mga teknikal na tutorial para sa mga gustong masanay sa programming.
Mga open-source na platform para sa pagbuo ng chatbot
Kapag pinag-uusapan natin ang open source software, tinutukoy natin ang mga tool na pampubliko ang code, na nagbibigay-daan sa isang buong komunidad na mapabuti ito at nagbibigay sa iyo ng ganap na kontrol sa sistemaMahalaga ito kung naghahanap ka ng transparency at kahusayan sa iyong proyekto.
- Botpress: Isa itong napakahusay na opsyon. Pinapayagan ka nitong lumikha ng mga visual flow para hindi ka ma-stuck sa code, bagama't mayroon itong JavaScript editor para sa mga oras na kailangan mong gumawa ng mas kumplikadong mga bagay. Gumagana ito nang mahusay sa Slack, Telegram, at Facebook Messenger.
- Rasa: Para sa mga naghahanap ng propesyonal na solusyon, ang Rasa ang pinakamagandang solusyon. Sa halip na matibay na daloy, gumagamit ito ng pamamaraang nakabatay sa kuwentoPagsasanay sa bot gamit ang mga totoong talaan ng pag-uusap. Naka-install ito sa sarili mong mga server at mainam kung marami kang data ng pagsasanay.
- Botkit: Pagmamay-ari ng Microsoft ngunit may lisensya sa ilalim ng MIT, ito ay isang tool na nakatuon sa mga developer na gustong lumikha ng malalakas na integrasyon sa mga platform ng pagmemensahe.
- wit.ai: Nakuha ng Meta, ito ay isang libre at napakatibay na opsyon para sa pagproseso ng natural na wika, lalo na kung ang iyong bot ay gagana sa Facebook Messenger.
- DeepPavlov: Dito tayo papasok sa larangan ng deep learning. Isa itong mainam na Python framework para sa mga gustong magpatupad ng mga modelo tulad ng BERT at lumikha mga kumplikadong sistema ng diyalogo.
- Tock: Isang kumpletong solusyon na hindi umaasa sa mga panlabas na API at nagbibigay-daan sa iyong mag-deploy ng mga bot nang lokal gamit ang Docker.
- BotMan.io: Kung mahilig ka sa PHP, ito ang tool para sa iyo. Ito marahil ang pinakasikat na PHP framework para sa mga bot, na nagbibigay-daan sa iyong isulat ang logic nang isang beses at i-deploy ito sa maraming channel.
- Iba pang mga kagiliw-giliw na pagpipilian: Mayroon kaming OpenDialog, na nag-aalok ng no-code designer sa PHP; Botonic, batay sa React at TypeScript para sa mas maraming visual na karanasan; Claudia Bot Builderna nagpapadali sa imprastraktura sa AWS; at Bottenderna nag-o-optimize sa pamamahala ng mga kaganapan sa pag-uusap. Itinatampok din nito golem, isang balangkas ng Python na gumagamit ng isang unibersal na pamamaraang lingguwistika sa halip na isang purong istatistikal na pamamaraan.
Ang alternatibong Walang-Kodigo: Katalinuhan nang walang programming
Hindi lahat ay marunong magprograma o may oras para mahirapan sa terminal. Para sa mga kasong ito, may mga no-code constructor, na gumagamit ng mga interface ng i-drag at i-drop upang tukuyin ang landas na tatahakin ng pag-uusap.
Mga tool tulad ng Ringover AI Assistant o Crisp Pinapayagan ka nitong i-automate ang customer service at makakuha ng mga lead nang walang kahirap-hirap. Sa kabilang banda, Typebot Isa itong kamangha-manghang open-source na opsyon na nagbibigay-daan sa iyong lumikha ng mga modernong interface at isama ang mga ito sa Notion o Google Sheets. Kung naghahanap ka ng isang bagay na natututo mula sa iyong sariling mga dokumento, Nagcha-chat Ito ay mainam dahil sinasanay nito ang bot nang direkta mula sa iyong website o mga FAQ. Iba pang mga solusyon tulad ng WotNot o Joonbot Mas nakatuon sila sa B2B environment at prospect qualification.
Pagbuo ng sarili mong lokal na AI: Ang modernong ecosystem
Kung gusto mong magpatakbo ng isang giant language model (LLM) sa iyong makina, ang kasalukuyang panalong kombinasyon ay Ollama kasama ang Open WebUIAng Ollama ay gumaganap bilang tagapamahala na nagbibigay-daan sa iyong mag-download at magpatakbo ng mga modelo tulad ng Llama 3 o Mistral nang walang komplikasyon. Kaya hindi mo kailangang gamitin ang terminal para sa lahat ng bagay, ang Open WebUI ay nagbibigay sa iyo ng interface na kapareho ng sa ChatGPT, na may chat history at mga preset ng personalidad.
Para gumana nang matatag at madaling i-scale ang lahat ng ito, mainam na gamitin Manggagawa sa pantalanSa pamamagitan ng pag-empake ng aplikasyon sa isang lalagyan, maiiwasan mo ang mga conflict sa dependency at gagawing portable ang sistema. Para sa maayos na pagbuo, inirerekomenda na magkaroon ng kahit man lang 16 GB ng RAM at isang modernong GPU, dahil lumilipad ang mga modelo kapag ganap silang magkasya sa video memory (VRAM), na natutupad ang Mga kinakailangan sa Windows 11 para sa paggamit ng lokal na artificial intelligence.
Dinadala ang bot sa susunod na antas gamit ang RAG at FastAPI
Mahusay ang isang lokal na chatbot, ngunit kung minsan ay alam lamang nito ang natutunan nito sa pangkalahatang pagsasanay nito. Para maging eksperto ito sa sarili mong datos, kailangan nating gumamit ng isang pamamaraan na tinatawag na RAG (Pagkuha ng Pinahusay na HenerasyonSa madaling salita, kinabibilangan ito ng pagbibigay sa modelo ng panlabas na kaalaman (tulad ng iyong mga tala o mga manwal ng kumpanya) na maaaring konsultahin bago tumugon.
Para maipatupad ito nang propesyonal, maaari nating gamitin ang FastAPIAng FastAPI ay isang ultra-fast Python framework na nagsisilbing tulay sa pagitan ng user at AI. Kasama ng FastAPI, ginagamit din ito. CallIndexIsang library na kumukuha ng teksto mula sa iyong mga dokumento, ini-index ito, at kinokonekta ito sa modelo ng Ollama, na ginagawang mas madali ito Maghatid ng malaking modelo ng wika mula sa iyong lokal na workstation.
Simple lang ang daloy ng trabaho: magtatanong ang user sa pamamagitan ng isang FastAPI endpoint, hahanapin ng LlamaIndex ang kaugnay na impormasyon sa iyong mga lokal na file at ipinapasa ito kay Ollama, na siyang bubuo ng pangwakas na sagot batay lamang sa datos na iyon. Sa ganitong paraan, magagawa mong tutor sa paghahanda para sa pagsusulit o eksperto sa mga regulasyon ng iyong kumpanya ang iyong AI sa pamamagitan lamang ng pagdaragdag ng mga .txt o .pdf file sa isang folder.
Ang pagkakaroon ng lokal na sistema ng AI ang pinakamahusay na paraan upang matiyak na ang sensitibong impormasyon ay hindi mahuhulog sa maling mga kamay at upang maalis ang mga paulit-ulit na gastos. Pumili man ng mga makapangyarihang framework tulad ng Rasa, mga no-code visual tool, o ang kombinasyon ng Ollama at LlamaIndex upang lumikha ng mga RAG system, ang kalayaan na pamahalaan ang iyong sariling kaalaman ang paggamit ng sarili mong hardware ay isang kwalitatibong hakbang sa kahusayan at digital na seguridad.
Masigasig na manunulat tungkol sa mundo ng mga byte at teknolohiya sa pangkalahatan. Gustung-gusto kong ibahagi ang aking kaalaman sa pamamagitan ng pagsusulat, at iyon ang gagawin ko sa blog na ito, ipakita sa iyo ang lahat ng mga pinaka-kagiliw-giliw na bagay tungkol sa mga gadget, software, hardware, teknolohikal na uso, at higit pa. Ang layunin ko ay tulungan kang mag-navigate sa digital na mundo sa simple at nakakaaliw na paraan.