Tänapäeval kasutab enamik meist tehisintellekti veebisaitide või rakenduste kaudu, mis saadavad meie andmeid kaugserveritesse. Kuigi see on mugav, tekitab see tõsiseid privaatsusprobleeme ja seob meid kallite kuutasudega. Õnneks on avatud lähtekoodiga ökosüsteem sellest hullusest üle saanud ja nüüd on täiesti teostatav ehitada digitaalne aju oma arvutisse, ilma et ükski bait kodust lahkuks.
Kui sulle meeldib mõte assistendist, kes sind ei luura, ei võta tasusid ja keda saad oma maitse järgi kohandada, siis oled õiges kohas. Me jagame lahti kõik alates kõige vastupidavamatest arendajatele mõeldud platvormidest kuni lihtsate lahendusteni, kus sa ei pea kirjutama ühtegi koodirida, sealhulgas tehnilised õpetused neile, kes soovivad programmeerimisega ise alustada.
Avatud lähtekoodiga platvormid vestlusrobotite arendamiseks
Avatud lähtekoodiga tarkvara all peame silmas tööriistu, mille kood on avalik, võimaldades tervel kogukonnal seda täiustada ja andes teile süsteemi üle täieliku kontrolli . See on oluline, kui otsite oma projektis läbipaistvust ja tõhusust.
- Botpress: See on väga mitmekülgne valik. See võimaldab teil luua visuaalseid vooge, nii et te ei takerdu koodi, kuigi sellel on JavaScripti redaktor juhuks, kui teil on vaja teha keerukamaid asju. See töötab suurepäraselt Slacki, Telegrami ja Facebook Messengeriga.
- Rasa: Professionaalse lahenduse otsijatele on Rasa kroonijuveel. Jäikade voogude asemel kasutab see a lugudel põhinev lähenemineBoti treenimine päris vestluslogidega. See installitakse teie enda serveritesse ja on ideaalne, kui teil on palju treeningandmeid.
- Botkit: Microsoftile kuuluv, kuid MIT-i litsentsiga tööriist on suunatud arendajatele, kes soovivad luua võimsaid integratsioone sõnumsideplatvormidel.
- wit.ai: Meta omandatud, see on tasuta ja väga töökindel valik loomuliku keele töötlemiseks, eriti kui teie bot hakkab elama Facebook Messengeris.
- DeepPavlov: Siin siseneme süvaõppe valdkonda. See on ideaalne Pythoni raamistik neile, kes soovivad rakendada selliseid mudeleid nagu BERT ja luua keerulised dialoogisüsteemid.
- Tock: Täislahendus, mis ei sõltu välistest API-dest ja võimaldab teil Dockeri abil lokaalselt roboteid juurutada.
- BotMan.io: Kui oled PHP fänn, on see tööriist just sulle. See on ilmselt kõige populaarsem PHP raamistik bottidele, mis võimaldab sul loogika ühe korra kirjutada ja seda mitmes kanalis juurutada.
- Muud huvitavad valikud: Meil on a OpenDialog, mis pakub PHP-s koodivaba disainerit; Botooniline, mis põhineb Reactil ja TypeScriptil visuaalsema kogemuse saamiseks; Claudia Bot Buildermis lihtsustab AWS-i infrastruktuuri; ja Bottendermis optimeerib vestlussündmuste haldamist. See toob esile ka Golem, Pythoni raamistik, mis kasutab universaalset keelelist lähenemist puhtalt statistilise asemel.
Koodivaba alternatiiv: intelligentsus ilma programmeerimiseta
Kõik ei oska programmeerida ega oma aega terminaliga maadlemiseks. Sellisteks juhtudeks on olemas koodita konstruktorid, mis kasutavad lohistamisliideste abil vestluse teekonda.
Tööriistad nagu Ringoveri tehisintellekti assistent või Crisp võimaldavad teil klienditeenindust automatiseerida ja müügivihjeid vaevata hankida. Teisest küljest on Typebot fantastiline avatud lähtekoodiga valik, mis võimaldab teil luua väga moodsaid liideseid ja integreerida need Notioni või Google Sheetsiga. Kui otsite midagi, mis õpib teie enda dokumentidest, on Chatling ideaalne, kuna see treenib robotit otse teie veebisaidilt või KKK-st. Teised lahendused, nagu WotNot või Joonbot, keskenduvad rohkem B2B-keskkonnale ja müügivihjete kvalifitseerimisele.
Oma kohaliku tehisintellekti loomine: kaasaegne ökosüsteem
Kui soovid oma masinas hiiglaslikku keelemudelit (LLM) käitada, on praegu võidukas kombinatsioon Ollama koos Open WebUI-ga . Ollama toimib haldurina, mis võimaldab sul ilma probleemideta alla laadida ja käivitada selliseid mudeleid nagu Llama 3 või Mistral. Seega ei pea sa kõige jaoks terminali kasutama, Open WebUI annab sulle ChatGPT-ga identse liidese, millel on vestlusajalugu ja isiksuse eelseadistused.
Stabiilseks ja hõlpsaks skaleerimiseks on Dockeri kasutamine väga soovitatav . Rakenduse konteinerisse pakkimine väldib sõltuvuskonflikte ja muudab süsteemi kaasaskantavaks. Sujuva seadistamise tagamiseks on soovitatav vähemalt 16 GB muutmälu ja kaasaegne graafikaprotsessor , kuna mudelid toimivad videomälu (VRAM) täielikul kasutamisel erakordselt hästi, vastates Windows 11 kohaliku tehisintellekti nõuetele.
Boti järgmisele tasemele viimine RAGi ja FastAPI abil
Kohalik vestlusrobot on suurepärane, aga vahel teab see ainult seda, mida ta üldise koolituse käigus õppis. Selleks, et sellest teie enda andmete ekspert saada, peame rakendama tehnikat nimega RAG (Retrieval Augmented Generation ). Põhimõtteliselt hõlmab see mudelile enne vastamist välise teadmusbaasi (näiteks teie märkmete või ettevõtte käsiraamatute) andmist, millega konsulteerida.
Selle professionaalseks rakendamiseks saame kasutada FastAPI-d , ülikiiret Pythoni raamistikku, mis toimib sillana kasutaja ja tehisintellekti vahel. Lisaks FastAPI-le on olemas LlamaIndex , teek, mis ekstraheerib teie dokumentidest teksti, indekseerib selle ja ühendab Ollama mudeliga, muutes suure keelemudeli serveerimise teie kohalikust tööjaamast lihtsaks.
Töövoog on lihtne: kasutaja esitab küsimuse FastAPI lõpp-punkti kaudu, LlamaIndex otsib teie kohalikest failidest asjakohast teavet ja edastab selle Ollamale, kes koostab lõpliku vastuse rangelt nende andmete põhjal. Sel viisil saate oma tehisintellekti muuta eksamiteks ettevalmistamise juhendajaks või ettevõtte eeskirjade eksperdiks, lisades lihtsalt .txt- või .pdf-failid kausta.
Kohaliku tehisintellekti süsteemi omamine on parim viis tagada, et tundlik teave ei satuks valedesse kätesse ja et välditaks korduvaid kulusid. Olenemata sellest, kas valite võimsad raamistikud nagu Rasa, visuaalsed koodivabad tööriistad või Ollama ja LlamaIndexi kombinatsiooni RAG-süsteemide loomiseks, on vabadus hallata oma teadmisi oma riistvaral märkimisväärne samm edasi tõhususe ja digitaalse turvalisuse suunas.
Kirglik kirjanik baitide maailmast ja üldse tehnoloogiast. Mulle meeldib jagada oma teadmisi kirjutamise kaudu ja just seda ma selles ajaveebis teengi, näitan teile kõike kõige huvitavamat vidinate, tarkvara, riistvara, tehnoloogiliste suundumuste ja muu kohta. Minu eesmärk on aidata teil digimaailmas lihtsal ja meelelahutuslikul viisil navigeerida.