I dag bruker de fleste av oss kunstig intelligens gjennom nettsteder eller apper som sender dataene våre til eksterne servere. Selv om det er praktisk, skaper dette en et alvorlig dilemma rundt personvern Og det gjør oss bundet til månedlige abonnementer som kan være dyre. Heldigvis har åpen kildekode-økosystemet kommet forbi denne galskapen, og det er nå fullt mulig å bygge en digital hjerne på vår egen datamaskin, uten at en eneste byte forlater hjemmet.
Hvis du liker ideen om å ha en assistent som ikke spionerer på deg, ikke tar betalt, og som du kan tilpasse etter din smak, har du kommet til rett sted. La oss dele det opp fra ... mer robuste plattformer for utviklere alt fra enkle løsninger der du ikke trenger å skrive en eneste kodelinje, til tekniske veiledninger for de som ønsker å bli flinke til programmering.
Åpne kildekodeplattformer for chatbot-utvikling
Når vi snakker om åpen kildekode-programvare, refererer vi til verktøy der koden er offentlig, slik at et helt fellesskap kan forbedre den og gi deg absolutt kontroll over systemetDette er viktig hvis du ønsker åpenhet og effektivitet i prosjektet ditt.
- botpress: Det er et veldig allsidig alternativ. Det lar deg lage visuelle flyter slik at du ikke blir for opphengt i kode, selv om det har en JavaScript-editor for når du trenger å gjøre mer komplekse ting. Det fungerer utmerket med Slack, Telegram og Facebook Messenger.
- Rasa: For de som søker en profesjonell løsning, er Rasa kronjuvelen. I stedet for rigide strømninger bruker den en historiebasert tilnærmingTrening av boten med ekte samtalelogger. Den installeres på dine egne servere og er ideell hvis du har mye treningsdata.
- Botkit: Det eies av Microsoft, men er lisensiert under MIT, og er et verktøy fokusert på utviklere som ønsker å lage kraftige integrasjoner på meldingsplattformer.
- wit.ai: Ervervet av Meta, er det et gratis og veldig robust alternativ for naturlig språkbehandling, spesielt hvis boten din skal være på Facebook Messenger.
- DeepPavlov: Her går vi inn i dyp læringsverden. Det er et ideelt Python-rammeverk for de som ønsker å implementere modeller som BERT og lage komplekse dialogsystemer.
- Tok: En komplett løsning som ikke er avhengig av eksterne API-er og lar deg distribuere boter lokalt ved hjelp av Docker.
- BotMan.io: Hvis du er en PHP-fan, er dette verktøyet for deg. Det er sannsynligvis det mest populære PHP-rammeverket for roboter, som lar deg skrive logikken én gang og distribuere den på tvers av flere kanaler.
- Andre interessante alternativer: Vi har ÅpneDialog, som tilbyr en designer uten kode i PHP; Botonisk, basert på React og TypeScript for flere visuelle opplevelser; Claudia Botbyggersom forenkler infrastrukturen på AWS; og Bottendersom optimaliserer håndteringen av samtalehendelser. Det fremhever også Golem, et Python-rammeverk som bruker en universell språklig tilnærming i stedet for en rent statistisk.
Alternativet uten kode: Intelligens uten programmering
Ikke alle vet hvordan man programmerer eller har tid til å slite med terminalen. For disse tilfellene finnes det konstruktører uten kode, som bruker grensesnitt av dra og slipp å definere hvilken vei samtalen skal følge.
Verktøy som Ringover AI-assistent o Crisp De lar deg automatisere kundeservice og fange opp potensielle kunder uten problemer. På den annen side, Typebot Det er et fantastisk åpen kildekode-alternativ som lar deg lage svært moderne grensesnitt og integrere dem med Notion eller Google Sheets. Hvis du leter etter noe som lærer av dine egne dokumenter, Chatting Det er ideelt fordi det trener boten direkte fra nettstedet ditt eller FAQ. Andre løsninger som Ikke ikke o Joonbot De fokuserer mer på B2B-miljøet og kvalifisering av potensielle kunder.
Bygg din egen lokale AI: Det moderne økosystemet
Hvis du vil kjøre en gigantisk språkmodell (LLM) på maskinen din, er den nåværende vinnende kombinasjonen Ollama sammen med Open WebUIOllama fungerer som administratoren som lar deg laste ned og kjøre modeller som Llama 3 eller Mistral uten komplikasjoner. Så du trenger ikke å bruke terminalen til alt, Open WebUI gir deg et grensesnitt identisk med ChatGPT, med forhåndsinnstillinger for chathistorikk og personlighet.
For at alt dette skal fungere stabilt og være enkelt å skalere, er det best å bruke DockerVed å pakke applikasjonen i en container unngår du avhengighetskonflikter og gjør systemet portabelt. For en smidig bygging anbefales det å ha minst 16 GB RAM og et moderne GPU, siden modellene flyr når de passer fullstendig inn i videominnet (VRAM), og oppfyller dermed Windows 11-krav for bruk av lokal kunstig intelligens.
Tar boten til neste nivå med RAG og FastAPI
En lokal chatbot er flott, men noen ganger vet den bare det den lærte under sin generelle opplæring. For å gjøre den til en ekspert på dine egne data, må vi bruke en teknikk som kalles RAG (Gjenfinning med utvidet generasjon)I bunn og grunn innebærer det å gi modellen en ekstern kunnskapsbase (som notater eller bedriftsmanualer) som den kan konsultere før den svarer.
For å implementere dette profesjonelt kan vi bruke FastAPIFastAPI er et ultraraskt Python-rammeverk som fungerer som en bro mellom brukeren og AI. Ved siden av FastAPI kommer det inn i bildet. LamaindeksEt bibliotek som trekker ut tekst fra dokumentene dine, indekserer den og kobler den til Ollama-modellen, noe som gjør det enklere Server en stor språkmodell fra din lokale arbeidsstasjon.
Arbeidsflyten er enkel: brukeren stiller et spørsmål gjennom et FastAPI-endepunkt, LlamaIndex slår opp relevant informasjon i dine lokale filer og sender det videre til Ollama, som utarbeider det endelige svaret utelukkende basert på disse dataene. På denne måten kan du gjøre din AI om til en eksamensforberedende veileder eller en ekspert på bedriftens regelverk ved ganske enkelt å legge til .txt- eller .pdf-filer i en mappe.
Å ha et lokalt AI-system er den beste måten å sikre at sensitiv informasjon ikke havner i gale hender og å eliminere tilbakevendende kostnader. Enten du velger kraftige rammeverk som Rasa, visuelle verktøy uten kode eller kombinasjonen Ollama og LlamaIndex for å lage RAG-systemer, er friheten til å administrere din egen kunnskap på din egen maskinvare er et kvalitativt sprang innen effektivitet og digital sikkerhet.
Lidenskapelig forfatter om verden av bytes og teknologi generelt. Jeg elsker å dele kunnskapen min gjennom å skrive, og det er det jeg skal gjøre i denne bloggen, vise deg alle de mest interessante tingene om dingser, programvare, maskinvare, teknologiske trender og mer. Målet mitt er å hjelpe deg med å navigere i den digitale verden på en enkel og underholdende måte.