Open Assistant er et projekt, der har til formål at give alle adgang til en fantastisk chat-baseret stor sprogmodel.
For nylig LAION samfund (Large-Scale Artificial Intelligence Open Network) afsløret gennem en meddelelse den første udgivelse af «OpenAssistant»-projektet, som udvikler en kunstig intelligens chatbot, der er i stand til at forstå og besvare spørgsmål i naturligt sprog, interagere med tredjepartssystemer og dynamisk udtrække den nødvendige information.
For dem, der ikke er bekendt med LAION, skal du vide, at det udvikler værktøjer, modeller og dataindsamlinger til at skabe gratis maskinlæringssystemer (for eksempel bruges LAION-samlingen til at træne modeller af billedsyntesesystemet Stable Diffusion).
Ud over kode til at træne og organisere arbejdet af botten på din computer, det foreslås at bruge en samling af færdige modeller at bruge allerede trænet og en sprogmodel, trænet på baggrund af 600 tusind eksempler på dialoger i form af en anmodning-svar (instruktion-udførelse), udarbejdet og revideret med deltagelse af et fællesskab af entusiaster.
En online-tjeneste til at vurdere kvaliteten af ​​chatbot blev også lanceret, ved hjælp af vidensmodellen OA_SFT_Llama_30B_6, som dækker 30 milliarder parametre.
Vores team har arbejdet utrætteligt i løbet af de sidste mange måneder med at indsamle enorme mængder information og tekstbaseret feedback for at skabe et utroligt mangfoldigt og unikt datasæt, der er specielt designet til træning af sprogmodeller eller andre AI-applikationer.
Med over 600 menneskeskabte datapunkter, der dækker en bred vifte af emner og skrivestile, vil vores datasæt vise sig at være et uvurderligt værktøj for enhver udvikler, der ønsker at skabe næste generations instruktionsmodeller.
For at øge effektiviteten af systemet og undgå behovet for gemme store mængder forudindstillede parametre, forudser projektet muligheden for at bruge en dynamisk opdateret videnbase, der kan hente den nødvendige information gennem søgemaskiner eller eksterne tjenester.
For eksempel, når den genererer svar, kan botten få adgang til eksterne API'er for at få yderligere data. Af de avancerede funktioner fremhæves også personaliseringssupport, det vil sige muligheden for at tilpasse sig en specifik bruger baseret på deres tidligere sætninger.
For dem, der er interesseret i at installere OpenAssistant, skal du vide, at du kan installere det lokalt, og at kandidat Pythia SFT-modeller er tilgængelige fra HuggingFace og kan indlæses via HuggingFace Transformers-biblioteket. Som sådan er det muligt, at de kan bruges med tilstrækkelig hardware. Der er også pladser på HF, som kan bruges til at chatte med OA-kandidaten uden egen hardware. Disse modeller er dog ikke endelige og kan give dårlige eller uønskede resultater.
LLaMa SFT-modeller kan ikke frigives direkte på grund af Meta-licensen, men XOR-vægte vil snart blive frigivet.
Det er vigtigt at nævne, at den nuværende mindste model (Pythia) har 12B parametre og er svær at køre på forbrugerhardware, men kan køre på en enkelt professionel GPU. Der kan være mindre modeller i fremtiden, og vi håber at fremme metoder som heltalskvantisering, der kan hjælpe med at køre modellen på mindre hardware.
Projektet planlægger ikke at stoppe ved at gentage funktionerne i ChatGPT. Open-Assistant forventes at stimulere udviklingen af ​​åben udvikling inden for indholdsgenerering og forespørgselsbehandling i naturlige sprog, ligesom open source-projektet Stable Diffusion stimulerede udviklingen af ​​billedgenereringsværktøjer.
Projektkoden er skrevet i Python og distribueres under Apache 2.0-licensen. OpenAssistant-udviklinger kan bruges til at skabe dine egne intelligente assistenter og dialogsystemer, der ikke er bundet til eksterne API'er og tjenester. Konventionel forbrugerhardware er nok til at fungere, for eksempel er det muligt at arbejde på en smartphone. Open Assistant-dataene frigives under en Creative Commons-licens, som giver mulighed for en bred vifte af anvendelser, herunder kommerciel brug.
Endelig, hvis du er interesseret i at kunne lære mere om det såvel som at kunne konsultere kildekoden, kan du konsultere detaljerne I det følgende link.