Open Assistant je projekt, ktorého cieľom je poskytnúť každému prístup k skvelému modelu veľkého jazyka založeného na chate.
Nedávno komunita LAION (Veľká sieť umelej inteligencie Open Network) odhalená prostredníctvom oznámenia prvé vydanie projektu «OpenAssistant», ktorá vyvíja chatbota s umelou inteligenciou schopného porozumieť a odpovedať na otázky v prirodzenom jazyku, interagovať so systémami tretích strán a dynamicky extrahovať potrebné informácie.
Pre tých, ktorí nepoznajú LAION, mali by ste vedieť, že vyvíja nástroje, modely a zbierky údajov na vytváranie bezplatných systémov strojového učenia (napríklad kolekcia LAION sa používa na trénovanie modelov systému syntézy obrazu Stable Diffusion).
Okrem kód na školenie a organizovanie práce robota na vašom počítači, navrhuje sa použiť kolekciu hotových modelov využívať už vyškolený a jazykový model, natrénovaný na základe 600 tisíc príkladov dialógov vo forme žiadosť-odpoveď (inštrukcia-vykonanie), pripravený a revidovaný za účasti komunity nadšencov.
Spustená bola aj online služba na hodnotenie kvality chatbota s využitím znalostného modelu OA_SFT_Llama_30B_6, ktorý pokrýva 30 miliárd parametrov.
Náš tím za posledných niekoľko mesiacov neúnavne pracoval na zhromažďovaní obrovského množstva informácií a textovej spätnej väzby, aby vytvoril neuveriteľne rozmanitú a jedinečnú množinu údajov špeciálne navrhnutú pre modely výučby jazykov alebo iné aplikácie AI.
S viac ako 600 000 údajmi vytvorenými ľuďmi, ktoré pokrývajú širokú škálu tém a štýlov písania, sa náš súbor údajov ukáže ako neoceniteľný nástroj pre každého vývojára, ktorý chce vytvoriť inštruktážne modely novej generácie.
Na zvýšenie efektivity systému a vyhnúť sa potrebe uložiť veľké množstvo prednastavených parametrov, projekt predpokladá možnosť využitia dynamicky aktualizovanej databázy znalostí, ktorá dokáže získať požadované informácie prostredníctvom vyhľadávačov alebo externých služieb.
Napríklad pri generovaní odpovedí môže robot pristupovať k externým rozhraniam API, aby získal ďalšie údaje. Z pokročilých funkcií je vyzdvihnutá aj podpora personalizácie, teda schopnosť prispôsobiť sa konkrétnemu používateľovi na základe jeho predchádzajúcich fráz.
Pre tých, ktorí majú záujem o inštaláciu OpenAssistant, mali by ste vedieť, že si ho môžete nainštalovať lokálne a že kandidátske modely Pythia SFT sú dostupné z HuggingFace a možno ich načítať cez knižnicu HuggingFace Transformers. Ako také je možné, že ich možno použiť s dostatočným hardvérom. Na HF sú tiež priestory, ktoré možno použiť na chatovanie s kandidátom OA bez vlastného hardvéru. Tieto modely však nie sú definitívne a môžu priniesť zlé alebo nechcené výsledky.
Modely LLaMa SFT nie je možné vydať priamo kvôli licencii Meta, ale závažia XOR budú čoskoro uvoľnené.
Je dôležité spomenúť, že súčasný najmenší model (Pythia) má parametre 12B a je náročný na spustenie na spotrebnom hardvéri, no dokáže bežať na jedinom profesionálnom GPU. V budúcnosti môžu existovať menšie modely a dúfame, že pokročíme v metódach, ako je celočíselná kvantizácia, ktoré môžu pomôcť spustiť model na menšom hardvéri.
Projekt sa neplánuje zastaviť pri opakovaní schopností ChatGPT. Očakáva sa, že Open-Assistant podnieti rozvoj otvoreného vývoja v oblasti generovania obsahu a spracovania dotazov v prirodzených jazykoch, rovnako ako open source projekt Stable Diffusion podnietil vývoj nástrojov na generovanie obrázkov.
Kód projektu je napísaný v jazyku Python a je distribuovaný pod licenciou Apache 2.0. Vývoj OpenAssistant možno použiť na vytvorenie vlastných inteligentných asistentov a dialógových systémov, ktoré nie sú viazané na externé API a služby. Na fungovanie stačí bežný spotrebný hardvér, napríklad je možné pracovať na smartfóne. Údaje Open Assistant sú vydané na základe licencie Creative Commons, ktorá umožňuje široké spektrum použitia vrátane komerčného.
Nakoniec, ak máte záujem dozvedieť sa o ňom viac, ako aj nahliadnuť do zdrojového kódu, môžete si prečítať podrobnosti Na nasledujúcom odkaze.