Jevstiller destiluje Jev do lokálního modelu

Open-source nástroj Jevstiller vytváří (destiluje) malý lokální model, který se průběžně učí z odpovědí komerční služby Jev. Běžné dotazy vyřizuje přímo na vlastním hardware, čímž může řádově zkrátit čas odezvy a snížit provozní náklady díky menšímu využívání zpoplatněného API. Nejisté požadavky Jevstiller posílá do Jevu, rovněž průběžně kontroluje náhodná dvě procenta dotazů Jevem. Pokud se lokální model začne s Jevem rozcházet, začne se posílat do Jevu větší podíl dotazů, čímž se lokální model dotrénuje. Není to plnohodnotná náhrada, nástroj ze své podstaty pouze napodobuje odpovědi Jevu, shoda odpovědí lokálního modelu s učitelem je autory odhadována na 98%. Zdrojový kód projektu je k dispozici pod licencí Apache-2.0 na GitHubu.

Jev je nedávno zpřístupněný neveřejný proprietární SI model od společnosti TypeSafe AI, určený primárně pro software, ne pro běžnou konverzaci s lidmi. Místo textových odpovědí vrací strukturované hodnoty v JSON formátu, skládající se ze tří základních prvků: volby z několika možností, skóre a pravděpodobnosti. U každého výstupu uvádí odhad míry jistoty jeho správnosti (confidence). Díky předem danému formátu se hodí pro rychlé a automatizované rozhodování.

1.10. 03:55 | ❗Červivý Hřib krade❗ | Zajímavý software

Komentáře

[B]

Podle stylu textu jde vidět, že jeblý František (co si tady hraje na Grétu), začal používat AI (pardon, mám na mysli SI, jak nám jeblý Franta tady několikrát vysvětlil).

[❗Červivý Hřib krade❗]

timdle mi vlastně řikáš že by si takle dlouhatatatatánckej text bez použití SI nedal. Ale to mi nemusiš řikat, todle už ňákou tu dobu vim :D ;D

[Prompt]

nerozumím ani slovo

[❗Červivý Hřib krade❗]

Nechala sem SI to vyrobit jako zdělávací řikačku pro specialni děti :O ;D

Kapitola 1: Kdo je Jev?

Jev není chat.
Jev je mozek.
Pro počítače.
Ne pro lidi.

Ptáš se otázky.
Jev odpoví.
V JSONu jasně.
S čísly jen.

Vybere možnost.
Řekne skóre.
Pravděpodobnost.
To je jeho síla.

Je to System One.
Rychlý jak blesk.
Nemluví moc.
Rozhoduje hned.

Kapitola 2: Co je Jevstiller?

Jev je drahý.
Jev je vzdálený.
Chceš ho mít blíž?
Mít ho doma?

Pak vem si Jevstiller.
Ten umí čarovat.
Učí se od Jeva.
A kopíruje ho.

Destiluje vědomosti.
Do malého modelu.
Který běží u tebe.
Na tvém stroji.

Kapitola 3: Jak to funguje?

Přijde dotaz.
Jevstiller zkoumá.
„Tohle znám!“ řekne.
A odpoví sám.

Rychle. Levně.
Bez internetu.
Čas se zkrátí.
Peníze se šetří.

Ale když neví?
Když je nejistý?
Pak pošle dotaz.
Jevovi přímo.

Jev mu poradí.
Jevstiller se naučí.
Příště už ví.
Odpoví sám.

Kapitola 4: Kontrola a shoda

Dvě procenta otázek.
Jevstiller nechá zkontrolovat.
Náhodně. Často.
Aby byl dobrý.

Když se mýlí?
Když se liší?
Pošle víc otázek.
Do Jeva ven.

Tím se dotrénuje.
Chyby napraví.
Shoda devadesát osm procent.
To je cíl. To je smysl.

Závěr:

Není to Jev.
Jen jeho stín.
Napodobitel.
Rychlý soused.

Kód je otevřený.
Apache licence.
GitHub ti pomůže.
Stáhni si ho dnes.

[john doe]

Ahoj,

Jev je další vrstva k AI nebo AI loop ... ale není to chat je to vrstva která rozhoduje co se bude dělat, jaký směr to bude mít rozhoduje se v milisekundách nevytváří text. Zvolit správnou akci z uzavřené množiny možnost - „Mám na tento e-mail odpovědět, nebo ho smazat?“

JEV rychle rozhodne jak se bude pokračovat nebo kám pošle problém - máš firmu a někdo volá už popáté na support JEV by to vyhodnotil jako prioritu. Nepo pozná eventualitu takže volání odkloní.

V nějakém uzavřeném dotazníku rychle rozhoduje

• Otázka: „Do jaké kategorie patří tento požadavek zákazníka?“ • Možnosti: Vraceni_penez, Technicky_vypadek, Zmena_tarifu, Nespokojenost. • Výstup z Jevu: Vraceni_penez: 88 %, Technicky_vypadek: 7 %, Zmena_tarifu: 5