Zadní vrátka softwaru generovaném AI

dnes 09:02 | Přečteno: 66× | Programování | poslední úprava: dnes 09:00

AI je velmi mocný nástroj. Pracuje na velice jednoduchém principu a má úplně jednoduchý algoritmus. Nicméně AI, než je nasazena do plného provozu, se musí dlouho trénovat. Je velmi rychlá v generování kódu. Jde vskutku o užitečný nástroj. Ale...

AI vyvíjená v USA (Claude, ChatGPT, atd.) musí respektovat nejen tamní zákonodárství, ale i vedení země, včetně představitelů držitelů moci.

Nevíte a ani nemůžete vědět (ani já to nevím), na co všechno zmíněné produkty byly natrénovány. Prezident Spojených států však prohlásil (nevím, jestli je to již právoplatný zákon), že všechen software vyrobený na území státu, jež vede, musí mít tzv. zadní vrátka.

Zákon o "zadních vrátkách", jehož platnost bude podporována veřejnými činiteli moci, udělá to (a jistě to již dělá), aby každý software generovaný AI měl v sobě minimálně alespoň zadní vrátka.

Čím více vývojářů ve světě bude používat technologie AI z USA (a dost pravděpodobně i z jiných krajin), tím více softwaru bude obsahovat alespoň zadní vrátka, kterými mohou unikat důležité informace o společnosti (ať už v komerční, anebo soukromé sféře) užívající takový software. A informace jsou jedny z nejcennějších a dnes nejžádanějších "produktů" na Zemi.

A jak to souvisí se čtenáři těchto webových stránek? Souvisí to hodně s lidmi, kteří "vyvíjejí" jakýkoliv software generovaný AI. Chtěl bych v těchto lidech (mně nevyjímaje) vyvolat trochu zodpovědnosti nad tím, co dělají.

A co by měli tedy Ti vývojáři s tím dělat? To se lehko řekne, ale těžko dělá. Prostě stvořit AI, která ty minimálně zadní vrátka mít nebude, u níž mají vývojáři minimálně 99% (ale spíše 100%) kontrolu nad trénovacími daty a pak i nad softwarem, jež taková AI produkuje.

Vím, že je to hodně práce, ale určitě by se vyplatila.

       

Komentáře

[dnes 09:13 dormat]

měl by ses toho chopit a takovou AI vytvořit, pro tebe to musí být práce maximálně na jedno odpoledne

[vencour]

Jseš úmyslně tak "jednostrannej" (dejme tomu populistickej)?
EU má Mistral, Kolibri a další. I když ještě možná nejsou top. I na tom se dá pracovat.
To, že nějakej prezident něco řekne znamená jen to, že možná za pár hodin řekne zase něco jiného. A pokud jde o tohodle, tak možná je fakt nejhloupější ze všech. Jenže toho možná jeho okolí využívá. A co?
Katedrála, tržiště, pomalu, rychle ... jak vlastně chceš vyvíjet?
A samozřejmě nějaká zpětná vazba musí být, ať už o tom vedení ví nebo ne.
(Taky jsem si všiml, že AI je placená spíš od počtu slov, čím víc, tím líp)

[novomente]

Jseš úmyslně tak "jednostrannej" (dejme tomu populistickej)?

O USA jsem se především zmínil, neboť tam bezpečně vím, že tam prezident chce ty zadní vrátka. Jinak jsem uvedl:

...AI z USA (a dost pravděpodobně i z jiných krajin)...

Další reakce na:

To, že nějakej prezident něco řekne znamená jen to, že možná za pár hodin řekne zase něco jiného. A pokud jde o tohodle, tak možná je fakt nejhloupější ze všech. Jenže toho možná jeho okolí využívá. A co?

Jo, to je fakt. Ale kdo ví, co bude zítra. Dnes řekne zadním vrátkům ANO, jindy zase NE. A pak přijde situace (rozuměj nějaký druh války), kdy to budou muset zavést oficiálně.