Zadní vrátka softwaru generovaném AI (diskuse)

[dnes 09:13 dormat]

měl by ses toho chopit a takovou AI vytvořit, pro tebe to musí být práce maximálně na jedno odpoledne

[vencour]

Jseš úmyslně tak "jednostrannej" (dejme tomu populistickej)?
EU má Mistral, Kolibri a další. I když ještě možná nejsou top. I na tom se dá pracovat.
To, že nějakej prezident něco řekne znamená jen to, že možná za pár hodin řekne zase něco jiného. A pokud jde o tohodle, tak možná je fakt nejhloupější ze všech. Jenže toho možná jeho okolí využívá. A co?
Katedrála, tržiště, pomalu, rychle ... jak vlastně chceš vyvíjet?
A samozřejmě nějaká zpětná vazba musí být, ať už o tom vedení ví nebo ne.
(Taky jsem si všiml, že AI je placená spíš od počtu slov, čím víc, tím líp)

[novomente]

Jseš úmyslně tak "jednostrannej" (dejme tomu populistickej)?

O USA jsem se především zmínil, neboť tam bezpečně vím, že tam prezident chce ty zadní vrátka. Jinak jsem uvedl:

...AI z USA (a dost pravděpodobně i z jiných krajin)...

Další reakce na:

To, že nějakej prezident něco řekne znamená jen to, že možná za pár hodin řekne zase něco jiného. A pokud jde o tohodle, tak možná je fakt nejhloupější ze všech. Jenže toho možná jeho okolí využívá. A co?

Jo, to je fakt. Ale kdo ví, co bude zítra. Dnes řekne zadním vrátkům ANO, jindy zase NE. A pak přijde situace (rozuměj nějaký druh války), kdy to budou muset zavést oficiálně.

[Max]

Něco jsem nastínil zde: Bezpečnost AI, je čeho se bát?.

Pokud se podíváš, jak funguje agentní vývoj, tak věc, že nepoužíváš jednu AI, ale používáš jich hafec, jednu na kodění, další na code review, další na zátěžové testy, další na isnpekci k=odu proti zranitelnostem atd. atd. atd.

To, o čem ty mluvíš, je vibe coding, který tím může trvpět a trpý bezpečnostními problémy, kdy si někdo zaplatí AI na kódění jako výpomoc pro vývoj, ale už neřeší následné kontroly apod.

Každopádně celé to odvětví směřuje k agentnímu vývoji, kdy můžeš použít plně automaticky hafec AI z hafec zemí a mít tak diverzifikaci.
Zdar Max