Doporučení SFC pro používání generativní AI při přispívání do FOSS

Software Freedom Conservancy v novém dokumentu shrnuje doporučení, jak přistupovat ke generativní AI založené na LLM při přispívání do svobodného a open-source softwaru. Mimo jiné vyzývá k obezřetnosti, transparentnosti a revizi generovaného kódu člověkem.

21.6. 13:33 | |🇵🇸 | Komunita

Komentáře

Diskuse byla administrátory uzamčena

[RealJ]

revize generovaneho kodu clovekem... myslenka zajimava akorat hodne neprakticka... kdyz za den clovek vygeneruje za pomoci AI tolik kodu jako za mesic bez AI tak je to proste nerealne.

[dustin]

To je pravda, na druhou stranu často jsou v tom generovaném kódu zcela zřejmé problémy - duplicitní bloky místo společných metod, záplava všech možných flagů (jak se kód postupně vyvíjí), které lze sdružit, propletené špagety algoritmů. Pořád je potřeba model pevně držet pod krkem a neustále tlačit, aby po sobě po každé změně uklidil. Vývojář pořád musí mít kód pod kontrolou a vědět, co v něm je.

[Xerces]

Tak hlavně za něj ručí. Srážky ze mzdy / padáka nedostane AI, ale on, pokud nechá nasadit pitomost.

[Peter Golis]

Ak mu tú AI poskytne zamestnávateľ a nariadi mu ju používať, tak je to klasifikovateľné ako akákoľvek iná pracovná pomôcka a nástroj. A za to zodpovedá zamestnávateľ ktorý by mal mať z pochopiteľného dôvodu nasadený aj systém kontroly. Modré goliere to tak majú, tak nevidím dôvod prečo by to nemali mať aj biele goliere. Predsa len keď chlapík v montérkach nafasuje vadné pneumatické kladivo na nastrelovanie klincov, a to mu prdne v rukách bez nesprávnej manipulácie, tak za to nebude ten roboš zodpovedný. Ale zodpovednosť bude na pleciach revízáka, ...

V prípade umeláka je to kompletne to isté. Zaujímalo by ma kedy zakomponujú AI do BOZP.

[David Heidelberg]

spíš bych to přirovnal k: celej život bouráš zdí běžným kladivem. Potom Ti zaměstnavatel dá pneumatické kladivo a ty začneš bourat zdi, ale když to tak hezky jde, tak ho necháš bourat i bez toho, aby si koukal na to co bourá. Zaměstnavatel chtěl díru ve zdi 50x50, ale ty si zboural celou zeď...

Stejně jako při assistovaném řízení, zodpovědnost má vždycky člověk.

LLM ve firmách bych přirovnal k povýšení na teamleada v týmu fakt rychlejch, kokainem nadopovanejch lopat.

[dustin]

Souhlas

[Peter Golis]

V tom prípade by mal zakročiť stavebný dozor, alebo u bielych golierov zas Lead najneskôr pri preberaní vykonanej práce. Optimálne pri rutinnej kontrole ktorá je častejšia.

To že kontroly kvality sú vo veľa prípadoch nahrádzané iretáciou v podaní mikromanagementu je len taká čerešnička na torte ktorá učí zamestnancov zákon padajúceho ho....

[RealJ]

tohle vse muzes vyresit nez zacne agent ten kod delat... pozice prompt engineer nabyva dulezitosti...

[koroptev]

je to skill, klidne bych i rekl, ze udelat dobry review je tezsi nez ten kod napsat

a bude to klicovej skill

a tomu lidskymu dohliziteli samozrejme nic nebrani si precist AI review..

[Peter Golis]

Kedysi sa tomu hovorilo: Kontrola nezainteresovanou osobou.

Teda osobou ktorá nie je platená za kvantitu, ale za kvalitu alebo (v prípade Langošárne v Kvetoslavove) za nájdené chyby.