Keď AI prestane potrebovať zdrojový kód

dnes 09:14 | Přečteno: 86× | c0mput3rs

V open source komunite sa už dnes objavujú prvé náznaky problémov, ktoré môže priniesť éra umelej inteligencie. Niektoré projekty sa sťažujú na príval AI-generovaných bug reportov a pull requestov. Vytvoriť nový návrh zmeny je dnes jednoduchšie než kedykoľvek predtým – často stačí jeden prompt. Problém je, že človek ho stále musí prečítať, skontrolovať a otestovať. Maintaineri tak čelia paradoxu: AI dokáže produkovať kód rýchlejšie, než ho ľudia stíhajú overovať. Mnohí sa preto obávajú, že open source začína zaplavovať obsah, ktorého kvalita je nejasná a ktorého množstvo prevyšuje kapacity dobrovoľníkov.

Je však možné, že toto je len predzvesť oveľa väčšej zmeny.

Po celé desaťročia fungoval vývoj softvéru približne rovnako. Človek napísal program v programovacom jazyku, kompilátor ho preložil do strojového kódu a výsledkom bola binárka spustiteľná na procesore. Reťazec bol jednoduchý: človek → programovací jazyk → kompilátor → binárka.

Programovací jazyk pritom nikdy nebol cieľom. Bol iba prostriedkom komunikácie medzi človekom a počítačom. Používali sme ho preto, že ľudia nedokážu efektívne pracovať so strojovým kódom a počítače zasa nerozumejú prirodzenému jazyku.

Práve tu môže AI priniesť zásadný zlom. Ak dokáže dostatočne presne pochopiť ľudský zámer a zároveň vytvoriť funkčný program, programovací jazyk prestáva byť nevyhnutný. Budúci reťazec tak môže vyzerať oveľa jednoduchšie: človek → AI → binárka.

Z pohľadu AI je totiž zdrojový kód len ďalšia medzivrstva, ktorú musí vytvoriť a následne preložiť. Ak bude schopná generovať výsledný program priamo, dôvod na existenciu tejto vrstvy sa výrazne oslabí. Programovacie jazyky by sa tak mohli dostať do podobnej pozície, v akej je dnes assembler – nezmiznú, ale väčšina vývoja ich už nebude potrebovať.

Ak budú modely dostatočne schopné, môžu o niekoľko rokov generovať priamo strojový kód alebo inú internú reprezentáciu programu bez toho, aby vôbec vznikol klasický zdrojový kód.

A práve tu sa dostávame k otázke, čo bude znamenať open source v takomto svete.

Ak dnes maintainer dostane AI-generovaný pull request v jazyku C alebo Python, stále má šancu pochopiť, čo daný kód robí. Môže ho analyzovať, upraviť alebo odmietnuť. Ak však budú aplikácie vznikať ako AI-generované binárne artefakty, dnešné problémy s pull requestmi môžu pôsobiť takmer banálne.

Namiesto tisícov riadkov zdrojového kódu môže existovať len binárny blob, ktorému nebude detailne rozumieť žiadny človek. Otázka sa tak zmení z „Je tento kód správny?“ na „Ako vieme dokázať, že tento systém robí to, čo tvrdí?“

To môže zásadne zmeniť aj svet Linuxu. Linux dnes prosperuje vďaka tomu, že jeho zdrojové kódy sú otvorené, auditovateľné a upraviteľné. Ak sa vývoj softvéru presunie k AI-generovaným systémom, dôraz sa môže presunúť zo samotného kódu na testy, špecifikácie, modely a verifikačné nástroje.

Paradoxne, open source preto nemusí zaniknúť. Môže sa stať ešte dôležitejším. V čase, keď bude čoraz viac softvéru vznikať spôsobom, ktorému nebude plne rozumieť žiadny človek, môže byť transparentnosť jednou z najcennejších vlastností.

Možno teda nesledujeme koniec open source. Možno sledujeme koniec predstavy, že otvorenosť znamená iba zverejnený zdrojový kód. V budúcnosti môže byť oveľa dôležitejšie vedieť, ako bol softvér vytvorený, akým modelom prešiel, aké testy absolvoval a kto za jeho fungovanie nesie zodpovednosť.

Ak sa naplnia predpovede o AI, ktorá prestane používať programovacie jazyky ako medzikrok, dnešné spory o AI-generované pull requesty si možno budeme pamätať len ako prvé varovanie pred oveľa väčšou zmenou.        

Komentáře