Keď AI prestane potrebovať zdrojový kód

dnes 09:14 | Přečteno: 151× | c0mput3rs

V open source komunite sa už dnes objavujú prvé náznaky problémov, ktoré môže priniesť éra umelej inteligencie. Niektoré projekty sa sťažujú na príval AI-generovaných bug reportov a pull requestov. Vytvoriť nový návrh zmeny je dnes jednoduchšie než kedykoľvek predtým – často stačí jeden prompt. Problém je, že človek ho stále musí prečítať, skontrolovať a otestovať. Maintaineri tak čelia paradoxu: AI dokáže produkovať kód rýchlejšie, než ho ľudia stíhajú overovať. Mnohí sa preto obávajú, že open source začína zaplavovať obsah, ktorého kvalita je nejasná a ktorého množstvo prevyšuje kapacity dobrovoľníkov.

Je však možné, že toto je len predzvesť oveľa väčšej zmeny.

Po celé desaťročia fungoval vývoj softvéru približne rovnako. Človek napísal program v programovacom jazyku, kompilátor ho preložil do strojového kódu a výsledkom bola binárka spustiteľná na procesore. Reťazec bol jednoduchý: človek → programovací jazyk → kompilátor → binárka.

Programovací jazyk pritom nikdy nebol cieľom. Bol iba prostriedkom komunikácie medzi človekom a počítačom. Používali sme ho preto, že ľudia nedokážu efektívne pracovať so strojovým kódom a počítače zasa nerozumejú prirodzenému jazyku.

Práve tu môže AI priniesť zásadný zlom. Ak dokáže dostatočne presne pochopiť ľudský zámer a zároveň vytvoriť funkčný program, programovací jazyk prestáva byť nevyhnutný. Budúci reťazec tak môže vyzerať oveľa jednoduchšie: človek → AI → binárka.

Z pohľadu AI je totiž zdrojový kód len ďalšia medzivrstva, ktorú musí vytvoriť a následne preložiť. Ak bude schopná generovať výsledný program priamo, dôvod na existenciu tejto vrstvy sa výrazne oslabí. Programovacie jazyky by sa tak mohli dostať do podobnej pozície, v akej je dnes assembler – nezmiznú, ale väčšina vývoja ich už nebude potrebovať.

Ak budú modely dostatočne schopné, môžu o niekoľko rokov generovať priamo strojový kód alebo inú internú reprezentáciu programu bez toho, aby vôbec vznikol klasický zdrojový kód.

A práve tu sa dostávame k otázke, čo bude znamenať open source v takomto svete.

Ak dnes maintainer dostane AI-generovaný pull request v jazyku C alebo Python, stále má šancu pochopiť, čo daný kód robí. Môže ho analyzovať, upraviť alebo odmietnuť. Ak však budú aplikácie vznikať ako AI-generované binárne artefakty, dnešné problémy s pull requestmi môžu pôsobiť takmer banálne.

Namiesto tisícov riadkov zdrojového kódu môže existovať len binárny blob, ktorému nebude detailne rozumieť žiadny človek. Otázka sa tak zmení z „Je tento kód správny?“ na „Ako vieme dokázať, že tento systém robí to, čo tvrdí?“

To môže zásadne zmeniť aj svet Linuxu. Linux dnes prosperuje vďaka tomu, že jeho zdrojové kódy sú otvorené, auditovateľné a upraviteľné. Ak sa vývoj softvéru presunie k AI-generovaným systémom, dôraz sa môže presunúť zo samotného kódu na testy, špecifikácie, modely a verifikačné nástroje.

Paradoxne, open source preto nemusí zaniknúť. Môže sa stať ešte dôležitejším. V čase, keď bude čoraz viac softvéru vznikať spôsobom, ktorému nebude plne rozumieť žiadny človek, môže byť transparentnosť jednou z najcennejších vlastností.

Možno teda nesledujeme koniec open source. Možno sledujeme koniec predstavy, že otvorenosť znamená iba zverejnený zdrojový kód. V budúcnosti môže byť oveľa dôležitejšie vedieť, ako bol softvér vytvorený, akým modelom prešiel, aké testy absolvoval a kto za jeho fungovanie nesie zodpovednosť.

Ak sa naplnia predpovede o AI, ktorá prestane používať programovacie jazyky ako medzikrok, dnešné spory o AI-generované pull requesty si možno budeme pamätať len ako prvé varovanie pred oveľa väčšou zmenou.        

Komentáře

[zito]

No nevím - to je pak možné zajít ještě dál. Potřebujeme ještě nějaký program, když máme AI? Úlohu kterou plnil program bychom mohli zadávat AI a ona by ho nahradila kompletně? Ostatně tak se to ve sci-fi odjakživa prezentuje, ne? :)

[Max]

No, ona si tu app ta AI asi stejně udělá na pozadí, ne? Bavím se o tom scifi. Něco jako si dnes admin píše scripty v bashi, tak v budoucnu si ai bude psát podaplikace na optimalizaci vlastních procesů.
Zdar Max

[cbrpnk]

Ale predstav si telefón bez appiek. Proste mu povieš, čo chceš urobiť, a on to spraví. Či si na pozadí vytvorí bash skript, Python, C program alebo rovno binárku, bude používateľovi úplne jedno. Výsledok zobrazí na obrazovke alebo povie nahlas.

Možno sa nakoniec ukáže, že „aplikácia“ je len implementačný detail. Dnes otvárame aplikácie, aby vykonali úlohu. V budúcnosti možno zadáme úlohu a AI si potrebný softvér vytvorí alebo poskladá sama bez nášho vedomia detailov. Veď ani dnešní používatelia vo väčšine prípadov netušia, v čom sú ich aplikácie napísané.

[Max]

To já vím, já jen psal, že na pozadí stejně poběží asi nějaká app, kterou si samo vytvoří to AI, aby si ulehčilo / ušetřilo zdroje, ale uživatel jí samozřejmě nijak neuvidí a interakce vždy bude s AI.
Zdar Max

[dnes 12:33 lenny]

to mi nieco pripomina z historie pametate na tie casy napr 8bit atari alebo C64 kde bol program Monitor a tam si mohol priamo pisat v strojaku pripadne asembleru ale dalo sa priamo v strojaku dost huste