Administrace komentářů

Je nejspíš fakt že dnešní boom generativních sítí je výsledkem hlavně dostupného HW pro provozování těchto věcí. Opravdu to teď šetří čas, ať už překladatelům, grafikům či programátorům. Samozřejmě do určité míry, a je nesmysl si teď myslet že nějaký program ze mě udělá dobrého překladatele, grafika či programátora. Asi ještě dlouho bude třeba po těchto nástrojích výsledky kontrolovat, protože vybočení z natrénovaných dat může vést k nepředvídatelným (nepředvídatelně dobrým, ale i špatným) výsledkům.

Nehledě na efektivitu. Lokální LLM jsou spíš hračky, jsou bolestně pomalé i na žravějším HW a platí u nich dvojnásob nutná kontrola výsledku, s tím že výrobci HW slibují, že vše zmení nová generace neuromorfních čipů. Moderní cloudové LLM jsou naopak velmi rychlé a dokážou pracovat v podstatě autonomně, ale není bez povšimnutí že například ChatGPT o3 spotřebuje na jeden úkol skoro 1.8 MWh elektřiny, což je nejspíš neškálovatelné do širokého rozšíření, o kterém například tuhle mluvil někde Satya Nadella v rozhovoru. Ceny za takové asistenty porostou a takový Devin se nebojí si říct o plat průměrného programátora z Indie. Pokud to není přímo scam (a nepřeprodávají tam živé programátory z Indie výměnou za investorské peníze) tak je to ukázka toho kam rvačka o omezené množství výkonného HW a energie může dojít.

Na straně druhé tu jsou sítě co se učí samy, například AlphaFold od Googlu. Tam je vidět, že je možné automatizovat hledání vzorů ve velmi složitých prostorech, kam naše představivost nedosahuje. Tam vidím až děsivě velký potenciál, ale předpokládám že nároky na HW (a vývoj nového HW) budou úplně jinde a ještě nějaký ten pátek si něco takového někde v datacentru za poplatek, natož lokálně, nejspíš nespustíme.

Je ovšem stále zcela možné, že jednou to přijde a neuromorfní HW se stane standardem všude, na instrukční sady a HDL zapomeneme a budeme se učit jak si hrát s vahami na analogových počítačích. To se máme na co těšit