Co chybí AI k lidské inteligenci?

včera 23:41 | Přečteno: 100× | poslední úprava: včera 23:42

Skoro přesně před 6 lety tu byl post of GPT-3. V diskuzi zaznělo, že to je AGI. Což byl už tehdy nesmysl, teď zpětně ještě větší. Současná AI má k AGI mnohem blíž, vlastně lze říct, že ve většině interakcí je nerozeznatelná od AGI. Ale při bližším pohledu je ta mezera mezi AI a lidskou inteligencí docela velká:

1. Schopnost efektivního učení

Spoustě lidem stačí pár tisíc šachových partií nebo pár tisíc hodin hraní a studia pokeru a dostanou se na top úroveň, která překoná současné top modely, které v učící fázi viděly řádově víc dat.

S tím souvisí i to, že AI nefunguje tak, že by měla nějaký pravděpodobnostní model světa a ten s každou novou informací updatovala. Například když si přečtu článek o tom, že Steve Jobs se při návštěvě nějakého muzea praštil do hlavy (teď mě nenapadá lepší příklad), dá mi to nějakou informaci o jeho výšce a provedu Bayesovský update. LLM tohle teoreticky umí taky, ale hrozně neefektivně. Velká většina informací, které učící data implikují, se zahodí.

2. Robotika

Pak je zajímavý, jak pozadu je "robotická AI" za textovou a vizuální AI. Dost možná to je důsledek neschopnosti efektivního učení, akorát u robotů se to projevuje více než u textu, protože je mnohem méně učících dat.

Hodně zjednodušeně LLM fungují tak, že se vezme vstup, vynásobí se to několika obřími maticemi, a to dá výstup. Při učení se hledají matice, které produkují správné výstupy. S dostatečně velkým počtem parametrů a množstvím učících dat to z principu stačí na superinteligenci.

Aktuální přístup k AI je v podstatě brute force imitace lidské inteligence, která interně funguje jinak než lidský mozek. Jestli k dosažení ASI bude stačit pouhé škálování nevíme.

3. Kontinuální učení

AI se neumí učit průběžně jako člověk, po trénovací fázi jsou váhy modelu zafixované. Dejme tomu, že by se z učících dat smazalo vše co se týká šachů. Pak by ten model dostal popis pravidel a měl možnost zahrát si tisíce her. Dost pravděpodobně dopade hůř než trochu nadané dítě, protože se nedokáže naučit intuitivně odhadnout, jestli je daná pozice dobrá nebo špatná.

4. AI neví, jak se lidi cítí

A poslední věc, i když to teda není striktně o inteligenci, je že AI má jenom přibližnou představu o tom, jak se lidi cítí a jak vnímají svět. Když navrhuju UI, maluju obraz anebo píšu knihu, tak vím, jaké vjemy a emoce to ve mně vyvolá a to mi dá dobrou představu o tom, jak to budou vnímat ostatní nebo alespoň lidi co mi jsou podobní. Na internetu není dostatek dat, aby tohle šlo vyvodit, třeba jak budou lidi vnímat nějaký úplně nový styl obrazů. Člověk může experimentovat, třeba si představit nějakou filmovou scénu a pozorovat, jak to vnímá.        

Komentáře