Hranice možností IT

16.4.2018 16:39 | Přečteno: 2096×

Možná se už brzy vylíhnou první šejdíři, kteří něco provedou a pak budou říkat "to já ne, to udělal můj počítač". Tato možnost má určité právní aspekty, ke kterým se nemůžu kvalifikovaně vyjádřit. Má taky aspekty technické, ke kterým se vyjádřit mohu.

Myšlenky

Když se podívám do svojí mysli, mám tam myšlenky a představy. Jsou to vlastně modely věcí a procesů reálného světa. Model je něco jako souhrn důležitých vlastností modelovaného objektu. Tak třeba malé dítě má určité myšlenky a představy, což mu dohromady modeluje maminku. Myšlenky a představy táty toho dítěte vztahující se k té samé ženské jsou dost odlišné. Každý model má obor platnosti a použít ho mimo tento obor vede ke špatnému výsledku. Principielně ovšem neexistuje žádná záruka, že zrovna v téhle konkrétní situaci dá tenhle konkrétní model správný výsledek. Skutečný svět není matematika.

Já myslím, že některé modely máme zadrátované. Tak třeba představu prostoru, blízko, daleko, rovnoběžně atd. máme zdá se všichni stejnou. Euklides ji jako první matematicky popsal, ale on ji popsal tak jak ji vnímal sám v sobě, a od té doby všichni akceptovali jeho matematický model, protože souhlasil s jejich vlastním vrozeným modelem. Až do Einsteina. Ten vytvořil jiný model prostoru, který je použitelný v situacích pro lidskou představivost neuchopitelných. Protože narazil na meze použitelnosti toho původního.

Nebo si vezměte paradigma příčiny a následku. To je to nekonečné "a ploč?" dětí kolem tří let. V tomhle období si zřejmě stavíme kauzální model světa. Nikdo nás to nenaučil, máme to v sobě. Možná právě kauzální modelování je to, co máme proti ostatním zvířatům navíc a tím jsme je převálcovali. A tak vidíme, že myšlenkové modelování je k něčemu dobré, a když nám různí mudrci v minulosti i současnosti říkají, že mysl je jenom mysl a není to ta pravá skutečnost, tak snad jim jde právě jen o tu neustálou nejistotu, jestli zrovna teď mi to s tou mojí představou klapne. Myšlenky jsou samozřejmě hmotné, jinak by nemohly mít tvar.

Mysl se dá modelovat myslí. Asi tak od 60. let minulého století se stovky nebo tisíce geniálních matematiků věnovaly studiu mechanismů mysli s cílem napodobit myšlenkové pochody v počítači. Vznikaly koncepty jako strukturované programování, GUHA, shluková analýza, inferenční stroj, řešič problémů, objektové programování, teorie kategorií. Výsledky vidíme, počítače se dnes chovají do určité míry inteligentně. Dost na to, aby mohly řídit roboty. A ještě další výsledky vidíme. Každý IT profesionál se dnes může docela snadno orientovat v tom, co jeho mysl provádí. Může si sám sebe prohlédnout a technicky vyhodnotit. Nevidí sice do způsobů implementace, ale to si může domyslet, má na to vzdělání. Architekturu svých mentálních mechanismů můžeme opravdu vidět dost jasně, zkuste si to. Napřed emoční podnět, ten vede k zadání pro mysl. Mysl napřed namodeluje situaci, to znamená Pattern Matching, nalezení myšlenkového schématu (třídy), které na problém pasuje. Vytvoří se instance téhle třídy, nastaví parametry a spustí vhodná metoda řešení. Napřed v představě a potom už s externími manipulátory. Mám mu jednu vrazit? Radši ne, jenom mu vynadám. Pěkně fungujeme, a pěkně tomu rozumíme, protože podobné třídy bychom si klidně uměli sami naprogramovat.

Pozornost

Na okraji mysli se nachází HW mechanismus, kterému říkáme pozornost. V mysli běží pořád spousta procesů. Dýchání, tělesná rovnováha, rádio v pozadí, co bude k obědu, do toho si koncipuju článek do blogu atd. Vždycky na jednom z nich je pozornost. Pozornost znamená uvědomit si myšlenkový objekt, že existuje a co on je zač. Když mu věnuju pozornost, můžu se rozhodnout, že toho nechám a půjdu dělat něco jiného, že je to úžasný a má to smysl, že bych se měl stydět atd. Na základě pozornosti se mohu rozhodnout, protože já jsem tady pánem a stroj na myšlenky mi slouží. Pozorností dochází ke spojení mezi myšlenkou a šéfem. Stroj nemá možnost uvědomit si, co vlastně dělá, proto nemůže šéfovat.

V okénkových systémech je určitý model pozornosti, a je to fokus. Mám tady pár oken a jedno z nich je aktivní. Je navrchu, abych na něj viděl, a je spojeno s klávesnicí, takže co napíšu, právě tenhle proces to dostane. Takto namodelovaná pozornost spojuje myšlenkový objekt s tím kdo rozhoduje. Kdo tenhle počítařový koncept vymyslel, byl jistě moudrý člověk.

Intuice

Každý z nás už měl v životě nějaký nápad. Nevím jak to vnímáte, že je tady nápad. U mě to probíhá tak, že nějakým impulzem, který naprosto není v mojí moci, se v mysli otevřou cestičky, které tam předtím nikdy nebyly. Nechám tomu volný průběh a počkám si, až se toho mysl chytí a dá tomu formu. Pak si to jenom napíšu, abych to nezapomněl. V té chvilce, kdy se to formuje, bych řekl, že mysl je tvořivá. Vylíhla se nová třída.

Lidská tvořivost je úžasná. Rozhlédnu se kolem sebe a všecko co vidím vyvinuli lidé. Na začátku světa to tady nebylo. Kdo zná architekturu procesorů a možnosti periferií ví, že v počítačovém hardware není nic, co by mohlo vydávat tvořivé impulzy, že počítač může jen realizovat dodaný kód. A kdo zná umělou inteligenci, tak zase ví, že není znám algoritmus nápadu. Představa, že nápad lze vytvořit generováním velkého množství náhodných struktur, je nereálná, jak ukazuje matematická teorie složitosti. Malý nárůst dimenze problému hned znamená obrovský nárůst výpočetní náročnosti, takže k praktickým výsledkům to opravdu nemůže vést.

Závěr

Zkusil jsem si vysvětlit, proč IT systémy v podobě, jak je dnes známe, nemohou o ničem rozhodovat. Kdo jim to v omezeném rozsahu dovolí, musí za to nést zodpovědnost a musí to být člověk. Protože IT systémy nemají možnost sebereflexe, takže by vlastně mohly udělat cokoliv. Dále pak proto, že nemají možnost tvořivého myšlení, takže cokoli by udělaly, nestálo by to za nic. Často se také říká, že počítače nemají vědomí. Do toho bych se nerad pouštěl. Vědomí nepochybně existuje, ale nevím, jak by se dalo vlastnit.

Tento text jsem si napsal u příležitosti ukončení profesní dráhy. Proto tedy závěr.

       

Komentáře

[Want]

Ty máš ale užvaněný počítač.

[krnoha]

To víš, penzista

[Honz]

Čekám něco jiného. Imaginární firma řekne: Vámi vlastněný PC nám způsobil škodu, budeme vás žalovat o 100 miliónů korupií...

[Bystroushaak]

Možná právě kauzální modelování je to, co máme proti ostatním zvířatům navíc a tím jsme je převálcovali. A tak vidíme, že myšlenkové modelování je k něčemu dobré, a když nám různí mudrci v minulosti i současnosti říkají, že mysl je jenom mysl a není to ta pravá skutečnost, tak snad jim jde právě jen o tu neustálou nejistotu, jestli zrovna teď mi to s tou mojí představou klapne.

Shameless self-bump: Některé z těhle myšlenek jsou řešeny ve Firefallu, na který jsem tu nedávno publikoval recenzi. Možná by se ti to mohlo líbit.

Myšlenky jsou samozřejmě hmotné, jinak by nemohly mít tvar.

To mi teda není zřejmé. Jak jsi to myslel?

Zkusil jsem si vysvětlit, proč IT systémy v podobě, jak je dnes známe, nemohou o ničem rozhodovat. Kdo jim to v omezeném rozsahu dovolí, musí za to nést zodpovědnost a musí to být člověk. Protože IT systémy nemají možnost sebereflexe, takže by vlastně mohly udělat cokoliv. Dále pak proto, že nemají možnost tvořivého myšlení, takže cokoli by udělaly, nestálo by to za nic.

To není nutně pravda, jak jsem se snažil nastínit v článku Entity a trochu to pak nakousl i v Ethereum.

[krnoha]

Máš pravdu líbí se mi, co a jak píšeš. Když jde o praktické aspekty umělé inteligence, jsi v tom jako doma. Ethereum je moc pěkný článek. Jinak se mi zdá, že hrozně zdůrazňuješ inteligentní chování v obvyklých situacích na úkor tvořivosti. Co když se inteligentní entita dostane do situace, kdy přijde nečekaný vstup, na jaký není zařízena? Člověk zůstane štajf, ale dříve nebo později ho něco napadne, čímž si vytvoří nové paradigma. Nějak se z tím vypořádá a příště už to bude mít snadnější. Ale sebe inteligentnější počítač si nenapíše jiný kód, na to by musel vystoupit sám ze sebe.

No a dál, možná jsi úplně nevstřebal, co jsem psal o pozornosti. Podle mě myšlenka je prostě neživý kus hmoty, ať je to v křemíkových obvodech, tam se v tom vyznáme, nebo ve stavech neuronů, o čemž zatím nevíme skoro nic. Ale když je myšlenka nasvícena pozorností, máme pocit že je to něco onačejšího a nehmotného a zázračného a mimo tento svět. Mluvil jsem s pár lidmi a všichni to berou právě takhle. Proto jsem si zkusil tu provokaci, že myšlenky jsou přece hmotné.

[Bystroushaak]

Co když se inteligentní entita dostane do situace, kdy přijde nečekaný vstup, na jaký není zařízena? Člověk zůstane štajf, ale dříve nebo později ho něco napadne, čímž si vytvoří nové paradigma. Nějak se z tím vypořádá a příště už to bude mít snadnější. Ale sebe inteligentnější počítač si nenapíše jiný kód, na to by musel vystoupit sám ze sebe.

Delegace. Prostě si najme tým analytiků, kteří vytvoří kód, který se s tou situací bude vyrovnávat (+ řetěz lidí, kteří ověří, že se jedná o skutečně korektní řešení). V tom je ta myšlenka - pokud je něco schopno si inteligenci kupovat (=outsourcovat jí), samo to být inteligentní nemusí. Pokud ti dělá problém si to představit se softwarem, představ si to třeba s korporací, což je jen software vynucovaný lidmi pomocí právního frameworku.

No a dál, možná jsi úplně nevstřebal, co jsem psal o pozornosti. Podle mě myšlenka je prostě neživý kus hmoty, ať je to v křemíkových obvodech, tam se v tom vyznáme, nebo ve stavech neuronů, o čemž zatím nevíme skoro nic.

To není pravda, víme o tom docela hodně u různých zvířat a z různých simulací. U lidí se to liší jen komplexností, ale i tady běží výzkum mílovými kroky.

Jinak viděl jsi někdy propagaci šíření vlny skrz prostředí? Krásně je to ukázáno zde: Longitudinal and Transverse Wave Motion, konkrétně tohle: http://www.acs.psu.edu/drussell/Demos/waves/Lwave-Red-2.gif

Je vlna hmotná? Není. Přesto existuje a má energii.

Ale když je myšlenka nasvícena pozorností, máme pocit že je to něco onačejšího a nehmotného a zázračného a mimo tento svět.

No, to jsi docela hezky vystihl. Máme ten pocit :)

Jinak četl jsi I am strange loop? Autor se tam věnuje teorii myšlenek a mysli z docela zajímavého pohledu. Někdy sem přidám komplexní recenzi.

[krnoha]

Outsourcovat, to by mohl a je hezký, že tě to napadlo.

Možná to dokáže napadnout i plechovou škatuli a v tom případě jsem se svými názory úplně mimo.

Možná ho to nenapadne, ale má to v sobě naprogramováno. To ovšem znamená, že byl zkonstruován jako méněcenná bytost, když neví, zeptá se vrchnosti. Tomu by snad odpovídala nějaká omezená právní způsobilost jako mají blázni. Na běžná rozhodnutí stačí, ale v obtížnějších případech je nutná účast nějakého kurátora. To je dobrá varianta, možná že tudy bude vývoj právních norem skutečně postupovat.

No a potom je ještě taková sci-fi možnost. Ta potvora zaguglí, pohrabe se v obrovských zásobách lidských nápadů a pomocí heuristických metod z toho vyvodí nový nápad. Bůhví kolik to bude trvat let, než lidi přestanou svoje nápady publikovat a robotům dojde inspirace. Pak by se lidský rod dostal do područí nesmírně inteligentních blbců. Potom lidem nezbyde, než se začít bouřit. Brrr jsem rád že se toho nedožiju.

[Bystroushaak]

Možná ho to nenapadne, ale má to v sobě naprogramováno. To ovšem znamená, že byl zkonstruován jako méněcenná bytost, když neví, zeptá se vrchnosti. Tomu by snad odpovídala nějaká omezená právní způsobilost jako mají blázni. Na běžná rozhodnutí stačí, ale v obtížnějších případech je nutná účast nějakého kurátora. To je dobrá varianta, možná že tudy bude vývoj právních norem skutečně postupovat.

Ono to ve skutečnosti není o nic horší, než korporace. Ta má svoje práva, podobná jako člověk, i když reálně neexistuje a je tvořená lidmi.

No a potom je ještě taková sci-fi možnost. Ta potvora zaguglí, pohrabe se v obrovských zásobách lidských nápadů a pomocí heuristických metod z toho vyvodí nový nápad. Bůhví kolik to bude trvat let, než lidi přestanou svoje nápady publikovat a robotům dojde inspirace. Pak by se lidský rod dostal do područí nesmírně inteligentních blbců. Potom lidem nezbyde, než se začít bouřit. Brrr jsem rád že se toho nedožiju.

Určitě časem. Jenže ty to vidíš moc jednostranně. Nebude se to dít ve vakuu a bude to muset konkurovat lidem, kteří budou používat stejné techniky v semi-automatickém režimu pro vylepšení jich samotných.

[marbu]

A kdo zná umělou inteligenci, tak zase ví, že není znám algoritmus nápadu.

To ano, ale stejně je např. fascinující, že se umí neuronová síť přimět k halucinaci.

[krnoha]

No to je teda něco. Asi že zase začínáme žít v džungli jako jsme začínali v pravěku. Tahle džungle je elektronická, ale není tím méně nebezpečná ani méně dobrodružná než byla ta minulá. Dík za odkaz.

[Matematik]

Přestal jsem číst u: "Euklides ji jako první matematicky popsal, ale on ji popsal tak jak ji vnímal sám v sobě, a od té doby všichni akceptovali jeho matematický model, protože souhlasil s jejich vlastním vrozeným modelem. Až do Einsteina. Ten vytvořil jiný model prostoru, který je použitelný v situacích pro lidskou představivost neuchopitelných."

Pochopil jsem, že píšete o tématu, kterému nerozumíte. Spláchl jste celý 200 let, cca od samotného gemiálního Gausse a dalších, vývoje neeukleidovské geometrie, a připsal jste Einsteinovi něco, co nespáchal.

---

Přečetl jsem si jen závěr, a pochopil jsem, že odpovídá komptentencí "kvalitě" tvrzení o geometrii a prostoru v článku.

Milý zlatý autore, vše má své limity, včetně člověka samotného. IT má limity, člověk má limity. Ty limity - kdo by to byl řekl? - se v čase posouvají dopředu.

Software se samozřejmě dokáže rozhodovat, ba dokáže mít i pozornost a zaměření - například jen konceptem priority procesů a threadů, což není nic jiného, než řízení pozornosti jako u člověka. Tedy řízení, čemu dá více myšlenkové kapacity a čemu méně.

Intuice je něco, com má protiváhu v software nazvanou heuristické algoritmy nebo adaptabilní algoritmy.

Atd.

[Hallen Watson]

The emergence of potential cheaters exploiting the "my computer did it" defense poses intricate legal challenges. While I can't delve into the legal aspects, I can shed light on technical considerations. Implementing robust security measures and accountability mechanisms is crucial in mitigating such risks. For further insights on this topic, consider consulting experts or seeking MBA assignment help in Dubai.