k umrti Josepha Weizenbauma

15.3.2008 17:31 | Přečteno: 1350× | database

Dne 5.3.2008 nas opustil ve veku 85 let Prof. Joseph Weizenbaum. (jeden z tech co maji titul Prof. opravnene). Nastesti se o tom v ceskych mediich moc nepsalo, proc nastesti, to se dovi zvidavy ctenar dale.

Prof. Weizenbaum byl tzv. computer-pionyr. (http://en.wikipedia.org/wiki/Joseph_Weizenbaum). Do podvedomi 'myslici' verejnosti se dostal az v poslednich 20 letech, kdy se kriticky vyjadroval ke 'computerizaci' spolecnosti a problemum s tim spojenych. Byl take jednim z mala, ktery jiz v roce 1995 napr. v nemecke televizi varoval pred Internetem a to v dobe, kdy si svet myslel, ze Internet spasi svet. Proto mu take redaktor hned sebral mikrofon, neb neco takoveho se nehodilo, hovoril prece tenkrat kancler Kohl o datovych dalnicich.

Prof. Weizenbaum mnohokrat vysvetloval, co ho vedlo k jeho kritickemu postoji, ktery nemel samozrejme jiz od pocatku sve vedecke prace. Ucastnil se koncepcnich praci na prvnim bankovnim systemu sveta a nadsen moznostmi pocitacu vytvoril program ELIZA, ktery mel v konecnem stadiu nahradit terapeuta, ktery hovori s pacientem. Takove pekne zacatky AI. (Nekdy si rikam, kdyz tu tak ctu clanky pana Jilka, jestli by ten program nebyl pro jeho pacienty prinosnejsi). Sokujici pro Weizenbauma bylo, jake intimni detaily ze sveho zivota pacienti pocitaci sverovali a v tu chvili mu bylo jasne, kam asi svet speje.

Rozsirovat kriticky postoj k vsemocnosti pocitacove techniky mezi akademiky bylo velkou Wizenbaumovou zalibou. Navstevoval casto vysoke skoly kde v prednaskach nabadal studenty ke kritickemu mysleni. Rikal: 'to ze nekdo zada nejaky udaj do google a zobrazenou stranku vytiskne jeste neznamena, ze je vzdelany'.

Vubec legendarni byla jeho schopnost vysvetlovat komplikovane souvislosti. Napr. co jsou data a co jsou informace. Vykladal:

Predstaveme si telefonni seznam New Yorku. Predpokladejme ze vetsina armenskych jmen konci na -ion. Nyni projdeme tento seznam a zapiseme si ctvrti, kde najdeme vyse definovane jmeno. Bude -li vyskyt jmen koncentrovan do nejake ctvrti, je nase hypoteza o koncentraci mensin v New Yorku potvrzena. Neni nadherne, s jakou lehkosti dokazal Weizenbaum vysvetlit, ze k tomu, aby se z dat staly informace, tak ze k tomu je zapotrebi nejaka hypoteza. Srovnejte to s aktualnim kostrbatym clankem pana Kocana na dbsvet.cz.

Jak bylo uvedeno zpocatku, spolecenska kritika prof. Weizenbauma nebyla a neni v CR prilis znama. A to je dobre. Predstavme si, ze by se o jeho nazorech dovedel tzv. prof. Vaclav Klaus.

       

Komentáře

[alanos]

Proč tzv. prof. V. Klaus? Něco se ti nelíbí na jeho titulu a nebo mu ho jen závidíš? Alespoň tak na mě působíš. Ale to je jen můj osobní názor.

[Quimby]

Z clanku jsem pochopil, ze ti je sympaticke, ze se profesor Weizenbaum nebal postavit proti vetsine a ze mu brali rychle mikrofon, ale pritom u prof. Klause ti to vadi a pritom jsou si v tomto podobni, jen se zajimaji o jine temata. Trochu divne ne? Nebo jsem to spatne pochopil?

[alanos]

Asi jsme to špatně pochopili oba. :o)

[Nicky726]

-1

[zde]

> Něco se ti nelíbí na jeho titulu a nebo mu ho jen závidíš?

Na jakém titulu? Vždyť žádný nemá, jeho habilitace je špatným vtipem.

http://svedectvi.host.sk/svedek/klaus.html

[alanos]

Článek jsem si tedy přečel .... a co jako tím chtěl básník řící??? Ještě k tomu v r.1996 ?? Názory se mění u každého i já měním názory. p.Klausovi některé věci taky neodpustím ale naopak některým jeho názorům fandím, hlavně co se týče EU a GO. Navíc jsem se nikde v článku nedočetl že by mu někdo titul profesora odejmul. Jediné na co se v článku zmohli je "Udeleni profesury V. Klausovi je proto vysmechem a urazkou akademicke obce CR." ... Mě je úplně jedno, jestli ten titul má nebo ne. Autor článku na výše uvedném odkazu mi připadá jako malý klučina který musí něco požalovat. Pokud jsem se někde v článku přehlídl, napiš mi kde je tam napsáno že mu odejmuli titul prof.

[depka]

mu byl odejmut titul profesora?

[zde]

Profesorem se stava osobnost vedy, ktera prosadila vlastni vedecky smer ve svete a vychovala svoji odbornou skolu doma. Nic z toho Klaus neudelal, takze profesorem neni a nikdy jim ani nemohl byt. Jestli mu byl nekdy udelen diplom, na kterem to bylo napsano, jde o pouhy car papiru ktery nejde brat vazne.

[Dalibor Smolík]

Baví mě, jak se při každé příležitosti, i když to není vůbec k tématu, dokáže někdo stále otírat o pana Klause. Myslím si, že právě prezentace oponentních názorů k všeobecně vžitým v minulosti přinášela pro společnost užitek. Jakpak to bylo s tvrzením, že je Země kulatá? Za takové názory se upalovalo. Dneska stačí říci, že počítače nejsou všemocné nebo globální změna klimatu je způsobena spíše vnějšími vlivy než člověkem a autor názorů je hned na černé listině
Co se týká pana Klause, vědecký směr prosazuje, v ekonomických kruzích je dostatečně znám a jeho názory ovlivňují náhled na světovou ekonomiku dostatečně. Každý má své osobní vlastnosti, pan Klaus také - nicméně bych nesouhlasil s tím, že není osobnost vědy.

[Honza Jaroš]

Když už jsme u toho, v souvislosti s předchozím příspěvkem by mě docela zajímalo, jaký vědecký směr prosadil takový Alois Hajda v oboru režijní tvorba, Jarmila Hladíková v oboru zpěv, Josef Kabeláč v oboru geodézie, Jiřina Kolmanová v oboru komorní hra... To jsem jen tak namátkou vybral z profesorů jmenovaných v devadesátých letech Václavem Havlem (najdete tam i toho Klause).

Spíš by mě zajímalo, jak je na tom Václav Klaus s pedagogickou činností. Protože pokud se nemýlím, profesor je hlavně pedagogická hodnost, ne?

[Dalibor Smolík]

Spíš by mě zajímalo, jak je na tom Václav Klaus s pedagogickou činností.
Pokud je mi známo, přednášel na VŠE. Jak je to v současné době, nevím.

[pools]

http://pes.vse.cz/main.php?action=UCIT_INFO&id_ucitele=5169

Minulý rok tam ještě přednášel, teď nevím...

[deda.jabko]

jenom tak na okraj... kolik doktoru, prof. klaus ``vychoval''?

[pools]

9 272

[alblaho]

Pointa tohohle příspěvku mě pobavila a myslím si, že je trefná.

Ono totiž je rozdíl kritické myšlení na základě skutečného poznání a kritické myšlení, které má za cíl jenom přitáhnout pozornost.

Abych nebyl špatně pochopen, nejsem velký příznivec pana Klause, ale za některé jeho činy si ho vážím. Má odvahu jít proti proudu, občas je to jeho racionální a odvážné rozhodnutí, občas trucrozhodnutí.

Třeba když namítl, že s tím globálním oteplováním je to i trochu hysterie, za tím jistá odvaha je. Když v den otevření hranic začal upozorňovat na nebezpečí s tím spojená, tak to bylo jen snaha kritizovat cokoliv. Jistěže všechno má své nevýhody, ale asi není důvod, abychom s přátelskými zeměmi v okolí, které jsou zhruba stejně ekonomicky rozvinuté a vyznávají stejnou kulturu, hranice.

Tedy ano, taky jsem k počítačům kritický, ale nestojím o to, aby mě o tom poučoval vševědoucí pan Profesor (který si nechává tisknout emaily, on ručně odpoví a sekretářka to zas nadatluje).

[deda.jabko]

ktery jiz v roce 1995 napr. v nemecke televizi varoval pred Internetem a to v dobe

jeste, ze nas nevaroval pred elektrinou, automobily a bleskosvodem.

mimochodem vyse zmineny vztah data ~ hypoteza ~ informace, mne pripadne hodne popularnenaucny.

[alanos]

Asi před rokem se dostali hackeři na servry Debianu a ukradli jim zdrojové kódy......

Tak takhle upřímně od srdce jsem se dlouho nezasmál ......

[Michal Fecko]

jj, to bol vtedy riadny prus*r

[pools]

Kdyby je raději smazaly... (i zálohy a všechny zrcadla samozřejmě )

[Filip Jirsák]

nadsen moznostmi pocitacu vytvoril program ELIZA, ktery mel v konecnem stadiu nahradit terapeuta, ktery hovori s pacientem

Tahle věta staví váš příspěvek do trochu zvláštního světla. Sám se v příspěvku nenápadně otřete o kde co a kde koho, a pak touhle větou shodíte jednak svého oblíbence Josepha Weizenbauma, jednak sám sebe. Josepha Weizenbauma proto, že pokud by si on opravdu myslel, že dokáže napsat program, který nahradí terapeuta hovořícího s pacientem, byl by to blázen a ne vizionář nebo „jeden z těch, kteří mají titul Profesor oprávněně“. A sám sebe jste tou větou shodil proto, že Joseph Weizenbaum ten program nevytvořil se záměrem, aby program nahradil terapeutický rozhovor s pacientem, ale jako parodii na takový (nejspíš ne příliš šťastně vedený) rozhovor.

[springer]

to bych rekl ze se mylite, na rade prednasek uvedl Weizenbaum, ze ke kritickemu pohledu se dostal az zacatkem 70 let, v roce 1966 byla vize, ze AI vse zmeni jeste velmi silna a te podlehal i pan profesor. Jako spravny vizionar si u prvniho prototypu osahaval problematiku a cekal co z toho vyleze. Jen hlupaci si mysli, ze vizionar uz vi vsechno predem. Je mi lito, ale bezne mate lepsi prispevky.

[Filip Jirsák]

Můžete k tomu vašemu tvrzení uvést nějaký zdroj? Než jsem napsal předchozí komentář, ověřoval jsem si to ve Wikipedii. Tam samozřejmě může být chyba, ale vzhledem k tomu, že jsem se vždy setkával s interpretací, která je i na Wikipedii, a tu vaši interpretaci jsem zaznamenal poprvé až zde (a osobně mi připadá nelogická), věřil bych spíš té „parodické“ variantě.

[springer]

mate pravdu v tom, ze je mozno na internetu (o nemz po pravu tvrdil pan profesor, ze je to halda srotu) najit radu dokumentu, ve kterych opisuje jeden od druheho ten nesmysl, ze eliza byla koncipovana jako parodie. Dobre pojednani te problematiky je na:

http://www.swr.de/swr2/audiohyperspace/ger_version/interview/weizenbaum.html

Jinak na serioznich strankach jako

http://de.wikipedia.org/wiki/ELIZA

neni o parodii samozrejme ani slovo.

[thingie]

Tenhle paper se taky netváří, že by to byla dvakrát parodie.

http://portal.acm.org/citation.cfm?id=365168&dl=ACM&coll=GUIDE

[Filip Jirsák]

Pokud máte přístup k jeho obsahu, jistě nebude problém napsat sem jeho stručný souhrn případně ocitovat důležité části.

[petr_p]

Jedná se naskenovaný papír zabalený do PDF, takže citace nebude tak snadná.

Weizenbaum především rozebírá technickou stránku problému (analýza anglické věty, identifikace klíčových slov, hledání vhodné odpovědi, vypořádání se s nedostakem klíčových slov a režim učení).

Nicméně se také věnuje společenskému dopadu jeho programu. Zpočátku se podivuje, jak jednoduchý algoritmus může vyvolat zdání inteligence:

Introduction

It is said that to explain is to explain away. This maxim is nowhere so well fulfilled as in the area of computer programming, especially in what is called heuristic programming and artificial intelligence. For in those realms machines are made to behave in wondrous ways, often sufficient to dazzle even the most experienced observer. But once a particular program is unmasked, once its inner workings are explained in language sufficiently plain to iduce understanding, its magic crumbles away; it stands revealed as a mere collection of procedures, each quite comprehensible. The observer says to himself "I could have written that". With that thought he moves the program in question from the shelf marked "intelligent", to that reserved for curious, fit to be discussed only with people less enlightened than he.

Ohledně výběru formy dialogu (jedna z metod psychiatrického vyšetření) píše:

Discussion

At this writing, the only serious ELIZA scripts which exist are some which cause ELIZA to respond roughly as would certain psychotherapists (Rogerians). ELIZA performs best when its human correspondent is initially instructed to "talk" to it, via the typewriter of course, just as one would to a psychiatrist. This mode of conversation was choosen because the psychyatric interview is one ogf the few examples of catagorized dyadic natural language communication in which one of the participating pair is free to assume the pose of knowing almost nothing of the real world. If, for example, one were to tell a psychiatrist "I went for a long boat ride" and he responded "Tell me about boats", one would not assume that he knew nothing about boats, but that he had some purpose in so directing the subsequent conversation. It is important to note that this assumption is one made by the speaker. Wheter it is realistic or not is an altogether separate question. In any case, it has a crutial psychological utility in that it serves the speaker to maintain his sense of being heard and understood. The speaker further defends his impression (which even in real life may be illusory) by attributing to his conversational partner all sorts of background knowledge, insights and reasoning ability. But again, these are the speaker's contribution to the conversation. They manifest themselves inferentially in the interprelations he makes of the offered responses. From the purely technical progamming point of view then, the psychiatric interview form of an ELIZA script has the advantage that it eliminates the need of storing explicit information about hte real world.

Nakonec se vrací ke společenské odpovědnosti ohledně podveditelnosti člověka:

With ELIZA as the basic vehicle, experiments may be set up in which the subject find it credible to believe that the response which appear in his typewriter are generated by a human sitting at a similar instrument in another room. How must the script be written in order to maintain the credibility of this idea over a long period of time? How can the performance of ELIZA be systematically degraded in order to achieve controlled and predictable thresholds of credibility in the subject? What, in all this, is the role if the initial instruction to the subject? On the other hand, suppose the subject is told he is communicating which a machine. What is he led to belive about the machine as a result of his conversational experience with it? Some subjects have been very hard to convince that ELIZA (with its present script) is not human. This is a striking form of Turing's test. What experimental design would make it more nearly rigorous and airtight?

[thingie]

Ano, tak. Nic tam nenasvědčuje tomu, že by šlo o parodii.

[Filip Jirsák]

A zároveň tam nic nenaznačuje tomu, že by šlo o vážně míněný pokus vytvořit program, který „mel v konecnem stadiu nahradit terapeuta, ktery hovori s pacientem“. Naopak je v textu vysvětlení, proč zvolil zrovna tenhle druh rozhovoru – protože jde o druh rozhovoru, ve kterém se jedna ze stran může tvářit, že neví téměř nic o reálném světě. Takže není nutné do programu ukládat žádné explicitní informace o reálném světě.

[thingie]

Šlo o vážně míněný výzkum v tomto směru.

[Filip Jirsák]

V prvním odkazu zmiňuje sám Weizenbaum, že slovo „parodie“ o Elize používal, v druhém se opět tvrdí, že byl Weizenbaum zděšen, když zjistil, že to někteří psychiatři berou vážně. Aspoň pokud si Google Translator nmoc evymýšlí. Navíc argumentovat tím, že anglická Wikipedie je kde co, zatímco německá Wikipedie je seriózní zdroj, je trochu úsměvné. Nějaký odkaz, který by vaše tvrzení nevyvracel, ale podpořil, nemáte?

[Dag]

Myslíte, že musel být předem rozhodnutý, zda je to parodie a nebo to myslí "vážně"? Vonkoncom leccos se stává parodií při nějaké užití a jinde a při jiném užití je zcela funkční.

Inu, a pan profesor mohl (zakázané to není) jednou o věci hovořit vážně a podruhé jako o parodii, jedna věc může fungovat v obou rovinách.

Také není vyloučené, že to chtěl dodatečně shodit.

[Dag]

S páně profesorem mám společné jen to, že jsem měl padesát v den, kdy on umřel. Nevím jak to myslel, ale výsledky nejsou nezajímavé.

Ukázalo se, že mnohý člověk má raději stroj, který se s ním baví a má naprogramovaný zájem, než člověka, který je je bez zájmu a jen mechanicky aplikuje nějakou psychoteorii. I že se stane na takovém zpovědníkovi, terapeutovi psychicky závislý. Co z toho plyne? Nóó, bych řekl že dost.

[Wirg]

Myslím, že pověsti toho pana profesora děláte svým zápisem medvědí službu. Kdyby mezi jeho hlavní objevné myšlenky patřily takové věci jako "to ze nekdo zada nejaky udaj do google a zobrazenou stranku vytiskne jeste neznamena, ze je vzdelany", tak bych ho tedy za žádnou super osobnost s velkým přínosem lidstvu nepovažoval. Opravdu o něm nevíte nic lepšího, když už ho chcete propagovat?

Plivání na Klause je škoda komentovat, se zbytkem zápisku to nemá žádnou souvislost.

[springer]

ani ja a ani pan profesor zato ale nemuzeme, ze nedokazete jednoduse formulovanou myslenku rozvinout a neco z ni vytezit.

To s tim Klausem je tam zamerne. Pan Klaus je totiz prototyp typickeho ceskeho "vedeckeho pracovnika", ktery mel za komunismu na akademii pristup k zahranicnim casopisum, ty si precetl, (ostatni je nedostali do ruky) a pak to nactene daval dal. To dela mimojine dodnes. (jen na okraj, podobni zoufalci plni katedry vysokych skol v cele CR) Je to v prikrem rozporu s pracemi profesora Weizenbauma, ktery si nic nacist nemohl. A dal by mi jiste za pravdu, z podobnych 'reprodukcnich' vedcu se mu delalo cely zivot zle. Zadnou medvedi sluzbu v tom nevidim.

[Wirg]

Kdyby ta myšlenka byla objevná a jednoduše formulovaná, bylo by to OK. Problém je, že ta myšlenka je sama o sobě jednoduchá. Jasně, že existuje obrovské množství lidí, pro které by byla objevná a mezi takovými slepými by byl zmíněný profesor králem. Ale já tak nějak předpokládám, že ho chceme porovnávat s větší konkurencí.

K tomu Klausovi: Otázka například zní, zda by Weizenbaum měl radost z toho, že se po jeho smrti začnou líhnout znalci jeho díla, co budou tvrdit, z čeho všemu by mu jistě bylo zle.

[Robo]

Nastesti se o tom v ceskych mediich moc nepsalo, proc nastesti, to se dovi zvidavy ctenar dale.

no nejak jsem se to nedovedel, nebo jsem zle cetl?