Dotaz: Jak využíváte AI?

[LuděkS]

Zdravím, chci se zeptat na zkušenosti s tím jestli/jak využíváte AI?
Používáte Open source nástroje, máte LLM na svém vlastním počítači / serveru?
Nebo využíváte dostupné nástroje?
Používáte ChatGPT, Gemini, nebo jiné LLM?
Zkusili jste si vytvořit digitální dvojče (třeba u personal.ai a pokud ano, jaké s tím máte zkušenosti?
Používáte AI pro automatizaci? Pokud ano, jaké nástroje používáte?
Máte zkušenosti se Zappier, Make a dalšími?
Integrujete AI do pracovních procesů (nemyslím Microsoftí integraci, ale jiné způsoby).

Je to spousta otázek a napadá mne mnoho dalších, ale budu rád, 
když se dozvím nějaké zkušenosti a postřehy od ostatních. 
Na ostatní otázky třeba narazíme v diskuzi. 
Díky moc! :)

Odpovědi

[X]

Ludku zaloz si blog. Mas to nahore v menu. Poradna != diskusni forum.

[LuděkS]

Díky za opodvěď! Prosím, poraď mi: Klidně to tak udělám, jen to potřebuju pochopit: Myslel jsem, že tu o tom budeme diskutovat, ale že blog je spíš abych popsal jak to třeba používám já ne? Něco spíš jako článek. Myslel jsem, že tedy poradna bude lepší. Takže co navrhuješ?

[Aleš Kapica]

Na diskuze v poradně kálí pes, proto anonymové tak rádí plevelí diskuze pod blogy. Takže od anonyma rozumnou radu a návrh nečekej.

[Aleš Kapica]

Jinak diskuzi, co se o tohle téma otírá, najdeš aktuálně třeba zde. Podle mne nic jako AI zatím neexistuje. To co se označuje jako AI jsou jen pokročilé algoritmy pro analýzu dat.

Osobně jsem využil jen whisper, k transformaci zvukových záznamů rozhovoru do textu, protože se za 30 let nenašel nikdo, schopný a ochotný ty rozhovory překlepat do textu. Jinak mne to všeobecné nadšení možnostmi AI spíš obtěžuje, protože generuje tuny hnoje, čímž se komplikuje dohledávání validních informací.

[LuděkS]

Jasně, díky. Přesně tyhle názory mne zajímají!

Takže myslíš, že je lepší napsat blog, např. o tom jak to používám a řešit diskuzi pod ním?

Mne zajímají možnosti inteligentní automatizace rutinní práce
ale třeba taky věci ohledně "digitálního dvojčete" (víc než pouhé chatování s AI chatbotem). 

No a pak možnosti, které máme v open source světě.

Přemýšlel jsem o tom, že bych vyzkoušel vlastní server
(samozřejmě na to není čas ), ale například sdílení všech osobních dat
u vytváření digitálních dvojčat mne dost znepokojuje.

Na druhou stranu mít možnost mít ještě jeden "digitální mozek" k dispozcici
je docela lákává nabídka (chápu ta různá omezení, ale přesto... )...

[Aleš Kapica]

Příloha:

• img_2024-11-08_17-25-26.jpg (93169 bytů)

Takže myslíš, že je lepší napsat blog, např. o tom jak to používám a řešit diskuzi pod ním?

No. Pokud to nějakým způsobem používáš, tak asi jo.

Mne zajímají možnosti inteligentní automatizace rutinní práce ale třeba taky věci ohledně "digitálního dvojčete" (víc než pouhé chatování s AI chatbotem).

Pro mne osobně to byla jednorázová práce. Měl jsem za úkol rozjet diskless který by uměl využívat starší GPU a potřeboval jsem nějaký rozumný cíl. Tak jsem toho využil. Stroj běží a kdyby to někdo potřeboval, nemusí využívat služeb Googlu, MS ani Apple, protože je to nachystané všechno out-of-box. Předhodíš audio, vypadne text.

Na druhou stranu mít možnost mít ještě jeden "digitální mozek" k dispozcici je docela lákává nabídka

Není. Je to zase jenom trapné HYPE, které zanedlouho zvětrá jak staré pivo. Viz ten zmíněný diskless. Ta karta není zas tak stará, ale už je prakticky nepoužitelná, protože pro novějších distribuce už nemá ovladače. O dlouhodobé udržitelnosti se dnes ovšem taktně mlčí. Většinou to vypadá tak, že se vše zahodí a dělá komplet znova, jakmile se něco změní na nižší úrovni, než je běžný admin nebo vývojář schopen zvládnout.

V příloze máš anonymizovanou fotku, kterou udělal kolega v před deseti dny v krámě na Lužinách. Je to kasa. Pastnul jsem to, jen proto abych demonstroval jaké zhovadilosti dnes nahrazují pokladní. Ta kasa běží pravděpodobně na Win 7, ale protože soft byl naprganý pro MS Win XP, běží na ní VMware Workstation(!) a v tom dva virtuály. Jeden obsluhuje platební terminál a druhý tu kasu. A tohle běží zřejmě na každé kase, takže už je jasné proč je VMware Fusion a VMware Workstation zdarma i pro komerční použití

A to se tady šmudla RealJ odvažuje opírat do mých sofistikovaných řešení.

[Migi]

Ahoj Luďku, s chatgpt píšu radoby vtipný blogisky na ABCLinuxu.cz

BTW Kameramanka kdy?

[LuděkS]

BTW Kameramanka kdy?

Co tím myslíš? :)

[Migi]

V "tvých" Událostech Luďka Staňka diváci v komentářích často žadoní od odhalení jeho kameramanky.

[Aleš Kapica]

Ehm. Nespletl sis tak trochu příjmení?

"Luděk Staněk" ≢ "Luděk Smolík"

[Migi]

You must be fun at parties. Samozřejmě byl můj úvodní komentář myšlen satiricky.

[Aleš Kapica]

Jenže tohle je dotaz v poradně a ne tvůj blogpost v kategorii sranda.

[Peter Golis]

Mňa by zaujímalo prečo sa snaží akademická sféra vytvoriť umelú inteligenciu, a nie zvýšiť inteligenciu ľudskej populácie. A tak isto mi príde podozrivé, keď vidím vedcov ako hľadajú inteligentný život mimo planétu zem.

[Aleš Kapica]

Mňa by zaujímalo prečo sa snaží akademická sféra vytvoriť umelú inteligenciu, a nie zvýšiť inteligenciu ľudskej populácie.

Zlomila nad ní hůl, protože vidí koho je ta ľudská populácia schopná znovu zvolit. Tak holt upínají své naděje do vesmíru. Jenže tam to nebude zřejmě o nic lepší.

[Peter Golis]

A vzdali to pretože sa im nechce naučiť populáciu niečomu užitočnému, alebo im príde ekonomicky výhodnejšie priživovať sa na ekonomike ktorú generuje málo vzdelaná populácia?

V tom druhom prípade je možné že by narazili na rovnako zameranú ale inteligentnejšiu mimozemskú civilizáciu, a nepolepšili by si ani ako kolaboranti.

[PetebLazar]

Civilizace, která bere svou civilizovanost za automatickou či jí dokonce začne pohrdat se často dočká jejího "překvapivého" konce.

Čím se lidstvo liší od jiných zástupců říše zvířat? Tím, že je v podstatně vyšší míře schopno pro něj relevatní informace sbírat, uchovávat, sdílet a využívat. Na základě těchto informací pak zvyšuje individuální(všeobecné) znalosti a část populace přispěje k objevu nových. Pokud lidstvo jako celek tyto schopnosti ztratí či odmítne, vydá se během pár generací na cestu zpět.

https://www.youtube.com/watch?v=GFRzIOna2oQ

[Aleš Kapica]

Čím se lidstvo liší od jiných zástupců říše zvířat? Tím, že je v podstatně vyšší míře schopno pro něj relevatní informace sbírat, uchovávat, sdílet a využívat.

Přečetl jsem si dnes ráno mail, který existenci téhle schopnosti v akademické sféře dost zpochybňuje. Možná proto je u ní tak populární ta naivní víra ve všespasitelnost AI, která odbourá čtení nápověd a manuálů tím, že požadovaný úkon rovnou udělá za vás aniž by se zdržovala vysvětlováním toho co, proč a jak zrovna dělá a proč naopak něco nedělá.

[Peter Golis]

Na to aby sa AI niečo rozumného naučila, tak sa musí prepnúť do modelu KGB: AI sa pýta, vy odpovedáte. Len tak sa dá dobre natrénovať. Teda tá AI, KGB by som neodporúčal netrénovať (ak sa teda nejedná o Kuchyňu Gurmánov Bratislavy na Obchodnej ulici).

Bez toho je to len indexátor multimédií s IQ 5 ročného dieťaťa, a sebavedomím teenagera ktorý zjedol všetku múdrosť sveta.

Teda občas sa nájdu aj výnimky. Napríklad ak je správne natrénovaná AI, tak vie oveľa spoľahlivejšie odhaliť z bežných snímok napríklad patologické zmeny v organizme. A to dokonca skôr ako lekár s praxou niekoľko desaťročí. Ale to sme zas pri prvej vete, teda pri správnom natrénovaní. Bez toho je to len náhodný generátor politických prejavov.

Odhliadnuc od toho že za AI sa považuje aj napríklad vylepšenie fotografie tak, že sa pri zlých optických podmienkach spustí séria záberov namiesto jednej fotky. A výsledok sa spriemeruje. To sa používa už desaťročia bez prívlastku AI.

[Aleš Kapica]

A jsme u toho.

Inteligence není o tom vzít fakta, porovnat je, analyzovat jejich obsah a na základě toho určit pravděpodobný výsledek. Nýbrž o tom, že na základě paralely z naprosto jiné oblasti najdeš řešení, které se na první pohled může zdát nesmyslné a přesto bude funkční.

[Peter Golis]

Tá paralela z inej oblasti je definícia sedliackeho rozumu. A pripomenula mi príhodu čo mi hovoril kolega v minulom tisícročí:

Zavolal ma sused že či mu nepomôžem naladiť televízor, že mu to stále iba šumí. Prídem tam, a z anténnej zásuvky mu do televízora išiel povraz. Pýtam sa ho že kde má kábel, a on odvetil: Načo kábel. Keď TV signál môže ísť vzduchom, tak môže ísť aj špagátom.

Podobnú logiku som videl aj v tomto tisícročí. Pozeral som ako sa starať o akváriovú rastlinku ktorá rastie pod vodou (má slabú stonku, takže sa nevystrčí nad hladinu). Nájdem článok, v ňom veľmi veľa kvetnatých slov a málo informácií. Proste typická ukážka ako dokáže jazykový model rozvinúť jeden výraz na vyše stovku slov. Jedna informácia ma ale dojala: "Nezabudnite túto rastlinku pravidelne zalievať."

Vie mi niekto z tunajších expertov na AI vysvetliť ako mám zalievať akváriovú rastlinu pod vodou?

Inteligencia nie je o paralele s niečim čo má iné zákonitosti. Inteligencia je o schopnosti pochopiť celok z nadhľadu, a na základe toho k tomu zaujať stanovisko.

[Aleš Kapica]

Stanovisek máme kolem sebe kopec. A jak vidno, ke kloudnému výsledku to nevede.

[Peter Golis]

Názor má každý, a niekto ich má viacej. Pracovný, súkromný, verejný, ...

[Xerces]

Od zvířat se lišíme tím, že nepoužíváme jazyk k čištění genitálií, jak říká klasik. Jinak za mě odpověď na všechny otázky je ne a taky si myslím, že je to takové hype. Něco jako auta na baterky, 50 druhů pohlaví apod. Ale na hraní dobrý.

[LuděkS]

Podle mého názoru jde hodně o to jakým způsobem se k tomu přistupuje.

Myslím, že je okolo AI spousta balastu, hodně lidí se pohoršuje nad tím, jak LLM halucinují.
Ale myslím, že je zásadně důležité se s ní naučit počítat a používat ji. 

IMHO ti, kteří nechají svoji skepsi vítězit se dostanou brzy na druhou kolej. 

Typická situace je například ohledně jazykových překladů.
Jedni se bijí v prsa a prohlašují, že LLM pořádně nefunguje a že se není čeho bát. 
Druzí to v tichosti už používají a jejich efektivita práce se výrazně znásobila. 

Já sám jsem to zkusil prověřit několika způsoby a s rozdílnými výsledky.
Od úplně skvělých až po tristní. 
Ale celkově vzato je moje zkušenost převážně pozitivní.

Jde o to, že je to relativně nová technologie, která se ale vyvíjí astronomickým tempem.
A to co dnes dobře nefunguje, může být za pár měsíců jinak. 

Už jenom představa, že si můžete natrénovat vlastní specializované boty
a ti se potom mohou "scházet" ve větších skupinách a spolupracovat spolu
na řešení problému.. a taky s Vámi. 

Kdo by si to před nedávnou dobou představil, že by něco takového bylo možné.

[Aleš Kapica]

Konkrétně jazykové překlady nemají s inteligencí nic společného. Je to jen výsledek inteligence mnoha lidí, co svou invenci zasvětili vytvoření modelů podle nichž funguje a vrazili do toho svůj čas. Nic z toho se samo od sebe nevyvinulo.

[Matlák]

Je nejspíš fakt že dnešní boom generativních sítí je výsledkem hlavně dostupného HW pro provozování těchto věcí. Opravdu to teď šetří čas, ať už překladatelům, grafikům či programátorům. Samozřejmě do určité míry, a je nesmysl si teď myslet že nějaký program ze mě udělá dobrého překladatele, grafika či programátora. Asi ještě dlouho bude třeba po těchto nástrojích výsledky kontrolovat, protože vybočení z natrénovaných dat může vést k nepředvídatelným (nepředvídatelně dobrým, ale i špatným) výsledkům.

Nehledě na efektivitu. Lokální LLM jsou spíš hračky, jsou bolestně pomalé i na žravějším HW a platí u nich dvojnásob nutná kontrola výsledku, s tím že výrobci HW slibují, že vše zmení nová generace neuromorfních čipů. Moderní cloudové LLM jsou naopak velmi rychlé a dokážou pracovat v podstatě autonomně, ale není bez povšimnutí že například ChatGPT o3 spotřebuje na jeden úkol skoro 1.8 MWh elektřiny, což je nejspíš neškálovatelné do širokého rozšíření, o kterém například tuhle mluvil někde Satya Nadella v rozhovoru. Ceny za takové asistenty porostou a takový Devin se nebojí si říct o plat průměrného programátora z Indie. Pokud to není přímo scam (a nepřeprodávají tam živé programátory z Indie výměnou za investorské peníze) tak je to ukázka toho kam rvačka o omezené množství výkonného HW a energie může dojít.

Na straně druhé tu jsou sítě co se učí samy, například AlphaFold od Googlu. Tam je vidět, že je možné automatizovat hledání vzorů ve velmi složitých prostorech, kam naše představivost nedosahuje. Tam vidím až děsivě velký potenciál, ale předpokládám že nároky na HW (a vývoj nového HW) budou úplně jinde a ještě nějaký ten pátek si něco takového někde v datacentru za poplatek, natož lokálně, nejspíš nespustíme.

Je ovšem stále zcela možné, že jednou to přijde a neuromorfní HW se stane standardem všude, na instrukční sady a HDL zapomeneme a budeme se učit jak si hrát s vahami na analogových počítačích. To se máme na co těšit

[Aleš Kapica]

Moderní cloudové LLM jsou naopak velmi rychlé a dokážou pracovat v podstatě autonomně,...

Je to optický klam. Nikdo totiž nepočítá čas zabitý korekturami. Čím „lepší” automatický překlad, tím náročnější je korektura. Podle toho to dnes vypadá i v oblasti zpravodajství. Důvěryhodnost a kvalita je na úrovni Světa zvířat za redaktorské éry Jaroslava Haška (1909/1910) a jen málo kdo je schopen, v případě zahraničních zdrojů, od pohledu rozeznat záměrný „fake” na základě automatického překladu. Kolikrát na to upozorní jen do očí bijící titulek článku, který je zcela v protikladu vůči obsahu.