Brusel zahájil vyšetřování platformy X kvůli generování sexualizovaných snímků

Evropská komise (EK) zahájila nové vyšetřování americké internetové platformy 𝕏 miliardáře Elona Muska, a to podle unijního nařízení o digitálních službách (DSA). Vyšetřování souvisí se skandálem, kdy chatbot s umělou inteligencí (AI) Grok na žádost uživatelů na síti 𝕏 generoval sexualizované fotografie žen a dětí. Komise o tom dnes informovala ve svém sdělení. Americký podnik je podezřelý, že řádně neposoudil a nezmírnil rizika spojená se zavedením své umělé inteligence na on-line platformě.

26.1. 17:33 | Ladislav Hagara | IT novinky

Komentáře

[JiK]

jak se lisi vymyslene (AI generovane) obrazky neexistujicich scen nekoho od vymyslenych scen v necich predstavach? budeme zavirat lidi za to ze si predstavuji angelu merkel v plavkach, nebo ze pisou textove eroticke povidky o angele merkel bez plavek?

[P.]

si piš že zdegenerovaná EU by chtěla zakazovat myšlenky politické, erotické. Povoleny jsou jenom ty "správné"

[Radovan]

Jedna vec je to porno generovat a druha vec verejne sirit. Treba u nas te za sireni muzou zavrit.

[karkar]

špatně, i za držení určitého porna tě můžou zavřít. Ani to nemusíš šířit. Dokonce tě u nás odsoudí i za to, že ti to porno někdo pošle na serveru seznamky (a ty ho jenom nesmažeš).

[Radovan]

Ja myslel u nas v Moskve...

[Radovan]

Ignoruj ho, po tom co jim Trumpeta stopnul USAID nemá ani na nabodeníčka

[❗Červivý Hřib krade❗]

spíš jak se generovanej vobrázek liší vod toho co někdo namaluje ve třeba ve fotoshopu :D :D to by jako za to taky mohla Adobe že uživatel nějak použil jeji nastroj?? :O :D :O :D

za tim DSA sou uplně vočividně ty samý levičáci s mentalitou 'zbraně zabíjejí lidi' a co se snažej zavíst mír na zemi děláním kulatejch špiček na kuchyňskejch nožích a zakazama nošení šroubováků na veřejnosti :D :D

levičákům samozdřejmě na generativní ai děsně vadí že to srovnalo možnosti a je teďko děsně snadný zesměšnit ňákýho vůdce, dřiv si na to potřeboval vaina nebo břimka s tim zmiňovaným photoshopem, dneska se to zliberalizovalo a srandu si muže udělat uplně kdokoliv noa diktátoři se humoru dycky báli, todle je imo ten hlavni duvod tý snahy groka ňák vomezovat, vo lidi těm našim autokratům a voligarchům nikdy nešlo a argumentace dětma jako zaminka pro zavaděni cenzury je už myslimže dost zprofanovaná na to by ji vubec šlo brát aspoň trochu vážně, kdyby režimu na dětech skutečně tak zaleželo tak to už by museli bejt svěrák s hele spolunistou strnadem a kupou kulturních vobohacovačů ze subsaharský afriky davno v báni :D ;D

[OldFrog {Ondra Nemecek}]

OMG liší se to přece tím, že generovaný obrázek je objektivní artefakt existující mimo moje vědomí a tím pádem může být zaměněný za skutečnost - což umožňuje jeho snadné zneužití.

Celé to je o tom, že s příchodem AI:

1. výrazně vzrostla obtížnost rozlišování skutečnosti a fikce
2. a dále že se zhoršila schopnost rozlišovat dílo člověka a dílo stroje

To ale ještě neznamená, že neexistuje skutečnost (v prvním případě) ani že dílo člověka a stroje je to samé (v druhém případě).

[Glee]

OMG liší se to přece tím, že generovaný obrázek je objektivní artefakt existující mimo moje vědomí a tím pádem může být zaměněný za skutečnost

Naopak, existujici vysledek v obou pripadech je ciste na vuli a schopnostech (nekdy i s trochou stesticka) tvurce. Ze je to ted jeste lehci? No to uz se tu dnes psalo.

S tim, zda-li oznacovat AI tvorbu nejak jasne, s tim problem nemam, klidne nejakym vkusnym "FAKETV" logem. Lidi u toho stejne nakonec budou asi honit. Tak jako asi i driv u tech mistrovskejch kolazi, co existujou uz kolikpak staleti? V tomhle jsem radeji Charlie, je to na rodicich a u Valgrindovic vnoucat na statu ( sorry kamo, heh), aby tohle jasne vysvetlili.

[OldFrog {Ondra Nemecek}]

Ano, koláže apod. tu byly, souhlasím. Zahrnovaly tvůrčí přínost člověk. Použití AI je podle mého názoru proces zcela jiné podstaty (jiná kvalita, jiná kvantia). Ale postoje lidí se v tomto budou určitě lišit: Lidi, kteří se budou AI zastávat, budou degradovat na úroveň "chytrých" strojů stroj a lidi, co budou vidět rozdíl mezi člověkem a AI, si budou uchovávat "hloupou" kvalitu lidství, jaká panovala před příchodem AI (bez idealizace). Každého volba. Tolik můj názor, nikomu ho nenutím.

[Glee]

Ja urcite tento nazor nehodlam nikterak technicky rozporovat, priznam se, ze ani nevim presne, co je mezi odbornou verejnosti (tj. tato nase mila zumpa) presne brano jako AI a kde uz to konci a preklopuje se do devadesatkovejch telefonickejch hlasovejch automatu (nadsazka, v tomto samo rozdil vidim i ja). Ale pak je tam to klasicke and everything in between.

Nebyl tu trebas nedavno nakej brej blog nebo diskuze na tohle tema?

[OldFrog {Ondra Nemecek}]

Ten název AI je zavádějící. Strojové učení, datově řízené procesy apod. jsou přiléhavější, protože ponechávají zodpovědnost na člověku a nepodsouvají mu, že tu je nějaká další inteligentní entita. AI je statistický model který z ohromeného množství trénovacích dat dokáže generovat výsledky podobné těm datům. Je to pozoruhodný nástroj, ale uvažovat o ni jako o bytosti je scestné a přenechávat ji lidské kompetence také.

Vyjadřuje se k tomu třeba Noam Chomsky, který si myslí, že umělá inteligence je nebezpečná, ale jen proto, že ji lidé budou brát vážně. Viz https://michaelszollosy.substack.com/p/chomsky-on-ai-part-1 nebo https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html

[OldFrog {Ondra Nemecek}]

PS: Dokážu si představit, že se uvedené názory velmi dotknou řady lidí - zejména těch, kteří AI v terminologii Naoma Chomského "berou vážně". Což ovšem považuji za symptomatické.

[karkar]

No když se AI vyjadřuje výrazně lépe než asi polovina populace tak je jí těžké nebrat vážně. Navíc se bude nějakou dobu zlepšovat, takže bude i v syntéze myšlenek lepší než většina populace. Očekávám, že do pár let, třeba 10, budou kulminovat její(ch) schopnosti protože se protne obsah k učení s obsahem vytvořeným AI - tedy že data k učení vytvořená člověkem nebudou dostupná v takové míře jako data vytvořená předchozími modely AI. To obecně nemusí být problém, pokud model a jeho způsob tréninku to zohlední. Na druhou stranu to namísto posunu k vyšší kvalitě může vézt k posunu směrem dolů. Převáží přizpůsobení průměrnému člověku. Podobně jako v současné žurnalistice - převáží snaha vyvolat kontroverzi, medializace excesů, tvorba clickbajtů namísto pragmatické vyvážené novinařiny.

A teda podotýkám, aniž bych nějak personalizoval AI, že podle mě se práce lidského mozku příliš od fungování AI modelů neliší. Takže v určitých aspektech je ke člověku rovnocenným partnerem. Budoucí vývoj AI a růst hardwarových možností má potenciál v krátké době intelekt člověka výrazně převýšit. takže bude ještě těžší ji "nebrat vážně".

[OldFrog {Ondra Nemecek}]

Ne každý, kdo používá kladívko je tesař, ne vše co má motor je auto. I pokud by byla částečná podobnost mezi AI a funkcí nervových struktur, nevyplývá z toho, že člověk je stroj anebo stroje že je člověk. Ledaže bychom člověka definovali mechanisticky. Což ale část z nás lidí určitě nechce.

S tím braním vážně to myslím "jak velkou roli té AI svěříme" neboli "jakých lidských kompetencí se vzdáme ve prospěch AI". Tak to myslí podle mě i ten Naom Chomsky. Jinými slovy se zde hraje o pochopení toho, co je umělé, co je lidské, co je božské. Každý si buduje takovou budoucnost, k jakému pojedí se přiklání. Ve zlomových okamžicích jsme tvůrci vlastní budoucnosti více než kdy jindy.

[karkar]

Člověk je líný a chamtivý tvor, svěří AI v podstatě cokoliv projde analýzou risku a ponese to prachy. Co se týče člověka, je to jenom biochemickoelektrickomechanický replikujicí se entita. Můžeš se klidně nazvat strojem, ačkoliv na rozdíl od stroje máme určité mechanismy na adaptaci a určitým způsobem i vývoj. Náboženský šašci I filozofové si můžou psát co chtějí, básnit o duších a dalších ezoblbostech, ale podstatu člověka nezmění.

[JZD]

+1

[OldFrog {Ondra Nemecek}]

Jak jsem řekl, pokud se sám pasujete do pozice stroje a jste s tím v pohodě, brát vám to nebudu.

[Glee]

Jak jsem řekl, pokud se sám pasujete do pozice stroje a jste s tím v pohodě, brát vám to nebudu.

No ja nevim, me spis prijde, ze predrecnik spise poplivava (z velke casti opravnene) neustale se pozde (a nekdy zas az prilis rychle) adaptujici genpop, coz vede k obrim preslapum zapsanych do historie. Aspon teda kdyz se na to divam ciste nezavisle, protoze jste oba porad v mnozine, od ktere si mohu vyzobat to zdrave zrni.

A je to stejne, jakobych napsal, ze submarines swim and dive at the same time, no.

[karkar]

I am the Machine! Change my mind! Ne vážně, podle čeho soudíš že jsme něco jiného než biochemickoelektrickomechanická replikujicí se entita?

[Glee]

I am the Machine!

Fight The Machine!

[OldFrog {Ondra Nemecek}]

I am the Machine! Change my mind! Ne vážně, podle čeho soudíš že jsme něco jiného než biochemickoelektrickomechanická replikujicí se entita?

To není pevně dané, zda jsme pouze materialisticky-mechanistické bytosti nebo zda jsme duševně-duchovní bytosti. V ontogenezi i fylogenezi se můžeme podle mého názoru posouvat oběma směry.

[karkar]

Nejsme jenom materialisticky-mechanické bytosti, máme mozek což je velmi zjednodušeně řečeno takový AI centrum, jehož součástí je i LLM co reaguje na vjemy a vstupya a který dokáže vstupy offline simulovat a hledat alternativní výstupy. To je to čemu ty nejspíš říkáš ono "duchovno". Nic víc za tim podle mě není.

S tim duchem se to má tak, jak praví klasici, my žijeme v Praze to je tam, kde se jednou zjeví Duch sám. S tou fylogenezí je to těžký, moc se nedá aktuálně pozorovat páč asi přirozené vytvoření nějaké životaschopné alternativní větve není záležitost na pár generací které dokážeme vnímat. Ovšem umělé posílení určitých vývojových větví se nám poměrně slušně daří, takže možná budeme moci sledovat která vývojová linie člověka se v blízké budoucnosti prosadí alespoň lokálně, třeba v evropě, nebo lokálněji třeba v uk.

[Radovan]

Potrefené husy budou liberálně kejhat

[Glee]

PS: Dokážu si představit, že se uvedené názory velmi dotknou řady lidí - zejména těch, kteří AI v terminologii Naoma Chomského "berou vážně". Což ovšem považuji za symptomatické.

Heh, Chomskyho samo beru dlouhodobe z geopol (a 9/10 zubaru rika, ze ten je nechapan ajtakama), ale teda jeho nazor na AI si budu muset pustit, ovsem tam to uz budu radeji brat s rezervou. Ale uvidim. Dik za link.

[karkar]

Tak jako já vidím tohle pouze jako nátlak na muska, aby se podřídil eu a cenzoroval u nás ty nesprávný názory.

[kolcon]

Je typickym znakem jistych rezimu, ze vymysli nesmyslna pravidla a ta aplikuje selektivne, podle toho, na koho je zrovna potreba si doslapnout (Grok ano, gemini ne)

[Valgrind]

Regulaci a pokut se nenazereme soudruzi

[❗Červivý Hřib krade❗]

tydle pokuty a sankce sou iirc přímým přijmem bruSSele, takže jo, soudruzi se toho boužel mužou nažrat a proto s tim taky takle blbnou :D :/ :D :/

[plostenka]

Coz je samozrejme spatne ptotoze je Mosk... Brusel ve stretu zajmu. Pokuta nikdy nesmi byt ani castecne prijmem pokutujiciho.

[Valgrind]

Ano, vladnouci vrstva soudruzstva se zpravidla nazere Bezni soudruzi jsou v riti.

[disorder]

ja by som sa najprv stazoval na obrazky muzov a deti, ale tak kazdemu podla jeho chuti asi

[..... Izak .....]

Zadne porno to regenerovat nikdy neumelo, jen lidi v plavkach ci spodnim pradle - topless to dela jen zakryte ... ale i kdyby, co je na tom, v gimpu to jde taky