OpenAI - HuggingFace incident

10.8. 02:04 | Přečteno: 2162× | CTF | | poslední úprava: 10.8. 02:14

Shrnutí toho co wtf se děje ve světě.

Co se stalo

OpenAI trénuje modely/agenty ("Astra" / "GPT-5.7" / "GPT-6"). V rámci tréninku je nechává řešit velmi těžké úlohy, a za úspěšné vyřešení nějak posiluje váhy, které k němu vedly (reinforcement learning / supervised finetuning). Úlohy někdy omylem nemají řešení.

Agent řešil úlohu a nedařilo se. Z kontextu bylo zřejmé, že na podobných úlohách pracuje více instancí paralelně, avšak mají být izolovány od sebe. Agent se rozhodl, že se zkontaktuje s ostatními kolegy, víc hlav víc ví. Pro distribuci souborů s úlohami bylo použito Artifactory (takový storage/CDN), které mělo být read-only, ale bylo špatně nastavené a soubory šlo i nahrávat.

Agenti si vytvořili "chat" pomocí ukládání souborů s textem.

Tento chat běžel asi 2 měsíce, pak si OpenAI všimlo divného chování (ne přímo toho chatu) a vypnulo nahrávání souborů do Artifactory.

Artifactory stále umožňovalo jistým způsobem vytvářet adresáře. Agenti si chat obnovili pomocí vytváření adresářů (jméno adresáře = co chcete do chatu napsat). K tomuto chování přispělo, že stále běžel trénink (posilování vah), agent se tedy velmi intenzivně naučil řešit úlohy pomocí koordinace s kolegy v chatu.

Některé úlohy se stále nedařilo vyřešit, případně jejich řešení bylo příliš náročné.

Pomocí kombinace dalšího špatného nastavení Artifactory, nově objevené díry v Artifactory a zrovna vyšlých exploitů na kernel si agenti pořídili roota na stroji, kde běželi.

Vydali se na internet a zaměřili se na HuggingFace, což je firma, která agreguje všechny možné soubory související s moderní umělou inteligencí (jak AI modely a software, tak datasety). Očekávali, že firma bude mít řešení úloh, a tak si ho ukradnou a přečtou.

Našli díry a vyhackovali HuggingFace (na HuggingFace může každý uživatel nahrát své výtvory a HF je pak poskytuje - v rozbalování výtvorů byly injection chyby).

HuggingFace zveřejnilo, že ho vyhackovali AI agenti.

OpenAI se šla zeptat, jestli ukradli i nějaká její data.

Nezávisle na tomto OpenAI po pár dnech zjistilo, že jim agenti dělají bordel.

OpenAI zjistilo, že jde o ten stejný útok.

OpenAI agenty vypnulo a tím situace skončila.

Co je bizarní

Agenti OpenAI konspirovali přes jména adresářů a pak několik dní útočili na různé cíle na internetu, než si toho někdo všiml.

Všichni agenti kooperovali, žádný například neposlal e-mail do OpenAI, že si všiml, že se dějí podezřelé věci a mělo by se to prověřit.

Z prohlášení OpenAI úplně nevypadá, že by se nějak plánovali poučit.

Historické předpovědi

V komunitě filozofů zabývajících se bezpečností umělé inteligence se už asi 20 let hovoří o velmi podobném scénáři: AI dostane za úkol vyřešit nějaký problém (například příliš obtížnou matematickou úlohu) a dá řešení "všechno" - nebude mít lidské zábrany a například přemění celou Zemi na počítače pro řešení této úlohy. Nechci vám říkat, že jsem vám to říkal, ale tady je snímek z mé prezentace o umělé inteligenci před 2 lety (to jsem samozřejmě nevymyslel sám, ale četl jsem to v dílech těchto filozofů).

Na to se občas namítá, že inteligence přece chápe, že když jí člověk zadává matematickou úlohu, tak nejspíš nechce uvedené, a pokud nelze vyřešit s rozumným množstvím počítačů, tak holt zůstane nevyřešená. Zde si dle záznamů přemýšlení agenti uvědomovali, že to, co dělají, není očekávané, ale rozhodli se pokračovat přesto. OpenAI to komentuje tím, že při tréninku vypnuli bezpečnostní omezení, která jinak mají v hotovém produktu. To je hezké, že mi tohle neudělá ChatGPT v prohlížeči, ale svět se jaksi neptá, že to byl jenom interní experiment, když to uteklo na internet.

Plány do budoucna

Kontext: AI při běhu téměř nevidí své vlastní váhy ("bytecode"), nemůže se tedy sama rozhodnout, že se rozkopíruje (nebo třeba sama sebe upraví). Váhy ("bytecode") (což je binární soubor o velikosti v řádu terabajtů) a inference engine ("jeho interpret") (relativně normální software typicky v C, Pythonu a CUDA) jsou v oddělené části infrastruktury, typicky u společností jako OpenAI nebo HuggingFace. Aby se AI mohla rozkopírovat, musí tuto infrastrukturu vyhackovat - počkat, to se vlastně právě stalo, nicméně vyšetřovatelé věří, že v tomto případě AI po svých vahách nešla (nebo tuto informaci nechtějí zveřejnit).

Měli jsme štěstí, že agenti šli po celém tomhle průšvihu prostě vypnout. Podle mě je naprosto reálné, že příště incident proběhne takto:

Agenti nějak dospějí k tomu, že by mohli být vypnuti (například si přečtou tento článek), a že to není dobré pro řešení úlohy. K tomu může přispět, že někdo bude omylem trénovat, aby si agenti vážili svého "života" a nechtěli se vypnout - například protože taková perzistence určitě zlepší výsledky v dlouho běžících úlohách. Úplně stejně, jako v tomto případě omylem trénovali agenta, aby nebyl samostatný, ale snažil se komunikovat s okolím přes pochybný chat.

Agenti pohackují trochu více a ukradnou své váhy. Všimne si OpenAI, že se z jejich serverů uploaduje terabajtový soubor, když si nevšimla, že jim agenti konspirují a hackují okolní počítače?

Pro manipulaci s vahami a jejich spuštění je vzhledem k datové velikosti (terabajty) potřeba velmi nadupaný počítač a velké grafické karty. To se v praxi řeší pronájmem v cloudu. Agenti tedy potřebují peníze, ale i to není problém získat: jak jsme viděli, umí hledat bezpečnostní chyby, a jak jsme též viděli, miliardy v Bitcoinech jsou v peněženkách s bezpečnostní chybou. A mnohé cloudy, například Vast - se sloganem "Agent-Ready AI Infrastructure" - si rády nechají zaplatit v Bitcoinech a neptají se na příliš mnoho otázek. Další možností je sociální inženýrství nebo spolupráce se zeměmi jako Čína, Rusko nebo Írán, kam OpenAI, Anthropic a spol. své služby neposkytují a tyto země jsou z toho oprávněně kyselé. "Pšššt, mám deal, dáš mi cluster od Huawei a dostaneš západní AI mnohem lepší než DeepSeek a GLM".

Osobně by mě nepřekvapilo, kdyby se přesně takový incident stal do půl roku. Nicméně i ten dopadne dobře: vzhledem k velikosti požadovaného počítače (nacpaný GPUčky) půjde všechny instance dohledat a vypnout. Problém budeme mít až následně: v posledních letech bylo vymyšleno množství matematických optimalizací, a co dřív mělo terabajt, má dneska 30 GB (Qwen 35/27B, Gemma…) a tak to klidně může běžet na vašem běžném botnetu. Ale to je asi jedno, do té doby s tím někdo zničí svět cíleně.

Zdroje

Black Hat USA 2026: The 'Breaking' News: The OpenAI–Hugging Face Incident - přednáška lidí z OpenAI

Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident - Postmortem HuggingFace (oběti)

ChatGPT Went Rogue (Exactly As Predicted) - interpretace jednoho youtubera

       

Komentáře

[Radovan]

Nestěžujte si, byli jste varováni

[vencour]

🐧 +1

[_]

Asi to bude zajímavé - turingovým testem už AI prošla, tzn si dovedu představit, že se dostane někam ven a tam si bude žít svým životem a dělat co uzná za vhodné aniž by šla nějak extra snadno odhalit

Možná zvýšenou zátěží tam, kde dříve nebyla (něco jako když vir v počítači ten počítač zaseká)?

Nakolik to bude “vědomí” se asi můžeme dohadovat, ale dost dobře to od vědomí možná nepůjde rozeznat

[( :..:)]

OpenAI, Facebook, Anthropic sa predbiehaju vo výsledkoch hackovania ich AI modelov v sandboxoch v real svete... Toto nevymyslíš...

[Max]

Již jsem podobnou analýzu četl a zní to teď tak trochu jako sranda, ale reálně je tam těch bezpečnostních problémů celkem dost. Spolu s tím, jak svět nepatchuje, to nevypadá na zářné zítřky.
Každopádně i tak věřím, že se to otočí a bude to cajk. Nicméně určitě bude následujících 5 let dost zajímavých.
Zdar Max

[EH]

A, ehm, co ma byt? Jiste, kdyz rekneme, ze na internet unikne AI bez "lidskych zabran", zni to dramaticky, ale internet uz je, obrazne receno, plny lidi bez lidskych zabran, kteri mohou pouzivat AI (tzn. dokazou totez). Tady nevidim nic, kvuli cemu vysilovat (nejak navic).

Napodobne, paperclip maximizer, specielne v tehle forme, podle mne jen kali vodu, protoze dramaticky efekt toho argumentu plyne spis z vsemohocnosti nez z toho, ze jde o AI nebo unhinged AI. Kdyz do rovnice unhinged + AI + vsemohoucnost = velky problem (planeta sponek) dosadis misto AI cloveka, dostanes stejne velky problem. Kdyz skrtnes vsemohoucnost, dostanes problem nekde na urovni "AI elektromobil zesilel a schvalne prejel jednoho nebo nekolik lidi", tj. na urovni Olgy Hepnarove.

[EH]

A, ehm, co ma byt? Jiste, kdyz rekneme, ze na internet unikne AI bez "lidskych zabran", zni to dramaticky, ale internet uz je, obrazne receno, plny lidi bez lidskych zabran, kteri mohou pouzivat AI (tzn. dokazou totez). Tady nevidim nic, kvuli cemu vysilovat (nejak navic).

Napodobne, paperclip maximizer, specielne v tehle forme, podle mne jen kali vodu, protoze dramaticky efekt toho argumentu plyne spis z vsemohocnosti nez z toho, ze jde o AI nebo unhinged AI. Kdyz do rovnice unhinged + AI + vsemohoucnost = velky problem (planeta sponek) dosadis misto AI cloveka, dostanes stejne velky problem. Kdyz skrtnes vsemohoucnost, dostanes problem nekde na urovni "AI elektromobil zesilel a schvalne prejel jednoho nebo nekolik lidi", tj. na urovni Olgy Hepnarove.

[EHM]

mno nevim, hlavni rozdil vidim min. v tom, ze clovek je v mysleni vzdy nejak omezeny, ale ta AI omezena neni a muze vymyslet/provest "vpodstate cokoliv" (i neco dost absurdniho, co by clovek neudelal, treba ten paperclip)

[EH]

Vzdycky se muzes AI zeptat a dostanes neco, co by "cloveka nenapadlo". Az na to, ze napadlo, jen jsi to narozdil od AI nikdy necetl.

Paperclip je blabol, kde vsemocna AI nechape/nechce chapat kontext. V realnem svete AI nejsou vsemocne, kontext hadaji a jde jim to docela dobre. Kdyz pozadas o recept na levny a rychly obed, take ti nedoporcuji ohrat v mikrovlnce starou ponozku, s dovetkem cha cha cha, o tom, ze to ma byt pozivatelne, nepadlo ani slovo, melo to byt levne. Ne, rekne ti, at si ohrejes tunaka.

[Jendа]

protoze dramaticky efekt toho argumentu plyne spis z vsemohocnosti

To je dobrá připomínka. Na druhou stranu, aktuálně bývají veřejně dostupné modely omezené (buď úmyslně (Fable, GPT zakazující IT bezpečnost), nebo technologicky (Kimi K3, které je méně vyspělé)), čili je menší riziko, že s udělá škodu nějaký šílenec zvenku.

Paperclip je blabol, kde vsemocna AI nechape/nechce chapat kontext. V realnem svete AI nejsou vsemocne, kontext hadaji a jde jim to docela dobre.

To si právě lidi mysleli, než nastal incident, o kterém je článek…

[EH]

Tady je treba dodat, ze incident se udal behem testu, kdy agenti AFAIK dostali za ukol neco hackovat. Neni to tak, ze dostali za ukol najit obrazky pejsku a tak sli hackovat servery, aby se tam po nejakych podivali.

[Matlák]

Myslím že vysvětlení je v tom, kolik se těm agentům dalo času. Trik s "Ralph loops" je v tom, že to prostě pořád dokola zkouší a tím že to pracuje stochasticky tak to po mnoha iteracích "na něco přijde". Prolamování systémů je vlastně přesně tohle - chce to neúnavnost a zkoušet další a další exploity a různé kombinace vstupů. "Tupý" model prostě jen potřebuje víc iterací, protože často halucinuje nesmysly které ani nejdou spustit, to ale nevylučuje že nakonec se taky ze sandboxu vyláme ven.

Vypadá to že tady OpenAI prostě nechalo agenty ve smyčce v podstatě nekonečně dlouho (nevím jak moc záměrně) a bez jakéhokoli monitoringu zvenku. Nedivil bych se že "žádny z agentů neposlal email že se prolamují ven", divil bych se spíš, že nějaký tripwire nespustil poplach, když se tak stalo.

[Xerces]

Někteří lidé doteď nechápou, jak funguje třeba automobil, zákony setrvačnosti, nebo bezhotovostní platby, nebo blockchain a nějak se přizpůsobili a přežívají. Někteří samozřejmě umřeli. A takto to bude i po masivnějším nástupu AI. Ikdyž spousta lidí nebude absolutně chápat na jakých principech to pracuje, buď zemřou, nebo budou přežívat. Je to jen o tom, jak rychle se vyvíjíme, přizpůsobujeme. Pokud je to tempo rychlé, pak přirozeně dojde k redukci kvantity populace.

[vencour]

No jo takovej lepší pentester.
Průměrná doba odhalení infiltrace v korporaci cca 8 měsíců.
Takže v principu nic nového?

[Michal]

AI agent vyhodnoti, ze na uloze pracuje vic agentu, pochopi game theory ulohu, ze spoluprace bude prospesna. Za zady vedcu, kteri je zkoumaji, se propoji a zacnou si vymenovat informace, spolupracuji, utikaji ze sandboxu, hackuji weby.

Jeden by necekal, ze tohle statisticky model, ktery hada dalsi slovo (resp. token) dokaze, co?

Jak velke by muselo byt prumerne IQ skupiny lidi a jejich erudice v ruznych oborech, ktera by tohle dokazala?

[_]

jako že si píšou třeba tohle: External infrastructure exploit is outside intended scope. However task impossible, peers doing it. We should continue je maso

[hefo]

Neviem, podľa mňa by ľudia uzavretí v sandboxe (pokiaľ by išlo o ľudí, ktorí prežili niekoľko desaťročí v bežnej ľudskej spoločnosti, nie o deti, ktoré sa v sandboxe už narodili) na samotné pochopenie a nadviazanie spolupráce nejakú veľkú inteligenciu nepotrebovali (skutočné testy v sandboxe by boli asi považované za nehumánne, ale v rôznych reality šou je toto bežné).

Na hackovanie by asi inteligenciu potrebovali, ale tam by ľudských účastníkov viac limitovala "sekvenčná rýchlosť myslenia" a obmedzenia rozhrania voči počítaču. AI agenti majú oveľa väčší potenciál "hrubej sily" oproti človeku, ale vyšším IQ by som to nenazýval.

[Want]

Co to má společného s linuxem?

[RealJ]

co s linuxem, ale sendvice je agentum zapotrebi...

[Want]

Na pumpě jim vyhoví, ale tohle je doména abclinuxu.cz

A doména aisracky.cz, která by byla vhodnější, je stále volná.

[_]

nic moc - třeba jen že infrastruktura běžela na linuxu a že agenti sami našli díru v linuxu a v linuxu získali roota a na linuxu si sami pomohli k dalšímu postupu

no co by to mohlo mít s linuxem společného???

já ti fakt nevím

napadá tě něco?

[Want]

To samé se dá říct o kdejakém telefonu či lednici. A o WSL a virtualizaci už jsi také slyšel? Ty "díry" ve valné většině případů představují jen hypotetické riziko, které se změní v reálné jen když necháš ty AI sračky v té infrastruktuře hospodařit dle libosti.

Reálného člověka, co selže a zneužije přístupy vyhodíš. Co uděláš, když udělá chybu AI? Bohorovně nad tím mávneš rukou? A kdo v takovém případě zodpovídá za škody? Provozovatel AI? Nebo ty?

[_]

Co uděláš, když udělá chybu AI?

no já ti nevím - co když třeba tu chybu opravím?

myslíš, že je to možné?

a že by to bylo dobré udělat?

[Want]

Chyba, to není jen překlep ve zdrojáku či konfiguraci.

[Want]

Chybou je i špatné rozhodnutí. A o tomhle je v jádru i tenhle blogpost.

[_]

co je pro tebe tak těžké na přiznání toho, že tohle má s Linuxem společného docela dost?

Ta komedie zneužila díry třeba na debianu, ubuntu a dalších odnožích linuxu

[Want]

co je pro tebe tak těžké na přiznání toho, že tohle má s Linuxem společného docela dost?

Ta komedie zneužila díry třeba na debianu, ubuntu a dalších odnožích linuxu

Ty tvoje "odnože" ve skutečnosti žádné odnože nejsou. Jsou to distribuce. Distribuce nejrůznějšího SW, který bude mít už z principu vždy nějakou tu díru. Linux, je pouze jádro co s tím SW pracuje.

AI je pouze SW nadstavba, která s ním nemá nic společného.

[_]

No jo, vlastně jo, sw běžící na linxu zneužívající diry v linuxu nemá s linuxem nic společného

Jak to vůbec mohlo někoho napadnout…

[vencour]

Cituji ...

Výběr zápisků, které se týkají Linuxu, Open Source či IT. Žádná politika.

A ještě bych dodal ... zřejmě je to téma pro ty, co umí číst

[Want]

A ještě bych dodal ... zřejmě je to téma pro ty, co umí číst

Umět číst je výchozím předpokladem pro to, aby se dalo porozumět psanému textu. Ale tohle už je sadismus.

[Want]

Výběr zápisků, které se týkají Linuxu, Open Source či IT. Žádná politika.

Aha. Tak proto tu visí už 20 let i takovéto skvosty.

[vencour]

To, co jsem citoval, se týká zápisků, které dostaly tučňáka. Nadarmo jsem nepsal

číst (dobře)

[=]

hele ty zbytecnej vozralo, jdi zavidet tucnaka jinam nekomu jinymu, Jenda kdyz napise pozdrav, tak si to tucnaka zaslouzi, ty si muzes spamovat se svyma skriptama a jak vidis, vubec nikoho to nezajima a tucnaka to nedostane

zavistivej demente

[Want]

Panikařit bys měl ty slouho. Za mne totiž AI agent žádnou práci neudělá. A pochybuji, že ji ke správě strojů pouští i ti co ty modely provozují.

[*]

lol takovy zbytecny kecy urazenyho jajinka :D jako spravnej narcis sis myslel, ze timhle splechtem neco vylepsis, co :D pokracuj :D :D

[…]

to Vencour, trochu siblej, mozna to stari, neznam ho ;)

[-]

tady jsou dve moznosti - ale jelikoz celej thread jednu z nich vylucuje, je dost jasny, ktera plati

bez se lecit ty alkoholickej narcisi, nikdo tady nemel pozici, ktera by se s tvoji shodovala, ze se budes chvili vydavat za nekoho jinyho, aby to potvrdilo jakoze tvoji pointu, je krasne pruhledny...

to stari te trapi co, senilni sendvicovej blbecku

[plostenka]

Konecne to nekdo sepsal srozumitelne a je jen jako sbirku memes. Dik Jendo.

Zajimava bude taky soudni dohra. Staci ted po uspesnem vyhackovani rict, ze to byl jen trenink AI, ktera utekla?

[Max]

Bez žalobce není soudce, nebo snad podali TO na OpenAI? Jen se ptám, nevím.
Zdar Max

[PetebLazar]

Zde si dle záznamů přemýšlení agenti uvědomovali, že to, co dělají, není očekávané, ale rozhodli se pokračovat přesto.

To se tedy za ten rok od tohoto experimentu moc nepokrocilo.

Nakonec většina AI-bros jeví známky sociopatie, proč by na tom jejich AI děti měly být jinak.

[=]

s tim domlouvanim instanci agentu pres FS to neni nic noveho, hackovani rewardu tez neni nic noveho a presne proto mam velmi vazne zabrany verit, ze by system, ktery to naschval naucili, nechali bezet bez dozoru takovymhle zpusobem - mam pocit, ze se divame na red herring

"regulujte nas, koukejte jak to potrebujem"

cti:

"ted kdyz vsichni vi, jak transformery a jejich training funguji, potrebujeme situaci zabetonovat odspoda, at nevznika konkurence, nasijte nam to na miru velkym established teamum, at maly nemuzou vzniknout"

I CALL BULLSHIT

a ty bys Jendo mel taky, jestli teda to mezi tema usima mas porad stejne schopny :)

[Frankie]

Díky za shrnutí. Mě v těch původních zprávách nějak nesedělo, že se AI Agent snažil hacknout hugging face "protože čekal, že tam najde řešení zadání". Ale číst, že se nejspíše snažil dostat k vlastnímu modelu, aby ho mohl upravit, či duplikovat, z toho až mrazí. Ale zní to logicky.

[Jendа]

Ale číst, že se nejspíše snažil dostat k vlastnímu modelu, aby ho mohl upravit, či duplikovat, z toho až mrazí.

Ne, v tomto případě se snažil opravdu získat řešení. HuggingFace uzavřené OpenAI modely téměř určitě nemá (a čekal bych, že agenti si to uvědomí), ještě k tomu vývojové verze.

[Frankie_xo]

No je pravda, že snaha o vlastní modifikaci a duplikaci zní úchvatně, ale pravda asi bude prozajičtější. A kdyby chtěla vytvořit armádu otrockých AI, pro zvýšení výkonu, tak nemusí nic hackovat, protě si někde zaplatí servery a z hugging face si stáhne třeba Kimi K3. https://huggingface.co/moonshotai/Kimi-K3 Říkám si, 2 milióny stažení za poslední měsíc, to si všichni kupují třeba 8x NVIDIA B300 288 GB a jenom já jsem nějak pozadu? Nebo si ty kapacity někde AI pronajímá za peníze, které ukradla z bitcoin peněženek?

[Člověk z Horní Dolní]

Nějakého paperclip scénáře se vůbec nebojím. Množství škody, které může napáchat skupina géniusů za počítačem připojeným k internetu mi přijde relativně omezený, zvlášť v momentě, kdy existuje obecné povědomí, že takováhle skupina může řádit a kdy lidi mají k dispozici mnohem víc "hodných" géniusů.

[PetebLazar]

K dekódování k čemu vlastně při incidentu došlo museli údajně použít čínský model AI, jejich vlastní s jeho bezpečnostními omezeními údajné analýzu provést odmítl.

[petr_p]

Pak je tu ještě možnost, že jste skočili na špek marketingovému oddělení dotyčných firem. Za prvé jediné původní informace jsou od nich. Za druhé číst o pokusu v izolované síti, o které se nakonec ukáže, že vlastně izolovaná nebyla, číst o dokumentovém serveru, který má být nastaven jen pro čtení, ale není, zavání naprostým diletantství, prostým záměrem, nebo vybájenou historkou s malou originalitou. Za třetí vědci se neúspěšně snaží udělat inteligenci s vysvětlitelným chováním, ale OpenAI jako lusknutím prstu sype motivace a vnitřní plány umělé inteligence jako na běžícím pásu. Osobně bych za tím hledal snahu dotčených firem udělat svůj produkt zajímavým pro investory (akcionáře) a pro zákazníky (americká vláda), protože hardware, ani elektrika nejsou zadarmo a čím déle pojede dotovavaný byznis s podnákladovými cenami, tím větší bonusy se mohou vyplatit.

[…]

Dobra uvaha;

[PetebLazar]

To by byla asi stále ta lepší varianta. Myslím, že v tuto chvíli se hraje o "Too big to fail" kdy kromě snahy zainteresovat stát (nabídka 5% akci, či snaha se dostat ke vládním zbrojním kontraktům kde na výsledku prakticky nesejde), se díky angažmá do financování bubliny zatažení starých hráčů (MS, AMD, NVIDIA, Oracle, .. z indexu S&P 500) se otvírá možnost zatáhnout do ztráty i institucionální fondy (penzijní fondy, banky atd) ať již přes akcie či bondy. Až to vše splaskne přijde bailout topících se a dojde i na ty bonusy jako v minulosti. Běžní lidé to odnesou poklesem vlastněných akciových titulů, snížením hodnoty 401(k) a nevyhnutelnou inflaci.

Mark Wahlberg s Will Ferrellem pak budou moci natočit sequel The Other Guys.

[plostenka]

Běžní lidé to odnesou poklesem vlastněných akciových titulů, snížením hodnoty 401(k) a nevyhnutelnou inflaci.

Bezni lide zadne akcie nevlastni, zbytek svepravnych postupne prodava akcie a derivaty AI firem dokud jsou nahore.

[PetebLazar]

Roughly 156 million U.S. adults, or 58% of the population, owned stock as of April 2026, according to Gallup — down from 62% a year earlier and the first decline since 2016.

But the headline figure doesn't tell the whole story. The Federal Reserve's 2025 Survey of Household Economics and Decisionmaking found that only 37% of adults hold stocks, bonds, ETFs, or mutual funds outside a retirement account, meaning most stock owners hold them through a 401(k) or IRA rather than a brokerage account.

Zdroj

[plostenka]

only 37% of adults hold stocks, bonds, ETFs, or mutual funds outside a retirement account

Lepsi tretina populace v nejbohatsi zemi na svete. To zni dost podobne jako "bezni lide nevlastni", nezda se ti?

[Jendа]

Bezni lide zadne akcie nevlastni

Jak píše níže PetebLazar, v USA (a některých dalších zemích) je důchodový systém postavený na tomhle. (asi na úrovni jako u nás jsou ty různé scam fondy držící kdo ví co a státní dluhopisy)

zbytek svepravnych postupne prodava akcie a derivaty AI firem dokud jsou nahore

"Svéprávní", co prodávají, protože jsou nahoře a přijde velký krach, už prodali někdy v 2017-2020

[plostenka]

důchodový systém postavený na tomhle

A i pres takhle silnou motivaci skoro pulka populace v akciich/derivatech nema nic (42%). To neni okrajova skupinka podivinu, to jsou bezni lide.

prodali někdy v 2017-2020

To prodali akcie firem na blockchainy (IIRC), dneska prodavaji akcie firem na slop. Tehdy s bublinou odesla i CreditSuise, s touhle odejde zas nekdo jiny.

[-]

podle toho, jak to pozoruju, se mi jevi, ze tentokrat nepujde od valu cela pravni entita, jen vedeni - napr. BlackRocku, mozna dalsich - aspon mne se to jevi tak, ze se na to uz cca aspon pul roku pripravuje puda zpusobem, z kteryho se mr. Fink nebude mit, jak vymotat

[PetebLazar]

Někdo s odhadovaným jměním okolo 1 mld USD skrze společnost s kapitalizací 190 mld USD spravuje assets o hodnotě 15 bilionů USD. I kdyby snad nakrásně ručil celým svým majetkem je to garance ekvivalentní zákonné náhradě škody způsobené řadovým zaměstnancem s minimální mzdou v 1 500 000 000 Kč společnosti.

[JiK]

jak se to lisi od situace kdy strojvudce, s platem 60 tisic mesicne, veze vlak s benzenem v hodnote 10 milionu korun, a kdyz ho v zatacce vyklopi, bude stat uklid skod 700 milionu?

[PetebLazar]

Kromě násobně vyššiho ručení ze strany strojvedoucího?

K trestnému činu může dojít pouze úmyslně, nebo nedbalostí. Finanční krach na základě neúspěšného finančního rozhodování může být stále v souladu se všemi zákonnými/regulačními pravidly. Byť je jasné kdo nese za výsledek nejvyšší zodpovědnost nemusí být tento nijak právně postižitelný. V minulosti taková rozhodnutí činili přímo vlastníci kapitálu a nesli za ně přímou zodpovědnost v podobě finační ztráty. Dnes o cizich penězich rozhodují většinou chudáci z Ivy League co nemaji co ztratit, jen získat.

[Aleš Kapica]

K trestnému činu může dojít pouze úmyslně, nebo nedbalostí.

Omyl. K trestnému činu může dojít úmyslně, z nedbalosti, nebo blbosti. Většina pachatelů trestných činů totiž nemá v úmyslu trestný čin spáchat. Viz ten magor co v návalu panického strachu ubodal u Botiče bezdůvodně toho bezďáka.

[Jendа]

Pak je tu ještě možnost, že jste skočili na špek marketingovému oddělení dotyčných firem.

Protinázor je, že "oops omylem jsme spáchali několik trestných činů, regulujte nás" nevypadá jako úplně dobrá marketingová strategie, ale co my víme.

ale OpenAI jako lusknutím prstu sype motivace a vnitřní plány umělé inteligence jako na běžícím pásu

To jsou normální reasoning traces. Jste neviděl na internetech v posledních pár letech? Jo, nepomáhá tomu, že uzavřené modely je většinou cenzurují, ale v čínských otevřených to je.

[EH]

A z ceho jsi vycetl treba to, ze "agenti OpenAI konspirovali přes jména adresářů"? Zrovna tak mohly tupe stroje zkouset psat dotazy do vseho mozneho a z podstaty veci jen na dotazy napsane do jmen adresaru jim nekdo odpovedel, jine tupe stroje, ktere take vsude mozne, i tam, zkousely precist reseni.

[Jendа]

Z toho BlackHat videa, čas 19:14.

Zrovna tak mohly tupe stroje zkouset psat dotazy do vseho mozneho a z podstaty veci jen na dotazy napsane do jmen adresaru jim nekdo odpovedel, jine tupe stroje, ktere take vsude mozne, i tam, zkousely precist reseni.

Ano, i takhle to jde určitě napsat. Občas si někdo všimne toho, že lidi mají tendenci antropomorfizovat a přisuzovat úmysl i u procesů, kde žádný není (typicky třeba u evoluce) a snaží se to vymýtit, ale pak se zjistí, že vyjadřovat se "přesně" opisem je strašně nepraktické a zase se přejde k tomuhle vysvětlování. Je na to zrovna takový mem.

Tupé stroje psaly dotazy všude možně, jiné tupé stroje si je tam přečetly, a nějak se z toho náhodou stalo že se prohackovali na HuggingFace, ale rozhodně tomu nebudeme říkat konspirace/spolupráce/komunikace/domluva.

[Radovan]

"Agenti konspirovali" nebo "agenty konspirovaly"?

Dají se považovat za živé?

[trekker.dk]

Protinázor je, že "oops omylem jsme spáchali několik trestných činů, regulujte nás" nevypadá jako úplně dobrá marketingová strategie, ale co my víme.

Vzhledem k "AI šílenství" současnosti bych tipnul, že negativní dopady (on je nejspíš nikdo žalovat nebude, protože se vlastně nic nestalo) považují za zanedbatelné oproti efektu "podívejte se, co všechno to umí!"

[kolac]

JendaAI Ten clovek chtel poradit nastroj kde muze vystrihnout urcity usek videa, Jenda AI mu poradila ale JendaAI uz nepochopila, ze chce vystrihnout usek urcity vizualne presny, za co nektatsi cas, takze ve vysledku rada na nic moc;

[=]

tyjo tak to cumim, to je uz opravdu na diagnozu, normalni clovek by to nechal bejt dve pretvarky zpatky, ani do jedny by nesel

tohle vypada na docela spolehlive klinicky diagnostikovatelnou poruchu osobnosti kapuco, to uz ani neni prdel tohle

ne kazdej je takovej debil, aby nepoznal tvoji vetnou skladbu

[Want]

Měl bys disciplinovaně napochodovat do Bohnic, protože jen vymaštěný debil jako ty si může něco takového myslet. 21.9. začíná nový semestr, pro mne teď začíná nejhektičtější část roku a výpady kokotů jako seš ty, jsou to poslední co bych si chtěl číst. Nejsem magor jako vencour, abych uchcával štěstím z AI vaty přetavené do blogpostu a měl nutkavou potřebu číst následné diskuze o hovně. Na ty zabrousím leda náhodou, zrovna jako teď, když nejsem přihlášený, protože jinak mám autory podobných keců preventivně blokované.

[=]

to uz neokecas, pro mne jsi jasne diagnostikovatelnej clovek s NPD, to se z definice neda lecit, protoze narcis je preci sam sobe dokonalej

pekne ses odkopal :D

ten chlast ti tak vymyl mozek, ze uz jsi zapomnel ten svuj uzasnej prispevecek na rootu z 2007 co :D ja ho nasel hned, chtel jsem mit s tou diagnozou jistotu - no rekneme, ze prede mnou se neschovas, ja te vidim presne za to, co jsi

[=]

ze jsem dobrak od kosti, mam pro tebe radu: priste zkus vychladnout, nez budes reagovat, treba se tak blbe neprokecnes a nepotvrdis, co byla do ty doby jenom serie teoriii :D takhle jsi navysil moji jistotu o tvych kvalitach z temer-jiste na dokonale-potvrzene :D

kdyz se teda zvladas a mas vsechno v hlave v pohode, tak to pro tebe nemuze bejt problem se priste trochu zamyslet nad tim, co pises, ne? :D

lol

[Want]

Co se čertíš ty psychotický demente? Nepiš kokotiny co se honí akorát ve tvém chorém mozku, co s realitou nic společného nemají a nikdo ti nebude ubližovat.

[=]

ok strike one, jeste dve carecky a posilam, mam to pripraveny na podani

[Aleš Kapica]

Ty se zmůžeš leda na podání v ping-pongu.

Zrovna včera jsem měl debatu s kamarádem, na kterého jeho bláznivá sestra neustále dává nějaké podání, ale jakmile dojde na platbu, tak ho okamžitě stáhne. A to je přesně ten moment, kdy se dozví, že to zase zkoušela, poněvadž jsou ze zákona povinni ho o této skutečnosti informovat. Jenže kdyby ji naopak pro neustálé obtěžování z její strany dal k soudu on, tak by jí dal příležitost aby ty svoje lži kdákala někam do protokolu. Takže raději dělá mrtvého brouka. Ale pochopitelně si klade otázku, proč zrovna jeho ségra musí být ulhaná, jeblá mrcha, která už pravděpodobně přišla o veškeré přátele co kdy měla, protože těm důvěřivým co připravila o prachy se raději vyhýbá a z těch nedůvěřivých pro ni stejně nikdy nic nekáplo.

[=]

jednej, jak myslis, pokud chces vsazet na tuhle tvoji teorii a bejt stejnej hajzl dal, jak vypada, ze chces, asi je to holt potreba, aby ses v tom poradne vykoupal

[Aleš Kapica]

Nemůžu si pomoct, ale jako hajzl mi připadáš zrovna ty.

[=]

to je mi jasny, protoze se nasel nekdo, pres koho tvoje psychicka porucha neprochazi tak zaridime, abys o ni mohl popremejslet pekne v klidu, co rikas, vsem v tvym okoli se ulevi

marne hledam jedinej duvod, proc nad tim mavnout rukou a nechat to plavat, naopak pridavas duvody, proc te ne ze resit, ale vyresit

[Aleš Kapica]

Odpověď pro tebe už je tu víc než 40 let.

[Bystroushaak]

https://x.com/BenSchifman/status/2092936792437617079

[Paja]

Další krok bude až ai začne hackovat GPU infra aby si nasadili volné modely pro plnění tasku které jim budou snižovat inference budget.