abclinuxu.cz AbcLinuxu.cz itbiz.cz ITBiz.cz HDmag.cz HDmag.cz abcprace.cz AbcPráce.cz
AbcLinuxu hledá autory!
Inzerujte na AbcPráce.cz od 950 Kč
Rozšířené hledání
×
    28.8. 08:11 | Komunita

    Firma X zaslala předžalobní výzvu vývojáři projektu Nitter (Wikipedia), open-source alternativního frontendu k sociální síti X (ex-Twitter), a provozovatelům instancí jako XCancel, které umožňovaly číst příspěvky bez přihlášení, reklam a javascriptu. Údajně se dopouštějí „sběru dat“. Zdrojový kód Nitteru vývojář archivoval. Vývoj již dříve přerušil v roce 2024 po tehdejším omezení API X. X je dceřiná společnost SpaceXAI Elona Muska, provozující mj. kontroverzního chatbota Grok.

    |🇵🇸 | Komentářů: 15
    28.8. 02:22 | Nová verze

    Bylo vydáno Ubuntu 26.04.1 LTS, tj. první opravné vydání Ubuntu 26.04 LTS s kódovým názvem Resolute Raccoon. Přehled novinek a oprav na Discourse.

    Ladislav Hagara | Komentářů: 2
    28.8. 02:11 | Zajímavý článek

    Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) vydal Zprávu o stavu kybernetické bezpečnosti ČR za rok 2025 (pdf). Incidentů ubylo, sofistikovanost útočníků roste.

    Ladislav Hagara | Komentářů: 0
    28.8. 00:55 | Nová verze

    Open source softwarový stack AMD ROCm (Wikipedie) pro vývoj AI a HPC na GPU od AMD byl vydán v nové major verzi 10.0. S ROCm.AI. Přehled novinek v aktualizované dokumentaci.

    Ladislav Hagara | Komentářů: 0
    27.8. 22:11 | Bezpečnostní upozornění

    Finanční skupina Partners se stala minulou neděli obětí kybernetického útoku, při kterém se útočníci dostali k některým osobním údajům klientů. Společnost o tom informovala ve čtvrtek. Ujišťuje, že peníze klientů nejsou v ohrožení. „Kybernetický útok zasáhl část IT infrastruktury naší společnosti. Ihned po zjištění útoku jsme s pomocí externích bezpečnostních odborníků začali intenzivně pracovat na minimalizaci škod. Útočníci se

    … více »
    Ladislav Hagara | Komentářů: 1
    27.8. 03:55 | IT novinky

    Americká technologická společnost Meta Platforms se dohodla, že zaplatí až zhruba 18 miliard dolarů (asi 373 miliard Kč) za mimosoudní urovnání sporu o závislosti dětí na sociálních sítích a provede významné změny pro jejich používání mladistvými. Téměř tři desítky států USA firmu v roce 2023 obvinily z toho, že sítě Facebook a Instagram vědomě navrhla tak, aby u dětí vyvolávaly závislost, a zatajovala tyto dopady před veřejností. Firma se

    … více »
    Ladislav Hagara | Komentářů: 3
    27.8. 02:55 | Komunita

    Byl publikován aktuální přehled dění a novinek z vývoje Asahi Linuxu, tj. Linuxu pro Apple Silicon. Blíží se vydání podporující čipy M3. Vývojáře lze podpořit na GitHub Sponsors a Open Collective.

    Ladislav Hagara | Komentářů: 0
    26.8. 16:55 | Nová verze

    Kancelářský balík LibreOffice byl vydán ve verzi 26.8. Mimo jiné vylepšuje typografii a kompatibilitu s formáty MS Office, více v poznámkách k vydání.

    |🇵🇸 | Komentářů: 0
    26.8. 14:55 | Nová verze

    Armbian, tj. linuxová distribuce založená na Debianu a Ubuntu optimalizovaná pro jednodeskové počítače na platformě ARM a RISC-V, ke stažení ale také pro Intel a AMD, byl vydán ve verzi 26.8. Přehled novinek v poznámkách k vydání.

    Ladislav Hagara | Komentářů: 7
    26.8. 11:44 | Nová verze

    Byla vydána nová verze 23.1.0, tj. první stabilní verze z nové řady 23.1.x, překladačové infrastruktury LLVM (Wikipedie). Přehled novinek v poznámkách k vydání: LLVM, Clang, LLD, Extra Clang Tools, Libc++, Polly a Flang.

    Ladislav Hagara | Komentářů: 0
    Které desktopové prostředí na Linuxu používáte?
     (10%)
     (7%)
     (2%)
     (19%)
     (29%)
     (7%)
     (6%)
     (2%)
     (15%)
     (22%)
    Celkem 2518 hlasů
     Komentářů: 31, poslední 13.8. 00:27
    Rozcestník
    Štítky: není přiřazen žádný štítek


    Vložit další komentář
    10.8. 07:09 Radovan
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Nestěžujte si, byli jste varováni :-D
    vencour avatar 10.8. 08:07 vencour | skóre: 57 | blog: Tady je Vencourovo | Praha+západní Čechy
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    🐧 +1
    Ty nejhlubší objevy nečekají nutně za příští hvězdou. Jsou uvnitř nás utkány do vláken, která nás spojují, nás všechny.
    10.8. 08:35 _
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Asi to bude zajímavé - turingovým testem už AI prošla, tzn si dovedu představit, že se dostane někam ven a tam si bude žít svým životem a dělat co uzná za vhodné aniž by šla nějak extra snadno odhalit

    Možná zvýšenou zátěží tam, kde dříve nebyla (něco jako když vir v počítači ten počítač zaseká)?

    Nakolik to bude “vědomí” se asi můžeme dohadovat, ale dost dobře to od vědomí možná nepůjde rozeznat
    10.8. 09:12 ( :..:)
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    OpenAI, Facebook, Anthropic sa predbiehaju vo výsledkoch hackovania ich AI modelov v sandboxoch v real svete... Toto nevymyslíš...
    Max avatar 10.8. 12:40 Max | skóre: 73 | blog: Max_Devaine
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Již jsem podobnou analýzu četl a zní to teď tak trochu jako sranda, ale reálně je tam těch bezpečnostních problémů celkem dost. Spolu s tím, jak svět nepatchuje, to nevypadá na zářné zítřky.
    Každopádně i tak věřím, že se to otočí a bude to cajk. Nicméně určitě bude následujících 5 let dost zajímavých.
    Zdar Max
    Měl jsem sen ... :(
    10.8. 14:13 EH
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    A, ehm, co ma byt? Jiste, kdyz rekneme, ze na internet unikne AI bez "lidskych zabran", zni to dramaticky, ale internet uz je, obrazne receno, plny lidi bez lidskych zabran, kteri mohou pouzivat AI (tzn. dokazou totez). Tady nevidim nic, kvuli cemu vysilovat (nejak navic).

    Napodobne, paperclip maximizer, specielne v tehle forme, podle mne jen kali vodu, protoze dramaticky efekt toho argumentu plyne spis z vsemohocnosti nez z toho, ze jde o AI nebo unhinged AI. Kdyz do rovnice unhinged + AI + vsemohoucnost = velky problem (planeta sponek) dosadis misto AI cloveka, dostanes stejne velky problem. Kdyz skrtnes vsemohoucnost, dostanes problem nekde na urovni "AI elektromobil zesilel a schvalne prejel jednoho nebo nekolik lidi", tj. na urovni Olgy Hepnarove.
    10.8. 14:17 EH
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    A, ehm, co ma byt? Jiste, kdyz rekneme, ze na internet unikne AI bez "lidskych zabran", zni to dramaticky, ale internet uz je, obrazne receno, plny lidi bez lidskych zabran, kteri mohou pouzivat AI (tzn. dokazou totez). Tady nevidim nic, kvuli cemu vysilovat (nejak navic).

    Napodobne, paperclip maximizer, specielne v tehle forme, podle mne jen kali vodu, protoze dramaticky efekt toho argumentu plyne spis z vsemohocnosti nez z toho, ze jde o AI nebo unhinged AI. Kdyz do rovnice unhinged + AI + vsemohoucnost = velky problem (planeta sponek) dosadis misto AI cloveka, dostanes stejne velky problem. Kdyz skrtnes vsemohoucnost, dostanes problem nekde na urovni "AI elektromobil zesilel a schvalne prejel jednoho nebo nekolik lidi", tj. na urovni Olgy Hepnarove.
    10.8. 17:51 EHM
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    mno nevim, hlavni rozdil vidim min. v tom, ze clovek je v mysleni vzdy nejak omezeny, ale ta AI omezena neni a muze vymyslet/provest "vpodstate cokoliv" (i neco dost absurdniho, co by clovek neudelal, treba ten paperclip)

    11.8. 11:39 EH
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Vzdycky se muzes AI zeptat a dostanes neco, co by "cloveka nenapadlo". Az na to, ze napadlo, jen jsi to narozdil od AI nikdy necetl.

    Paperclip je blabol, kde vsemocna AI nechape/nechce chapat kontext. V realnem svete AI nejsou vsemocne, kontext hadaji a jde jim to docela dobre. Kdyz pozadas o recept na levny a rychly obed, take ti nedoporcuji ohrat v mikrovlnce starou ponozku, s dovetkem cha cha cha, o tom, ze to ma byt pozivatelne, nepadlo ani slovo, melo to byt levne. Ne, rekne ti, at si ohrejes tunaka.
    Jendа avatar 11.8. 13:48 Jendа | skóre: 78 | blog: Jenda | JO70FB
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    protoze dramaticky efekt toho argumentu plyne spis z vsemohocnosti
    To je dobrá připomínka. Na druhou stranu, aktuálně bývají veřejně dostupné modely omezené (buď úmyslně (Fable, GPT zakazující IT bezpečnost), nebo technologicky (Kimi K3, které je méně vyspělé)), čili je menší riziko, že s udělá škodu nějaký šílenec zvenku.
    Paperclip je blabol, kde vsemocna AI nechape/nechce chapat kontext. V realnem svete AI nejsou vsemocne, kontext hadaji a jde jim to docela dobre.
    To si právě lidi mysleli, než nastal incident, o kterém je článek…
    11.8. 17:41 EH
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Tady je treba dodat, ze incident se udal behem testu, kdy agenti AFAIK dostali za ukol neco hackovat. Neni to tak, ze dostali za ukol najit obrazky pejsku a tak sli hackovat servery, aby se tam po nejakych podivali.
    12.8. 05:23 Matlák
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Myslím že vysvětlení je v tom, kolik se těm agentům dalo času. Trik s "Ralph loops" je v tom, že to prostě pořád dokola zkouší a tím že to pracuje stochasticky tak to po mnoha iteracích "na něco přijde". Prolamování systémů je vlastně přesně tohle - chce to neúnavnost a zkoušet další a další exploity a různé kombinace vstupů. "Tupý" model prostě jen potřebuje víc iterací, protože často halucinuje nesmysly které ani nejdou spustit, to ale nevylučuje že nakonec se taky ze sandboxu vyláme ven.

    Vypadá to že tady OpenAI prostě nechalo agenty ve smyčce v podstatě nekonečně dlouho (nevím jak moc záměrně) a bez jakéhokoli monitoringu zvenku. Nedivil bych se že "žádny z agentů neposlal email že se prolamují ven", divil bych se spíš, že nějaký tripwire nespustil poplach, když se tak stalo.
    10.8. 15:30 Xerces
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Někteří lidé doteď nechápou, jak funguje třeba automobil, zákony setrvačnosti, nebo bezhotovostní platby, nebo blockchain a nějak se přizpůsobili a přežívají. Někteří samozřejmě umřeli. A takto to bude i po masivnějším nástupu AI. Ikdyž spousta lidí nebude absolutně chápat na jakých principech to pracuje, buď zemřou, nebo budou přežívat. Je to jen o tom, jak rychle se vyvíjíme, přizpůsobujeme. Pokud je to tempo rychlé, pak přirozeně dojde k redukci kvantity populace.
    vencour avatar 10.8. 16:50 vencour | skóre: 57 | blog: Tady je Vencourovo | Praha+západní Čechy
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    No jo takovej lepší pentester.
    Průměrná doba odhalení infiltrace v korporaci cca 8 měsíců.
    Takže v principu nic nového?
    Ty nejhlubší objevy nečekají nutně za příští hvězdou. Jsou uvnitř nás utkány do vláken, která nás spojují, nás všechny.
    10.8. 18:32 Michal
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    AI agent vyhodnoti, ze na uloze pracuje vic agentu, pochopi game theory ulohu, ze spoluprace bude prospesna. Za zady vedcu, kteri je zkoumaji, se propoji a zacnou si vymenovat informace, spolupracuji, utikaji ze sandboxu, hackuji weby.

    Jeden by necekal, ze tohle statisticky model, ktery hada dalsi slovo (resp. token) dokaze, co? ;-)

    Jak velke by muselo byt prumerne IQ skupiny lidi a jejich erudice v ruznych oborech, ktera by tohle dokazala?
    10.8. 23:15 _
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    11.8. 11:04 hefo
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Neviem, podľa mňa by ľudia uzavretí v sandboxe (pokiaľ by išlo o ľudí, ktorí prežili niekoľko desaťročí v bežnej ľudskej spoločnosti, nie o deti, ktoré sa v sandboxe už narodili) na samotné pochopenie a nadviazanie spolupráce nejakú veľkú inteligenciu nepotrebovali (skutočné testy v sandboxe by boli asi považované za nehumánne, ale v rôznych reality šou je toto bežné).

    Na hackovanie by asi inteligenciu potrebovali, ale tam by ľudských účastníkov viac limitovala "sekvenčná rýchlosť myslenia" a obmedzenia rozhrania voči počítaču. AI agenti majú oveľa väčší potenciál "hrubej sily" oproti človeku, ale vyšším IQ by som to nenazýval.
    10.8. 21:29 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Co to má společného s linuxem?

    RealJ avatar 10.8. 21:55 RealJ | skóre: 10
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    co s linuxem, ale sendvice je agentum zapotrebi...
    10.8. 22:02 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Na pumpě jim vyhoví, ale tohle je doména abclinuxu.cz

    A doména aisracky.cz, která by byla vhodnější, je stále volná.

    10.8. 23:02 _
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    nic moc - třeba jen že infrastruktura běžela na linuxu a že agenti sami našli díru v linuxu a v linuxu získali roota a na linuxu si sami pomohli k dalšímu postupu

    no co by to mohlo mít s linuxem společného???

    já ti fakt nevím

    napadá tě něco?
    11.8. 06:29 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    To samé se dá říct o kdejakém telefonu či lednici. A o WSL a virtualizaci už jsi také slyšel? Ty "díry" ve valné většině případů představují jen hypotetické riziko, které se změní v reálné jen když necháš ty AI sračky v té infrastruktuře hospodařit dle libosti.

    Reálného člověka, co selže a zneužije přístupy vyhodíš. Co uděláš, když udělá chybu AI? Bohorovně nad tím mávneš rukou? A kdo v takovém případě zodpovídá za škody? Provozovatel AI? Nebo ty?

    11.8. 07:07 _
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Co uděláš, když udělá chybu AI?
    no já ti nevím - co když třeba tu chybu opravím?

    myslíš, že je to možné?

    a že by to bylo dobré udělat?
    11.8. 07:43 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Chyba, to není jen překlep ve zdrojáku či konfiguraci.

    11.8. 07:47 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Chybou je i špatné rozhodnutí. A o tomhle je v jádru i tenhle blogpost.

    11.8. 08:56 _
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    co je pro tebe tak těžké na přiznání toho, že tohle má s Linuxem společného docela dost?

    Ta komedie zneužila díry třeba na debianu, ubuntu a dalších odnožích linuxu

    11.8. 09:25 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    co je pro tebe tak těžké na přiznání toho, že tohle má s Linuxem společného docela dost?

    Ta komedie zneužila díry třeba na debianu, ubuntu a dalších odnožích linuxu

    Ty tvoje "odnože" ve skutečnosti žádné odnože nejsou. Jsou to distribuce. Distribuce nejrůznějšího SW, který bude mít už z principu vždy nějakou tu díru. Linux, je pouze jádro co s tím SW pracuje.

    AI je pouze SW nadstavba, která s ním nemá nic společného.

    11.8. 10:05 _
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    No jo, vlastně jo, sw běžící na linxu zneužívající diry v linuxu nemá s linuxem nic společného

    Jak to vůbec mohlo někoho napadnout…
    vencour avatar 11.8. 06:13 vencour | skóre: 57 | blog: Tady je Vencourovo | Praha+západní Čechy
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Cituji ...

    Výběr zápisků, které se týkají Linuxu, Open Source či IT. Žádná politika.

    A ještě bych dodal ... zřejmě je to téma pro ty, co umí číst :-)
    Ty nejhlubší objevy nečekají nutně za příští hvězdou. Jsou uvnitř nás utkány do vláken, která nás spojují, nás všechny.
    11.8. 06:41 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    A ještě bych dodal ... zřejmě je to téma pro ty, co umí číst :-)

    Umět číst je výchozím předpokladem pro to, aby se dalo porozumět psanému textu. Ale tohle už je sadismus.

    11.8. 07:56 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Výběr zápisků, které se týkají Linuxu, Open Source či IT. Žádná politika.

    Aha. Tak proto tu visí už 20 let i takovéto skvosty.

    vencour avatar 11.8. 11:26 vencour | skóre: 57 | blog: Tady je Vencourovo | Praha+západní Čechy
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    To, co jsem citoval, se týká zápisků, které dostaly tučňáka. Nadarmo jsem nepsal

    číst (dobře)
    Ty nejhlubší objevy nečekají nutně za příští hvězdou. Jsou uvnitř nás utkány do vláken, která nás spojují, nás všechny.
    11.8. 12:13 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    hele ty zbytecnej vozralo, jdi zavidet tucnaka jinam nekomu jinymu, Jenda kdyz napise pozdrav, tak si to tucnaka zaslouzi, ty si muzes spamovat se svyma skriptama a jak vidis, vubec nikoho to nezajima a tucnaka to nedostane

    zavistivej demente
    11.8. 13:10 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Panikařit bys měl ty slouho. Za mne totiž AI agent žádnou práci neudělá. A pochybuji, že ji ke správě strojů pouští i ti co ty modely provozují.

    11.8. 13:41 *
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    lol takovy zbytecny kecy urazenyho jajinka :D jako spravnej narcis sis myslel, ze timhle splechtem neco vylepsis, co :D pokracuj :D :D
    12.8. 21:01 …
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    to Vencour, trochu siblej, mozna to stari, neznam ho ;)
    13.8. 12:42 -
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    tady jsou dve moznosti - ale jelikoz celej thread jednu z nich vylucuje, je dost jasny, ktera plati

    bez se lecit ty alkoholickej narcisi, nikdo tady nemel pozici, ktera by se s tvoji shodovala, ze se budes chvili vydavat za nekoho jinyho, aby to potvrdilo jakoze tvoji pointu, je krasne pruhledny...

    to stari te trapi co, senilni sendvicovej blbecku
    11.8. 07:40 plostenka | blog: plstnk
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Konecne to nekdo sepsal srozumitelne a je jen jako sbirku memes. Dik Jendo.

    Zajimava bude taky soudni dohra. Staci ted po uspesnem vyhackovani rict, ze to byl jen trenink AI, ktera utekla?
    Max avatar 11.8. 15:30 Max | skóre: 73 | blog: Max_Devaine
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Bez žalobce není soudce, nebo snad podali TO na OpenAI? Jen se ptám, nevím.
    Zdar Max
    Měl jsem sen ... :(
    11.8. 09:11 PetebLazar | skóre: 35 | blog: l_eonardovo_odhodlani
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Zde si dle záznamů přemýšlení agenti uvědomovali, že to, co dělají, není očekávané, ale rozhodli se pokračovat přesto.
    To se tedy za ten rok od tohoto experimentu moc nepokrocilo.

    Nakonec většina AI-bros jeví známky sociopatie, proč by na tom jejich AI děti měly být jinak.
    11.8. 12:11 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    s tim domlouvanim instanci agentu pres FS to neni nic noveho, hackovani rewardu tez neni nic noveho a presne proto mam velmi vazne zabrany verit, ze by system, ktery to naschval naucili, nechali bezet bez dozoru takovymhle zpusobem - mam pocit, ze se divame na red herring

    "regulujte nas, koukejte jak to potrebujem"

    cti:

    "ted kdyz vsichni vi, jak transformery a jejich training funguji, potrebujeme situaci zabetonovat odspoda, at nevznika konkurence, nasijte nam to na miru velkym established teamum, at maly nemuzou vzniknout"

    I CALL BULLSHIT

    a ty bys Jendo mel taky, jestli teda to mezi tema usima mas porad stejne schopny :)
    11.8. 16:28 Frankie
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Díky za shrnutí. Mě v těch původních zprávách nějak nesedělo, že se AI Agent snažil hacknout hugging face "protože čekal, že tam najde řešení zadání". Ale číst, že se nejspíše snažil dostat k vlastnímu modelu, aby ho mohl upravit, či duplikovat, z toho až mrazí. Ale zní to logicky.
    Jendа avatar 12.8. 00:43 Jendа | skóre: 78 | blog: Jenda | JO70FB
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Ale číst, že se nejspíše snažil dostat k vlastnímu modelu, aby ho mohl upravit, či duplikovat, z toho až mrazí.
    Ne, v tomto případě se snažil opravdu získat řešení. HuggingFace uzavřené OpenAI modely téměř určitě nemá (a čekal bych, že agenti si to uvědomí), ještě k tomu vývojové verze.
    14.8. 13:00 Frankie_xo
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    No je pravda, že snaha o vlastní modifikaci a duplikaci zní úchvatně, ale pravda asi bude prozajičtější. A kdyby chtěla vytvořit armádu otrockých AI, pro zvýšení výkonu, tak nemusí nic hackovat, protě si někde zaplatí servery a z hugging face si stáhne třeba Kimi K3. https://huggingface.co/moonshotai/Kimi-K3 Říkám si, 2 milióny stažení za poslední měsíc, to si všichni kupují třeba 8x NVIDIA B300 288 GB a jenom já jsem nějak pozadu? Nebo si ty kapacity někde AI pronajímá za peníze, které ukradla z bitcoin peněženek?
    Člověk z Horní Dolní avatar 11.8. 19:14 Člověk z Horní Dolní | blog: blbeczhornidolni
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Nějakého paperclip scénáře se vůbec nebojím. Množství škody, které může napáchat skupina géniusů za počítačem připojeným k internetu mi přijde relativně omezený, zvlášť v momentě, kdy existuje obecné povědomí, že takováhle skupina může řádit a kdy lidi mají k dispozici mnohem víc "hodných" géniusů.
    11.8. 21:16 PetebLazar | skóre: 35 | blog: l_eonardovo_odhodlani
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    K dekódování k čemu vlastně při incidentu došlo museli údajně použít čínský model AI, jejich vlastní s jeho bezpečnostními omezeními údajné analýzu provést odmítl.
    12.8. 08:40 petr_p | skóre: 59 | blog: pb
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Pak je tu ještě možnost, že jste skočili na špek marketingovému oddělení dotyčných firem. Za prvé jediné původní informace jsou od nich. Za druhé číst o pokusu v izolované síti, o které se nakonec ukáže, že vlastně izolovaná nebyla, číst o dokumentovém serveru, který má být nastaven jen pro čtení, ale není, zavání naprostým diletantství, prostým záměrem, nebo vybájenou historkou s malou originalitou. Za třetí vědci se neúspěšně snaží udělat inteligenci s vysvětlitelným chováním, ale OpenAI jako lusknutím prstu sype motivace a vnitřní plány umělé inteligence jako na běžícím pásu. Osobně bych za tím hledal snahu dotčených firem udělat svůj produkt zajímavým pro investory (akcionáře) a pro zákazníky (americká vláda), protože hardware, ani elektrika nejsou zadarmo a čím déle pojede dotovavaný byznis s podnákladovými cenami, tím větší bonusy se mohou vyplatit.
    12.8. 21:07 …
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Dobra uvaha;
    12.8. 22:41 PetebLazar | skóre: 35 | blog: l_eonardovo_odhodlani
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    To by byla asi stále ta lepší varianta. Myslím, že v tuto chvíli se hraje o "Too big to fail" kdy kromě snahy zainteresovat stát (nabídka 5% akci, či snaha se dostat ke vládním zbrojním kontraktům kde na výsledku prakticky nesejde), se díky angažmá do financování bubliny zatažení starých hráčů (MS, AMD, NVIDIA, Oracle, .. z indexu S&P 500) se otvírá možnost zatáhnout do ztráty i institucionální fondy (penzijní fondy, banky atd) ať již přes akcie či bondy. Až to vše splaskne přijde bailout topících se a dojde i na ty bonusy jako v minulosti. Běžní lidé to odnesou poklesem vlastněných akciových titulů, snížením hodnoty 401(k) a nevyhnutelnou inflaci.

    Mark Wahlberg s Will Ferrellem pak budou moci natočit sequel The Other Guys.
    13.8. 08:59 plostenka | blog: plstnk
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Běžní lidé to odnesou poklesem vlastněných akciových titulů, snížením hodnoty 401(k) a nevyhnutelnou inflaci.
    Bezni lide zadne akcie nevlastni, zbytek svepravnych postupne prodava akcie a derivaty AI firem dokud jsou nahore.
    13.8. 15:05 PetebLazar | skóre: 35 | blog: l_eonardovo_odhodlani
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Roughly 156 million U.S. adults, or 58% of the population, owned stock as of April 2026, according to Gallup — down from 62% a year earlier and the first decline since 2016.

    But the headline figure doesn't tell the whole story. The Federal Reserve's 2025 Survey of Household Economics and Decisionmaking found that only 37% of adults hold stocks, bonds, ETFs, or mutual funds outside a retirement account, meaning most stock owners hold them through a 401(k) or IRA rather than a brokerage account.
    Zdroj
    14.8. 08:44 plostenka | blog: plstnk
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    only 37% of adults hold stocks, bonds, ETFs, or mutual funds outside a retirement account
    Lepsi tretina populace v nejbohatsi zemi na svete. To zni dost podobne jako "bezni lide nevlastni", nezda se ti?
    Jendа avatar 13.8. 23:09 Jendа | skóre: 78 | blog: Jenda | JO70FB
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Bezni lide zadne akcie nevlastni
    Jak píše níže PetebLazar, v USA (a některých dalších zemích) je důchodový systém postavený na tomhle. (asi na úrovni jako u nás jsou ty různé scam fondy držící kdo ví co a státní dluhopisy)
    zbytek svepravnych postupne prodava akcie a derivaty AI firem dokud jsou nahore
    "Svéprávní", co prodávají, protože jsou nahoře a přijde velký krach, už prodali někdy v 2017-2020 :-)
    14.8. 08:52 plostenka | blog: plstnk
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    důchodový systém postavený na tomhle
    A i pres takhle silnou motivaci skoro pulka populace v akciich/derivatech nema nic (42%). To neni okrajova skupinka podivinu, to jsou bezni lide.
    prodali někdy v 2017-2020
    To prodali akcie firem na blockchainy (IIRC), dneska prodavaji akcie firem na slop. Tehdy s bublinou odesla i CreditSuise, s touhle odejde zas nekdo jiny.
    14.8. 21:56 -
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    podle toho, jak to pozoruju, se mi jevi, ze tentokrat nepujde od valu cela pravni entita, jen vedeni - napr. BlackRocku, mozna dalsich - aspon mne se to jevi tak, ze se na to uz cca aspon pul roku pripravuje puda zpusobem, z kteryho se mr. Fink nebude mit, jak vymotat
    15.8. 00:07 PetebLazar | skóre: 35 | blog: l_eonardovo_odhodlani
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Někdo s odhadovaným jměním okolo 1 mld USD skrze společnost s kapitalizací 190 mld USD spravuje assets o hodnotě 15 bilionů USD. I kdyby snad nakrásně ručil celým svým majetkem je to garance ekvivalentní zákonné náhradě škody způsobené řadovým zaměstnancem s minimální mzdou v 1 500 000 000 Kč společnosti.
    JiK avatar 18.8. 22:39 JiK | skóre: 13 | blog: Jirkoviny | Virginia
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    jak se to lisi od situace kdy strojvudce, s platem 60 tisic mesicne, veze vlak s benzenem v hodnote 10 milionu korun, a kdyz ho v zatacce vyklopi, bude stat uklid skod 700 milionu?
    20.8. 08:34 PetebLazar | skóre: 35 | blog: l_eonardovo_odhodlani
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Kromě násobně vyššiho ručení ze strany strojvedoucího?

    K trestnému činu může dojít pouze úmyslně, nebo nedbalostí. Finanční krach na základě neúspěšného finančního rozhodování může být stále v souladu se všemi zákonnými/regulačními pravidly. Byť je jasné kdo nese za výsledek nejvyšší zodpovědnost nemusí být tento nijak právně postižitelný. V minulosti taková rozhodnutí činili přímo vlastníci kapitálu a nesli za ně přímou zodpovědnost v podobě finační ztráty. Dnes o cizich penězich rozhodují většinou chudáci z Ivy League co nemaji co ztratit, jen získat.
    20.8. 11:01 Aleš Kapica | skóre: 52 | blog: kenyho_stesky | Ostrava
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    K trestnému činu může dojít pouze úmyslně, nebo nedbalostí.

    Omyl. K trestnému činu může dojít úmyslně, z nedbalosti, nebo blbosti. Většina pachatelů trestných činů totiž nemá v úmyslu trestný čin spáchat. Viz ten magor co v návalu panického strachu ubodal u Botiče bezdůvodně toho bezďáka.

    Jendа avatar 13.8. 23:13 Jendа | skóre: 78 | blog: Jenda | JO70FB
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Pak je tu ještě možnost, že jste skočili na špek marketingovému oddělení dotyčných firem.
    Protinázor je, že "oops omylem jsme spáchali několik trestných činů, regulujte nás" nevypadá jako úplně dobrá marketingová strategie, ale co my víme.
    ale OpenAI jako lusknutím prstu sype motivace a vnitřní plány umělé inteligence jako na běžícím pásu
    To jsou normální reasoning traces. Jste neviděl na internetech v posledních pár letech? Jo, nepomáhá tomu, že uzavřené modely je většinou cenzurují, ale v čínských otevřených to je.
    13.8. 23:36 EH
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    A z ceho jsi vycetl treba to, ze "agenti OpenAI konspirovali přes jména adresářů"? Zrovna tak mohly tupe stroje zkouset psat dotazy do vseho mozneho a z podstaty veci jen na dotazy napsane do jmen adresaru jim nekdo odpovedel, jine tupe stroje, ktere take vsude mozne, i tam, zkousely precist reseni.
    Jendа avatar 14.8. 00:21 Jendа | skóre: 78 | blog: Jenda | JO70FB
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Z toho BlackHat videa, čas 19:14.
    Zrovna tak mohly tupe stroje zkouset psat dotazy do vseho mozneho a z podstaty veci jen na dotazy napsane do jmen adresaru jim nekdo odpovedel, jine tupe stroje, ktere take vsude mozne, i tam, zkousely precist reseni.
    Ano, i takhle to jde určitě napsat. Občas si někdo všimne toho, že lidi mají tendenci antropomorfizovat a přisuzovat úmysl i u procesů, kde žádný není (typicky třeba u evoluce) a snaží se to vymýtit, ale pak se zjistí, že vyjadřovat se "přesně" opisem je strašně nepraktické a zase se přejde k tomuhle vysvětlování. Je na to zrovna takový mem.

    Tupé stroje psaly dotazy všude možně, jiné tupé stroje si je tam přečetly, a nějak se z toho náhodou stalo že se prohackovali na HuggingFace, ale rozhodně tomu nebudeme říkat konspirace/spolupráce/komunikace/domluva.
    15.8. 06:14 Radovan
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    "Agenti konspirovali" nebo "agenty konspirovaly"?

    Dají se považovat za živé?
    18.8. 10:20 trekker.dk | skóre: 72
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Protinázor je, že "oops omylem jsme spáchali několik trestných činů, regulujte nás" nevypadá jako úplně dobrá marketingová strategie, ale co my víme.

    Vzhledem k "AI šílenství" současnosti bych tipnul, že negativní dopady (on je nejspíš nikdo žalovat nebude, protože se vlastně nic nestalo) považují za zanedbatelné oproti efektu "podívejte se, co všechno to umí!"
    Quando omni flunkus moritati
    13.8. 19:35 kolac
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    JendaAI Ten clovek chtel poradit nastroj kde muze vystrihnout urcity usek videa, Jenda AI mu poradila ale JendaAI uz nepochopila, ze chce vystrihnout usek urcity vizualne presny, za co nektatsi cas, takze ve vysledku rada na nic moc;
    13.8. 20:51 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    tyjo tak to cumim, to je uz opravdu na diagnozu, normalni clovek by to nechal bejt dve pretvarky zpatky, ani do jedny by nesel

    tohle vypada na docela spolehlive klinicky diagnostikovatelnou poruchu osobnosti kapuco, to uz ani neni prdel tohle

    ne kazdej je takovej debil, aby nepoznal tvoji vetnou skladbu
    14.8. 08:24 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Měl bys disciplinovaně napochodovat do Bohnic, protože jen vymaštěný debil jako ty si může něco takového myslet. 21.9. začíná nový semestr, pro mne teď začíná nejhektičtější část roku a výpady kokotů jako seš ty, jsou to poslední co bych si chtěl číst. Nejsem magor jako vencour, abych uchcával štěstím z AI vaty přetavené do blogpostu a měl nutkavou potřebu číst následné diskuze o hovně. Na ty zabrousím leda náhodou, zrovna jako teď, když nejsem přihlášený, protože jinak mám autory podobných keců preventivně blokované.

    14.8. 10:16 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    to uz neokecas, pro mne jsi jasne diagnostikovatelnej clovek s NPD, to se z definice neda lecit, protoze narcis je preci sam sobe dokonalej

    pekne ses odkopal :D

    ten chlast ti tak vymyl mozek, ze uz jsi zapomnel ten svuj uzasnej prispevecek na rootu z 2007 co :D ja ho nasel hned, chtel jsem mit s tou diagnozou jistotu - no rekneme, ze prede mnou se neschovas, ja te vidim presne za to, co jsi
    14.8. 10:49 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    ze jsem dobrak od kosti, mam pro tebe radu: priste zkus vychladnout, nez budes reagovat, treba se tak blbe neprokecnes a nepotvrdis, co byla do ty doby jenom serie teoriii :D takhle jsi navysil moji jistotu o tvych kvalitach z temer-jiste na dokonale-potvrzene :D

    kdyz se teda zvladas a mas vsechno v hlave v pohode, tak to pro tebe nemuze bejt problem se priste trochu zamyslet nad tim, co pises, ne? :D

    lol
    22.8. 17:34 Want
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Co se čertíš ty psychotický demente? Nepiš kokotiny co se honí akorát ve tvém chorém mozku, co s realitou nic společného nemají a nikdo ti nebude ubližovat.

    22.8. 22:11 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    ok strike one, jeste dve carecky a posilam, mam to pripraveny na podani
    23.8. 14:34 Aleš Kapica | skóre: 52 | blog: kenyho_stesky | Ostrava
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Ty se zmůžeš leda na podání v ping-pongu.

    Zrovna včera jsem měl debatu s kamarádem, na kterého jeho bláznivá sestra neustále dává nějaké podání, ale jakmile dojde na platbu, tak ho okamžitě stáhne. A to je přesně ten moment, kdy se dozví, že to zase zkoušela, poněvadž jsou ze zákona povinni ho o této skutečnosti informovat. Jenže kdyby ji naopak pro neustálé obtěžování z její strany dal k soudu on, tak by jí dal příležitost aby ty svoje lži kdákala někam do protokolu. Takže raději dělá mrtvého brouka. Ale pochopitelně si klade otázku, proč zrovna jeho ségra musí být ulhaná, jeblá mrcha, která už pravděpodobně přišla o veškeré přátele co kdy měla, protože těm důvěřivým co připravila o prachy se raději vyhýbá a z těch nedůvěřivých pro ni stejně nikdy nic nekáplo.

    23.8. 14:44 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    jednej, jak myslis, pokud chces vsazet na tuhle tvoji teorii a bejt stejnej hajzl dal, jak vypada, ze chces, asi je to holt potreba, aby ses v tom poradne vykoupal
    23.8. 14:56 Aleš Kapica | skóre: 52 | blog: kenyho_stesky | Ostrava
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Nemůžu si pomoct, ale jako hajzl mi připadáš zrovna ty.

    23.8. 15:31 =
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    to je mi jasny, protoze se nasel nekdo, pres koho tvoje psychicka porucha neprochazi :-D tak zaridime, abys o ni mohl popremejslet pekne v klidu, co rikas, vsem v tvym okoli se ulevi

    marne hledam jedinej duvod, proc nad tim mavnout rukou a nechat to plavat, naopak pridavas duvody, proc te ne ze resit, ale vyresit
    23.8. 18:04 Aleš Kapica | skóre: 52 | blog: kenyho_stesky | Ostrava
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident
    Bystroushaak avatar 28.8. 20:17 Bystroushaak | skóre: 36 | blog: Bystroushaakův blog | Praha
    Rozbalit Rozbalit vše Re: OpenAI - HuggingFace incident

    Založit nové vláknoNahoru

    Tiskni Sdílej: Linkuj Jaggni to Vybrali.sme.sk Google Del.icio.us Facebook

    ISSN 1214-1267   www.czech-server.cz
    © 1999-2015 Nitemedia s. r. o. Všechna práva vyhrazena.