Společnost OpenAI představila AI model Sora pro generování realistických videí z textového popisu (diskuse)

[Salamek]

Musime zacit veskery audiovizualni obsah digitalne podepisovat, zalozit nejakou autoritu co bude vydavat certy a do vsech "ctecek" tohoto obsahu dat validaci tech podpisu... (skoro jako s SSL, jen lip kontrolovat vydavani a revokaci). Do fotaku/kamer primo podepisovat na SOC.. Jinak se z tech fejku zblaznime.

[RealJ]

Rekneme, ze ti fotak bude podepisovat fotky a ty je nasledne v grafickem editoru upravis (treba kontrast) a jiz mas nepodepsanou fotku. Nebo si myslis, ze treba do Gimpu nekdo dodela potrebnou funkcionalitu rekneme v radu par let? :D Nez by byla vsude podpora nejakeho standardu tak by jiz existovali zpusoby jak to ochcat. Krome toho - dnes se treba obycejne zpravodajstvi podepisuje? Nebo jakou mas jistotu ze ti treba na CT rikaji pravdu? Ja bych spise rekl ze je nutne pouzivat hlavu a neverit tomu ze ti Elon chce vyhodne poradit tak investovat...

[Salamek]

> Rekneme, ze ti fotak bude podepisovat fotky a ty je nasledne v grafickem editoru upravis (treba kontrast) a jiz mas nepodepsanou fotku. Nebo si myslis, ze treba do Gimpu nekdo dodela potrebnou funkcionalitu rekneme v radu par let? :D

Zrovna digitalni podepisovani je easy, dodelat to do gimpu by nebyl problem.

>Nez by byla vsude podpora nejakeho standardu tak by jiz existovali zpusoby jak to ochcat.

Zpusoby jak to ochcat? Bavime se o digitalnich podpisech, pri takovem uvaznovani se rovnou muzem vykaslat na celou kryptografii ne? Proc sifrovat disky kdyz to nekdo ochcije? GPG? SSH? k nicemu, pojdme pouzivat plaitext hesla... OMG.

> Krome toho - dnes se treba obycejne zpravodajstvi podepisuje?

Zpravodajstvi zacit podepisovat taky kdyz uz by meli ty certifikaty, proc ne.

> Nebo jakou mas jistotu ze ti treba na CT rikaji pravdu?

Co mate vsichni s tou CT? Ja televizi nevidel tak minimalne 10let, ale k podstate veci, je mi prdel co kde jake medium rika (dava context) media majit reportovat o vecech co se staly bez nejakeho biasu a to se v dnesni dobe dela dobre jen nezvratnymi dukazy kteremi mohou/nemohou svuj context podložit. Ty dukazy byly/jsou audiovizualni dila z vice zdroju, kdyz je ted muze kazdy za pouziti AI sfalsovat...

> Ja bych spise rekl ze je nutne pouzivat hlavu a neverit tomu ze ti Elon chce vyhodne poradit tak investovat...

Elmovi ted muzou verit jen mentalne zaostali jedinci po tom co predvadi na Twitteru, ale jak chces pouzivat hlavu kdyz vsechny vstupy pujdou jednoduse zfalsovat? Text, zvuk, obraz, video... vsechno v brzke dobe zvladne zfalsovat "pepa z horni dolni" za par hodin s minimalnimi naklady.

Napr. teoreticka situace: nekdo ve tvem okoli kdo ma dostatek tvych vizualnich dat (treba soused, "pratele" na socce) vytvori video kde soulozis se svym psem a anonyme to pusti na socky, jak se obhajis kdyz nepujde jednoznacne prokazat ze to je fake? Ve "spolecnosti" co navrhuji takova tvorba nebude mit validni certifikat nebo bude mit certifikat dane AI sluzby/SW... ale to se ti nelibi takze budes pro okoli navzdy "mrdac psu".

[RealJ]

Ty jsi hodne mimo. Gimp nema zakladni funkcionalitu po 20ti letech vyvoje a ty myslis ze implementuji cokoliv snadne. Good luck! Kdyz tvuj soused zverejni video jak mrdas psa a to video bude nepodepsane tak stejne 99% populace bude “vedet” ze mrdas psa a zadny chybejici podpis to neresi. Nejses Izakuv pribuzny?

[Salamek]

Ja ze jsem hodne mimo? Kolikrat za zivot jsi implementoval digitalni podpisy do aplikace co? 0x ze? Stejne jako se lidi a hlavne aplikace naucily neduverovat http se aplikace a lidi nauci neduverovat nepodepsanym audiovizulanim dilum. Nevim kdo je "Izak", ale ty zacinas znit jako nekdo kdo mel za rodice pribuzny...

[RealJ]

Porad nechapes ze to neni o implementaci nejakeho podpisu? To ze tvuj tata rikal tve mame sestra nemuzes aplikovat na kazdeho.

[koroptev]

ale on fakt mrda psa

[Jožin z Bažin]

Pomluvy a podvrhy jsou tu co svět světem stojí, novinka se časem se to okouká a lidi to začnou ignorovat. Co se týká podpisu tak lze dosáhnout toho aby krabička pro pořízení záznamu přiložila čas a souřadnice, celé to podepsala a pokud se to udělá pořádně tak to bude pro běžného Frantu dost velká překážka, osobně si myslím že každý kdo pořizuje záznamy pro použití u soudu by tohle měl používat už dávno. Jasně že i tohle lze obejít, krabička nemá jak zjistit zda to co zaznamenává je skutečnost nebo sehraná scéna, jestli to není jen signál z něčeho jiného, o cinknuté krabične ani nemluvě... ale kvalitní podvrh bude v takovém případě náročný takže ho nezvládne každý a o to jde. Teď ten software: pokud udělám úpravu tak kde bude hranice mezi "ještě vyhlazuji vrásky" a "už vyměňuju ksicht"? takže aby to bylo důvěryhodné tak původní podepsaná data bude nutné přibalit, nebo nahrát někam kde je bude možné v případě potřeby porovnat. Pokud ale původní data nebudu moc poslat dál tak mám smůlu leda že bych obě verze poslal nějaké autoritě a ta to podepsala pokud shledá že úpravy jsou ok - a přesně takhle to nejspíš skončí. Fotokrám pošle všechno do adobe čoudu tam se to vyhodnotí a vrátí se "nová" fotka s metadaty a podpisem. A není to vůbec o prolamování kryptografie, je to o tom že žádná kryptografie neručí za to že nepodepisuju falsum.

[X]

.. Jinak se z tech fejku zblaznime.

Ceho bych se mel bat?

[xXx]

Videa jak lizes Alesovi prdel.

[..... Izak .....]

To uz se skryte deje, aby police umela detekovat fotak nebo mobil, kterym se to vyfotilo - ale kdyz se to upravi, tak to zmizi