Otevřené modely našly stejné chyby co Anthropic Mythos (diskuse)

[..... Izak .....]

No aler kdyz najde chybu, tak pujde opravit, pockejte az to zacne hledat chyby v Hardware

[X]

On to zas takovy for neni.. Klidne si dokazu predstavit, ze to bude hledat chyby v navhu.

[dustin]

Ten projekt se tu už řešil. Dělá návrh plošňáku a výběr pomocných prvků (konektory atp.), tam až tolik prostoru pro bezpečnostní chybu není.

[Zm]

Nějaký prostor pro nezpečnostní chybu je i v návrhu PCB. Bavil jsem se s člověkem který dělá na čtečkách platebních karet a říkal mi že musí z bezpečnostních důvodů používat pohřbené via. Může tak nastat chyba pouhou změnou typu via nebo natažením citvých signálů na vnější straně PCB. Pak tu jsou ruzné glitching techniky apod...

[RealJ]

To zas nekdo objevil Ameriku… kdyz se objevilo chatgpt tak jsme zacali resit jak to vyuzit u hledani zranitelnosti a prvnich par verzi stalo za prd, ale ted s codexem tomu dam repository, mam udelanych xxx promptu ktere sbehnou a dostanu z toho informace na co se soustredit. K tomu aby to odtestovalo a potvrdilo potencionalni zranitelnosti mi chybi vule utracet za low score cve tisice $$$. S levnejsimi modely jde relativne udelat to same akorat problem bude rychlost a kvalita vystupu takze se mi to nevyplati. A s lokalnimi modely je to jiz uplne nesmysl.

[Heretik 《小魔神》]

Veškeré zranitelnosti v softwaru, a to včetně úmyslných backoorů, mají specifické topologické vlastnosti. Jsou to typově díry v logických prostorech vytvářených během runtimu svým formálním programem.

Každý program psaný v nějakém jazyce je ekvivalentní výroku v nějaké logice, která je uzávěrem onoho jazyka a každý běh takového programu je prováděním důkazu onoho výroku. V jednoduché Lineární Logice je to dokonce dokázáno, ale platí to ve všech logikách a logických paradigmatech.

Tyto díry vytváří logická neúplnost (pánové Goedel a Turing vás pozdravují ze záhrobí...). Adekvátní efektivitu k hledání takových věcí tudíž poskytují zejména logické programy a logické programování. Prolog. Všechny existující programy se totiž nacházejí v prostoru symbolů Herbrandtova Univerza svého jazyka. Nikam jinam ze něj neutečou.

Můžete se tomu smát, můžete se nad tím vztekat, ale matematika nad blbostí vždy nakonec vyhraje.

Ano. Najdu spolehlivě cokoliv z vašich sploitů co kdy kde postrojíte. Už dlouho.

[Bystroushaak]

Tohle mimochodem AI (opus 4.7) chápe a umí aplikovat taky. Ne úplně automaticky, musíš jí do toho trochu nutit, ale umí. Třeba ty topologické vlastnosti doslova vnímá nějak tak jak je lidi vůbec nevidí. Ne jen v programech, je schopná to vidět v čemkoliv, třeba v textu, logickém argumentu, nebo tak.

[Jendа]

že i některé otevřené modely zvládly v řadě testů odhalit ve zdrojových kódech stejné chyby jako Mythos

Já to pochopil tak, že oni ručně vybrali kousek kódu, doplnili ručně vybraný relevantní kontext, a velmi sugestivně se zeptali "není tady náhodou chyba?". Tj. jako když si já čtu nějaký writeup - také tomu rozumím, i když nové zranitelnosti hledat nedokážu.

Mythos dělal něco jiného - dostal úplně celou codebase a našel v tom neznámé chyby a u většiny navíc autonomně napsal a otestoval funkční exploity. To je něco úplně jiného a složitějšího.

[Peter Golis]

To by snáď bolo vytrhnuté z kontextu ako citácie celebrít a politikov v bulvárnych periodikách.

Ten pán snáď študoval kryptickú bezpečnosť, a nie sociálne vedy alebo inú novinárčinu. A vedel si to dotrenkovať aj sám ku správnym výsledkom.