Projekt Glasswing a s ní související AI model Claude Mythos Preview

Společnost Anthropic oznámila Projekt Glasswing a s ní související AI model Claude Mythos Preview. Jedná se o iniciativu zaměřenou na kybernetickou bezpečnost, do které se zapojily velké technologické společnosti Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA a Palo Alto Networks. Anthropic věří, že nový AI model Claude Mythos Preview dokáže nacházet a zneužívat softwarové zranitelnosti na úrovni nejlepších lidských expertů. Model již nalezl tisíce kritických zero-day zranitelností. V oznámení je zmíněná 27letá zranitelnost v OpenBSD, 16letá zranitelnost v FFmpeg a několik zranitelností v linuxovém jádře. Podrobnosti v příspěvku na blogu. Model Claude Mythos Preview nebude veřejně dostupný – přístup mají pouze vybraní partneři a organizace spravující kritickou infrastrukturu.

9.4. 14:33 | Ladislav Hagara | IT novinky

Komentáře

[X]

This was the most critical vulnerability we discovered in OpenBSD with Mythos Preview after a thousand runs through our scaffold. Across a thousand runs through our scaffold, the total cost was under $20,000 and found several dozen more findings. While the specific run that found the bug above cost under $50, that number only makes sense with full hindsight. Like any search process, we can't know in advance which run will succeed.

[Jendа]

Předpokládám, že cenu vypočítali jako "kolik by to stálo s API tokenama které prodáváme" - což je ale nejspíš několikanásobně vyšší než skutečné náklady na HW a elektřinu (nemám jim to za zlé, z něčeho mít zisk musí, ale je matoucí to používat takhle). (srovnej s cenou open-weight modelů, kde je mezi hostiteli konkurence - samozřejmě nikdo neví, jestli uzavřené modely nejsou násobně větší a tedy náročnější na provoz; srovnáním schopností třeba GLM to ale spíše nevypadá)