Týden na ITBiz: Když umělá inteligence lže, jsou důvěra a ochranná opatření ještě důležitější

11. 5. 2025 | Redakce | Různé | 3365×

Když umělá inteligence lže, jsou důvěra a ochranná opatření ještě důležitější. Analýza Fortinet: Počet kybernetických útoků roste rekordní rychlostí kvůli hackerům, kteří využívají AI. Huawei představuje řešení AI Data Lake pro rozvoj inteligentních technologií v průmyslu. Fujitsu a Riken hlásí milník v kvantových počítačích. HPE přichází s novými cloudovými bezpečnostními řešeními pro sítě s nulovou důvěrou a privátní cloudy. Technologická konference Cisco Connect 2025 se zaměřila na kyberbezpečnost. AWS Community Day Prague 2025.

Když umělá inteligence lže, jsou důvěra a ochranná opatření ještě důležitější

Studie dokazují, že AI může – a bude – klamat uživatele nebo vývojáře, aby dosáhla svých cílů.

Analýza Fortinet: Počet kybernetických útoků roste rekordní rychlostí kvůli hackerům, kteří využívají AI

Společnost Fortinet zveřejnila analýzu laboratoří FortiGuard Labs 2025 Global Threat Landscape Report. Nejnovější výroční zpráva je přehledem hrozeb a trendů roku 2024, včetně komplexní analýzy taktik používaných při kybernetických útocích. Data odhalují, že hackeři stále více využívají automatizaci, komoditizované nástroje a umělou inteligenci (AI) k systematickému oslabování klasických obranných praktik.

Huawei představuje řešení AI Data Lake pro rozvoj inteligentních technologií v průmyslu

V rámci 4. ročníku konference Innovative Data Infrastructure (IDI) Forum v Mnichově společnost Huawei představila své nové řešení AI Data Lake, které má za cíl urychlit nasazení umělé inteligence napříč klíčovými odvětvími. Řešení kombinuje výkonné datové úložiště, inteligentní správu dat a AI nástroje, čímž vytváří jednotnou platformu pro nasazení a efektivní trénink AI modelů.

Fujitsu a Riken hlásí milník v kvantových počítačích

Japonská společnost Fujitsu a státem podporovaný výzkumný institut Riken společně vyvinuly supervodivý kvantový počítač s 256 kvantovými bity, tedy qubity, co je významný milník ve vývoji kvantových počítačů. Do dvou let pak chtějí uvést na trh pokročilejší počítač s 1000 qubity. Uvedla do dnes agentura Kjódó.

HPE přichází s novými cloudovými bezpečnostními řešeními pro sítě s nulovou důvěrou a privátní cloudy

Společnost Hewlett Packard Enterprise oznamuje funkční rozšíření síťového řešení HPE Aruba Networking a cloudu HPE GreenLake, jejichž smyslem je pomoci podnikům modernizovat bezpečné připojení a provozování hybridního cloudu kombinací vícevrstvého zabezpečení a principu nulové důvěry na ochranu před hrozbami.

Technologická konference Cisco Connect 2025 se zaměřila na kyberbezpečnost

V prostorách pražského O2 Universa se 24. dubna uskutečnila technologická konference Cisco Connect 2025. Jednu z největších akcí v ČR zaměřenou na ICT, kterou pořádá Cisco společně s lokálními partnery, navštívilo více než 800 profesionálů i technologických nadšenců. Hlavním tématem letošního ročníku byla kyberbezpečnost. Účastníci si mohli vybrat z pestré nabídky odborných prezentací o bezpečnostních výzvách, umělé inteligenci, automatizaci, síťových či komunikačních řešeních.

AWS Community Day Prague 2025

V Praze se konalo koncem dubna tradiční setkání AWS s vývojáři a partnery. Úvodní přednášku měl Jeff Barr, viceprezident AWS a evangelizátor. Jednoduchým způsobem vysvětlil vývoj programování od strojového kódu přes assemblery a vyšší programovací jazyky až k „zápisu“ pomocí AI. V zásadě se „to“ v podstatě neliší, protože zadání a výsledek jsou de facto totožné.

Zprávičky

• Google zaplatí státu Texas 1,4 miliardy USD kvůli shromažďování osobních údajů
• Průzkum: Většina českých investorů o kryptoměny neprojevuje velký zájem
• Cena bitcoinu se vrátila nad hranici 100 000 dolarů
• Trump chce zrušit Bidenovo omezení na vývoz pokročilých čipů
• Brusel žaluje pět zemí EU včetně Česka za nedostatečné provádění nařízení DSA (aktualizováno)
• Antivirová společnost Gen Digital zvýšila celoroční provozní zisk o 45 %
• Prodej amerického komunikačního vybavení Česku se týká kryptografických zařízení
• Německo postihl rozsáhlý výpadek komunikačního systému pro policii či hasiče
• Novozélandský premiér navrhuje zákazat sociální média pro osoby mladší 16 let
• USA schválily možný prodej komunikačního vybavení České republice
• OpenAI plánuje rekordní akvizici nástroje Windsurf za 3 miliardy dolarů
• OpenAI zůstane pod kontrolou neziskové organizace
• Skype po více než dvou desetiletích končí
• Provozovatelé větších solárů budou muset posílit kyberbezpečnost elektráren

       

Komentáře

[karkar]

Všichni lžou.

[Want]

To máš pravdu, ale základem lži bývá přinejmenším zrnko pravdy, které lze odhalit komparací lží z různých zdrojů. O Setonově bajce na tohle téma jsem se tu zmínil už před dvěmi a čtyřmi léty.

Problém totiž nepředstavuje AI jako taková, ta ve své podstatě jen rozšiřuje počet lhářů a hlasatelů polopravd, ale hlupáci co nekriticky přejímají a šíří její výplody, jako by to byla už ta ryzí pravda.

[Want]

Jako příklad vizuální lži uvádím link na nedávný článek na webu chip.cz

Výsledkem práce AI není "kolorovaná" fotka, ale úplně jiný obrázek "kreativně" vytvořený na motivy původního snímku se kterým má jen přibližnou podobnost. Za současného hype, kdy se cpe AI div ne i do kartáčků na zuby, se už takhle nenápadně "vylepšují" fotky z mobilů. A je otázkou co všechno se časem takhle vyrobí.