Týden na ITBiz: Halucinace balíčků při programování AI

27. 4. 2025 | Redakce | Různé | 3105×

Halucinace balíčků při programování AI: Nejlépe vyšly modely GPT, Python je méně náchylný než JavaScript. Nedostatky na perimetru sítě oslabují kybernetickou odolnost. Přes 80 % subjektů kritické infrastruktury investuje do provozních technologií méně než polovinu svých rozpočtů na kyberbezpečnost. Dell Technologies přináší inovace v oblasti podnikové umělé inteligence s využitím technologií NVIDIA.

Halucinace balíčků při programování AI: Nejlépe vyšly modely GPT, Python je méně náchylný než JavaScript

Halucinace balíčků při vývoji softwaru pomocí modelů LLM vytváří nejen chyby, ale může vést i k bezpečnostním zranitelnostem. Komplexní studii na toto téma nyní provedli výzkumníci z University of Texas (San Antonio) a dalších akademických institucí.

Nedostatky na perimetru sítě oslabují kybernetickou odolnost

Sophos zveřejnil svou výroční studii „Threat Report: Cybercrime on Main Street 2025“, ve které odborníci na kybernetickou bezpečnost analyzují telemetrická data nashromážděná v roce 2024 z řešení společnosti Sophos, případů reakce na incidenty a služeb typu MDR. Podle studie zůstává ransomware největší hrozbou, zejména pro malé a středně velké podniky, a těží především ze zastaralých nebo špatně nakonfigurovaných síťových zařízení, která jsou pro kyberzločince hlavní vstupní branou.

Přes 80 % subjektů kritické infrastruktury investuje do provozních technologií méně než polovinu svých rozpočtů na kyberbezpečnost

Průmyslové řídicí systémy (ICS) a provozní technologie (OT) jsou zásadní pro sektory kritické infrastruktury. Efektivní ICS/OT bezpečnost zajišťuje prevenci před potenciálními katastrofickými incidenty, udržuje důvěru veřejnosti, ekonomickou stabilitu a národní bezpečnost. Přes 80 % subjektů ale do zabezpečení provozních technologií kritické infrastruktury investuje méně než polovinu svých rozpočtů na kyberbezpečnost. 55 % firem a organizací přitom potvrzuje, že rozpočty na kybernetickou bezpečnost v posledních dvou letech rostly. Pouze 9 % z nich se však věnuje ICS/OT bezpečnosti na sto procent, což ukazuje na potenciální mezeru mezi finančními a lidskými zdroji. Vyplývá to z údajů české společnosti ComSource a z výzkumu globální bezpečnostní firmy OPSWAT.

Dell Technologies přináší inovace v oblasti podnikové umělé inteligence s využitím technologií NVIDIA

U příležitosti ročního výročí uvedení Dell AI Factory ve spolupráci se společností NVIDIA společnost Dell Technologies oznamuje nová vylepšení v oblasti PC s umělou inteligencí, infrastruktury, softwaru a služeb, která urychlí inovace v oblasti umělé inteligence u zákazníků všech velikostí.

Zprávičky

• Firmě SK Hynix, dodavateli Nvidie, vzrostl v prvním čtvrtletí zisk o 158 %
• Sněmovna schválila zákon o kybernetické bezpečnosti s většími pravomocemi vlády
• Tržby Alphabet vzrostly na 90,23 miliardy dolarů, překonaly očekávání
• Evropa vyvine vlastní procesory pro superpočítače. Zapojí se i ČR
• Apple dostal od Evropské komise pokutu 500 milionů eur, Meta 200 milionů eur
• OpenAI by měla zájem o prohlížeč Chrome, pokud by Google byl nucen ho prodat
• Hrozby pro Android: Lidé nechtějí platit za prémiové služby, zneužívají toho podvodníci
• Intel chce propustit více než 20 % zaměstnanců
• Spojené arabské emiráty budou k tvorbě zákonů využívat umělou inteligenci
• Softwarové firmě Moravia IT z Brna rostly loni tržby, přesáhly 4 mld. Kč
• Prodej chytrých hodinek v Česku loni stoupl o 5 %
• Google podle soudu ve Spojených státech potlačuje konkurenci v on-line reklamě

       

Komentáře

[Aleš Kapica]

Halucinace balíčků při vývoji softwaru pomocí modelů LLM vytváří nejen chyby, ale může vést i k bezpečnostním zranitelnostem.

To je nám ale novina.