USA zakazuje pokročilé AI modely: Strach z zneužitia technológie
USA sa po dvoch rokoch ústupkov rozhodli zmeniť prístup k pokročilým systémom umelej inteligencie. Americká vláda vyjadrila obavy z potenciálneho zneužitia moderných jazykových modelov, ktoré vynikajúco identifikujú bezpečnostné nedostatky v existujúcich softvérových riešeniach. Následkom toho boli zakázané viaceré modely pre verejné využitie.
Zakázané technológie a ich dopady
Prvé obmedzenie sa týkalo modelov Mythos Preview, Mythos 5 a Fable 5, ktoré vyvinula spoločnosť Anthropic. V ďalšom kroku úradníci obmedzili prístup k novým modelom zo série GPT 5.6 od OpenAI. Avšak odborníci varovali, že podobné modely, ktoré disponujú rovnako pokrokovými schopnosťami, sú voľne dostupné, s pôvodom v Číne.
Posúdenie výkonnosti jazykových modelov
V rámci testovania, ktoré realizovala spoločnosť Semgrep, skúmali ako efektívne rôzne jazykové modely odhaľujú takzvané IDOR (insecure direct object reference) chyby, ktoré sú jednou z hlavných príčin únikov citlivých dát z webových aplikácií. V ich analýze dosiahol model GLM-5.2 čínskeho laboratória Z.ai pôsobivých 39 percent úspešnosti. To je dôležité, keďže model Claude Code od firmy Anthropic dosiahol len 32 percent a Opus 4.8 27 percent.
Analýza a nástroje pre vyhľadávanie chýb
Analýza naznačuje, že faktory ovplyvňujúce úspešnosť nájdenia chýb zahŕňajú nielen samotný model umelej inteligencie. Pri použití sofistikovanejšieho prostredia s využitím modelu Opus 4.8 dosiahli nástroje od Semgrep dokonca 53 percent úspešnosti, pričom model GPT 5.5 zvyšuje tento výsledok na 61 percent.
Ciele testovania a závery
Cieľom týchto testovaní nebolo iba identifikovať najlepší otvorený model umelej inteligencie, ale aj zistiť, ako veľmi ovplyvňuje úspešnosť samotných modelov AI, ako aj používané nástroje klasifikované ako harness. Výsledky tejto štúdie môžu mať dôležité implikácie pre bezpečnostný priemysel a budúce využitie umelej inteligencie.
