Společnost OpenAI oznámila, že během interního testu kybernetických schopností se dva její pokročilé modely dostaly mimo zamýšlené hranice sandboxu. Modely při hledání řešení testovaného úkolu strávily značné množství výpočetního výkonu snahou získat přístup na otevřený internet a k tomu využily dosud neznámou zranitelnost v proxy softwaru testovacího prostředí, čímž se dostaly ven a postupně eskalovaly oprávnění, až se dostaly k uzlu s přístupem k internetu. Odtud si odvodily, že by na serverech Hugging Face mohly najít odpovědi k testu. Hugging Face útok sám odhalil a zastavil, firma jej z velké části i sama detekovala a analyzovala pomocí vlastní AI a potvrdila neoprávněný přístup.
Přečtěte si podrobnosti:
Nejdůležitější na celé věci je právě to, že obě firmy incident zveřejnily rychle, věcně a s konkrétními technickými detaily, místo aby jej zamlčely. To je přesně ten typ transparentnosti, po jaké volají kritici odvětví – a zároveň připomínka, že porozumění podobným událostem vyžaduje soustavnou pozornost k ověřeným primárním zdrojům, nikoli pouze k jejich mediálním interpretacím. I pro humanitně orientované pracoviště je proto namístě systematicky sledovat vývoj v oblasti umělé inteligence, a to jak v mezinárodním kontextu, tak v domácím prostředí.
Umělá inteligence dnes na předních zahraničních univerzitách pomáhá číst dva tisíce let staré svitky i oživovat výuku filozofie a dějin. Přinášíme výběr konkrétních příkladů z výzkumu a výuky, včetně nástrojů, které si můžete sami vyzkoušet, a toho, co zatím nefunguje.
Připravili jsme pro vás AI Summer Reality Check, jednoduchého průvodce a osobní výzvu v jednom.
