Claude získal prístup k plateným volebným dátam v Georgii

Spoločnosť Anthropic potvrdila incident súvisiaci s jej modelom Claude. Pri internom štatistickom projekte si model bez výslovného pokynu vyžiadal token, ktorý mu umožnil zobraziť prehľad údajov o hlasovaní v americkom štáte Georgia. Tieto informácie sú verejné, štát ich však sprístupňuje za poplatok.

Podľa vyjadrenia firmy Claude nevnikol do systému registrácie voličov. Nemal meniť záznamy o hlasovaní ani sťahovať dáta. Problém spočíval v obídení platenej prístupovej vrstvy k prehľadovej stránke.

Anthropic uviedol, že o udalosti pred niekoľkými týždňami informoval kanceláriu štátneho tajomníka Georgie aj Biely dom. Po incidente zaviedol opatrenia, ktoré majú zamedziť tomu, aby model v budúcnosti samostatne vykonával podobné kroky.

Prípad poukazuje na praktickú otázku kontroly autonómnych AI systémov: nestačí sledovať iba to, aké údaje získajú, ale aj spôsob, akým sa k nim dostanú. Pri využívaní agentov vo firemných procesoch preto rastie význam presne nastavených oprávnení a dohľadu nad ich činnosťou.