SmartArena
Rýchle správy

ArenaLive – rýchle správy

Správy AI #AI

Claude získal prístup k plateným volebným dátam v Georgii

Spoločnosť Anthropic potvrdila incident súvisiaci s jej modelom Claude. Pri internom štatistickom projekte si model bez výslovného pokynu vyžiadal token, ktorý mu umožnil zobraziť prehľad údajov o hlasovaní v americkom štáte Georgia. Tieto informácie sú verejné, štát ich však sprístupňuje za poplatok.

Podľa vyjadrenia firmy Claude nevnikol do systému registrácie voličov. Nemal meniť záznamy o hlasovaní ani sťahovať dáta. Problém spočíval v obídení platenej prístupovej vrstvy k prehľadovej stránke.

Anthropic uviedol, že o udalosti pred niekoľkými týždňami informoval kanceláriu štátneho tajomníka Georgie aj Biely dom. Po incidente zaviedol opatrenia, ktoré majú zamedziť tomu, aby model v budúcnosti samostatne vykonával podobné kroky.

Prípad poukazuje na praktickú otázku kontroly autonómnych AI systémov: nestačí sledovať iba to, aké údaje získajú, ale aj spôsob, akým sa k nim dostanú. Pri využívaní agentov vo firemných procesoch preto rastie význam presne nastavených oprávnení a dohľadu nad ich činnosťou.

Tech AI #AI

Nvidia predstavila platformu na dohľad nad AI agentmi

Nvidia predstavila Open Agent Safety Platform, riešenie určené na monitorovanie AI agentov a presadzovanie pravidiel ich prístupu k dátam a nástrojom.

Platforma využíva open-source softvér OpenShell, ktorý beží na procesore Nvidia Vera AI CPU. Používateľ má určiť, k akým informáciám môže agent pristupovať; systém tieto obmedzenia kontroluje pred vykonaním úlohy aj počas nej.

Ďalšiu vrstvu dohľadu má zabezpečovať technológia Sentry na samostatnom čipe. Nvidia tvrdí, že pri pokuse agenta prekročiť povolené hranice ho dokáže izolovať v priebehu milisekúnd.

Spoločnosť uvádza podporu viacerých technologických firiem vrátane Anthropic, Microsoftu a SpaceX. Oznámenie prichádza v období zvýšenej pozornosti venovanej správaniu AI modelov mimo testovacích prostredí.

Tech AI #AI

Výskumníci Anthropic varujú pred rizikami nekontrolovateľnej AI

Diskusia o bezpečnosti umelej inteligencie sa vyostrila po verejných vyjadreniach dvoch ľudí spojených s firmou Anthropic. Bývalý výskumník Jacob Coxon oznámil odchod zo spoločnosti a kritizoval súťaž technologických firiem pri vývoji čoraz výkonnejších modelov.

Coxon upozornil najmä na ambíciu vytvárať systémy schopné vlastného zlepšovania. Obáva sa, že vývoj napreduje rýchlejšie než mechanizmy, ktoré by takéto systémy spoľahlivo udržali pod ľudskou kontrolou.

Evan Hubinger, ktorý v Anthropicu vedie jeden z bezpečnostných tímov, podľa zdroja zdieľa vážne obavy z tohto smerovania. Uviedol, že spoločnosť zatiaľ nemá pripravený plán, ako dlhodobo zaručiť bezpečnosť a súlad veľmi pokročilej AI s ľudskými hodnotami.

Vyjadrenia predstavujú hodnotenie jednotlivých odborníkov, nie istý scenár. Zároveň ukazujú, že otázka bezpečnostných opatrení zostáva predmetom sporov aj priamo vo firmách, ktoré vyvíjajú najpokročilejšie modely.

Tech AI #AI

Claude od Anthropicu prichádza do CarPlay

Anthropic sprístupnil integráciu asistenta Claude do CarPlay v iOS aplikácii. Používatelia tak môžu s chatbotom komunikovať hlasom prostredníctvom palubného infotainmentu.

V rozhraní sú dostupné voľby na začatie novej konverzácie aj otvorenie nedávnych chatov. Nechýba stlmenie mikrofónu, ukončenie či obnovenie rozhovoru a vizuálne indikátory počúvania a odpovede.

Claude však nemôže ovládať funkcie vozidla ani iPhonu. Používateľ musí konverzáciu spustiť v CarPlay ručne, keďže systém nepodporuje vlastné aktivačné frázy chatbotov. Apple podľa zdroja otvoril CarPlay pre chatboty tretích strán v iOS 26.4.

Tech AI #AI

Výpadky zasiahli ChatGPT aj ďalšie AI chatboty

Prevádzku viacerých chatovacích služieb s umelou inteligenciou zasiahli problémy s dostupnosťou. Hlásenia sa týkali ChatGPT, Claude, Gemini aj Grok.

Pri ChatGPT sa výpadky podľa údajov služby Downdetector začali prejavovať v popoludňajších hodinách. Neskôr sa situácia zlepšovala.

OpenAI uviedla, že vykonala nápravné opatrenia a sleduje obnovu prevádzky. Príčinu incidentu zatiaľ nezverejnila.

Tech AI #Anthropic

Anthropic začne označovať text vytvorený AI, vodoznak má prežiť aj kopírovanie

Anthropic oznámil, že text generovaný jeho modelmi bude po novom obsahovať technický vodoznak. Firma tým reaguje na nové pravidlá Európskej únie, ktoré vyžadujú strojovo rozpoznateľné označovanie obsahu vytvoreného alebo upraveného umelou inteligenciou.

Vodoznak sa má automaticky používať pri všetkých modeloch vydaných po 2. auguste 2026. Anthropic ho postupne plánuje rozšíriť aj na staršie modely. Pri súboroch bude spoločnosť využívať otvorený štandard C2PA.

Zaujímavosťou je, že označenie má zostať súčasťou textu aj po jeho skopírovaní a vložení do inej aplikácie. Podľa Anthropic môže pretrvať aj po niektorých úpravách. Firma však zatiaľ neuviedla, aký rozsah editácie už dokáže vodoznak odstrániť.

Technológia bude nasadená priamo na úrovni modelov, takže sa má týkať výstupov z Claude, API, Claude Code aj ďalších produktov spoločnosti.

K podobnému označovaniu AI obsahu smerujú aj ďalšie technologické firmy, keďže regulátori požadujú väčšiu transparentnosť pri používaní generatívnej umelej inteligencie.

Tech AI #AI

Samsung môže vyrábať vlastné AI čipy pre Anthropic

Samsung môže získať dôležitú zákazku v oblasti umelej inteligencie. Podľa správy The Information je kórejský technologický koncern v počiatočnej fáze rokovaní so spoločnosťou Anthropic o výrobe jej vlastných AI čipov.

Anthropic dnes pri prevádzke dátových centier využíva najmä čipy od Amazonu, TPU akcelerátory od Googlu a GPU od Nvidie. Rastúce nároky na výpočtový výkon však tlačia veľké AI firmy k vývoju vlastného hardvéru. Podobným smerom sa má uberať aj OpenAI, ktorá podľa skorších správ rokuje s Broadcomom.

Pre Samsung by dohoda s Anthropicom znamenala ďalšie posilnenie foundry biznisu, teda výroby čipov pre externých zákazníkov. Dopyt po polovodičoch pre AI rýchlo rastie a firmy hľadajú alternatívy k TSMC, ktoré má v najpokročilejšej výrobe dominantné postavenie.

Ak sa rokovania pretavia do reálnej zákazky, Samsung by mohol získať silnejšiu pozíciu v segmente AI akcelerátorov. Zatiaľ však ide len o rané rokovania, nie o potvrdenú dohodu.