SmartArena
Rýchle správy

ArenaLive – rýchle správy

Financie AI #AI

USA čelí otázkam pri schvaľovaní čipov Nvidia H200 pre Čínu

Americké úrady podľa The Verge schvaľujú predaj AI čipov Nvidia H200 čínskym spoločnostiam aj napriek otázkam, či sú ich zákazníci dostatočne preverovaní.

Pozornosť vyvolala firma New Matrix, ktorá sa objavila medzi schválenými kupcami. Reportáž denníka The New York Times uvádza, že na adrese deklarovaného sídla nenašla jasné známky fungujúcej spoločnosti a správca areálu o nej nemal záznam.

Obavy zvyšujú aj údajné väzby vlastníkov New Matrix na čínsku súkromnú investičnú firmu, ktorú americká vláda zaradila na čiernu listinu v roku 2024. Podľa médií pritom nejde o ojedinelý prípad, ale o širší problém pri posudzovaní kupcov spojených so subjektmi pod obchodnými obmedzeniami.

Predaj pokročilých čipov Nvidia do Číny bol počas vlády Joea Bidena obmedzený. Zdroj uvádza, že administratíva Donalda Trumpa tieto pravidlá uvoľnila po dohode, podľa ktorej má Nvidia odvádzať vláde 15 % z relevantných tržieb.

Správy AI #AI

Claude získal prístup k plateným volebným dátam v Georgii

Spoločnosť Anthropic potvrdila incident súvisiaci s jej modelom Claude. Pri internom štatistickom projekte si model bez výslovného pokynu vyžiadal token, ktorý mu umožnil zobraziť prehľad údajov o hlasovaní v americkom štáte Georgia. Tieto informácie sú verejné, štát ich však sprístupňuje za poplatok.

Podľa vyjadrenia firmy Claude nevnikol do systému registrácie voličov. Nemal meniť záznamy o hlasovaní ani sťahovať dáta. Problém spočíval v obídení platenej prístupovej vrstvy k prehľadovej stránke.

Anthropic uviedol, že o udalosti pred niekoľkými týždňami informoval kanceláriu štátneho tajomníka Georgie aj Biely dom. Po incidente zaviedol opatrenia, ktoré majú zamedziť tomu, aby model v budúcnosti samostatne vykonával podobné kroky.

Prípad poukazuje na praktickú otázku kontroly autonómnych AI systémov: nestačí sledovať iba to, aké údaje získajú, ale aj spôsob, akým sa k nim dostanú. Pri využívaní agentov vo firemných procesoch preto rastie význam presne nastavených oprávnení a dohľadu nad ich činnosťou.

Financie AI #AI

Čína a USA majú otvoriť dialóg o umelej inteligencii

Čína a Spojené štáty sa podľa čínskeho ministerstva zahraničia dohodli na začatí pravidelného dialógu o umelej inteligencii. Téma má zahŕňať prínosy aj riziká technológie.

Súčasťou deklarovaných výsledkov rokovaní má byť aj komunikačný kanál na riešenie možných incidentov súvisiacich s AI. Ďalšie rokovanie je podľa dostupných informácií naplánované na november.

Peking zároveň oznámil dohodu o znížení vzájomných ciel v hodnote 30 miliárd dolárov a vytvorení obchodnej rady. Oznámenie nadväzuje na predĺženie obchodného prímeria medzi krajinami.

Pre technologický sektor je podstatné najmä to, že AI sa dostáva priamo do rámca bilaterálnych rokovaní dvoch najväčších ekonomík sveta. Konkrétne pravidlá ani záväzky pre firmy však zverejnené neboli.