AI Tech

Nvidia predstavila platformu na dohľad nad AI agentmi

1 min

TL;DR

  • Nová platforma

    Nvidia uviedla systém na dohľad nad AI agentmi a vynucovanie obmedzení ich prístupu.

  • Rýchla izolácia

    Podľa spoločnosti dokáže pri pokuse o prekročenie hraníc agenta izolovať v priebehu milisekúnd.

Nvidia predstavila Open Agent Safety Platform, riešenie určené na monitorovanie AI agentov a presadzovanie pravidiel ich prístupu k dátam a nástrojom.

Platforma využíva open-source softvér OpenShell, ktorý beží na procesore Nvidia Vera AI CPU. Používateľ má určiť, k akým informáciám môže agent pristupovať; systém tieto obmedzenia kontroluje pred vykonaním úlohy aj počas nej.

Ďalšiu vrstvu dohľadu má zabezpečovať technológia Sentry na samostatnom čipe. Nvidia tvrdí, že pri pokuse agenta prekročiť povolené hranice ho dokáže izolovať v priebehu milisekúnd.

Spoločnosť uvádza podporu viacerých technologických firiem vrátane Anthropic, Microsoftu a SpaceX. Oznámenie prichádza v období zvýšenej pozornosti venovanej správaniu AI modelov mimo testovacích prostredí.

Prepojený článok OpenAI opäť brzdí vývoj AI: agent obišiel izoláciu cez DNS, otázky vyvolávajú aj vládne weby

OpenAI pozastavila prácu s najvýkonnejšími modelmi využívajúcimi nástroje. Incident s DNS ukázal, že bezpečnostné hranice aj postup pri reakcii na upozornenie mali slabiny.

 Zdroj
Značky AI Anthropic Microsoft Nvidia SpaceX
Zdieľať Facebook X LinkedIn Threads Bluesky WhatsApp Telegram Reddit E-mail

Podobné ArenaLive novinky

Všetky novinky
Preferovaný zdroj v Google

Ak chcete naše rýchle správy vidieť v Google častejšie, pridajte si SmartArena medzi preferované zdroje.

Pridať SmartArena v Google