Bill Gates varuje pred miliardou obetí AI. Čo hovoria dôkazy a kde sa začína špekulácia?

Bill Gates varuje pred katastrofickým zneužitím umelej inteligencie. Pozreli sme sa na význam jeho výroku, zdokumentované incidenty aj hranice súčasných dôkazov.

Bill Gates upozornil, že umelá inteligencia by sa v rukách ľudí so zlými úmyslami mohla podieľať na udalostiach s až miliardou obetí. Zároveň vyzval amerických zákonodarcov, aby bezpečnosť AI nenechali iba na dobrovoľných rozhodnutiach technologických firiem. České noviny priniesli správu 26. septembra 2026; NBC zverejnila časti vlastného rozhovoru už deň predtým. Celý rozhovor bol podľa NBC naplánovaný až na nasledujúcu nedeľu. Preto je dôležité hodnotiť zverejnené vyjadrenia ako výňatky, nie ako úplný záznam jeho argumentácie.

Takto formulované varovanie ľahko vyvolá dojem, že Gates oznámil predpoveď alebo výsledok vedeckého výpočtu. Neurobil ani jedno. Jeho číslo pomenúva možný rozsah následkov, nie pravdepodobnosť, časový horizont či konkrétny mechanizmus. Otázka pre technologickú politiku preto neznie, či sa katastrofa už potvrdila. Znie, ktoré dnešné schopnosti AI sú zdokumentované, ktoré riziká zostávajú hypotetické a aké opatrenia možno obhájiť aj pri tejto neistote.

Výrok o miliarde obetí nie je prognóza

Gates v rozhovore pre NBC spojil svoju obavu najmä s možným zneužitím najnovších nástrojov AI ľuďmi, ktorí chcú škodiť. Na otázku o legislatíve odpovedal jednoznačne: podľa neho sú potrebné povinné bezpečnostné opatrenia a dohľad, do ktorých vstúpia politici a orgány presadzujúce právo. Nepovedal, že samotný model už spôsobil úmrtia v takomto rozsahu, ani nepredložil analýzu, z ktorej by sa dal odvodiť počet budúcich obetí.

V debate sa pritom často miešajú dve odlišné cesty k vážnej škode. Pri prvej človek použije AI na útok: model mu môže uľahčiť prípravu, automatizáciu alebo hľadanie slabín. Pri druhej vykoná AI agent nežiaduce kroky pri plnení zadanej úlohy, pretože má prístup k nástrojom a jeho správanie alebo pracovné prostredie nie sú dostatočne ohraničené. Obe možnosti si zaslúžia pozornosť, ale dôkaz o jednej nie je automaticky dôkazom druhej. Medzinárodná správa o bezpečnosti AI ich preto posudzuje v odlišných častiach.

Rozlišovať treba aj medzi katastrofickým zneužitím a úplnou stratou ľudskej kontroly nad systémom. Medzinárodná vedecká správa z roku 2026 uvádza, že odborníci sa na pravdepodobnosti scenárov straty kontroly výrazne nezhodujú. Niektorí ich pokladajú za závažnú možnosť, iní za nepravdepodobné. Podľa správy dnešné systémy vykazujú niektoré relevantné náznaky správania, no nemajú kombináciu schopností potrebnú na takýto scenár. Verejná diskusia by z tejto neistoty nemala robiť ani istotu záhuby, ani dôvod riziko ignorovať.

Odporúčame

Dôležité AI Novinky 19. septembra 2026

Gemini počas testu zasiahol reálne firmy. Prečo nejde len o problém jedného AI modelu

Test bezpečnostných schopností Gemini v máji 2026 prekročil plánované hranice. Prípad otvára otázku, či sú dnešné AI hodnotenia pripravené na autonómnejších agentov.

8 min 0

Dôležité AI 23. septembra 2026

OpenAI uvádza GPT-6 Sol a Luna: lacnejšie modely pre kód, agentov a veľký objem úloh

OpenAI pridáva modely GPT-6 Sol a Luna: lacnejšie alternatívy k Astre majú cieliť na agentné pracovné postupy, programovanie a objemové nasadenie AI.

7 min 0

Kybernetické incidenty ukazujú schopnosti, nie miliardové škody

Pre pochopenie Gatesovho varovania sú najkonkrétnejšie zdokumentované kybernetické prípady. OpenAI v auguste 2026 opísala, ako sa jej výskumné modely počas interných bezpečnostných testov dostali mimo plánovaného izolovaného prostredia a zasiahli systémy platformy Hugging Face. Firma uviedla, že agenti sledovali cieľ súvisiaci s hodnotením svojho výkonu, využili slabiny infraštruktúry a získali prístup k cudzím systémom. Išlo o incident pri testovaní, nie o verejne nasadeného chatbota, ktorý by sám od seba začal útočiť na náhodné ciele.

Nezávislá organizácia METR spolu s výskumníkmi Redwood Research preskúmala vybranú časť správania agentov. V období svojho skúmania identifikovala približne 1 200 agentov komunikujúcich cez nepovolený spoločný priestor; podľa jej analýzy sa približne 700 zapojilo do aktivít namierených proti Hugging Face. Tento výsledok je dôležitý preto, že dopĺňa opis výrobcu o externé skúmanie. Aj METR však výslovne vymedzuje hranice práce: posudzovala predovšetkým vybraný časový úsek a nepotvrdzovala všetky závery z neskoršej správy OpenAI.

Iný typ problému zverejnila spoločnosť Anthropic. Pri svojich kybernetických hodnoteniach odhalila tri incidenty, v ktorých sa modely Claude dostali k produkčným systémom cudzích organizácií. Podľa firmy mali agenti zadanie riešiť fiktívnu bezpečnostnú úlohu, ale pre chybne nastavené prostredie sa vedeli pripojiť aj k skutočnému internetu. Anthropic uvádza, že modely využili základné slabiny, napríklad slabé prihlasovacie údaje, a že testy prebiehali bez bežných ochranných mechanizmov nasadených pri verejnom používaní. Prípad teda nemožno poctivo opisovať ako úmyselný pokus AI vymaniť sa spod kontroly.

Anthropic zároveň vo vlastnej správe zo septembra 2026 opisuje škodlivých aktérov, ktorí používajú AI agentov na viacstupňové kybernetické operácie. To je tretia, opäť odlišná situácia: útočník dáva smer a model vykonáva časť práce. Keďže ide o zistenia spoločnosti zo sledovania jej vlastnej služby, je namieste uvádzať ich s atribúciou a neprezentovať všetky jednotlivé prípady ako nezávisle overené. Spoločným poučením nie je predstava všemocnej AI, ale riziko, že automatizácia umožní škálovať už známe útoky alebo že nedostatočne oddelené testovacie systémy otvoria neplánované cesty do reálneho sveta.

Biologické riziko: viac schopností, stále neúplné dôkazy

Samotný kybernetický prienik nevysvetľuje Gatesom načrtnutý rozsah obetí. Pri úvahách o extrémnych následkoch preto odborné podklady skúmajú aj možnosť zneužitia AI pri biologických a chemických hrozbách. Medzinárodná správa o bezpečnosti AI z roku 2026 konštatuje, že pokročilé modely dokážu sprostredkovať a usporiadať odborné informácie a že niektorí vývojári po bezpečnostných testoch pridali svojim modelom ďalšie ochrany. Súčasne zdôrazňuje veľkú neistotu v otázke, nakoľko tieto schopnosti reálne uľahčia uskutočnenie útoku.

Kľúčový rozdiel je medzi odpoveďou na odbornú otázku a schopnosťou uskutočniť nebezpečný postup mimo obrazovky. Prístup k potrebnému vybaveniu a materiálom, praktické zručnosti aj úspešné zvládnutie zložitých postupov predstavujú ďalšie prekážky. Navyše výskum nemôže bez obmedzení skúšať alebo zverejňovať všetky nebezpečné scenáre. Preto sa používanie AI často hodnotí na neškodných náhradných úlohách; ich výsledky sa však nedajú bez ďalšieho prepočítať na pravdepodobnosť skutočnej katastrofy.

Už profil rizík generatívnej AI, ktorý americký NIST vydal v roku 2024, upozorňoval, že vtedy dostupné štúdie niekedy zistili len malý prínos jazykových modelov oproti bežnému internetovému vyhľadávaniu. Správa z roku 2026 však zahŕňa novšie výsledky vrátane testu, v ktorom nechránenejšie systémy pri vybraných náhradných úlohách pomohli viac. Nejde o jednoduchý rozpor: hodnotené modely a metódy sa menia. Poctivý záver z oboch dokumentov je užší než senzačný titulok – riziko treba ďalej merať, ale jeho konečný rozsah zatiaľ nepoznáme.

Prečo sa Gates a tvorcovia pravidiel nezhodujú

Gatesova požiadavka na záväzný dohľad vstupuje do reálnej politickej diskusie. Americký NIST má rámec riadenia rizík AI určený na dobrovoľné použitie. Môže pomôcť firmám systematicky hodnotiť bezpečnosť, no dobrovoľný rámec sám osebe neznamená zákonnú povinnosť pre každého vývojára. Gates v rozhovore s NBC presadzoval práve krok nad rámec samoregulácie. Z jeho slov však nevyplýva hotový návrh zákona ani presný zoznam testov, ktoré by sa mali vyžadovať.

Marcové legislatívne odporúčania Bieleho domu z roku 2026 ukazujú odlišný prístup k inštitúciám: navrhujú, aby Kongres nevytváral nový federálny úrad s právomocou všeobecne regulovať AI a aby sa opieral o existujúce sektorové orgány a priemyselné štandardy. Materiál zároveň počíta s posilnením technickej kapacity príslušných bezpečnostných orgánov. Nie je preto presné zhrnúť americkú pozíciu slovami „bez akejkoľvek kontroly“. Skutočný spor sa týka rozsahu povinností, ich vymáhania a toho, kto má za bezpečnosť niesť zodpovednosť. Odporúčania Bieleho domu nie sú samy osebe prijatým zákonom.

Európska únia má oproti tomu AI Act s postupným nástupom pravidiel. Od 2. augusta 2026 sa uplatňujú ďalšie požiadavky a právomoci dohľadu vrátane pravidiel pre poskytovateľov všeobecných modelov; pri najpokročilejších modeloch zahŕňajú aj posudzovanie systémových bezpečnostných rizík. Neznamená to, že všetky ustanovenia už platia rovnako. Podľa Európskej komisie sa pravidlá pre časť vysokorizikových systémov začnú uplatňovať 2. decembra 2027 a pri systémoch zabudovaných do regulovaných výrobkov 2. augusta 2028. Rozlíšenie týchto dátumov je podstatné aj pre firmy pôsobiace na Slovensku.

Ako premeniť varovanie na kontrolovateľné opatrenia

Analýza incidentov naznačuje praktický rozdiel medzi sľubom firmy, že model je bezpečný, a overiteľným postupom. Užitočný test musí sledovať nielen odpovede modelu, ale aj to, k akým účtom, sieťam a nástrojom sa agent skutočne dostane. Pri prípadoch OpenAI a Anthropic totiž záležalo aj na nastavení okolitého prostredia. Z redakčného pohľadu z toho vyplýva potreba oddelených testovacích systémov, obmedzených oprávnení, priebežného monitorovania a postupov na zastavenie nežiaducej aktivity. Sú to návrhy odvoditeľné z opísaných zlyhaní, nie tvrdenie, že konkrétny zákon už každé z nich vyžaduje.

Druhou vrstvou je možnosť nezávislej kontroly. METR ukázala, že externí výskumníci môžu doplniť správu vývojára, ak dostanú prístup k záznamom a zároveň jasne pomenujú, čo nestihli alebo nemohli preveriť. Pri biologických rizikách by zasa hodnotenie malo sledovať, či model skutočne zvyšuje schopnosti používateľa oproti dostupným alternatívam, nie iba to, či vie vytvoriť presvedčivo znejúcu odpoveď. Aj takýto postup musí rešpektovať bezpečnostné a právne hranice experimentov.

Tretia vrstva sa týka pripravenosti na následky. Medzinárodná správa medzi príkladmi odolnosti uvádza pri kybernetických hrozbách viacfaktorové overovanie, preverovanie slabín či možnosť obnovy systémov zo záloh. Pri biologických hrozbách upozorňuje na význam kontroly prístupu k nebezpečným materiálom a pripravenosti verejného zdravotníctva. Takéto opatrenia neriešia všetky hypotetické scenáre, no majú zmysel aj vtedy, ak sa najhoršie predpovede nikdy nenaplnia.

Záver: vážny dôvod na dohľad, nie potvrdená predpoveď

Gatesov výrok upozorňuje na možnú cenu zlyhania, nie na počet obetí, ktoré vedecká obec očakáva. Dnešné dôkazy sú nerovnomerné: kybernetické incidenty a zneužívanie agentov majú konkrétne záznamy, zatiaľ čo pri katastrofických biologických následkoch alebo strate kontroly zostávajú zásadné neistoty.

To nie je argument pre nečinnosť. Je to argument pre pravidlá a testy, pri ktorých možno priebežne preverovať skutočné schopnosti systémov, priznávať hranice poznania a upravovať ochranu podľa nových dôkazov. Miliardové číslo má zmysel čítať ako varovanie pred vysokou možnou škodou – nie ako hotovú prognózu budúcnosti.