ChatGPT dostane v EÚ neviditeľný vodoznak. Čo textGrain odhalí – a čo nie
Ilustračný obrázok bol vytvorený pomocou umelej inteligencie.
TL;DR
-
Zavádzanie v EÚ
OpenAI ohlásila postupné zavedenie technológie textGrain pre oprávnené textové výstupy ChatGPT a Codexu v EÚ; nejde o okamžité zapnutie pre všetkých.
-
Možnosti a limity
Vodoznak je štatistický vzor vo voľbe slov, nie skrytý znak. V testoch OpenAI jeho zachytávanie výrazne oslabili aj úpravy textu.
-
Právny kontext
Označenie výstupu poskytovateľom a viditeľné informovanie čitateľov o vybranom publikovanom obsahu sú podľa AI Actu odlišné povinnosti.
OpenAI začne v EÚ označovať texty z ChatGPT a Codexu neviditeľným vodoznakom. Vysvetľujeme, čo dokáže odhaliť, prečo sa dá stratiť a čo mení AI Act.
OpenAI oznámila, že v Európskej únii začne do vybraných textových odpovedí ChatGPT a Codexu vkladať neviditeľný vodoznak textGrain. Novinka reaguje na európske pravidlá pre označovanie obsahu vytvoreného umelou inteligenciou. Neznamená však, že každý text bude možné spätne a bez pochybností označiť za prácu AI. Práve rozdiel medzi technickým signálom a dôkazom autorstva je pri tomto oznámení najdôležitejší.
Čo OpenAI skutočne oznámila
Podľa oznámenia z 5. októbra 2026 sa má označovanie v priebehu nasledujúcich týždňov postupne dostať k oprávneným používateľom ChatGPT a Codexu v EÚ, a to naprieč tarifami. Firma neuviedla deň, keď bude funkcia dostupná každému používateľovi na Slovensku. Ohlásenie preto nemožno zamieňať za potvrdenie, že každý dnešný výstup ChatGPT už vodoznak obsahuje. Pri spustení zároveň nebude označovanie textu predvoleným nastavením na celom svete.
Inak je nastavené API. Jeho zákazníci mimo aj vnútri EÚ si od 5. októbra môžu označovanie zvoliť pre podporované modely; štandardne zostáva vypnuté. OpenAI tiež prijíma žiadosti o prístup k detektoru, no ten zatiaľ vyhradzuje schváleným výskumníkom a odborným organizáciám. Nejde teda o verejnú stránku, na ktorú by si ktokoľvek vložil ľubovoľný článok a dostal definitívny verdikt.
Správa sa týka textových výstupov. Z názvu Codexu by sa dalo usúdiť, že nový vodoznak automaticky označí každý riadok vygenerovaného programového kódu, to však OpenAI vo svojom oznámení netvrdí. Európska komisia navyše vo svojom výklade povinnosti označovať syntetický obsah uvádza zdrojový kód medzi výstupmi mimo jej rozsahu. Rozlíšenie bežného textu, napríklad vysvetlenia postupu, od samotného kódu je preto dôležité.
Vodoznak nie je skrytý znak v dokumente
Predstava neviditeľného vodoznaku môže pripomínať špeciálne medzery alebo znaky ukryté medzi písmenami. textGrain funguje inak: zasahuje do štatistického výberu slov a ich častí počas generovania odpovede. Ak má model viac vhodných pokračovaní, spôsob výberu zanecháva v dlhšom texte vzor, ktorý môže detektor hľadať. Bežný čitateľ ho v texte neuvidí; podľa dokumentácie OpenAI nejde ani o dodatočne vloženú interpunkciu či neviditeľné znaky.
Technická správa opisuje metódu podrobnejšie ako firemné oznámenie. Generovanie spája s náhodnosťou odvodenou od tajného kľúča a určuje, koľko variability pri výbere ďalšieho tokenu môže vodoznak ubrať. Detektor potom skúma štatistickú súvislosť medzi získaným textom a týmto kľúčom; podľa správy nepotrebuje poznať nastavenú silu vodoznaku pri jeho vytvorení. Pre používateľa je podstatné najmä to, že ide o vzor rozložený naprieč voľbami v texte, nie o identifikačný štítok pripojený k súboru.
To vysvetľuje aj zásadný kompromis: kde má model málo možností, zostáva málo priestoru na rozpoznateľný vzor. Krátka odpoveď alebo text vyžadujúci presné formulácie môže byť pre detektor náročnejší než dlhšie voľne písané vysvetlenie. Podobné obmedzenie pri faktických odpovediach popisuje aj Google DeepMind pri svojej technológii SynthID. Nejde teda iba o zvláštnosť jedného produktu.
Prečo sa zavádzanie začína v Európskej únii
Článok 50 európskeho AI Actu rozlišuje viacero transparentnostných povinností. Poskytovateľom systémov, ktoré vytvárajú syntetický text, obraz, zvuk alebo video, ukladá zabezpečiť strojovo čitateľné označenie a možnosť rozpoznať takto vytvorený obsah. Práve na túto časť OpenAI reaguje textGrainom. Ide o povinnosť týkajúcu sa vlastností systému a jeho výstupov, nie o príkaz zobrazovať viditeľný nápis pri každej súkromnej odpovedi v chate.
Časový rámec má dôležitú výnimku. Transparentnostné pravidlá sa začali uplatňovať 2. augusta 2026, no pri systémoch uvedených na trh pred týmto dátumom stanovuje európska úprava pre povinnosť strojového označovania a detekcie prechodné obdobie do 2. decembra 2026. Preto by bolo nepresné tvrdiť, že samotné postupné zavádzanie oznámené v októbri dokazuje porušenie pravidiel. Posúdenie konkrétneho systému závisí od príslušných podmienok zákona.
Odlišnú povinnosť môže mať ten, kto obsah pomocou AI vytvorí a následne zverejní. Pri texte publikovanom s cieľom informovať verejnosť o otázkach verejného záujmu pravidlá riešia aj zrozumiteľné oznámenie, že bol vytvorený alebo upravený umelou inteligenciou. Európska komisia súčasne vysvetľuje výnimku pre obsah, ktorý prešiel skutočnou ľudskou kontrolou alebo redakčným dohľadom pri existujúcej redakčnej zodpovednosti. Obyčajná kontrola pravopisu podľa jej výkladu nestačí. Neviditeľný technický vodoznak teda nemožno automaticky považovať za náhradu všetkých povinností vydavateľa.
EÚ pripravila aj kódex postupov pre označovanie AI obsahu. Pristúpenie ku kódexu je dobrovoľné, zákonné povinnosti však dobrovoľné nie sú. Kódex poskytuje jeden spôsob, ako preukazovať ich plnenie; firma si môže zvoliť aj iný primeraný postup. Tento rozdiel je podstatný pri porovnávaní prístupov spoločností: spoločným cieľom je transparentnosť, nie nevyhnutne jedna povinná technológia vodoznaku.
Čo hovoria testy – a čo z nich nevyplýva
OpenAI uvádza, že jej textGrain v internom porovnaní dosiahol výsledky porovnateľné so skúšanými alternatívami vrátane SynthID pre text alebo lepšie. Je to tvrdenie výrobcu o jeho vlastnom hodnotení, nie nezávislý dôkaz, že detekcia bude rovnako úspešná pri každom modeli, téme a jazyku. Firma zároveň otvorene upozorňuje na falošne pozitívne nálezy aj na prehliadnuté vodoznaky.
Konkrétne čísla dobre ukazujú význam podmienok testu. Pri cielenej miere falošne pozitívnych výsledkov jedno percento detektor podľa OpenAI rozpoznal približne 80 percent označených textov s dĺžkou 200 tokenov v testovanej tematickej oblasti psychológie. Pri 400 tokenoch to bolo približne 95 percent. Pri matematických odpovediach boli výsledky podstatne slabšie. Tieto hodnoty opisujú daný experiment, nie univerzálnu presnosť vodoznaku; token navyše nie je to isté ako jedno slovo.
Samostatný test úprav ukázal ešte výraznejšie obmedzenie. Pri 400-tokenových anglických odpovediach klesla úspešnosť detekcie približne z 92 na 66 percent po nahradení desatiny slov synonymami. Keď výskumníci takto zmenili štvrtinu slov, zostalo 17 percent. Čísla z testu dĺžky a z testu úprav preto netreba miešať, hoci obidva podporujú rovnaký záver: neúspešná detekcia sama osebe nehovorí, kto text napísal. Zverejnené údaje tiež nedávajú základ na prisúdenie rovnakej úspešnosti slovenským textom.
OpenAI uvádza benchmarky, v ktorých pri testovanom modeli nepozorovala významný rozdiel vo výkone s vodoznakom a bez neho. To je relevantná odpoveď na obavu, či zmena generovania zhorší kvalitu, ale stále ide o výsledky zvolených meraní, nie o záruku, že každá odpoveď bude rovnako dobrá. Spoľahlivosť detekcie a kvalita vygenerovaného textu sú dve samostatné otázky.
Ako sa líšia prístupy OpenAI, Anthropic a Googlu
Google DeepMind zaviedol SynthID aj pre text vytváraný v prostredí Gemini. Aj jeho prístup pracuje s voľbou tokenov pri generovaní, upozorňuje však na pokles istoty po dôkladnom prepísaní alebo preklade. Anthropic opisuje pri Claude metódu založenú na SynthID pre text a uvádza, že ju plánuje uplatňovať globálne, zatiaľ čo OpenAI sa pri ChatGPT a Codexe rozhodla začať v EÚ. Rovnaký regulačný impulz tak nemusí viesť k rovnakému geografickému rozsahu ani k totožnému technickému riešeniu.
Nie všetko, čo sa označuje ako detektor AI textu, pritom hľadá vodoznak. Bežný klasifikátor sa pokúša usúdiť pôvod textu z jeho vlastností až po napísaní. Detektor vodoznaku naopak hľadá signál vložený pri generovaní podporovaným systémom. Ani jeden postup nepozná automaticky okolnosti vzniku dokumentu. Ak text pochádza z iného modelu, zo staršieho výstupu alebo bol podstatne prepísaný, neprítomnosť signálu OpenAI nepreukazuje ľudské autorstvo.
Čo to znamená pre čitateľa a vydavateľa
Rozpoznaný textGrain môže naznačiť, že na vytvorení alebo spracovaní časti textu sa podieľal systém OpenAI. Nevie však určiť, kto mu zadal pokyn, koľko práce odviedol človek, komu patrí výsledok ani či sú v ňom pravdivé tvrdenia. Podľa OpenAI sa k vodoznaku nepripája identita používateľa, jeho zadanie ani konverzácia. V praxi je preto vhodnejšie chápať výsledok ako indíciu o pôvode než ako úplný príbeh o autorstve.
Pre redakcie a ďalších vydavateľov z toho vyplýva praktická hranica. Technický signál môže pomôcť pri preverovaní pôvodu dodaného textu, nemôže však nahradiť kontrolu faktov, zdrojov a kontextu. Rovnako by nebolo spravodlivé označiť autora za podvodníka iba na základe výsledku jedného detektora alebo na základe toho, že sa vodoznak nenašiel. Rozhodujúci zostáva aj spôsob publikovania, ľudská kontrola a zodpovednosť za obsah. To je redakčný záver vyplývajúci z technických limitov opísaných OpenAI a z rozlíšenia povinností v pravidlách EÚ.
textGrain je teda významný krok k strojovo čitateľnému označovaniu textu, nie univerzálny test pravdy. O tom, ako užitočný bude mimo kontrolovaných skúšok, rozhodne postupné nasadenie, dostupnosť nezávislého hodnotenia a skúsenosť s textami rôznych dĺžok, tém a jazykov. Zatiaľ je potvrdený plán zavádzania a výsledky testov zverejnené OpenAI; spoľahlivosť pri bežnom používaní na Slovensku z nich nemožno poctivo vyhlásiť za vyriešenú otázku.
Zdroje
Ak vám naše články pomáhajú sledovať technológie, financie a AI v súvislostiach, pridajte si SmartArena medzi preferované zdroje v Google.
Komentáre