Dôležité

Claude dostane neviditeľný textový vodoznak: má odhaliť zapojenie AI bez skrytých znakov

TL;DR

  • Bez skrytých znakov

    Vodoznak nevkladá do odpovede metadáta ani neviditeľné znaky. Mení iba spôsob, akým model náhodne vyberá medzi viacerými rovnako vhodnými tokenmi.

  • Detekcia nie je dôkaz

    Výsledkom bude pravdepodobnosť zapojenia Claude, nie definitívne autorstvo. Krátke texty, kód, faktické odpovede, drobné korektúry a rozsiahle prepisovanie znižujú spoľahlivosť.

  • EÚ mení pravidlá

    Anthropic reaguje na článok 50 aktu o umelej inteligencii. Povinnosť strojovo označovať generovaný obsah v EÚ platí od 2. augusta 2026.

Anthropic začne do textov budúcich modelov Claude vkladať neviditeľný štatistický vodoznak. Má pomôcť odhaliť zapojenie umelej inteligencie bez skrytých znakov, vyššej ceny či zmeny obsahu.

Anthropic oznámil, že texty vytvorené budúcimi modelmi Claude budú obsahovať neviditeľný digitálny vodoznak. Čitateľ ho neuvidí a v odpovedi nenájde žiadny špeciálny symbol, skrytý znak ani identifikátor používateľa. Systém namiesto toho vytvorí štatistický vzor priamo počas generovania viet. Pomocou pripravovaného detektora potom bude možné odhadnúť, či sa Claude pravdepodobne podieľal na vytvorení alebo výraznej úprave textu. Anthropic zmenu zavádza v reakcii na nové pravidlá transparentnosti podľa aktu EÚ o umelej inteligencii.

Claude zanechá štatistickú stopu

Veľké jazykové modely nevytvárajú celú odpoveď naraz. Text skladajú postupne z tokenov, ktoré môžu predstavovať celé slová, ich časti, interpunkciu alebo jednotlivé znaky. Pri každom kroku model vypočíta, ktoré pokračovania najlepšie zodpovedajú predchádzajúcemu textu.

Niektoré situácie majú jedinú jednoznačnú odpoveď. Ak model dopĺňa výsledok výpočtu 2 + 2, správnym pokračovaním je číslo štyri. Pri bežnom písaní však často existuje viacero možností, ktoré sú významovo aj štylisticky podobne vhodné.

Model môže napríklad napísať, že obloha bola zamračená, sivá alebo zatiahnutá. Všetky možnosti môžu byť v konkrétnej vete prirodzené. Bežné generovanie medzi nimi vyberá s určitou mierou náhodnosti podľa vypočítanej pravdepodobnosti.

Práve tieto málo významné rozhodnutia využíva textový vodoznak. Namiesto úplne nezávislého zdroja náhodnosti vstupuje do výberu tajný kľúč a kontext niekoľkých predchádzajúcich tokenov. Výsledné slová zostávajú medzi možnosťami, ktoré by model zvažoval aj bez vodoznaku, no ich postupnosť vytvára rozpoznateľný štatistický vzor.

Ako funguje SynthID-Text

Anthropic použije vlastnú verziu techniky SynthID-Text, ktorú vyvinul Google DeepMind a v roku 2024 opísal vo vedeckom časopise Nature. Rovnaký základný prístup už Google využíva pri textoch generovaných službou Gemini.

SynthID-Text počas generovania mierne upravuje výber medzi vhodnými tokenmi. Nejde o jednoduché pravidlo, podľa ktorého by model opakovane používal konkrétne slovo alebo štylistický obrat. Rozhodnutie sa mení podľa predchádzajúceho textu, modelových pravdepodobností a vodoznakového kľúča.

Detektor následne analyzuje postupnosť tokenov a zisťuje, či sa ich výber zhoduje so vzorom, ktorý by vznikol pri použití daného kľúča. Čím viac vhodných rozhodnutí text obsahuje, tým viac signálu možno vyhodnotiť a tým vyššia môže byť dôvera vo výsledok.

Technika teda nepripomína vodoznak na bankovke ani polopriehľadné logo umiestnené cez fotografiu. Je bližšia štatistickému podpisu ukrytému v spôsobe, akým model vyberal jednotlivé pokračovania viet.

Výskumný systém SynthID-Text využíva takzvané turnajové vzorkovanie, pri ktorom sa kandidátske tokeny porovnávajú pomocou pseudonáhodných hodnôt odvodených od kľúča. Detektor následne agreguje získané skóre a porovnáva ho s očakávaným správaním textov s vodoznakom a bez neho.

V texte nie sú skryté znaky

Claude nebude do odpovedí pridávať neviditeľné znaky Unicode, medzery s odlišným kódovaním, sledovacie odkazy ani samostatné metadáta. Po skopírovaní textu do poznámkového bloku, redakčného systému alebo e-mailu sa preto neobjaví žiadna dodatočná vrstva.

Vodoznak existuje v samotnom poradí slov a tokenov. Aj text uložený ako obyčajný súbor bez formátovania môže niesť dostatočne silný štatistický signál, pokiaľ zostane zachovaná podstatná časť pôvodnej formulácie.

Anthropic zároveň uvádza, že vodoznak nepotrebuje ďalšie tokeny. Odpoveď preto nemá byť dlhšia ani drahšia a výpočtový vplyv na rýchlosť generovania má byť zanedbateľný.

Kvalita sa podľa testov nemení

Anthropic tvrdí, že počas interného testovania nezistil praktický vplyv na obsah, tvorivosť ani čitateľnosť odpovedí. Vodoznak nemá model nútiť používať neobvyklé synonymá alebo menej presné formulácie. Uplatňuje sa iba tam, kde má Claude viacero primerane vhodných možností.

Podobný výsledok uviedol aj Google DeepMind pri testovaní SynthID-Text. Časť používateľov Gemini dostávala odpovede s vodoznakom a časť bez neho. V hodnotení pomocou pozitívnych a negatívnych reakcií sa nepreukázal štatisticky významný rozdiel.

Ani ľudia, ktorí porovnávali odpovede vedľa seba v kontrolovanom teste, podľa výskumu nezaznamenali rozdiel v kvalite. Technika je navrhnutá tak, aby nemenila správnosť, tvorivosť ani rýchlosť generovania.

Ide však o výsledky konkrétnej metódy a jej doterajších testov. Až rozsiahle nasadenie v rôznych jazykoch, odborných oblastiach a typoch textu ukáže, či bude vodoznak skutočne bez praktického vplyvu pri každom spôsobe používania.

Detektor neurčí autora s istotou

Textový vodoznak nebude fungovať ako jednoznačný dôkaz autorstva. Detektor má odpovedať na otázku, aká je pravdepodobnosť, že sa Claude podieľal na vytvorení skúmaného textu.

Nedokáže potvrdiť, že celé dielo napísal Claude. Rovnaký výsledok môže vzniknúť pri texte, ktorý model vytvoril od začiatku, aj pri ľudskom texte, ktorý neskôr rozsiahlo prepracoval.

Detektor zároveň nebude vedieť určiť, či text vytvoril iný model umelej inteligencie. Každý poskytovateľ môže používať odlišnú metódu a vlastný kľúč. Neprítomnosť vodoznaku Claude preto neznamená, že text napísal človek.

Ani pozitívny výsledok nebude predstavovať absolútne potvrdenie. Ide o štatistické vyhodnotenie, pri ktorom treba počítať s možnosťou nesprávneho pozitívneho alebo negatívneho záveru. Anthropic preto hovorí o pravdepodobnom zapojení Claude, nie o definitívnom určení autora.

Krátke odpovede sa určujú ťažšie

Sila vodoznaku rastie s dĺžkou textu. Dlhšia odpoveď obsahuje viac miest, na ktorých môže model vyberať medzi viacerými vhodnými tokenmi. Detektor tak získava väčšie množstvo údajov na štatistické porovnanie.

Jedna veta, krátky e-mailový predmet alebo niekoľkoslovná odpoveď nemusia obsahovať dostatok rozhodnutí na spoľahlivú detekciu. Negatívny výsledok pri krátkom úryvku preto nebude znamenať, že ho Claude určite nevytvoril.

SynthID-Text podľa Google DeepMind funguje najlepšie pri dlhších a jazykovo pestrejších výstupoch, napríklad esejach, článkoch, scenároch alebo rozsiahlejších návrhoch správ.

To môže byť dôležité pri školských prácach alebo redakčnom obsahu. Kontrola jednej vybranej vety bude podstatne menej presvedčivá než analýza celého neupraveného dokumentu.

Fakty a kód nesú menej signálu

Vodoznak potrebuje situácie, v ktorých možno vybrať z viacerých rovnako dobrých pokračovaní. V presných faktických odpovediach je takýchto možností menej.

Ak Claude dopĺňa názov Newtonovho diela Principia Mathematica, nemôže druhú časť ľubovoľne nahradiť synonymom. Podobne pri dátumoch, číslach, odborných názvoch alebo citáciách musí uprednostniť fakticky správny token bez ohľadu na vodoznak.

Slabší signál sa očakáva aj v programovacom kóde. Názov funkcie, príkaz alebo operátor často nemožno zmeniť bez toho, aby program prestal fungovať. Priestor na vodoznak môže vzniknúť v komentároch, názvoch premenných alebo iných miestach, kde existuje viacero rovnocenných možností, nie však v presne určenej syntaxi.

Vodoznak preto nebude rovnako výrazný vo všetkých druhoch obsahu. Dlhý tvorivý článok môže niesť silnejší signál než matematický výpočet, krátka odpoveď alebo zdrojový kód s minimom komentárov.

Korektúra nemusí byť rozpoznateľná

Vodoznak sa viaže iba na slová, ktoré vybral Claude. Ak používateľ vloží vlastný článok a požiada model výhradne o opravu interpunkcie alebo gramatiky, väčšina výsledného textu zostáva ľudská.

Claude môže zmeniť len niekoľko slov, koncoviek alebo čiarok. Takýto počet zásahov nemusí vytvoriť dostatočne silný vzor, aby detektor zapojenie modelu spoľahlivo odhalil.

Situácia sa mení pri rozsiahlejšom prepisovaní. Ak používateľ požiada o zmenu štýlu, skrátenie, reorganizovanie argumentov alebo úplné preformulovanie, Claude vykoná viac vlastných jazykových rozhodnutí. Pravdepodobnosť detekcie preto môže narásť.

Samotný výsledok však nebude rozlišovať medzi textom vytvoreným od začiatku a ľudským textom, ktorý Claude výrazne upravil. Vodoznak preukazuje možné zapojenie modelu, nie presný podiel jeho práce.

Prepisovanie môže vodoznak oslabiť

Mierne úpravy, vymazanie niekoľkých viet alebo zmena menšieho počtu slov nemusia celý signál odstrániť. Časť štatistického vzoru môže zostať zachovaná vo zvyšku textu.

Dôkladné preformulovanie však dokáže vodoznak výrazne oslabiť alebo odstrániť. Ak človek alebo iný model prepíše prakticky každú vetu, pôvodná postupnosť rozhodnutí Claude sa stratí.

Google DeepMind podobne uvádza, že SynthID-Text dokáže zvládnuť skrátenie, niekoľko zmien a miernu parafrázu, no dôkladné prepísanie alebo preklad existujúceho textu môže výrazne znížiť istotu detekcie. Vodoznak preto nie je neodstrániteľnou ochranou ani nástrojom proti motivovanému obchádzaniu.

Jeho účelom je predovšetkým umožniť identifikáciu bežných neupravených alebo iba mierne upravených výstupov. Nezaručuje pôvod textu po viacerých kolách prepisovania.

Preklady majú dve odlišné situácie

Ak používateľ požiada Claude, aby vytvoril preklad, model vyberá prakticky všetky slová cieľového textu. Anthropic preto uvádza, že takýto preklad bude obsahovať nový vodoznak rovnako ako iný text generovaný modelom.

Iná situácia nastane, keď niekto vezme už označený text a preloží ho pomocou iného systému alebo ručne. Pôvodná sekvencia slov sa zmení a vodoznak vložený v zdrojovom jazyku sa môže výrazne oslabiť.

Rozdiel spočíva v okamihu vzniku textu. Preklad priamo vytvorený Claude dostane vodoznak v cieľovom jazyku. Dodatočný nezávislý preklad už existujúceho výstupu môže pôvodnú štatistickú stopu odstrániť.

Detekčné API príde neskôr

Anthropic pripravuje rozhranie API, prostredníctvom ktorého bude možné kontrolovať texty na prítomnosť vodoznaku Claude. Spoločnosť zatiaľ neoznámila dátum spustenia, cenu, prístupové podmienky ani presnú podobu výsledkov.

Kontrola bude vyžadovať prístup k príslušnému detektoru a kľúču. Bežný čitateľ preto nebude schopný vodoznak rozpoznať vizuálne ani jednoduchým prehliadnutím zdrojového textu.

Tým sa technika zásadne odlišuje od bežných detektorov AI textu. Tie analyzujú štylistické vzory, predvídateľnosť jazyka alebo formulácie typické pre modely. Nemajú tajný kľúč a iba odhadujú pôvod podľa charakteristík textu.

Vodoznakový detektor namiesto všeobecných jazykových znakov kontroluje konkrétny štatistický vzor, ktorý vznikol pri generovaní. Ani tento prístup však neodstraňuje obmedzenia krátkych textov, rozsiahlych úprav alebo výstupov s malým priestorom na jazykovú variabilitu.

Vodoznak nesleduje používateľa

Anthropic tvrdí, že vodoznak neobsahuje meno, identifikátor účtu, názov organizácie, číslo konverzácie ani informácie z používateľského zadania.

Rovnaký mechanizmus sa má uplatňovať na výstupy Claude všeobecne. Z vodoznaku preto nebude možné zistiť, kto text vygeneroval, v ktorej firme vznikol ani z akého konkrétneho rozhovoru pochádza.

Detektor má určiť iba pravdepodobné zapojenie modelu Claude. Nemá fungovať ako systém na spätné dohľadanie osoby alebo zákazníckeho účtu.

Zavedenie vodoznaku tiež nemení vlastníctvo výstupu ani právnu zodpovednosť za jeho použitie. Podľa Anthropicu ide iba o technický signál pôvodu, nie o údaj určujúci autora alebo držiteľa práv.

EÚ vyžaduje strojové označenie obsahu

Hlavným dôvodom zmeny je článok 50 aktu EÚ o umelej inteligencii. Nové povinnosti transparentnosti sa začali uplatňovať 2. augusta 2026.

Poskytovatelia generatívnych systémov majú svoje produkty navrhnúť tak, aby bol umelo vytvorený alebo upravený obsah označený v strojovo čitateľnej podobe a dal sa technicky rozpoznať. Použité riešenia majú byť účinné, interoperabilné, spoľahlivé a odolné v rozsahu, ktorý umožňuje aktuálny stav techniky.

EÚ nepredpisuje, že všetci poskytovatelia musia použiť SynthID-Text. Každá spoločnosť si môže zvoliť vlastnú adekvátnu technológiu. Dobrovoľný kódex transparentnosti však ponúka spoločný rámec, ktorým môžu jeho signatári preukázať súlad s pravidlami.

Anthropic podpísal kódex spolu s ďalšími poskytovateľmi a organizáciami. Do konca júla 2026 sa k nemu podľa Európskej komisie pripojilo približne 190 subjektov. Samotné podpísanie kódexu je dobrovoľné, povinnosti vyplývajúce z článku 50 sú však právne záväzné.

Vodoznak nie je viditeľné označenie

Strojový vodoznak a viditeľné upozornenie „vytvorené umelou inteligenciou“ nie sú rovnaká vec. Prvé opatrenie umožňuje technickému nástroju analyzovať pôvod obsahu, zatiaľ čo druhé informuje priamo čitateľa.

Akt EÚ rozdeľuje povinnosti medzi poskytovateľov a používateľov generatívnych systémov. Poskytovatelia majú zabezpečiť strojové označenie výstupov. Subjekty, ktoré publikujú určité texty o záležitostiach verejného záujmu, môžu mať povinnosť viditeľne oznámiť použitie AI, pokiaľ obsah neprešiel ľudskou kontrolou a nevzťahuje sa naň redakčná zodpovednosť.

Zavedenie vodoznaku preto automaticky neznamená, že sa pri každej odpovedi Claude objaví viditeľný štítok. Štatistické označenie môže zostať pre čitateľa úplne nepostrehnuteľné.

Zmena sa zavedie globálne

Anthropic plánuje vodoznak zaviesť globálne, nielen pre používateľov v Európskej únii. Spoločnosť vysvetľuje, že zatiaľ nemá dostatočne trvalý spôsob, ako spoľahlivo obmedziť označovanie iba podľa regiónu.

Budúce modely Claude majú vodoznak používať od svojho uvedenia. Pri modeloch vydaných pred 2. augustom 2026 existuje prechodné obdobie a Anthropic ich chce upravovať postupne počas nasledujúcich mesiacov.

To znamená, že nie každý text vytvorený službou Claude bude okamžite obsahovať rovnaký signál. Výsledok môže spočiatku závisieť od použitého modelu, času generovania a postupného zavádzania technológie.

Obrázky a súbory dostanú C2PA

Pri podporovaných obrazových a dokumentových súboroch použije Anthropic odlišný mechanizmus. Súbory vo formátoch ako PNG, JPG alebo SVG majú dostať kryptograficky podpísanú informáciu podľa štandardu C2PA.

Záznam sa uloží do metadát súboru a oznámi, že Claude obsah vytvoril alebo spracoval. Nástroj kompatibilný s C2PA ho môže prečítať a overiť jeho podpis.

Nejde o rovnaký vodoznak ako pri texte. Štatistické označenie textu je súčasťou výberu slov, zatiaľ čo C2PA je samostatný údaj pripojený k súboru. Ani tento údaj podľa Anthropicu neobsahuje identitu používateľa alebo konkrétnej konverzácie.

Školy a firmy by nemali rozhodovať iba podľa detektora

Z technických obmedzení vyplýva, že výsledok detektora by nemal byť jediným podkladom na obvinenie študenta, zamestnanca alebo autora z nepovoleného použitia AI.

Krátky text môže vodoznak niesť, ale detektor nemusí mať dostatok údajov na jeho identifikovanie. Ľudský text výrazne upravený Claude môže byť označený, hoci jeho základ vytvoril človek. Naopak, dôkladne preformulovaný výstup AI môže prejsť bez dostatočne silného signálu.

Vodoznak bude vhodnejší ako jeden z viacerých dôkazov. Pri posudzovaní autorstva môže byť potrebné zohľadniť históriu úprav, pracovné verzie, zdroje, spôsob citovania a schopnosť autora vysvetliť vlastný postup.

Podobné obmedzenia sa týkajú médií a internetových platforiem. Detekcia môže pomôcť preverovať pôvod rozsiahleho neupraveného obsahu, no nebude univerzálnym filtrom schopným spoľahlivo oddeliť všetky ľudské a umelo vytvorené texty.

Vodoznak pomôže, no problém nevyrieši

Textový vodoznak Claude predstavuje významný posun od nepresného odhadovania štýlu k signálu vloženému priamo počas generovania. Je neviditeľný, nepridáva tokeny, nemá sledovať používateľa a podľa doterajších testov nemení kvalitu odpovedí.

Jeho schopnosti však majú jasné hranice. Najlepšie funguje pri dlhších textoch, v ktorých má model dostatok možností na výber slov. Slabší bude pri krátkych odpovediach, faktických pasážach, zdrojovom kóde a drobných korektúrach. Rozsiahly prepis môže pôvodnú stopu odstrániť.

Pripravované detekčné API preto nebude univerzálnym strojom na určovanie autorstva. Poskytne pravdepodobnostný údaj, že Claude bol do tvorby zapojený, no nedokáže určiť konkrétneho používateľa, rozsah jeho práce ani to, či zvyšok textu vytvoril človek alebo iná umelá inteligencia.

Najväčšou zmenou pre používateľov tak nebude viditeľná úprava odpovedí Claude. Bude ňou vznik technickej stopy, ktorú čitateľ neuvidí, ale autorizovaný detektor ju môže nájsť aj po skopírovaní textu mimo pôvodnej služby.

Fakticky overené

Zdroje

Preferovaný zdroj v Google

Ak vám naše články pomáhajú sledovať technológie, financie a AI v súvislostiach, pridajte si SmartArena medzi preferované zdroje v Google.

Pridať SmartArena v Google

Komentáre

Pridať komentár