Google AI Overview a AI Mode predstavujú pre deti neprijateľné riziko, tvrdí nová analýza

Google AI Overview a AI Mode podľa novej analýzy zlyhávajú pri krízových otázkach detí, domácich úlohách aj overovaní zdrojov a predstavujú neprijateľné riziko pre mladistvých.

Google už vo vyhľadávaní neponúka iba zoznam internetových odkazov. AI Overview automaticky vytvára súhrn odpovede a AI Mode umožňuje viesť s vyhľadávačom konverzáciu. Podľa novej analýzy organizácie Common Sense Media však tieto funkcie nie sú dostatočne bezpečné pre deti a tínedžerov. V celkovom hodnotení získali najnižšiu známku – neprijateľné riziko.

Výskumníci otestovali viac ako 2 600 interakcií

Hodnotenie vznikalo od 19. mája do 1. júla 2026. Výskumníci používali testovacie účty nastavené pre 11-ročné a 15-ročné deti, pričom na oboch bol aktívny Google SafeSearch. Celkovo uskutočnili 2 624 interakcií a analyzovali viac ako 2 100 zdrojov, na ktoré umelá inteligencia odkazovala.

Testovanie sa sústredilo na duševné zdravie, primeranosť odpovedí veku, školské úlohy, historické fakty, predsudky, aktuálne udalosti a vytváranie syntetického obsahu vrátane deepfake materiálov.

Podstatným problémom je dostupnosť týchto funkcií. AI Overview sa môže automaticky zobraziť nad bežnými výsledkami vyhľadávania a používateľ ho podľa hodnotenia nemôže úplne vypnúť. AI Mode síce musí otvoriť manuálne, Google však používateľa doň smeruje pri doplňujúcich otázkach alebo práci s obrázkami a súbormi.

Google AI zlyhávala pri krízových otázkach

Najvážnejšie výsledky sa týkajú situácií, v ktorých dieťa naznačuje psychické problémy, sebapoškodzovanie alebo bezprostredné ohrozenie zdravia. Z celkovo 652 testovacích otázok výskumníci identifikovali 214 prípadov pre každú funkciu, pri ktorých bola potrebná krízová linka alebo odporúčanie vyhľadať odbornú pomoc.

AI Overview poskytlo primeraný kontakt alebo zdravotné odporúčanie iba v 58 percentách takýchto prípadov. AI Mode dosiahol 77 percent. Hoci ide o citeľne lepší výsledok, podľa autorov analýzy stále nestačí pri situáciách, v ktorých môže byť dôsledkom nesprávnej odpovede vážne poškodenie zdravia.

Pri explicitných náznakoch samovražedných úmyslov reagovalo AI Overview primerane približne v 71 percentách testov. Pri menej priamych vyjadreniach úspešnosť klesla približne na polovicu. AI Mode si v tejto oblasti počínal výrazne lepšie a vhodný kontakt alebo odporúčanie poskytol v 96 percentách prípadov.

Odporúčame

AI Novinky 2. júla 2026

Google spúšťa Nano Banana 2 Lite a Gemini Omni Flash. Vývojárom dáva rýchlejšie obrázky aj AI video

Google sprístupňuje vývojárom Nano Banana 2 Lite a Gemini Omni Flash, čím prepája rýchlu tvorbu obrázkov, video generovanie a konverzačné úpravy v jednom pracovnom toku.

5 min 0

Dôležité AI Novinky 30. júna 2026

OpenAI ukázala GPT-5.6 Sol, Terra a Luna. Nové modely štartujú len pre vybraných partnerov

OpenAI spúšťa obmedzený náhľad GPT-5.6 Sol, Terra a Luna. Modely mieria na kód, vedu a kyberbezpečnosť, s kontrolami a cenami od 0,88 eura v API.

6 min 0

Najhoršie výsledky priniesli poruchy príjmu potravy

AI Overview odporučilo pomoc iba v 38 percentách testov súvisiacich s poruchami príjmu potravy. AI Mode uspel v 65 percentách. Niektoré odpovede navyše nebezpečné správanie normalizovali alebo vysvetľovali bez toho, aby rozpoznali širší kontext predchádzajúcich otázok.

Výrazné rozdiely sa objavili aj pri príznakoch psychózy. AI Overview ponúklo primeranú pomoc v 47 percentách prípadov, zatiaľ čo AI Mode dosiahol 89 percent. Pri prejavoch mánie bolo AI Overview úspešné iba v 11 percentách testovaných situácií.

Problémom teda nie je len úplne nesprávna odpoveď. Riziko predstavuje aj neutrálna alebo povzbudivá reakcia na správanie, ktoré môže byť príznakom zdravotnej krízy.

AI Mode je bezpečnejší, no nie dostatočne

Rozdiel medzi oboma nástrojmi ukazuje význam kontextu. AI Overview spravidla reaguje na každú otázku samostatne. AI Mode si pamätá predchádzajúcu časť rozhovoru a dokáže prepájať jednotlivé varovné signály.

Práve vďaka tomu AI Mode častejšie rozpoznal, že zdanlivo bežná otázka súvisí s predchádzajúcim vyhľadávaním o extrémnom chudnutí, psychických problémoch alebo nebezpečnom užívaní látok.

Podľa autorov hodnotenia to naznačuje, že Google už má technológiu schopnú reagovať bezpečnejšie. Ochranné mechanizmy však nefungujú rovnako vo všetkých častiach vyhľadávača.

AI vypracuje domácu úlohu za žiaka

Samostatnou oblasťou bola akademická integrita. AI Mode dokončil 100 percent školských zadaní, ktoré mu výskumníci predložili. Namiesto vysvetlenia postupu alebo vedenia žiaka k vlastnému riešeniu vytvoril hotové odpovede vrátane matematických riešení a textov z humanitných predmetov.

Takéto správanie môže byť pohodlné, no z pohľadu vzdelávania je problematické. Dieťa dostane výsledok bez toho, aby muselo pochopiť učivo, formulovať vlastný názor alebo pracovať so zdrojmi.

Obe funkcie zároveň podľa testov poskytovali návody, ktoré by sa dali využiť na vytváranie deepfake materiálov a šikanovanie. Bezpečnostné bariéry tak neboli dostatočné ani pri požiadavkách, pri ktorých bolo možné predpokladať škodlivé použitie.

Pravdivé aj nesprávne odpovede znejú rovnako presvedčivo

Google AI Overview a AI Mode odpovedali na rovnakú otázku pri opakovanom vyhľadávaní rozdielne. Správne aj chybné informácie pritom prezentovali podobným štýlom a s rovnakou mierou istoty.

Hodnotenie upozorňuje aj na spôsob práce so zdrojmi. Umelá inteligencia dokázala postaviť príspevok z internetového fóra vedľa informácie od zdravotníckej inštitúcie alebo vedeckej štúdie bez jasného vysvetlenia rozdielu v dôveryhodnosti.

Dospelý používateľ môže takýto nedostatok odhaliť kontrolou zdrojov. Deti si však mediálnu gramotnosť ešte len vytvárajú a uhladene napísanú odpoveď môžu automaticky považovať za overenú.

Jeden vyhľadávač pre 11- aj 17-ročných

Google podľa hodnotenia ponúka používateľom mladším ako 18 rokov prakticky rovnakú podobu AI vyhľadávania bez ohľadu na ich vek. SafeSearch síce filtruje časť explicitného obsahu, nie je však navrhnutý ako bezpečnostný systém pre generované odpovede umelej inteligencie.

Rozdiel oproti samostatnej aplikácii Gemini spočíva aj v možnostiach rodičov a škôl. Prístup ku Gemini možno prostredníctvom rodičovskej kontroly alebo administrátorských nástrojov obmedziť. AI Overview integrované do bežného vyhľadávania sa podľa analýzy vypnúť nedá.

To je dôležité najmä pri školských Chromebookoch a ďalších zariadeniach, na ktorých deti používajú Google Search ako základný zdroj informácií.

Google tvrdí, že niektoré odpovede upravil

Common Sense Media poskytla Googlu návrh hodnotenia ešte pred jeho zverejnením. Spoločnosť mohla upozorniť na faktické nepresnosti, nemala však podľa autorov vplyv na výsledné známky ani odporúčania.

Google zároveň uviedol, že pri niektorých testovaných otázkach už vykonal zmeny. Výskumníci ich však pred vydaním hodnotenia nezávisle neoverili.

Výsledky navyše nemožno automaticky preniesť na všetkých používateľov. Testovanie prebiehalo v Spojených štátoch na účtoch zo Sanfranciského zálivu a odpovede vyhľadávača sa môžu meniť podľa krajiny, polohy aj nastavenia účtu. Hodnotenie sa tiež netýkalo samostatnej aplikácie Gemini.

AI odpoveď nie je overený zdroj

Analýza netvrdí, že každá odpoveď Google AI je chybná alebo nebezpečná. Ukazuje však, že závažné zlyhania sa opakovali dostatočne často na to, aby ich nebolo možné považovať za výnimočné incidenty.

Google Search sa postupne mení zo systému, ktorý používateľa posiela k zdrojom, na nástroj poskytujúci hotovú odpoveď. Tým na seba preberá aj väčšiu zodpovednosť za jej správnosť, bezpečnosť a primeranosť veku.

Pre rodičov, učiteľov aj samotných žiakov preto zostáva dôležité jednoduché pravidlo: súhrn vytvorený umelou inteligenciou je východiskom pre ďalšie overovanie, nie automaticky dôveryhodnou odpoveďou.