Dôležité Software Biznis Slovensko Svet

EÚ: Instagram a Facebook majú návykový dizajn. Meta môže dostať pokutu do 6 % obratu

TL;DR

  • Návykové prvky

    Komisia kritizuje nekonečné rolovanie, automatické prehrávanie, push notifikácie a vysoko personalizované odporúčania, ktoré podľa nej podporujú kompulzívne používanie.

  • Slabé ochranné nástroje

    Časové limity možno ľahko odmietnuť a rodičovské kontroly podľa EÚ vyžadujú priveľa technických znalostí, preto riziká dostatočne neznižujú.

  • Hrozí vysoká pokuta

    Meta môže odpovedať na predbežné zistenia. Konečné rozhodnutie môže priniesť povinné zmeny a pokutu do 6 % celosvetového ročného obratu.

Európska komisia predbežne zistila, že návykový dizajn Instagramu a Facebooku porušuje DSA. Meta má zmeniť nekonečné rolovanie, autoplay, upozornenia aj odporúčacie algoritmy na oboch platformách.

Európska komisia predbežne dospela k záveru, že Meta porušila Akt o digitálnych službách, známy ako Digital Services Act alebo DSA, návykovým dizajnom Instagramu a Facebooku. Nejde ešte o konečné rozhodnutie ani automatickú pokutu. Komisia však žiada zásadné úpravy funkcií, na ktorých je postavené každodenné používanie oboch sociálnych sietí.

Komisia cieli na nekonečné rolovanie a autoplay

Vyšetrovanie sa zameralo na nekonečné rolovanie obsahu, automatické prehrávanie videí, push upozornenia a vysoko personalizované odporúčacie systémy. Tieto prvky neustále ponúkajú ďalšie príspevky, videá, príbehy a Reels bez toho, aby používateľ musel aktívne požiadať o nový obsah.

Európska komisia tvrdí, že Meta dostatočne neposúdila riziká takéhoto dizajnu pre fyzickú a duševnú pohodu používateľov. Týka sa to celej používateľskej základne, no osobitne maloletých a zraniteľných dospelých.

Problémom podľa regulátora nie je jedna samostatná funkcia. Ide o kombináciu plynulého prehrávania, nepretržitého prísunu nového obsahu, upozornení a algoritmov optimalizovaných na čo najdlhšie zapojenie používateľa.

Algoritmy majú podporovať kompulzívne používanie

Komisia vo svojich predbežných zisteniach uvádza, že vysoko personalizované odporúčania, autoplay a nekonečné rolovanie môžu posunúť používateľa do režimu „autopilota“. Človek následne pokračuje v sledovaní obsahu bez vedomého rozhodnutia, že chce na platforme zostať dlhšie.

Takýto dizajn môže podľa vyšetrovania prispievať k nezdravým návykom a kompulzívnemu používaniu. Mimoriadne dôležitú úlohu pritom zohrávajú krátke videá a ďalšie formáty, ktoré na seba automaticky nadväzujú.

Odporúčacie systémy Instagramu a Facebooku sú nastavené tak, aby používateľovi vyberali obsah podľa jeho predchádzajúceho správania. Čím viac príspevkov človek otvorí, sleduje alebo označí reakciou, tým presnejšie môže systém odhadovať, čo ho na platforme udrží.

Práve táto orientácia na zapojenie je podľa Komisie súčasťou problému. Regulátor nechce zakázať personalizáciu ako takú, ale požaduje, aby odporúčací systém nebol primárne optimalizovaný na maximalizáciu času a aktivity používateľa.

Najväčšie obavy sa týkajú maloletých

Komisia tvrdí, že Meta nezohľadnila všetky dostupné informácie o tom, koľko času trávia maloletí na Instagrame a Facebooku počas noci. Nedostatočne mala posúdiť aj to, ako môže optimalizácia formátov Reels a Stories viesť k nadmernému alebo kompulzívnemu používaniu.

Nočné používanie je pre regulátora dôležité preto, že bežné upozornenia, nový odporúčaný obsah a automatické prehrávanie môžu používateľa opakovane motivovať pokračovať v sledovaní platformy.

Komisia už v samostatnej časti vyšetrovania prijala predbežné závery týkajúce sa overovania veku a ochrany detí mladších ako 13 rokov. Pokračuje tiež v preverovaní takzvaného efektu „králičej nory“, pri ktorom algoritmus postupne posúva mladého používateľa k ďalšiemu podobnému obsahu a využíva jeho neskúsenosť alebo zraniteľnosť.

Časové limity podľa EÚ nestačia

Instagram aj Facebook ponúkajú nástroje na sledovanie času, pripomienky prestávok a rodičovskú kontrolu. Európska komisia však dospela k záveru, že aktuálne opatrenia nedokážu dostatočne obmedziť riziká vyplývajúce z návykového dizajnu.

Časové upozornenia možno podľa regulátora ľahko odmietnuť a nevedú k významnému zníženiu používania. Kritika sa týka aj ochranných nastavení, ktoré sú pri účtoch tínedžerov aktivované automaticky.

Rodičovské kontroly sú podľa Komisie efektívne len vtedy, keď rodičia alebo zákonní zástupcovia venujú dostatok času ich nastaveniu a majú potrebné technické znalosti. To znižuje ich účinnosť pri rodinách, ktoré sa v nastaveniach sociálnych sietí neorientujú.

Za dostatočné riešenie regulátor nepovažuje ani Safety Center spoločnosti Meta. Samostatná stránka s odporúčaniami a odkazmi na zdroje o duševnom zdraví podľa Komisie nerieši samotný dizajn aplikácií, ktorý používateľa motivuje pokračovať v sledovaní obsahu.

Facebook a Instagram sa môžu výrazne zmeniť

Európska komisia sa domnieva, že Meta musí zaviesť dizajnové zmeny na Instagrame aj Facebooku. Medzi navrhované opatrenia patrí vypnutie autoplay a nekonečného rolovania v predvolenom nastavení.

Používateľ by si ich mohol prípadne aktivovať manuálne, no aplikácia by ho už od prvého spustenia neviedla k nepretržitému sledovaniu ďalšieho obsahu. Komisia požaduje aj účinnejšie prestávky od obrazovky, ktoré nebude možné odbaviť jedným rýchlym klepnutím.

Zmeniť by sa mal tiež odporúčací systém. Namiesto maximalizácie zapojenia má lepšie zohľadňovať riziko nadmerného používania. Komisia zatiaľ neurčila presnú technickú podobu nového algoritmu ani to, ako by mala Meta jednotlivé požiadavky zaviesť.

V praxi by zmeny mohli priniesť menej automaticky prehrávaných videí, výraznejšie časové prestávky a väčšiu kontrolu nad tým, ako aplikácia vyberá obsah. Konkrétna podoba však bude závisieť od ďalšieho priebehu konania a reakcie spoločnosti Meta.

Meta nesúhlasí a odkazuje na Teen Accounts

Meta predbežné zistenia odmietla. Spoločnosť tvrdí, že Komisia nedostatočne zohľadnila kroky, ktoré firma od začiatku vyšetrovania prijala na ochranu mladých používateľov.

Ako príklad uvádza Teen Accounts, teda účty pre tínedžerov s automaticky nastavenou vyššou úrovňou ochrany. Rodičia môžu prostredníctvom týchto nástrojov zablokovať prístup k Instagramu v nočných hodinách alebo nastaviť denný limit používania aj na 15 minút. Meta uviedla, že bude s európskymi regulátormi ďalej spolupracovať.

Spor sa preto nebude týkať len toho, či ochranné funkcie existujú. Rozhodujúce bude, či sú v praxi dostatočne účinné, jednoduché a schopné vyvážiť mechanizmy, ktoré používateľov motivujú zostať na platforme čo najdlhšie.

Predbežné zistenie ešte nie je pokuta

Európska komisia zdôrazňuje, že aktuálne závery nepredurčujú konečný výsledok vyšetrovania. Meta má právo nahliadnuť do dokumentov v spise a písomne reagovať na jednotlivé výhrady. Konzultovaný bude aj Európsky výbor pre digitálne služby.

Firma môže predložiť vlastné technické údaje, argumenty alebo návrhy zmien. Ak však Komisia svoje stanovisko po ukončení procesu potvrdí, môže vydať rozhodnutie o nesúlade s DSA.

Prípadná pokuta má zohľadňovať povahu, závažnosť, opakovanie a trvanie porušenia. Jej hornou hranicou je 6 % celkového celosvetového ročného obratu poskytovateľa. Neznamená to, že Meta automaticky dostane najvyššiu možnú sankciu, no potenciálny finančný dosah je výrazný.

Vyšetrovanie sa začalo v roku 2024

Formálne konanie voči spoločnosti Meta sa začalo 16. mája 2024. Komisia počas vyšetrovania analyzovala správy o hodnotení rizík, interné údaje a dokumenty, odpovede spoločnosti na žiadosti o informácie aj vedecký výskum o behaviorálnych závislostiach.

Súčasťou procesu boli tiež rozhovory s odborníkmi z viacerých oblastí. Predbežné zistenia preto podľa Komisie nevychádzajú iba z verejného vzhľadu aplikácií, ale aj z dokumentácie a dát získaných počas konania.

Digital Services Act dáva Európskej komisii právomoc kontrolovať dodržiavanie dodatočných povinností najväčšími internetovými platformami. Tie musia identifikovať systémové riziká svojich služieb a prijímať primerané opatrenia na ich znižovanie.

DSA zasahuje do samotného dizajnu sociálnych sietí

Tento prípad je dôležitý tým, že sa netýka iba odstraňovania nelegálneho obsahu, reklamy alebo ochrany osobných údajov. Komisia priamo preveruje spôsob, akým sú sociálne siete navrhnuté a ako ich rozhranie ovplyvňuje správanie používateľov.

Nekonečné rolovanie, autoplay a odporúčacie algoritmy patria medzi základné mechanizmy moderných sociálnych platforiem. Ich obmedzenie preto môže zasiahnuť nielen používateľský zážitok, ale aj spôsob, akým platformy získavajú pozornosť a zobrazujú reklamu. Ide o logický dôsledok navrhovaných zmien, nie o samostatný záver Komisie.

Meta teraz bude musieť presvedčiť európske úrady, že jej ochranné opatrenia fungujú, alebo pripraviť podstatnejšie úpravy Instagramu a Facebooku. Konečné rozhodnutie môže určiť, do akej miery môže EÚ od technologických spoločností požadovať, aby nemenili iba obsahové pravidlá, ale aj samotnú architektúru pozornosti, na ktorej sociálne siete vyrástli.

Fakticky overené
Anketa

Dovolujete vaším deťom používať Facebook alebo Instagram?

2 hlasov

Použité zdroje

Preferovaný zdroj v Google

Ak vám naše články pomáhajú sledovať technológie, financie a AI v súvislostiach, pridajte si SmartArena medzi preferované zdroje v Google.

Pridať SmartArena v Google

Komentáre

Pridať komentár