Čo AI dokáže a kde má hranice: ako ju používať bez prehnaných očakávaní
TL;DR
-
Pomocník, nie neomylný zdroj:
AI dokáže pripraviť návrhy a vysvetlenia, ale plynulý text nezaručuje pravdivosť ani aktuálnosť informácií.
-
Záleží na prístupe:
Práca s internetom, súbormi či aplikáciami závisí od nástrojov a oprávnení. Návrh e-mailu ešte neznamená jeho odoslanie.
-
Začnite overiteľnou úlohou:
Vyskúšajte zhrnutie krátkeho textu, ktorému rozumiete. Výsledok porovnajte s podkladom a hľadajte aj vynechané podmienky.
Umelá inteligencia pomáha s textami, vysvetľovaním aj plánovaním, no môže sa mýliť. Ukazujeme, kde je užitočná, čo potrebuje vedieť a kedy jej odpovede treba overiť.
Otvoríte chat, napíšete otázku a dostanete usporiadanú odpoveď. Môže obsahovať vysvetlenie, tabuľku aj presvedčivý záver. Pred jej použitím však treba vyriešiť inú otázku: vznikol užitočný návrh, alebo overená informácia? Na obrazovke môžu vyzerať veľmi podobne.
Čomu sa v tomto seriáli venujeme
Umelá inteligencia je širší pojem než konverzačný asistent. V tomto seriáli sa sústreďujeme predovšetkým na generatívnu AI, teda systémy, ktoré vytvárajú obsah a spracúvajú zadania používateľa. Môže ísť o text, obrázky, zvuk či prácu s dodanými údajmi. Medzi bežné použitia patrí tvorba návrhov, úprava existujúceho obsahu a jeho zhrnutie.
Na používanie nepotrebujete programovať. Potrebujete však vedieť, čo od nástroja žiadate a podľa čoho spoznáte použiteľný výsledok. „Pomôž mi s dokumentom“ môže znamenať opravu pravopisu, vysvetlenie obsahu aj hľadanie konkrétnej podmienky. Každá z týchto úloh si vyžaduje inú kontrolu.
Kde začať s praktickými úlohami
Na prvé skúšanie si vyberte úlohu, pri ktorej poznáte podklady. Môžete nechať upraviť vlastný krátky text, usporiadať poznámky do osnovy alebo navrhnúť otázky na stretnutie.
Výhodou takéhoto začiatku je, že výsledok dokážete posúdiť. Viete, či sa zoznam vašich poznámok skrátil bez straty dôležitej informácie. Viete tiež rozpoznať, keď do návrhu pribudol sľub, ktorý ste nikdy nechceli dať.
Pri vysvetľovaní neznámeho pojmu žiadajte príklad a následne si overte jeho podstatu. Pri plánovaní nechajte oddeliť návrhy od podmienok, ktoré treba preveriť. Plán stretnutia môžete posúdiť sami; aktuálnu dostupnosť konkrétnej služby už treba potvrdiť u poskytovateľa.
Takýto prístup zodpovedá aj odporúčaniu Microsoftu priebežne kontrolovať odpovede a zadania spresňovať podľa výsledku.
Prečo môže AI presvedčivo uviesť nesprávnu informáciu
Označenie halucinácia sa pri AI používa pre vierohodne pôsobiaci, ale nepravdivý výstup. Môže ísť o nesprávny dátum, vymyslenú citáciu alebo odpoveď, ktorá chýbajúce údaje nahradí domnienkou. Sebavedomý spôsob podania nie je meradlom správnosti.
Predstavte si odpoveď, ktorá odporučí knihu od existujúceho autora. Názov znie dôveryhodne, opis zapadá do jeho tvorby, no samotná kniha neexistuje. Problém nie je vo vetnej stavbe. Problémom je chýbajúca opora v skutočnosti.
Ani pokyn „nevymýšľaj si“ nemožno považovať za technickú záruku bezchybnosti. Má zmysel výslovne žiadať označenie neistoty, ale dôležité tvrdenia stále potrebujú kontrolu. Na riziko halucinácií upozorňuje aj Európska komisia v materiáloch o AI gramotnosti.
Internet, súbory a aplikácie nie sú samozrejmosťou
Rozlišujte medzi odpoveďou vytvorenou z naučených znalostí, odpoveďou založenou na vašom dokumente a výsledkom aktuálneho vyhľadávania. Nástroje na webové vyhľadávanie alebo výpočty môžu pomôcť, ale treba skontrolovať, či boli pri konkrétnej odpovedi skutočne použité.
Rovnako nepredpokladajte, že asistent vidí vaše e-maily, kalendár alebo všetky súbory v počítači. Dostupný obsah závisí od služby, pripojených zdrojov, oprávnení a niekedy aj nastavení organizácie.
Dôležité je tiež odlíšiť návrh od vykonanej akcie. Text „Tu je odpoveď zákazníkovi“ ešte neznamená, že ju zákazník dostal. Pri nástroji, ktorý dokáže správu aj odoslať, skontrolujte príjemcu, obsah a potvrdenie vykonania. Pred schválením citlivej akcie treba preveriť, čo sa bude zdieľať alebo meniť.
Praktický príklad: čo vieme z krátkeho oznamu
Použime modelový oznam:
Knižnica je v sobotu otvorená od 9.00 do 12.00. Knihy možno vrátiť aj do vonkajšieho návratového boxu.
Nepresné zadanie: Kedy môžem v sobotu vrátiť knihu?
Takáto otázka nerozlišuje návštevu knižnice a použitie boxu. Navyše nehovorí, či má AI pracovať iba s oznamom, alebo hľadať ďalšie informácie.
Lepšie zadanie: Pracuj iba s priloženým oznamom. Zisti, či je knižnica v sobotu o 14.00 otvorená a či oznam potvrdzuje nepretržitú dostupnosť návratového boxu. Chýbajúce informácie nedopĺňaj.
Príklad skontrolovaného výsledku: Podľa uvedených sobotných hodín knižnica o 14.00 otvorená nie je. Oznam potvrdzuje existenciu návratového boxu, ale neuvádza jeho dostupnosť počas celého dňa.
Pri kontrole si všimnite najmä druhú vetu. Výsledok nemá z existencie boxu automaticky odvodiť, že je dostupný nepretržite. Práve schopnosť zachovať rozdiel medzi uvedeným údajom a domnienkou rozhoduje o jeho užitočnosti.
Čím závažnejší dôsledok, tým dôkladnejšia kontrola
Nesprávne navrhnutý predmet e-mailu opravíte ľahko. Chybný údaj použitý pri zdravotnom, právnom alebo finančnom rozhodnutí môže mať podstatne vážnejšie následky. Aj Google upozorňuje, že odpovede Gemini nemajú nahrádzať odborné poradenstvo v takýchto oblastiach.
AI v nich môžete použiť napríklad na zostavenie otázok pre odborníka alebo vysvetlenie pojmov. Rozhodnutie však neopierajte iba o odpoveď, ktorej správnosť neviete posúdiť.
Pri každej úlohe si preto položte jednoduchú otázku: Čo sa stane, ak je tento výsledok nesprávny? Odpoveď vám napovie, koľko overovania potrebuje.
Umelá inteligencia v každodennom živote: praktický sprievodca používaním AI
Zdroje
Ak vám naše články pomáhajú sledovať technológie, financie a AI v súvislostiach, pridajte si SmartArena medzi preferované zdroje v Google.
Komentáre