O umelej inteligencii sa hovorí buď ako o zázraku, alebo ako o hrozbe. Užitočnejšie je vedieť, ako tie nástroje fungujú. Potom sami posúdite, kedy im veriť a kedy nie. Budeme hovoriť o jazykových modeloch, teda o chatbotoch, s ktorými si píšete.

Ako jazykový model vznikol

Jazykový model sa učil na obrovskom množstve textu: knihách, článkoch, webových stránkach. Počas učenia robil stále jednu úlohu. Dostal začiatok textu a mal odhadnúť, ako pokračuje. Keď sa mýlil, jeho vnútorné nastavenia sa trochu upravili. Po miliardách opakovaní sa naučil, ako slová, vety a myšlienky zvyčajne nasledujú za sebou.

Keď mu dnes položíte otázku, robí v jadre to isté. Postupne skladá odpoveď tak, aby pokračovala čo najpravdepodobnejšie. Preto znie odpoveď prirodzene. A preto vie dobre zhrnúť text, prepísať list jednoduchšie alebo vysvetliť pojem.

Prečo si AI vymýšľa

Model nemá v sebe databázu overených faktov, do ktorej by sa pozrel. Má naučené vzorce jazyka. Keď sa ho spýtate na niečo, čo dobre nepozná, nepovie automaticky „neviem“. Často vyskladá odpoveď, ktorá vyzerá správne. Tomuto javu sa hovorí halucinácia.

Halucinácia nie je lož v ľudskom zmysle. Model nevie, že klame. Len skladá pravdepodobný text. Nebezpečné je, že vymyslená odpoveď znie rovnako sebavedome ako správna.

Niektoré chatboty dnes vedia aj vyhľadávať na internete a uvádzať zdroje. To pomáha, ale problém to neodstraňuje. Model môže zdroj zle pochopiť, vybrať nespoľahlivú stránku alebo spojiť dve informácie, ktoré k sebe nepatria. Preto pri dôležitých veciach otvorte uvedený zdroj a prečítajte si ho sami.

  • Vymyslené citáty, ktoré daná osoba nikdy nepovedala.
  • Názvy kníh, štúdií alebo zákonov, ktoré neexistujú.
  • Presné čísla, dátumy a paragrafy, ktoré sú len približne alebo vôbec nie správne.
  • Odkazy na webové stránky, ktoré nevedú nikam.
  • Zastarané informácie, lebo model sa učil na textoch do určitého dátumu.

Na čo sa AI hodí a na čo nie

Pravidlo je jednoduché. AI je silná tam, kde vy viete výsledok posúdiť. Slabá je tam, kde sa na ňu spoliehate ako na jediný zdroj pravdy.

  • Dobre: preformulovať e-mail zdvorilejšie, zhrnúť dlhý text, ktorý máte pred sebou, navrhnúť jedálniček z toho, čo máte v chladničke, vysvetliť cudzie slovo.
  • Opatrne: hľadanie faktov, dátumov, čísel a zdrojov. Vždy overte inde.
  • Nie: rozhodnutia o zdraví, peniazoch alebo práve len na základe odpovede.

Dôležité je aj súkromie. To, čo do chatbota napíšete, odchádza na servery firmy, ktorá ho prevádzkuje. Nevkladajte tam rodné čísla, čísla kariet, heslá, zdravotné správy iných ľudí ani firemné dokumenty, ktoré nemáte zdieľať.

Ako sa pýtať, aby odpoveď stála za to

  1. Povedzte, kto ste a na čo odpoveď potrebujete. Napríklad: „Som laik, potrebujem tomu rozumieť pred stretnutím.“
  2. Vložte text, s ktorým má pracovať, namiesto toho, aby si ho domýšľala.
  3. Požiadajte ju, aby povedala, čím si nie je istá.
  4. Pri faktoch si nechajte uviesť, kde sa dajú overiť, a overte to sami.