Rozpitvat lidstvo pomocí AI. Josef Šlerka o využití umělé inteligence v humanitních vědách

I pro mě je překvapivá ta rychlost, s ja­kou se vše vyvíjí. Je doslova překotná. Jedná se o intelektuálně jednu z nejza­jímavějších věcí, která se za posledních několik desítek let odehrála. Začleně­ní AI do našich životů a společnosti je srovnatelné s objevem knihtisku nebo s příchodem počítačů a internetu. Baví mě sledovat, jak moc umělá inteligence spoustu lidí zneklidňuje v tom, že zpo­chybňuje jejich lidskost a schopnosti. Co je vlastně empatie? Co je kreativita? Co znamená, že jsem chytrý? A to, jak rozbíjí jejich představu, že jako bytosti s inteligencí jsme vládci světa! Najed­nou náš rozum někdo předbíhá brutální rychlostí. Počítače nás předstihly výpo­četním výkonem, AI to ale dělá ve všech dalších směrech lidského myšlení. Mož­ná se blížíme přelomovému bodu, kdy zjistíme, že víc lidské než rozum jsou naše emoce, schopnost nenávidět, milovat, vcítit se, vnímat energii druhého apod. Mít prožitky.

To je moc dobrá otázka, která má slo­žitou odpověď. V prvé řadě je umělá inteligence strašně široký pojem. Pro veřejnost je to ale dnes hlavně Chat­ GPT a podobné aplikace. Většina lidi si ale myslí, že pro AI platí to samé jako pro kalkulačku, prostě že vždy se­čte dvě stejná čísla stejně, jenže to tak není. Může chybovat podobně jako lidé. A také to dělá. Ve své podstatě si ji mů­žeme představit jako simulátor člověka. Umí podobné věci, dělá podobné chyby, prostě protože se učila od lidí.

Bohužel špatně, protože je často neče­káme. Nesmíme ji brát jako dokonalou databázi ověřených faktů. Když s ní ře­šíte nějaké faktické věci, je dobré být ve střehu. Ostatně ani když si vyhledá­váte na internetu, nepředpokládáte, že všechny odkazy a informace, které naleznete, jsou pravdivé. Ten nešťast­ný dojem o bezchybnosti vzniká stylem komunikace AI, která vám sebevědomě odpovídá. Je to psychologicky podmí­něná důvěra. K AI bychom měli přistu­povat s předpokladem, že to, co fakticky říká, je správně, jedině když to my sami poznáme. Jinak bychom měli vždy být předpojatí, raději ji a priori podezřívat z omylu a provádět kontrolu. Podobně jako když nám něco tvrdí člověk. Pokud nevíte, o čem mluví, snadno vás obala­mutí, vždy se ale můžete podívat a fakta si ověřit i z jiných zdrojů. Chybou lidí by bylo k výstupům AI přistupovat tak, že jsou skvělé, protože nás nestály žádnou energii.

Když se dnes generativní AI zeptáte dvakrát na stejnou otázku, neodpoví pokaždé stejně. Podoba promptu hraje zásadní roli, protože ChatGPT a další koneckonců nedělají nic jiného, než že pokračují v tom, co jste napsali. Občas je to chování obzvlášť divné. Ukázalo se kupříkladu, že když zadáš pokyn s dodatkem „Nadechni se a lépe se sou­střeď“, následuje přesnější a méně chy­bová odpověď.

Možná tě překvapím, ale myslím, že pro sepisování promptů jsou lidé s humanit­ním vzděláním lepší než ti, co mají zku­šenost s IT. Lépe zasazují do kontextu, ale i lépe výstupy AI vyhodnocují. Je to dáno tím, že v IT znáte jenom 0 a 1, prav­du a nepravdu, algoritmus se provede vždy stejně a tak dále. Nicméně v realitě je to složitější. Při psaní dobrého promptu mějte prostě na paměti, že AI neví nic o tom, co chcete, v jaké podobě, kdo to chce a proč. To jí všechno řekněte a při­dejte příklad toho, jak vypadá správný výstup, a budete mít skvělý základ.

Nástup AI zasáhne celé lidstvo v drtivé většině oblastí, v tom bych ji přirovnal k průmyslové revoluci. Víme, na jakou dobu to destabilizovalo společnost. Přechod na industriální společnost nás stál britský kolonialismus, ruský a čínský komunismus a nakonec i nacismus. To všechno byly reakce společnosti na příchod nové éry a stálo to mnoho životů. AI bude znamenat podobnou transformaci ve způsobu výroby a naší produktivity. Firma bude najednou potřebovat místo deseti marketérů jednoho, místo pěti právníků žádného. Je to dobrý začátek, může to být i zlý konec. Ty turbulence čekám velké. Už jsme na tu cestu změny nastoupili. Myslím, že teď si budeme ujasňovat, jaké věci nechceme, aby dělala. Které to budou, se teprve uvidí. Myslím, že i v regulacích půjdeme cestou pokusů a omylů, protože je to pro nás celé nová zkušenost. Někde je to jasnější, třeba jako v případě autonomních zbraňových systémů, u kterých je jasné, že je nechceme, ale případnému zneužití momentálně neumíme předejít. Navíc netušíme, co dělají armády v tajném režimu. Podobně vysoké nebezpečí vnímám u autonomních robotů, k jejichž systémům bude mít „někdo“ klíč. Vložení AI do robotů bude přelomové, ale když takový evoluční skok přijde brzy, může dojít k ještě větší destrukci stávající společnosti. V tom se neodvažuju predikovat.

Za mě to nedává smysl. AI jejich texty nevykrádá, ona se na jejich datech trénuje, jak může text pokračovat. Je to něco, jako kdyby umělci někdo zakazoval číst cizí knihy, aby se ve své fantazii náhodou neinspiroval.

Nejvíc mne teď zajímá, jak lze využít AI při zkoumání člověka. Jestli je možné pomocí různých nástrojů, jako je ChatGPT, simulovat lidské zkoumání a dělat s ním pak různé experimenty. Jako příklad můžeš vzít úspěšné rámování. Například jaký bude rozdíl v úspěšnosti, když letáček s výzvou k tomu, že se máme jít očkovat proti černému kašli, začneš větou „95 % lékařů doporučuje“ místo „Lékaři doporučují“. Můžeš také testovat nějaké postupy, s nimiž by šlo zmenšit vlivy takzvaných kognitivních zkreslení. Nebo například se věnovat tomu, jak vhodným nastavením pravidel snížit míru nenávisti v diskuzích online komunit. Je to fascinující oblast. Například se ukazuje, že když člověk podléhající konspiračním teoriím komunikuje s chatbotem, snižuje to jeho víru v ně víc, než kdyby mu je rozmlouval člověk. Podobně lidé s psychickými problémy prozradí při prvním kontaktu se specializovaným chatbotem o sobě a svých problémech daleko víc, víc se otevřou než při prvním sezení s reálným psychologem. Zatím nevíme přesně proč, pravděpodobně je to, protože stroji nemáme tak velký problém se svěřit. Mimochodem, když AI zadáme, aby s pacientem komunikoval empaticky, zvládá to lépe než většina reálných lékařů.