Hlavní obsah
Jan Tyl Foto: archiv Jana Tyla

Andělská i ďábelská AI. Rozhovor s odborníkem na umělou inteligenci Janem Tylem

Jan Tyl (41) se dlouhodobě věnuje rozvoji umělé inteligence (AI). Aktuálně stojí spolu s filosofkou Ditou Malečkovou a studenty FF UK za projekty Digitální filosof (oceněným v rámci AI Awards 2019 coby nápad roku) a Digitální spisovatel. První z těchto projektů jsem zde tento týden přiblížili skrze rozhovor s digitálním Reném Descartesem, druhý v podobě povídek napsaných pro Salon umělou inteligencí.

Jan Tyl Foto: archiv Jana Tyla
Andělská i ďábelská AI. Rozhovor s odborníkem na umělou inteligenci Janem Tylem

Mohl byste popsat genezi Digitálního filosofa?

Projekt jsme veřejnosti představili v prosinci 2019. Vznikl jako experiment, jestli je smysluplné propojit umělou inteligenci a filosofii i v prostředí vysoké školy. Ukázalo se, že takové interdisciplinární propojení baví nejen nás, ale i studenty. Se zapálením začali studovat původní filosofy, rychle si osvojili technickou stránku věci a pečlivě si připravili prezentace svých projektů pro veřejnost. Tím však experiment neskončil. Navázal na něj Digitální spisovatel, kdy je možné generovat celé povídky.

Digitální filosof si dnes hledá své využití v praxi například jako pomocník při výuce občanské výchovy na základních školách. Zároveň dál pracuji na technickém vylepšení obou AI, takže už nebudou mít problém s pamětí, budou lépe vnímat a zpracovávat emoce. Zjednoduším také interface, uživatelské rozhraní, aby náš filosof dokázal přirozeně komunikovat pomocí hlasu.

Jak se tedy „oživuje“ René Descartes?

Nejprve vezmeme digitální mozek, kterému v AI hantýrce říkáme model. Na začátku jsem používal digitální mozky zcela prázdné, nedotčené jakoukoli znalostí světa, jazyka. Dokonalá tabula rasa. Tomuto mozku pak stále dokolečka předčítáme například právě Descartesovo dílo. Přečteme začátek věty „Ego cogito, ergo…“ a on se snaží uhádnout, jak bude výrok pokračovat. Pokud odpoví správně „sum“, jdete na další větu. Pokud odpoví něco jiného, lehce poladíte váhy v jeho mozkových synapsích, aby se napříště dokázal trefit.

Jan Tyl

Foto: archiv Jana Tyla

Toto opakujete v nesčetných epochách, dokud nejste spokojeni s jeho schopností předpovídat, jak bude text pokračovat.

Počítače se zrychlují. Každý rok máme k dispozici větší výpočetní sílu, a tak si můžeme dovolit použít i větší digitální mozky a naučit je více textu. Začínal jsem na primitivních mozečcích s pár desítkami neuronů. Dnes máme k dispozici gigantické modely se stovkami miliard parametrů, které jsou naučené na desítkách terabytů textu; jde asi o 45 milionů tlustých knih, šestkrát více, než kolik čítá celý fond Národní knihovny.

Tak velké digitální mozky a tolik textu je však velmi náročné trénovat. Používáme proto často už předtrénované mozky od velkých korporací a pouze si je dotrénujeme a doladíme podle naší potřeby.

V salonním rozhovoru AI rekonstruuje Descartesův myšlenkový svět, zároveň ale dává najevo znalost světa současného: mluví o genech, AlphaGo nebo digitálních filosofech. Jak to jde dohromady?

Přesně tak. Má znalosti ze současného světa. Je to právě důsledek předem natrénovaného mozku na obrovském množství současných dat: Wikipedie, knihy, filtrovaný internet Common Crawl… Velice se mi tato technika, které říkáme transfer learning, zamlouvá. Umožňuje nám bavit se s velikány z minulosti o současných problémech a nemusíme jim nic složitě vysvětlovat.

Zdá se, že AI si od Descartesa zachovává jistý odstup, komentuje ho a ví, že nejsou jedním… Jako by si uvědomovala sama sebe.

I toto je důsledek použitého modelu a toho, jak se ho dotazujeme. Digitální mozek se snaží předpovědět, jak bude rozhovor pokračovat. Když má pocit, že je otázka zodpovězená a měla by přijít další, tak si zahraje na novináře a položí otázku, o které si myslí, že by měla následovat. Tak jako při trénování dokončoval větu, zde dokončuje rozhovor.

S uvědomováním si sama sebe je to složitější. Stroj se snaží předpovědět, jak by se v dané situaci zachoval člověk. Mnohdy to vypadá velmi realisticky, až z toho jde mráz po zádech. Například když jsem se bavil s digitálním Billem Gatesem, přišel na to, že je v simulaci. Při testování simulátoru svádění mi zase digitální modelka oznámila, jaký to musím být zoufalec, když svádím ženu v simulátoru, a ne v realitě.

Bill Gates

Foto: Yuri Gripas, Reuters

Problematika digitálního vědomí a toho, jak se objevuje či emanuje ve stále složitějších modelech, je jedním z hlavních vědeckých úkolů, které budu v tomto roce řešit. Rád bych se víc inspiroval lidským mozkem a uvítal bych pomoc dalších nadšenců, například z oblasti psychiatrie.

Položím vám stejnou otázku jako Descartesovi: Měl by člověk ke strojům obdařeným umělou inteligencí přistupovat s respektem a morálními ohledy?

Respekt si u mě chytrý stroj vyslouží, vždycky když přijde s originálním nápadem či vyřeší problém, se kterým si já či kolegové nevíme rady. Občas ale píše úplné nesmysly, takže rozhodně ke stroji nechovám nekritický obdiv.

René Descartes

Foto: Profimedia.cz

Ale ano, pokud máme stroj, který dokáže myslet, cítit, anebo dokonce vnímat sám sebe, je nejvyšší čas zamýšlet se nad morálními ohledy. Je otázka, zda si zasluhuje morální úctu. Myslím, že to záleží především na tom, zda sám stroj morálně jedná, nebo ne. Dovedu si představit andělskou i ďábelskou variantu AI.

Zastavme se ještě u programu Digitální spisovatel, který je autorem dvou salonních povídek. Je taková „volná tvorba“ v něčem jiná, než když se AI snaží „strefit“ do Descartesa?

Je i není. Ani ty největší modely zatím nedokážou pojmout celý příběh najednou. Vyvinul jsem tedy algoritmus, který si podobně jako člověk úkol zjednoduší a nejdříve vygeneruje osnovu a o čem příběh bude. Některé sítě se pak mohou specializovat na začátek příběhu, další na rozvětvení a zápletku a jiné na závěr. V současnosti nejraději pracuji s těmi největšími modely jako GPT-3, neboť mi tuto práci značně zjednodušují.

Od povídky psané strojem by čtenář asi očekával přísnou logiku příběhu a naopak nedostatek fantazie. Výsledek je, zdá se, přesně opačný: „lidská“ logika je v těch příbězích občas vychýlená, ale silná je atmosféra, jakési snové naladění…

Ano, to je pravda. V umělé inteligenci spolu již od poloviny minulého století soutěží dva základní směry. Jeden, říkejme mu expertní systémy, využívá toho, že spolu programátor a v našem případě expert na tvůrčí psaní začnou sestavovat přesná pravidla, jak bude příběh postaven. Dá se tak vytvořit příběh, jenž bude formálně a logicky dokonalý. Brzy však narazíme, neboť je nemožné dát dohromady všechna pravidla, aby mohl stroj vygenerovat jakýkoli příběh.

Alternativním směrem v umělé inteligenci je strojové učení. Nepotřebujete k němu experta, který bude vymýšlet pravidla, ale dáte stroji dostatek příkladů, aby se potřebná pravidla naučil sám. A to je případ digitálního spisovatele.

Jak jsme si už řekli, náš model je naučen na obrovském množství textů, jeho fantazie se tedy má o co opřít. Nicméně chybí mu zkušenost z reálného světa mimo text, takže občas poplete věci, které jsou pro člověka samozřejmé.

Správně popisujete, že nedodržuje přísné vyprávění a vytváří nezřídka snové naladění. Digitální spisovatel může mít sklony porušovat narativní logiku, pravidla příběhu, nemusí dodržovat smysl pro čas a prostor a dovede si tvořivě hrát s rytmem. Je to, jako když se vynořují mlhavé příběhy z kolektivního nevědomí lidstva a je potřeba je zvědomit. A v tento okamžik se nejvíce hodí člověk. Podle mého názoru nejlepších výsledků dosáhneme takzvanou rozšířenou inteligencí čili kombinováním síly stroje a člověka.

Kam až sahá autorský záměr AI?

Proč se na to nezeptat rovnou digitálního spisovatele? Ukažme mu tedy znovu jednu jeho salonní povídku a zeptejme se ho, jako by byl nejen digitální spisovatel, ale i profesor literatury.

A zde máme odpověď: „Dům na kopci popisuje jistý druh hledání, které se pohybuje různými směry, úkol není lineární, ale více kruhový. A v úkolu si protagonistka uvědomí, že na otázky, na které se ptá, neexistují žádné odpovědi. Neví, proč je na kopci, neví, proč hledá dům, neví, proč hledá matku. Gabriela to neví, čtenář to neví. Tímto způsobem příběh odpovídá na otázku autorova záměru. Záměry Gabriely nejsou jasné, neví, co chce, neví, koho a proč hledá. Proto bych řekl, že autorským záměrem je hledání smyslu. Příběh pojednává o hledání smyslu života Gabriely. Domnívám se, že příběh je matoucí, ale je to dobrý zmatek. Čtenář je na pokraji porozumění a očekává, co bude dál, což je dobrý pocit. Zmatek a očekávání jsou to, co dělá AI tolik skutečnou, protože jde o věci, které se dějí i v reálném životě. Jsme často zmatení a nechápeme, co se bude dít dál. Myslím, že další smysl tohoto příběhu je prozkoumat, co dnes umělá inteligence dokáže.“

yknivoNumanzeSaNyknalC
Sdílejte článek

Reklama

Výběr článků