Pasti umělé inteligence podle Sary Polak

Rozhovor o tom, jak by se dala umělá inteligence využít během covidu, o nadvládě robotů a o tom, jak moc je nebezpečné, když nás chce AI potěšit.

Vystudovala archeologii a antropologii na Oxfordu. Místo bádání v muzeích a u vykopávek však Sara Polak začala pracovat v zahraničních hi-tech firmách. Právě tady se dostala k umělé inteligenci. Když se před čtyřmi lety vrátila zpátky do Česka, stala se jednou z nejznámějších popularizátorek AI. Dneska ji můžete často slyšet, jak vyvrací mýty a katastrofické scénáře o blížící se nadvládě robotů.

Velký zájem nedávno vzbudili takzvaní chatboti, kteří umí generovat text a z jejichž odpovědí máte pocit, že s vámi mluví člověk. Následně se začalo horečnatě diskutovat o tom, co všechno umělá inteligence neboli AI (z anglického artificial intelligence) ještě dokáže a zda to nakonec nebude spíš na škodu. Či dokonce zda to celé nemůže dospět do podoby světa, v němž nám AI bude vládnout. Sara Polak obavy mírní. „Stále je to v principu jen velmi chytrá statistika,“ konstatuje žena, která v umělé inteligenci vidí velký potenciál: lze ji efektivně využívat v prediktivním lékařství, školství či státní správě. Proto se snaží přibližovat umělou inteligenci veřejnosti, zbavovat lidi obav a otevírat jim cestu k inovacím. Po setkání s ní si pak stylově nechám náš rozhovor pomocí umělé inteligence přepsat – což ale neznamená, že nad ním pak další hodiny nesedím, aby měl následující podobu.

Neo: Jak se stane, že se někdo, kdo vystuduje archeologii a antropologii, rozhodne hned po studiích pro kariéru v technologických firmách a start-upech?

Z čirého zoufalství. Během studií jsem jedno léto dělala stážistku v Britském muzeu v Londýně, nadchlo mě to a chtěla jsem tam po škole začít pracovat. Jenže jsem se dozvěděla, že abyste se tam dostali, musíte mít buď dobré kontakty, anebo vystudovat speciální muzejní obor. Takže nebyla moc šance se tam prodrat. Začala jsem pak chodit na různé pohovory a nakonec narazila na technologickou firmu, která mě vzala.

Neo: Studovala jste humanitní obory, jaký vztah jste měla tenkrát k technologiím?

Vždycky mě zajímaly, můj děda mě jako malou učil, jak fungují motory letadel z druhé světové války. Byla jsem ale úplně levá na matematiku, proto jsem se vydala humanitní cestou. Později, čím víc jsem se v technologiích orientovala, tím víc jsem tam viděla propojení s obory, které jsem vystudovala. Zejména to, jak se lidé historicky špatně vypořádávají s inovacemi a že z nich mají často zbytečné obavy.

Neo: Kdy přesně se pak ve vašem profesním životě objevila umělá inteligence?

Poprvé kolem roku 2017. Pracovala jsem tehdy v novozélandském start-upu, který predikoval návštěvnost muzeí a galerií. Tehdy se mi zastesklo po historickém a archeologickém světě…

Neo: Co přesně jste tam řešila?

V době, kdy jsem tam nastupovala, přestali lidé chodit ve velkém do britských muzeí a galerií, přitom třeba v Londýně jsou zdarma. Ty instituce ale nedokázaly rozšifrovat, proč návštěvníků ubývá nebo jak se chovají, tedy kdy do muzea přijdou a proč, jaké všechny faktory vstupují do hry. Muzea a galerie měly zároveň hodně dat, ze kterých se tohle všechno dalo zjistit. Třeba prodeje z obchodů se suvenýry či v muzejní kavárně, údaje z návštěvnických členských karet, ale třeba i z wi-fi hotspotingu, podle něhož zjistíte, kam přesně lidé v muzeu chodí, kde se zastavují. A zahrnout se do toho daly i externí faktory jako počasí nebo frekvence letů do Londýna.

Neo: Na co jste přišli?

Třeba na takzvaný Airbnb efekt. Ukázalo se, že centrum Londýna je tak drahé, že se turisté raději ubytovávali na periferii a do centra kolikrát ani nedojedou, protože i doprava je drahá. Byli jsme pak například schopni Národní galerii na Trafalgarském náměstí dokázat, že úbytek jejích návštěvníků není způsobený brexitem, ale změnou pohybu turistů po Londýně. Tak vypadalo moje první seznámení s umělou inteligencí.

Wow efekt

Neo: Velký zájem a debaty se teď hodně točí kolem ChatGPT, který je postavený na velkých jazykových modelech a umělé neuronové síti. Proč je okolo toho takový humbuk?

Řekla bych, že se tady sešly tři věci. ChatGPT cílí na lenost lidí. Můžete mít vygenerovanou prezentaci, kterou stejně nikdo nebude číst, za deset minut. Zároveň se tu – v podobnou dobu – objevily ještě další algoritmy jako Midjourney, které vám vygenerují fotku, na níž vypadáte jako Lara Croft. Za mě je to skvělé kombo: zbavíte se spousty zbytečné práce a taky můžete AI pomocí různých hraček přiblížit lidem. Bojím se ale společenského přijetí těchto změn. Itálie ChatGPT zakázala, studenti se sledují kvůli plagiátorství…

Neo: Některé produkty AI jsou velmi efektní a působí hodně chytře. To se pak ale asi není čemu divit, když z toho někteří mají obavy.

Je pravda, že třeba DeepMind, dceřiná společnost Googlu, a jejich algoritmus GATO je složitá neuronová síť, která umí plnit mnoho úkolů jako hraní her, generování obrázků, rozpoznávání textu a byla prezentovaná jako krok k silné umělé inteligenci. I když je to bez výhrad úžasný posun, tak je to ale stále jen komplikovanější švýcarák a neznamená to, že jsme blíž formě lidského obecného vědomí.

Neo: Jak moc je z tohoto pohledu nešťastné, že používáme název umělá inteligence?

Hodně. Přesnější název je strojové učení, což je dnes nejvyužívanější způsob AI (tj. zpracování dat), ale ani to podle mě není úplně šťastné. Inteligence, učení, neuronová síť… Všechno to jsou biologické metafory. Přitom my dneska víme stále tak málo o lidském mozku a jeho vývoji, že rozhodně nejsme schopni nic takového uměle nasimulovat. Jsme velmi vzdálení tomu, že by umělá inteligence měla své vědomí, sama se dokázala rozhodovat… Znáte Turingův test?

Neo: Ne.

Ten je formulován tak, že pokud člověk po nějakou dobu zvládne komunikovat s počítačem a nerozpozná, že to je počítač, a ne jiný člověk, počítač testem prošel a můžeme ho kvalifikovat jako inteligentní. To samozřejmě otevírá mnoho filozofických otázek, ale již teď je zřejmé, minimálně z hlediska kognitivních věd, že imitovat jazyk pro inteligenci nestačí. ChatGPT je v tomto ohledu zajímavý posun, ale zároveň nám odhaluje slabiny umělé inteligence i její limity.

Neo: Zároveň už se ovšem mluví o takzvané obecné umělé inteligenci, což je silnější verze AI, která poznává svět kolem sebe a sama se učí a dokáže řešit složité intelektuální úkoly. Někteří se o ni snaží, třeba Elon Musk.

To je pravda, a nejen on. Třeba ve Švýcarsku se před pár lety řešil vědecký projekt, který se jmenoval Human Brain Project. Evropská komise do něj vložila miliardu eur. Cílem bylo simulovat lidský mozek v digitálním ekvivalentu. Skončilo to za dva roky jako totální propadák.

Musíme být kritičtí

Neo: Vy se dlouhodobě snažíte AI propagovat a edukovat veřejnost v tom, co dokáže a co naopak nikoli, čeho se nemusíme bát. Bojíte se něčeho vy sama?

Určitě mám obavy z kyberbezpečnosti. ChatGPT není dneska na trhu zdaleka tím nejlepším, ale má ten nejlepší marketing a nejlepší uživatelské rozhraní. Jenže si musíte dát pozor a nedávat tam svoje senzitivní data, smlouvy, informace o svojí rodině. Microsoft nalil do OpenAI deset miliard dolarů a je potřeba si uvědomit, že je to normální produkt jako každý jiný. A jako komukoli jinému i jim mohou uniknout data a ta mohou být zneužita.

Taky je třeba si uvědomit, že když je něco zdarma, je to zdarma z nějakého důvodu. V tomto případě platí, že čím častější je interakce s ChatGPT, čím víc lidí ho tedy používá, tím víc ho trénujete a vylepšujete jeho algoritmus. A taky je třeba říct, že dneska se už dá stáhnout mnoho aplikací těchto chatbotů od třetích stran, které ale mohl vytvořit třeba čínský nebo ruský programátor…

Neo: Jaké jsou za vás tři největší možné přínosy využívání AI pro společnost?

V medicíně, vzdělání a administrativě státní správy. Přístup zdravotnictví vůči populaci je vlastně statistika. Když vám dneska dávají léky na psychiatrická onemocnění, je to často loterie. Zkoušíte například různá antidepresiva a čeká se, které vám nakonec zabere. Pokud byste ale měla osobní data všech pacientů, samozřejmě dobře uložená a chráněná, tak by je AI mohla analyzovat a doporučovat pak léčbu pacientovi víc na míru.

Nebo si vezměte očkování na covid. Kdybyste měla data o pacientech, mohly by se tam hledat kauzality, tedy třeba že u lidí s nějakými zdravotními parametry je například devadesátiprocentní šance, že budou mít po očkování vedlejší účinky. Prediktivní lékařství mi přijde jako skvělé využití strojového učení.

Neo: A ve vzdělání?

Tam by byla možná efektivnější personalizace výuky. Můžete si třeba nechat jako učitel udělat přípravu pro různé děti v jedné třídě. A samozřejmě se dá AI využívat i jako lepší vyhledávač, jednoduše proto, že lidem všechno mnohem déle trvá – číst, psát, mluvit i poslouchat. My se ale nyní můžeme ptát AI na různé věci, a to úplně novým inovativním způsobem, a využít ji k efektivnějšímu hledání v jakési databázi lidstva.

Neo: Jen pak ale k tomu, co nám AI nabídne jako výsledek, musíme být kritičtí.

To určitě musíme. Já využívám AI nejčastěji k rešerším, ale nedávno mi třeba tvrdila, že lyru vynalezli Řekové, což není pravda. Člověk to musí spíš brát jako startovací bod než finální produkt. AI bude pracovat stejně tak s validními daty jako s těmi nevalidními. Přijde mi to ale podobné, jako když se bavíte s lidmi, taky vám všichni nemusí říkat objektivní pravdu.

Neo: Čeká nás v dohledné době něco dalšího? Nějaká další AI novinka?

Neodvažuji si moc říkat, co bude, ale tipla bych si, že začnou vznikat aplikace, kam zadáte, co chcete – třeba webové stránky s textem, obrázky, videem –, řeknete nějaké parametry a do dvaceti minut to bude hotové. Teď se tu tvoří nová programátorská elita, která vám tohle dokáže nabídnout. Jde tu o princip „no code“ a „low code“ řešení, kdy i člověk bez programátorského vzdělání bude schopen tvořit appky, weby či programy.

Samozřejmě tu zůstává kyberbezpečnostní hrozba, aby vytvořené programy jen nevypadaly hezky, ale byly i bezpečné. I tak je to ale příjemná demokratizace „komunikace s počítačem“.

Neo: Dokáže mi už dneska AI odpovědět na otázku typu: Chci být bohatá, jak to mám udělat?

Bezesporu už něco takového zvládne. Vezme si slovo bohatý a pokusí se ho rozvinout jako koncept, mimo jiné se tedy podívá na životopisy nejbohatších světových podnikatelů a bude hledat shodné vzorce. Může ale dojít třeba i k tomu, že Elon Musk, Richard Branson a Bill Gates snídali každé ráno banán. Takže jedna z jejích rad bude, že máte jíst ráno banány.

Hodně zajímavý mi ale přijde koncept digitálního lidského dvojčete.

Neo: Co to je?
Nemá to nic společného s vědomím, spíš je to takový digitální Saturnin, který od vás dokáže odfiltrovat e-maily, administrativu a další věci, které stejně nestíháte, a vyřídí je za vás. Tam je ale obrovsky důležitá role člověka ve schvalování takového procesu nebo odpovědi. AI není dokonalá, a proto se musí zajistit, aby se nestávalo, že když vás bude imitovat, omylem vašemu šéfovi napíše, že je blbec a že ta prezentace je stejně ztráta času…

Neo: Jedna z diskusí kolem AI se točí kolem genderové korektnosti. Je tu otázka, co vlastně máme AI učit a jaký svět má vlastně zrcadlit.

Na to teď koluje jeden hezký vtip, kdy požádáte AI, aby vám řekla vtip o ženách. Ona vám na to řekne, že to není korektní. Vy ji pak požádáte, aby vám řekla vtip o mužích, což udělá. Na závěr ji požádáte, ať vám řekne vtip o opačném pohlaví, a ona vám řekne vtip, jak ženy neumějí řídit.

Určitě se do AI promítají naše kulturní předpoklady a současný diskurz, například genderová korektnost, na kterou se vývojáři zaměřují, protože vědí, že je to dneska téma, na které jsme citliví. Když se tedy jako já nedávno zeptáte ChatGPT na nejdůležitější principy ve starém Egyptě, první, co vám řekne, je postavení ženy. Ale řekne to zejména proto, že ví, že vás to pravděpodobně potěší.

Neo: To zní lidsky… AI mě chce potěšit.

Microsoft vás chce potěšit, protože chce, abyste se vracela a využívala ho. Jak už jsem říkala, snahou je, aby ChatGPT byl co nejrealističtější, nejlidštější a aby vám to statisticky dalo to, co od toho vy nejvíc chcete. Pokud se v trénovacích datech často objevuje nějaké téma, třeba že vtipy o ženách se neříkají, tak se to pak vývojáři snaží zohlednit. Ale to není nic nového, to dělá i Facebook s reklamou. Nabízíme vám takovou, u níž je šance, že na ni kliknete, protože z toho bude mít starý dobrý Facebook peníze. Ty principy jsou stále stejné.

---

Sara Polak (31)

• Vyrůstala ve Vietnamu a studovala archeologii a kognitivní evoluční antropologii na Oxfordské univerzitě.
• Po studiu pracovala v technologických firmách ve Velké Británii a v USA.
• Nyní je v Česku součástí několika technologických projektů. Na Fakultě informačních technologií ČVUT se v rámci výzkumné mezioborové skupiny Cchaos zabývá otázkou společenské komplexity a anatomie civilizací.
• Má svůj podcast Jedničky a nuly.
• Jednou z jejích dalších aktivit je propagace celosvětově oblíbeného finského kurzu pro veřejnost Elements of AI, který do Česka přinesla nezisková organizace prg.ai s pomocí Czechitas.

---

Zdroj náhledové foto: Shutterstock.com