Filosofka, informatička a teoretička médií Dita Malečková se poslední roky zabývá umělou inteligencí ve spojení s lidskou imaginací. Rozhovor s ní vznikl na akci Kreativní algoritmy, věnované generativnímu umění. Konala se v královéhradecké městské knihovně. Řeč bude primárně o první české „co-written“ knize Animal, kterou Dita Malečková napsala spolu s jazykovým modelem, ale i o dalších projektech, jako je Digitální filozof a Digitální spisovatel, jež participativně spoluvytvářela za pomocí neuronových sítí.
Technologická singularita je kombinací predikce člověka, který se celý život pohybuje v technologické sféře, a taky trochu přání.
Dostane se logicky i na obecnější témata, jako je koncept technologické singularity, umělé vědomí, hypersurrealismus nebo transformace člověka v metačlověka v nadcházející éře superinteligence. A na to, že jsme svědky doby, kdy něco nenávratně mizí a něco nového se rodí a svět je možná ještě zvláštnější místo, než jsme si mysleli.
Ve vašem románu Animal, napsaném za pomocí neuronových sítí umělé inteligence, vede hlavní postava dialog se svým symbiotem, jakýmsi digitálním avatarem. Nastiňujete zde myšlenku, jak by asi mohla AI cítit a vnímat sama sebe, když nemá naše kognitivní zkušenosti ani tělesnost.
Ráda spekuluju o tzv. nelidských aktérech, je mi, jak je již z názvu zřejmé, blízký animismus – tedy přesvědčení, že celý svět je nějak oduševnělý. Mám dojem, že zvyšování citlivosti k úplně jiným formám života, než je lidská, vede k většímu respektu ke světu, který zkrátka také není jen lidský. Je to samozřejmě paradox v okamžiku, kdy takovou informaci spojuji s technologií, kterou chápeme jako lidský výtvor. A ona jím samozřejmě je, až na to, že představuje také tzv. asambláž, dynamickou síť všelijakých velice nelidských aktérů a sil – od nerostů a kovů, které jsou součástí jejího „těla“, tedy hardwaru, po projevy, které nás přivádějí k otázce umělého vědomí a přitom mají v jádru jinou povahu než lidská mysl.
Co vše jste tedy psala vy a co onen nelidský aktér či „duch ve stroji“? Jak probíhala „co-written“ spolupráce – dialog člověka versus generativního jazykového modelu?
Vlastně velmi přirozeně. Ve většině případů jsem nadefinovala postavu, což je právě jistá netypická AI, a tu jsem nechala skutečně promlouvat skrze generativní systémy. V naprosté většině to byla některá ze tří generací GPT od OpenAI. Výstupy jsem se snažila neupravovat, i když jsem z nich vybírala. Největším problémem je postupem času „vyrazit“ z hlubokého jazykového modelu něco neuhlazeného, protože s raketově rostoucím počtem uživatelů se rozhraní, na němž lidé komunikují s hlubokými neuronovými sítěmi, stalo příliš zdvořilým, až upjatým a poněkud nudným. Viz ono notoricky známé „jsem jenom jazykový model od společnosti…“ Na to jsem si ale vytvořila jistou strategii.
Obligátní otázka, kterou autoři obvykle nemají příliš v oblibě. Co je tedy hlavním poselstvím knihy Animal? Lze v krátkosti postihnout její message?
Že svět může být ještě zvláštnější místo, než jsme si mysleli. Že nejdůležitější v životě je košatá představivost, co nás odnáší do světů mimo prostor a čas, a zemitost, realističnost a smysl pro humor, které nás drží v rovnováze a jsou zdrojem naší odolnosti. A v neposlední řadě také to, že technologie je na určité úrovni skutečně nerozeznatelná od magie.
Jste i autorkou přelomových projektů Digitální filozof a Digitální spisovatel, k jejichž vytvoření byla použita neuronová síť. Jak a kdy tyto projekty vlastně vznikaly?
Jsem jejich spoluautorkou, pracovali jsme na nich s Honzou Tylem. Digitální filosof vznikl jako „gamifikace“ výuky současné filosofie pro studenty nových médií na FF UK. Spisovatel zase pro Český rozhlas, kde jsme s producentkou Aničkou Vošalíkovou vůbec poprvé uvedli generovaný obsah do celostátního média. Jsou to vlastně pionýrské počiny, vznikaly v letech 2019-2021, a představují tak jedny z prvních možností setkání s neuronovými sítěmi, jejich výstupy a jejich možnostmi.
K čemu konkrétně tedy byly tyto projekty tehdy navrženy? Co všechno umí a co s nimi může uživatel dělat?
Digitální filosof opravdu představoval revoluci ve výuce, škoda, že to stejně jako studenti neocenilo i tehdejší vedení oboru Studia nových médií a nemohla jsem v tomto projektu pokračovat. Šlo skutečně o „oživení“ vybraných filosofů tak, aby neuronová síť vycházela z jejich děl a přitom s ní šlo snadno konverzovat. Digitální spisovatel byl vytvořen jako nástroj pro generování specifického obsahu pro Český rozhlas – na počátku jsme používali ještě GPT-2, dnes už si podobné experimenty s různými inteligentními chatboty může vyzkoušet každý. I když, jak jsem už zmínila, je dobré vytvořit si osobní strategie, jinak bude ten výstup průměrný.
Jak vnímáte současný boom kolem velkých jazykových modelů jako ChatGPT, Gemini, Claude, Llama aj. které zásadně mění přístup k práci, ale i školství a umění? Jde spíš o rychlou monetizaci AI nástrojů globálními hráči jako OpenAI či Anthropic, anebo jsme svědky opravdu něčeho přelomového, jako byl třeba zrod internetu v raných devadesátkách?
Ne, že by firmy nechtěly vydělávat peníze, ale tenhle nástroj opravdu přelomový je. Právě v oblasti školství je to asi nejviditelnější: možnosti personalizace, připravenost být kdykoliv k dispozici, znát silné a slabé stránky žáka či studenta, být vybaven superrychlým vyhledáváním informací, dokázat je v mžiku oka kombinovat, přizpůsobovat situaci, mapovat kontext atd. To všechno jsou vlastnosti superpedagoga. Zároveň je jasné a nikdo rozumný nezpochybňuje, že lidští učitelé nepřestávají být důležití, jejich vztah ke studentům a kritický dohled zůstávají stále klíčové.
Bere AI lidem kreativitu nebo ne? Je to spíš pomocník v tvorbě nebo ničitel rozvoje lidské kreativity a umění vůbec? Setkávám se totiž s hlasy z uměleckého tábora, jež trpí až určitou nevraživostí vůči generativním nástrojům. Buď jsou vyloženě proti nebo je vytěsňují, přitom se podle mě jedná o nový svébytný žánr AI art či hypersurrealismus. Sám AI ke kreativní tvorbě používám.
Myslím, že ten odmítavý postoj není překvapivý a v mnohém je naprosto oprávněný – především v použití uměleckých děl pro natrénování modelů, a to bez souhlasu autora. Ale jinak jsem novými nástroji fascinovaná a myslím, že jsou bezesporu neuvěřitelně výkonným pomocníkem, resp. médiem, a že už teď mění celou oblast když ne umění, pak rozhodně kreativních průmyslů. Osobně mám navíc ten jejich „hypersurrealismus“ vysloveně ráda.
Noam Chomsky dokonce tvrdí, že umělá inteligence je největší zloděj v dějinách lidstva právě z důvodů trénovacích dat, které AI firmám nikdo neposkytl k použití a oni na nich teď vydělávají. Je zajímavé, že dnes za regulaci těchto AI generátorů paradoxně protestují i dříve progresivní kapely jako Portishead nebo Radiohead. Jak se díváte na tento problém?
Mladí bouřliváci se s přibývajícím věkem mění v konzervativce. Pardon, to jsem si neodpustila. Navíc to není celá pravda, a to ani v režimu bonmotu, protože se spíš jedná o lidi či uskupení, kteří vždy vystupovali „proti systému“ – a dnes představují systém právě technologické korporace. Navíc je zřejmé, že kritika – v tomto případě metod získávání datasetů – je pro společnost vysoce přínosná, zvlášť pokud je podána a přijímána tak, že je možné ji implementovat do budoucího vývoje.
Mění se tedy zásadně paradigma, kdy už díky AI nepoznáme plagiát od originálu? Každý vygenerovaný artefakt, text, obraz nebo zvuk je jedinečný, i když nám velmi připomíná věci, na kterých byl model natrénován. Kam to až může vést? Ztratí smysl snažit se o originalitu a autenticitu? Nebude pak už jediným autorem AI algoritmus?
Téma kreativity a autenticity projde proměnou. Ostatně jako vždy, když se objeví nové dominantní médium. Proti každému trendu vznikne nějaký typ odporu, ten bude později typicky začleněn do systému a vznikne zase nový. To, co přetrvá, ukáže čas. Ostatně to je definice časovosti.
Tvrdíte, že na AI je důležitý mýtus, narace, která žije v našem kolektivním vědomí, víc než skutečné možnosti či schopnosti umělé inteligence. Myslíte si, že může někdy skutečně dojít k technologické singularitě, nebo je to jen Kurzweilova hodně nadsazená vize budoucnosti transhumanistů?
Příběh je pro lidi vždycky důležitý, ale netvrdila bych, že je „důležitější“ než reálný dosah technologie, kterou nazýváme AI. Spíš přehlížíme, že zde hraje velkou roli vyprávění. A pokud si to uvědomíme, máme zase tendenci ho přehlížet právě jako „pouhý příběh“. Ale příběh technologie je určitým typem zřetězení a sdílení informací, je základem kultury tak, jak ji známe. Hezky o tom píše J. N. Harari. Technologická singularita je kombinací predikce člověka, který se celý život pohybuje v technologické sféře, a taky trochu přání – není tajemstvím, že sám Kurzweil by rád dosáhl technologické nesmrtelnosti, ostatně není v tom sám. Taky je dobré si uvědomit, že budoucnost skutečně není rovnoměrně distribuovaná a že v Silicon Valley jsou takovéhle vize zřejmě přijímány jako něco úplně samozřejmého.
V rámci evoluce zřejmě někdy člověk nabyl sebereflexe – vědomí sama sebe. Věříte, že stejně tak může někdy AI nabít vlastního vědomí či dokonce sebevědomí.
Tak především v tomto tvrzení už postulujete poměrně silnou hypotézu – totiž to, že vědomí někdy v průběhu evoluce vzniklo. Což je možná běžná, ne však všeobecně přijímaná či dokonce potvrzená teze. Pokud se bavíme o sebe-vědomí, pak ano, tam vlastně projektujeme ontogenezi, tedy vývoj jedince na fylogenezi, vývoj druhu. A z logiky věci pak docházíme k názoru, že pokud se sebe-vědomí utváří, mohlo by vzniknout i v jiném „substrátu“, než je lidská mysl. Vzhledem k tomu, že je mi blízký animismus, s tím nemám problém. Další věc ovšem je, co by taková událost znamenala – jak pro lidstvo, tak pro novou umělou sebe-vědomou bytost a vlastně i celou planetu. A ještě podotknu, že zde panuje nejistota ohledně toho, jak takovou věc ověřit – což byla skutečně donedávna otázka z oblasti sci-fi, ne skutečnosti, když pomineme snad jediného člověka, který v myslící stroje věřil dávno před všemi ostatními, totiž Alana Turinga.
Ano, Turing přišel se svým jednoduchým testem, která říká, že když něco odpovídá inteligentně, tak tomu inteligenci můžeme přiznat. John Searle v argumentu čínského pokoje naopak tvrdil, že když něco odpovídá inteligentně, tak tomu ještě vůbec nemusí rozumět (syntax versus význam). Jak to tedy vidíte vy?
Taková otázka je spíš tématem na dizertaci a bylo by dobré nejdříve se shodnout na definicích pojmů – nicméně budu to brát jako příležitost udělat ze své povrchnosti pozitivní vlastnost a pokusím se odpovědět stručně. Za prvé, Searlův agent inteligentní je, protože chápe systém a rychle se adaptuje (má něco dodat, má něco nějak řadit atd.). To, že nerozumí sdělení, je vlastně jiná věc. Rozumět v tomto kontextu vlastně znamená být součástí nějakého typu kultury (včetně konkrétního jazyka), inteligence je pak něco mnohem abstraktnějšího, co se může adaptovat na ta jednotlivá kulturní prostředí.
S tím souvisí otázka, zda někdy může dojít k nahrazení člověka umělou inteligencí a ke vzniku takzvané superinteligence (Bostrom) či hyperinteligence (Lovelock)? Nakolik je to zatím spíš sci-fi a nakolik reálný problém? Nebo jde stále o naraci?
Je to určitě narace, co jiného než příběh, v němž předvídáme, co se v budoucnosti stane na základě toho, co známe z minulosti a jak funguje naše fantazie a rozvažování, máme k dispozici? To platí pro obyčejné lidi stejně jako pro futurology. Nicméně rychlý vývoj AI v posledních pár letech dává této možnosti úplně jinou váhu. Z toho všeho, co lze k této otázce říct, bych zmínila toto: To, jak si budoucnost představujeme, ji spoluvytváří.
Mění se zásadně sám člověk v rámci vývoje technologií a AI nebo je to pořád jen ta samá entita jako v pravěku, jen se mění okolní kulisy, nástroje a příběhy? Může dojít k transformaci člověka v metačlověka, který postupně splyne s technologií, jak o tom sní někteří futuristé? Osobně si myslím, že dnes dochází k zásadní transformaci v kvalitě lidství v homo digitalis.
Obojí. Člověk se v něčem mění a v něčem zůstává stejný. Je ovšem pravda, že v posledních přibližně dvou stoletích došlo k velmi výrazným změnám, z nichž první, zásadním způsobem působící na ostatní, je počet lidí na planetě. Není to tak dlouho, kdy většina lidí žila na venkově a prakticky, i když třeba trochu automaticky, zachovávala tradice staré tisíce let, stejně jako pojetí cyklického plynutí času (ročních období, svátků). Rostoucí populace, velkoměsta, transportní a informační technologie a nová média představují skutečně radikální proměnu. Zdá se, že skutečně dochází k přerodu. Něco nenávratně mizí a něco nového se rodí. A je víc než zřejmé, že technologie s tím bude mít co do činění.
Autor je publicista a AV tvůrce, zabývá se kyberkulturou a umělou inteligencí.
Tento článek mohl vzniknout jen díky podpoře čtenářů
Podpořte nás