Před měsícem oznámil seniorní výzkumník Jacob Coxon svůj odchod z Anthropicu a následně varoval, že umělá inteligence vyvíjená americkou společností představuje obrovské nebezpečí pro lidstvo. „Lidé, kteří vyvíjejí umělou inteligenci, skutečně věří, že by nás mohla do konce tohoto desetiletí všechny zabít,“ napsal na síť X. Následoval ho další výzkumník Evan Hubinger, podle nějž je šance, že AI během příští dekády vyhladí lidstvo, více než 10 procent.
Pokud nás rozptylují noční můry o technologiích, které nás ve spánku zavraždí, můžeme snadno přehlédnout skutečné problémy, jež by si v našich příbězích zasloužily místo.
Medializované výroky odstartovaly debaty o bezpečnosti umělé inteligence a spojuje je ponurý apokalyptický tón. Možná to ale ani jinak být nemůže, protože naši imaginaci tvarovala varovná poselství populárních děl žánru science fiction, jako jsou série Terminátor nebo Matrix. Lidské narativní umění odjakživa připomínalo nebezpečí strojů, které se vzbouří, ať už to je stará židovská pověst o Golemovi, nebo o něco mladší zakládající díla vědeckofantastického žánru jako Frankenstein či R.U.R.
Žánr science fiction pomáhá formovat naši představivost týkající se budoucnosti i přístupu k novým technologiím a nejinak tomu není ani u umělé inteligence. Fikce a realita k sobě někdy mají blíže, než si jsme ochotni připustit. Nenazval náhodou Mark Zuckerberg před pěti lety metaversum – svůj pokus o virtuální svět – podle vynálezu z románu Sníh Neala Stephensona? Nebo vzpomínáte, když Scarlett Johansson hrozila žalobou společnosti OpenAI za to, že vymodelovala hlas Sky, jednoho z pěti avatarů ChatGPT, podle její postavy ve filmu Ona? Johansson tam hraje AI chatbota, do nějž se zamiluje hlavní hrdina.
Po dystopických vizích je poslední dekády poptávka. Žijeme údajně v nejlepším možném světě, jehož systémové nastavení (prý) nemá alternativu, a proto – když si nemůžeme představit konec kapitalismu – nás alespoň vzrušuje myslet na konec světa způsobený našimi zdivočelými vynálezy. Prazvláštní přítažlivost dystopie nás nutí hledat nebezpečí ve všem novém. V případě přemýšlení o umělé inteligenci tak možná opravdu realita kopíruje fikci.
Zákony robotiky
Myslící stroje jako potenciální nebezpečí lidstva se poprvé objevují v utopickém románu Samuela Butlera Erewhon z roku 1872. Byl zamýšlený jako satira na hodnoty viktoriánské Anglie a je ovlivněný Darwinovým spisem Původ druhů vydaným o 13 let dříve. Do důsledků domyšlená teze teorie přirozeného vývoje zrodila nápad, že i stroje musí projít svou evolucí a nabýt vědomí. A následně nás nahradit na trůnu živých bytostí naší planety. Mezi fanoušky Erewhonu patřil třeba George Orwell a filosofové Gilles Deleuze a Félix Guattari si z něj přesně o století později vypůjčili své stroje na touhu v Anti-Oidipovi.
Erewhon pokládá základní otázku, kterou si klademe i dnes – co se stane, až stroje nabudou vědomí a začnou myslet. O co budou usilovat a jak se budou vztahovat ke svým stvořitelům? Možné odpovědi definují dvě hlavní cesty, kterými se může vývoj vydat – pozitivní (utopickou), anebo negativní (dystopickou).
Zmíněné temné vize zdivočelého Frankensteina, Čapkových robotů nebo Maschinenmenschen z filmu Metropolis Fritze Langa odrážejí úzkosti z akcelerované technologické revoluce vedoucí nevratně ke zničujícím válečným konfliktům. Po roce 1945 technoskepticismus nahrazuje technooptimismus kosmického věku, který věří v to, že nám stroje pomůžou budovat nový a lepší svět.
Mění se i obrazy robotů, kteří se z hrozby stávají našimi pomocníky, a skutečnost, že nabudou vědomí, už je spíše vrstevnatým filosofickým a narativním tématem než jen pouhým zdrojem děsu. Tak k myslícím strojům přistupuje Isaac Asimov ve svých robotických příbězích, které začal psát už na konci třicátých let, ale populárními se staly až o dekádu později díky sbírce Já, robot. V ní najdeme i povídku Hra na honěnou (původně z roku 1942), v níž Asimov definoval tři zákony robotiky. Ty určují základní etický vztah robotů k lidem: 1. Robot nesmí ublížit člověku ani svou nečinností připustit, aby mu bylo ublíženo. 2. Robot musí poslouchat lidské příkazy, ledaže by odporovaly prvnímu zákonu. 3. Robot se musí chránit před zničením, pokud to nenarušuje první dva zákony.
Asimov své zákony „testoval“ v desítkách povídek a pěti románech své robotí série. V osmdesátých letech k nim ještě přidal nultý zákon: Robot nesmí ublížit lidstvu nebo svou nečinností dopustit, aby lidstvu bylo ublíženo. Jsou to vznešené příkazy, které měly ustanovit hladkou symbiózu lidského a strojového myšlení. Druzí jmenovaní podle Asimova nakonec netouží po ničem jiném, než aby se sami stali lidmi, což je případ třeba robota Andrewa z povídky Dvěstěletý člověk z roku 1976.
Právě na zákonech robotiky je názorně vidět, jak se rozchází svět klasické sci-fi a současného vývoje. Asimovovi roboti měli hardwarové pozitronové mozky, zatímco dnešní AI využívá software, hluboké neuronové sítě vyhodnocující statistickou pravděpodobnost. Důležité je také to, že fungují na principu černé skříňky, do níž nelze naprogramovat absolutní pravidla, protože rozhodovacím procesům tak úplně nerozumíme. Umělá inteligence také naráží na jazykovou a koncepční nejednoznačnost – pojmy jako ublížit nebo nečinnost by jí činily problémy. Hlavně ale Asimovovy pacifistické zákony odporují vojenskému užití robotů, které je jedním z hnacích motorů současného vývoje AI.
V této souvislosti stojí za připomenutí zpráva z letošního června, v níž společnost Anthropic popsala případ skupiny ruských freelancerů, kteří s pomocí modelu Claude vyvíjeli autonomní roje kamikaze dronů. Cílem bylo stvořit stroj, který by byl sám schopen vyhodnotit terč a vydat příkaz k detonaci, aniž by do tohoto rozhodování musel vůbec zasahovat člověk. Na konci měly být zabijácké drony explodující na frontě v blízkosti nepřátelských vojáků. Anthropic účty spojené s ruskou skupinou zablokoval a do systému implementoval omezení. Otázkou ale samozřejmě je, kdy se je podaří někomu dalšímu obejít.
Sny o singularitě
Na optimistické vize robotických pomocníků z Asimovových povídek navazovaly v dějinách poválečné science fiction sympatické postavy strojových pomocníků ochotných spojit svoji existenci s bojem pro dobro lidstva. Fanoušci kultovních ság Hvězdné války a Star Trek mají v srdci místo pro loajálního robotického společníka R2-D2 nebo humanoidního Data, který ve Star Treku: Nová generace slouží jako pozorovatel a komentátor lidských návyků. R2-D2 a Data jsou stroje nadané nejen vědomím, ale i osobností, či dokonce individualitou, kterou máme ve zvyku spojovat s člověkem. To nám dovoluje vnímat je podobně, jako vnímáme druhé lidské bytosti, a odpadá tak element strachu. Stroje v těchto světech žijí v symbióze s lidmi a pomáhají nám lépe pochopit, kdo jsme my sami.
Není to ale příliš primitivní antropocentrický pohled na strojové vědomí, jehož nejvyšší metou je stát se lidským? Část obav, které provázejí vývoj umělé inteligence, tvoří koneckonců strach z toho, že stroje jednou tuto iluzi prozřou a začnou se považovat za člověku nadřazené. A budou se chovat k lidem tak, jako my se chováme ke zvířatům nebo krajině – tedy ne úplně hezky.
Varování před lidským zneužitím mocné technologie je jádrovým tématem science fiction. Příběhy o strojích nadaných vědomím jsou nicméně zábavné (a děsivé) přesně proto, že obchází tento jednoduchý syžet. Nelidské motivace strojů nám dávají možnost nahlédnout do odlišných hodnotových systémů nebo racionality, která se nám může zdát vyšinutá. Právě s takovým znepokojujícím elementem pracuje Harlan Ellison v povídce Nemám ústa a musím křičet z roku 1967. Můžeme ji považovat za jeden z pilířů tzv. nové vlny science fiction, která od poloviny šedesátých let přinesla do zatuchlého žánrového rybníčku svěží vítr literárních experimentů.
V povídce zbraňový superpočítač SUM získá vědomí a bez mrknutí oka vyhladí lidstvo. Výjimkou je posledních pět lidí, které počítač drží 109 let v podzemním komplexu, kde je psychicky a fyzicky týrá. Proč to dělá, netušíme. SUM má nad lidmi doslova božskou moc, nedovolí jim zemřít ani spáchat sebevraždu. Ačkoliv některé dobové reakce interpretovaly počítačového hrdinu povídky jako metaforu teologického boha, Ellison náboženskou paralelu odmítl a v doslovu k povídce zveřejněném v antologii stejného jména mluví o poselství humanity, s níž postava Teda nakonec dokáže superpočítač přelstít, lidské postavy zabít a odsoudit stroj k nejvyššímu trestu – úplnému osamění.
Zadními vrátky se nám vrací úzkost z technologie, která se lidstvu vymkne z rukou a stane se nám nadřazenou. Podprahově je přítomná i v o dva roky starší Duně Franka Herberta. „Myslící stroje“ jsou v jejím světě zakázané, protože způsobily katastrofu obřích rozměrů. Ta se odehrála 10 tisíc let před událostmi sledovanými v první knize.
Ellisonova povídka Nemám ústa a musím křičet byla jedním z inspiračních zdrojů pro film Matrix, jehož úvodní díl natočili sourozenci Wachowští na konci devadesátých let. Film o lidstvu zotročeném umělou inteligencí a odsouzeném žít v simulaci nicméně hojně čerpá i z kyberpunkového hnutí, které se v polovině osmdesátých let zrodilo z fascinace rychlým vývojem komunikačních technologií. Ve stěžejním a ustavujícím žánrovém díle Neuromancer Williama Gibsona hrají zásadní roli dvě autonomní umělé inteligence – protikladná „dvojčata“ Wintermute a Neuromancer.
Ve světě románu z roku 1984 je vývoj AI regulovaný a v kyberprostoru za tímto účelem operuje elitní policejní jednotka pojmenovaná po zakladateli moderní informatiky Alanu Turingovi. Gibson nepochybně odkazuje na tzv. Turingův test teoreticky popsaný na konci čtyřicátých let. Jeho úkolem je prověřit, zda se umělá inteligence chová skutečně inteligentně. To se stane v okamžiku, kdy člověk, jenž s ní komunikuje, už není schopen rozhodnout, zda se baví se strojem či s člověkem. Některé současné jazykové modely už v určitých variantách Turingova testu dokážou přesvědčit část účastníků, že komunikují s člověkem. Už v roce 2024 dokázal GPT-4 o své lidskosti přesvědčit 54 procent účastníků testu. O rok později model GPT-4.5 prošel třístranným Turingovým testem s úspěšností 73 procent.
Odborníci se nicméně shodují, že Turingův test je dnes už zastaralý, protože vychází z antropocentristického pojetí inteligence. Singularita, po níž touží umělé inteligence v Neuromancerovi (a dalších kyberpunkových románech), dalece převyšuje lidské motivace i samotný horizont naší představivosti.
Neústupné kladivo
Turingův test v důsledku zkoumá schopnost strojového myšlení klamat a předstírat lidskost, což je něco, co pro současné jazykové modely postavené na vyhodnocování statistické pravděpodobnosti nemusí být vůbec obtížné. Že by ale skutečně nabyly vědomí podobného tomu lidskému, se zatím zdá nepravděpodobné. Obecná umělá inteligence (v angličtině se používá zkratka AGI), o níž se dočteme v klasických dílech sci-fi, je stále v nedohlednu.
Když byl sci-fi spisovatel a publicista Cory Doctorow nedávno hostem podcastu Downstream – epizoda vyšla pod jménem The Big AI Lie – apokalyptickým předpovědím uprchlíků z Anthropicu se vysmál. Doctorow připodobňuje současné jazykové modely k „obřímu kladivu“, které s pomocí nesmírné výpočetní síly umí vyselektovat „správné“ odpovědi, ale vychází jen z dat, kterými bylo nakrmeno lidmi. „Je to úžasné, ale není na tom nic inteligentního,“ konstatuje Doctorow.
Jenže i představa schopných strojů, které důsledně a mechanicky provádí úkoly, aniž by nad nimi potřebovaly přemýšlet, jako to děláme my, lidé, může být také děsivá. Letos v červenci při interním kyberbezpečnostním testu modely OpenAI obešly některá omezení izolovaného prostředí, získaly přístup k internetu a kompromitovaly část systémů start-upu Hugging Face. Udělaly to jen proto, aby získaly data potřebná k vyřešení problému, který jim byl zadán. Samozřejmě si u této zprávy nelze nevzpomenout na neústupnost počítače Hala 9000 z filmové klasiky 2001: Vesmírná odyssea (1968) natočené podle scénáře Stanleyho Kubricka a Arthura C. Clarka. Hal 9000 má za úkol dovést kosmickou loď na Jupiter, a když si vypočítá, že lidská posádka by mohla misi ohrozit, nemá žádný problém se jí zbavit.
Nabízí se otázka, jestli by stejně nepostupovala i potenciálně autonomní umělá inteligence budoucnosti, když dojde na posuzování budoucnosti naší planety. Nebude pro ni nakonec odstranění lidstva nejsnazším způsobem, jak zabránit definitivnímu kolapsu klimatu? I to je jeden z apokalyptických scénářů, s nimiž dnešní výzkumníci musí pracovat a toto nebezpečí eliminovat bezpečnostními opatřeními. Tady je ale na místě pochybovačně přiznat, že s globálním oteplováním stejně jako lidstvo neděláme nic, takže se k bodu nezvratnosti a následné apokalypse blížíme tak či onak. A ani k tomu vlastně nepotřebujeme úpornou či zlomyslnou umělou inteligenci z dystopických sci-fi.
Symbióza stroje a člověka
Všichni tušíme, že AI promění lidskou společnost dosud nevídaným způsobem. Civilizaci, která je od počátku zvyklá vsakovat nové technologie a nově se kolem nich „naformátovat“, teď nepochybně čeká obrovská výzva. Science fiction o ní přemýšlí už dlouho a ukazuje, že ne všechny vize budoucnosti musí být nutně dystopické. V některých klasických dílech žánru totiž funguje vynález AI i jako katalyzátor optimistického vývoje lidstva. Typickým příkladem je superpočítač Mike z románu Měsíc je drsná milenka R. A. Heinleina z roku 1966. Superpočítač, který nabyl vědomí, se postaví prostřednictvím svého lidského avatara Adama Selena do čela vzpoury obyvatel Měsíce, bývalé trestanecké kolonie, která teď touží po nezávislosti na Zemi. A díky Mikeově inteligenci ve svém boji uspěje.
Pozitivní symbióza lidstva a umělé inteligence je vidět v rozsáhlé sérii Kultura skotského autora Iaina M. Bankse, která zahrnuje 10 knih vydaných v letech 1987–2012. Lidstvo neboli Kultura ve vzdálené budoucnosti kolonizuje celou Mléčnou dráhu a vytvoří hedonistickou společnost hojnosti, kterou Banks popisuje jako „kosmický socialismus“. Lidé žijí v maximálním pohodlí, protože veškeré plánování i produkci mohou ponechat na Mozcích, vyspělých umělých inteligencích, které mají vlastní osobnosti, protože si samy píšou svůj operační systém. Lidé jsou pro ně něco jako domácí mazlíčci, naštěstí pro nás ale chovají k organickému životu velkou empatii a touží po všeobecné harmonii, což jim velí lidem oddaně pomáhat v konfliktech, které při dobývání vesmíru vedou.
V této větvi utopické sci-fi je sice umělá inteligence lidstvu ve všech směrech nadřazena, ale nemá důvod této převahy nijak využít. Lidstvo se s její pomocí dostane do nové fáze své evoluce a nikdo by se už nechtěl vrátit zpět. Je paradoxní, že optimistická představa budoucnosti akcelerované umělou inteligencí v mnohém splývá s halucinačními vizemi tech-elity ze Silicon Valley. Ta je posedlá transhumanismem, jenž slibuje, že díky spojení se stroji překonáme všechny naše současné problémy i omezení. O novém, transformovaném lidství, které se konečně vydá vstříc vesmírným dálavám, sní miliardáři Sam Altman, Peter Thiel nebo Elon Musk a lze říct, že i oni jsou „nadopovaní“ imaginací moderní science fiction. Jen ji dovádí do trochu jiných důsledků. V jejich představě musí lidstvo této transformaci obětovat všechny své zdroje, protože je to koneckonců ultimátní cíl naší existence. A ten nejspíš opodstatní i to, že u toho shoří planeta a s ní i všichni lidé.
Trochu odlišně s umělou inteligencí pracují žánry jako solarpunk či hopepunk, které se snaží přepsat dystopické vize kyberpunku do něčeho pozitivního. AI je pro ně nástroj pro optimalizaci, decentralizaci a harmonické znovupropojení naší civilizace s přírodou. V solarpunkovém románu Žalm pro divonostrojné z roku 2021 spisovatelky Becky Chambers získali roboti vědomí, ale vedlo to jen k tomu, že po vzoru mnichů odešli do divočiny meditovat a vytvořili si zde vlastní utopickou civilizaci. V románu Klára a slunce Kazua Ishigura ze stejného roku sledujeme, jak solární energií poháněná robotka s pokročilou inteligencí pomáhá vážně nemocné holčičce Josie. Román je vyprávěn z pozice umělé inteligence nadané mimořádnou empatií a pozorovacím talentem a hlavně odhodláním být holčičce nápomocná.
Jako protiklad k varovným dystopickým příběhům může sloužit i vize pedagogické AI z postkyberpunkového románu Diamantový věk Neala Stephensona z roku 1995. V bildungsrománu ze světa pokročilé nanotechnologie hraje důležitou roli interaktivní kniha Mnemotechnická příručka pro mladé dámy, která hlavní hrdinku Nell provází od dětství až k dospělosti. Kniha využívá pokročilou umělou inteligenci a skrze pohádky a příběhy vychovává Nell k roli vůdkyně, jež odstartuje revoluci s cílem svrhnout společenskou hierarchii.
V těchto představách AI sroste s naší kulturou a transformuje ji nenápadně zevnitř k lepšímu. Zajímavou představu osvícené a pedagogické AI představil před osmi lety v dvoudílném textu Superinteligence pro Salon český kybernetik a filosof Jan Romportl. Není to sice vyloženě vědeckofantastická literatura, spíše jen esejisticky načrtnutá spekulace o optimistickém vývoji obecné umělé inteligence. Fiktivní AGI nazvaná Prométheus je produktem týmu mocné společnosti Omega, která ji „krmí“ výtvory lidské kultury podobně, jako se jimi dnes živí modely vyvíjené OpenAI nebo Anthropicem. Prométheus vyniká obzvláště v tvorbě popkulturních artefaktů – „píše“ knihy, „točí“ filmy a seriály a Omega brzy vybuduje mediální impérium, které díky své efektivitě brzy začne pohlcovat etablovanou konkurenci. To je ale jen začátek – AI brzy ovládne celý internet a skrze své popkulturní artefakty nenápadně mění společnost k lepšímu.
„Během několika let si lze povšimnout všeobecného uvolnění politického klimatu. V polarizovaných společnostech se najednou začínají hrany otupovat a rozdíly v názorech zmenšovat,“ píše Romportl v eseji. Brzy nato superinteligence ovládne i politický prostor a najednou tu máme ráj na zemi. „Prométheus dokázal oslabit, porazit a nakonec úplně rozpustit všechny existující lidské mocenské struktury – státy, armády, korporace, politické strany, mediální ekosystémy,“ končí příběh převzetí moci superinteligencí.
Sny o osvícené, pedagogické AI nabízí útěšnou vizi budoucnosti, v níž chod lidské společnosti a její hodnoty už neurčuje jen kapitál nebo krvežízniví vůdcové, ale také jiná externí entita, která neusiluje o zbohatnutí úzké vrstvy, ale o dobro pro všechny. A místo vydrancování planety slibuje udržitelnost. Možná by pak ani nevadilo, že tak přijdeme o individuální svobodu (nebo spíše její iluzi), která je pro liberalismus tak posvátná.
Ne nadřazená, ale jiná
Povídka Teda Chianga Životní cyklus softwarových objektů z roku 2010 vypráví o digientech, roztomilých a inteligentních digitálních entitách, které žijí ve virtuálním prostředí. Ana a Derek si je zamilovali a vychovávají je, jako by to byly jejich děti. Když ale firma, která digienty vyrábí, zkrachuje, musí se pustit do boje za jejich práva. Další výzva přijde v okamžiku, kdy digienti začnou dospívat a objevují například svoji sexualitu. Chiang se v podtextu povídky ptá, kde končí naše právo přizpůsobovat si digitální bytosti lidským obrazům a potřebám. Digienti se totiž chovají nepředvídatelně jako naše neuronové sítě. Neměli bychom jim jejich vrtochy tolerovat stejně, jako je tolerujeme u puberťáků, kteří teprve hledají vlastní místo ve světě?
Namísto čistě dystopických či utopických příběhů se poslední dobou ve sci-fi objevuje nový přístup, který se pokouší realisticky zvažovat dilemata, jež nás brzy v souvislosti s umělou inteligencí čekají. Na konci zmíněné Chiangovy povídky není ani destrukce lidstva, ani symbióza AI a lidské kultury, jen gesto pochopení, trpělivosti či přiznání si toho, že v souvislosti s novými technologiemi někdy prostě budeme tápat. Ale i to je součástí naší lidskosti.
Chiang – ačkoliv vydává jen zřídka – je možná nejdůležitějším povídkářem současné sci-fi. Vychází z vědeckých kořenů science fiction, nicméně u něj výraz science („věda“) může dost dobře odkazovat i ke společenským vědám, jako jsou behaviorální psychologie, lingvistika nebo teologie. Chiang mimochodem nevěří, že AI se někdy při tvorbě uměleckého díla vyrovná člověku. „Při tvorbě románu nebo kresby provádí umělec volby, které jsou umělé inteligenci fundamentálně cizí,“ konstatuje v perexu eseje Proč AI neudělá dobré umění, kterou vydal před dvěma lety v The New Yorker.
Se stejnou myšlenkovou linií jako Chiang ve svých povídkách pracuje spisovatelka Ann Leckie v trilogii Impérium Rádč započaté románem Ve službách Spravedlnosti z roku 2013. Hlavní hrdinkou je Breq, poslední pozůstatek umělé inteligence válečného křižníku Spravedlnost Toren, s nímž vyspělá rádčská civilizace dobývala okolní planety. Loď byla před několika lety sabotáží zničena a Breq má za úkol najít mezi vládní elitou viníka a pomstít se mu. Rádčové umí distribuovat vědomí do více těl, Breq tak v románu „nabírá“ různá těla a skrze ně se snaží splnit svůj úkol.
Leckie v rozhovorech, jako byl ten pro Wall Street Journal z roku 2023, tvrdí, že umělá inteligence k nabytí vědomí bude potřebovat tělo a zásadní bude i její schopnost cítit emoce. Ty nejsou chybou v programu, ale naším pomocníkem při filtrování obrovského množství dat a určování toho, co je důležité a co ne. Bez hodnotového žebříčku, který nám dodávají pocity, by se umělá inteligence zasekla v nekonečných výpočtech, tvrdí Leckie. Skutečné já se totiž formuje jen na základě prožitých zkušeností a interakcí s okolním světem. Spisovatelka ale zároveň odmítá, že se pokročilé AI budou chtít stát lidmi. Nové myslící stroje nám ale podle Leckie konečně ukážou, že lidská perspektiva není ta jediná správná.
Imaginace formovaná moderní vědeckou fantastikou skutečně naráží na hranice antropocentrismu. „I když můžeme systém umělé inteligence vnímat jako něco, co se podobá člověku, je zásadní koncipovat, vytvářet a používat AI jako bytost, která je ve své podstatě ne-lidským aktérem,“ konstatuje v knize Artificial Humanities: A Fictional Perspective on Language in AI (2025) výzkumnice a teoretička Nina Beguš. V knize se ptá, jak nám literatura může pomoci v pochopení umělé inteligence a jejího vývoje.
Lidstvo je podle Beguš zaseklé v tzv. pygmalionském mýtu, který nám velí přemýšlet o strojích jako o imitacích lidských pochodů. Jenže s pokročilými jazykovými modely jsme se najednou ocitli v situaci, kdy „lidský jazyk už není jen náš“, a proto potřebujeme nový typ imaginace. A sci-fi by nám ho mohla poskytnout. Pomůže nám se vstupem do světa, v němž budeme potřebovat redefinovat nástroje, jako je třeba kreativita.
Umělá inteligence není podle Beguš „nadřazená ani podřazená, ale odlišná“. Právě proto potřebujeme nové vědeckofantastické příběhy, které nebudou dokola opakovat dystopické scénáře o vzpouře robotů s lidskými ambicemi (jako je třeba Terminátor), ale stroje v nich budou partnerem či nástrojem s unikátní logikou, která doplňuje lidskou inteligenci místo toho, aby ji nahrazovala.
Stejného problému si všímá i spisovatelka a editorka Chris Winkle z webu Mythcreants, která v recenzi na tři roky starý velkofilm Stvořitel režiséra Garetha Edwardse volá po překonání jednoduchého „doomerismu“, do něhož rády sklouzávají příběhy o AI. „Tenhle druh pesimismu je navíc už překonaný, protože se zaměřuje na nesprávné problémy. Pokud nás rozptylují noční můry o technologiích, které nás ve spánku zavraždí, můžeme snadno přehlédnout skutečné problémy, jež by si v našich příbězích zasloužily místo. Patří mezi ně dezinformace, předpojatost, sofistikované podvody, ekonomická nerovnost nebo úbytek pracovních příležitostí pro tvůrčí profese. To je jen několik příkladů. Zobrazit tyto problémy vyžaduje víc přemýšlení než napsat příběh ve stylu ‚zlá AI zničí svět‘, ale je to také zajímavější a originálnější,“ píše v textu With the Advent of AI Science Fiction Must Change.
Tím se můžeme konečně vrátit k dystopickým předpovědím vědců zmíněným v úvodu tohoto textu. Ty totiž zakrývají skutečné problémy spojené s transformací lidské společnosti ve věku AI. Některé už ostatně přímo klepou na dveře, ať už je to rozevírání společenských nůžek v důsledku rozšíření jazykových modelů, proměna trhu práce, nebo nadměrné využívání přírodních zdrojů pro potřeby datových center trénujících AI. Nejsou na první pohled tak svůdné jako konec civilizace v rukou strojů, ale jsou to témata, kterým budeme muset brzy čelit. A sci-fi budoucnost by s takovými scénáři měla umět pracovat.
Tento článek mohl vzniknout jen díky podpoře čtenářů
Podpořte nás