Nadia Nadesan je výzkumnice, spisovatelka a designérka. Pochází z Malajsie, v současnosti působí v Madridu. Zaměřuje se na umělou inteligenci a její správu (AI governance). Rozhovor jsme vedli v Praze, kam přijela debatovat o filmu V útrobách AI, který byl součástí programu festivalu Jeden svět.
Umělá inteligence (AI) je relativně nové odvětví. Jak jste se k němu dostala?
Tak trochu náhodou. Jsem totiž vzdělaná v antropologii, filmu a urbanismu – ne v informatice nebo matematice. Před pár lety jsem působila v neziskové organizaci Open Future, kde jsem se na umělou inteligenci dívala optikou města. O AI totiž panuje představa, že je bezproblémová a funguje tak nějak sama. Ve městě ale musíte neustále řešit různá „tření“ – není to tak, že něco zapojíte a všechno perfektně funguje. Každé město má své specifické politické a kulturní podmínky. Stejný pohled jsem aplikovala na AI jako veřejnou službu. Když se používá ve veřejném sektoru, musí splňovat určitou míru transparentnosti. Musíte hlásit chyby a vysvětlovat je. Otevřelo mi to „meloun“, jak se říká ve španělštině – černou skříňku plnou nových věcí, které jsem se začala učit.
Dnes lidé vykonávají zdlouhavou práci při přípravě dat pro AI. To je skrytá cena té technologie.
Například v americkém New Orleans zavedli spoustu AI systémů, ale obcházeli přitom veřejné výběrové řízení. Když si najmete firmu na stavbu silnice a ta ji postaví špatně, můžete to řešit, protože existuje veřejná smlouva. U AI to obešli – byl to projekt iniciovaný starostou, který nemusel projít klasickým procesem veřejného zadávání. Firmy slibovaly inovace a pracovní místa a prezentovaly AI jako výjimečnou službu, ne jako běžnou infrastrukturu. Toto vyhýbání se byrokratickým pravidlům mě zaujal. Nejprve jsem zkoumala, jak mohou lidé jednat tváří v tvář používání AI ve veřejných službách. Později mě začala zajímat situace umělců, spisovatelů a filmařů. Aby se technologie prodávala, musí se často proměnit ve spektákl. V roce 2023 jsme byli svědky AI boomu. A právě umění se používalo k vytváření PR obrazu a představ o tom, jak budeme s novou technologií interagovat. Přitom umělá inteligence používala díla mnoha umělců bez jakékoliv finanční kompenzace nebo i bez uvedení autorství či souhlasu.
Dnes se hodně věnuju tomu, jak AI funguje v kreativních odvětvích, a učím na institutu designu IED v Madridu. Nechci, aby studenti AI jen používali, ale aby jí rozuměli. Když malíři vysvětlím, že jde jen o pravděpodobná uspořádání pixelů a že počítač obvykle nerozumí trojrozměrnosti, začne o tom přemýšlet jinak. Říkám jim třeba: Když si schovám prsty do dlaně, víte, že jsem si je neusekla. Počítač to ale nechápe, protože pracuje dvourozměrně… Přemýšlíme o tom, jak – a jestli vůbec – AI začlenit do tvorby, jaký má dopad a kde lze začít debatu o změně pravidel či politik.
Někteří lidé vidí AI jako něco, co neskutečně urychlí lidský vývoj. Pak jsou tací, kteří věří, že povede k zániku lidstva. Na které straně stojíte vy?
Podle mě AI konec světa nezpůsobí. To spíš lidé dělající špatná rozhodnutí. Ohledně využití technologie jsem celkem optimistka. Záleží ale na tom, jaké politické zájmy za ní stojí. Sama pracuju s kreativními vývojáři technologií, kteří AI používají. Spolupracovali jsme třeba na projektu, který se jmenuje Small AI (AI, která funguje udržitelně a snaží se vyhnout diskriminačním vzorcům – pozn. aut.). Promýšleli jsme, jak technologii přehodnotit skrze kurátorované datasety a využít s jiným cílem, než aby byl model „dostatečně přitažlivý“ pro prodej služeb.
Často se rozebírá ideologie, která stojí za AI a v niž věří její tvůrci z amerického Sillicon Valley. Hovoří se o transhumanismu, longtermismu a efektivním altruismu. Jak moc tyto ideologie definují současnou podobu AI?
Odráží se především v nezájmu o nápravu zaujatosti přítomné v těchto systémech. Zaujatost je vytvořena obřími balíky dat, které jsou kurátorované specifickým způsobem. Například se používá mnohem větší množství fotek lidí s bílou kůží, takže lidé s tmavší pletí pak čelí mnohem větší chybovosti v automatizovaných procesech. Ty systémy jsou využívané třeba ve veřejném školství, ve zdravotnictví nebo jiných veřejných službách. Jak to ovlivní vaši situaci například při návštěvě lékaře, když zrovna patříte k nějaké menšině?
Technologie a společnost jsou vzájemně provázané. V roce 2017 napsal jeden inženýr z Googlu interní zprávu o tom, že muži mají lepší biologické předpoklady pro kódování. Takové myšlenky jsou součástí toho, jak jsou AI technologie designované. Patriarchát je v nich zabudovaný. Přitom když se vyvíjely počítače, právě ženy prováděly miliony potřebných kalkulací. Takže ženy byly původní „počítače“. Na příkladu žen pracujících pro NASA to ukazuje film Skrytá čísla. A stejně skrytá práce stojí i za AI.
Jak vlastně AI vzniká? O jakou skrytou práci jde?
Pokud vezmeme velký jazykový model (LLM), každému ze slov je v zásadě přiřazeno něco jako číslo a potom se počítá pravděpodobnost, jak často se mohou vyskytovat vedle sebe, aby vzniklo spojení, které je z hlediska textu přijatelné. Takže umělá inteligence neověřuje fakta, ale snaží se přiblížit tomu, co je nejpravděpodobnější a co budeme považovat za přesvědčivě pravdivé. Aby však mohla být data takto rozložena, musí někdo označit větné členy a tomu potřebujete ovládat gramatiku. Když chcete levně získat dovednosti v anglickém jazyce, obrátíte se na bývalé kolonie, jako jsou Filipíny nebo Keňa, kde je vysoká úroveň znalosti angličtiny, ale zároveň je možné tamní lidi méně platit.
Když si představíte nějaký předmět, třeba hrnek, existuje mnoho způsobů, jak ho popsat – není to automatické, ve skutečnosti je to velmi zdlouhavý proces. Převažující představa o technologiích je, že všechno funguje hladce, tak nějak samo od sebe. Ve skutečnosti to ale vždy bylo a vždy bude pracné. Dnes lidé vykonávají zdlouhavou práci při přípravě dat pro AI. To je skrytá cena té technologie – a ta nezmizí, protože je velmi obtížné automatizovat kategorizování věcí do podoby dat.
Film V útrobách AI přesně tuto otrockou práci popisuje – zabývá se skrytou prací lidí zpracovávajících data po celém světě. Zaměřuje se na ženy ve finské věznici, nahlíží do života ukrajinské uprchlice v Bulharsku a vydává se i do Keni. Tento druh práce s daty obvykle vykonávají zranitelné skupiny obyvatel, aby ji bylo možné provádět co nejlevněji. To znamená, že se jedná převážně o lidi z globálního jihu. Nebo to jsou lidé z globálního severu, kteří jsou ve vězení, případně uprchlíci nebo migranti, kteří nemají lehký přístup k lokálnímu trhu práce.
Kromě kategorizace dat je potřeba taky technická infrastruktura pro jejich uchovávání. Jak k tomu big tech přistupuje?
Například ve španělském regionu Aragonie se staví mnoho datových center. Ta spotřebují obrovské množství elektřiny. Bylo by potřeba postavit novou elektrárnu, jenže společnosti nechtějí čekat tak dlouho, a tak se napojují na už existující infrastrukturu, i když na to není dimenzovaná a může to mít dopady na místní obce. Už samotný způsob, jakým big tech společnosti budují infrastrukturu, podle mě naznačuje, do čeho jsou ochotny investovat a do čeho ne. Jsou ochotny investovat do údržby a oprav nebo do zlepšování pracovních podmínek pro lidi? Evidentně ne.
Pro firmy je hlavní získat povolení a mít politickou podporu. Jeden z hlavních problémů nicméně představuje voda. Datová centra totiž potřebují neustále ochlazovat vodou, aby se stroje neponičily. To je samo o sobě složité a do určité míry rizikové – i proto, že chlazení spotřebovává velké množství vody. Existují sice i jiné způsoby chlazení, ale ty je nutné dál zkoumat a teprve zavádět do praxe. Najít lepší řešení by vyžadovalo čas a zpomalení celého procesu.
O tom, jaký má masové používání AI dopad na klima, se začíná mluvit čím dál víc.
Ano, protože se planeta otepluje. Servery potřebují vodu, ale kromě toho také „zabírají“ půdu, doslova ji překryjí, čímž se pochopitelně zvyšuje teplota – proto jsou města teplejší než venkov. Datová centra se často budují na místech, kde dříve byla zemědělská půda. Je to paradox. Klima se mění a zemědělci se musí přizpůsobovat. Jenže dotace pro zemědělce nejsou na stejné úrovni jako investice do technologických odvětví.
Aby zemědělci dokázali tato rizika unést a předávat své znalosti, potřebují důstojný příjem – a víc než jen to. Potřebují mít důvod podporovat své děti nebo další lidi, aby v tomto povolání pokračovali. A k tomu potřebujeme zavádět podpůrné programy a dotace. Pozorujeme tedy rozpor mezi masivními investicemi do AI společností na jedné straně a nedostatečnou podporou místních ekonomik – zejména v oblasti potravin. Ta je přitom v době, kdy mluvíme o lokálním zemědělství a snižování uhlíkových emisí, skutečně nenahraditelná.
Lidé se dnes bojí, kdo všechno přijde kvůli umělé inteligenci o práci, a tak se snaží v používání AI nástrojů zdokonalovat.
AI dělá spoustu chyb a dál dělat bude. Takže pokud rozumíte své práci, držte se jí. AI generuje pravděpodobnost, ne pravdu nebo empatii. Empatie je jako sval – když přestaneme psát vlastní omluvy a necháme to na AI, ochabuje. Když formulujete vlastní omluvu, zamyslíte se nad tím, jak se cítil člověk, kterému jste ublížili, a vcítíte se do něj… Žijeme ve světě, kde jsme neustále pobízeni k tomu používat AI co nejvíc, abychom byli co nejvíc efektivní a co nejvíc produktivní. Pokud ale schopnosti jako empatie, psaní či přemýšlení přenecháme AI, nebudeme trénovat svůj mozek.
Znám spoustu lidí, kteří se obracejí na umělou inteligenci místo na terapeuta nebo přátele, aby si poradili třeba s problémy v milostných vztazích. Přijde mi to fakt zvláštní.
Čím dál častěji taky lidem dělá AI společnost. Je to trend. Lidé se stydí nebo se cítí osamělí, a tak udržují vztah s chatbotem. Narodila jsem se v 90. letech. Tehdejší počítače bylo potřeba čistit, utírat prach, pečovat o ně, aby fungovaly. O AI společníky se vůbec nestaráme. Největší nebezpečí ale je v tom, že v posledních deseti letech všechny ty firmy jako Meta, X a další stále znovu dokazují, že dobro lidstva a duševní pohoda není jejich priorita. Když si píšete s chatbotem, vaše blaho není důvod, proč s vámi udržuje kontakt. Chatbot je prostě naprogramován tak, aby udržel vaši pozornost.
Existuje způsob, jak používat AI udržitelněji?
Existuje pár projektů „malých AI“, které jsou rozhodně zajímavé. Napadá mě třeba maorská mediální organizace na Novém Zélandě Te Hiku Media, která vytvořila vlastní jazykový model ze čtyř set hodin kvalitních nahrávek rádia, divadelních her a vůbec jazyka používaného v uměleckých odvětvích. Maorové chtěli uchovat svůj jazyk pro budoucí generace, aby nevymřel. Je to hezký příklad toho, že hlavní prioritou nemusí být zisk.
Vytvářet podobné projekty není nemožné. Ale potřebujeme, aby kulturní instituce měly mnohem lepší financování z veřejných rozpočtů. Tak by mohl vzniknout velký jazykový model, který nebude zaměřen pouze na zisk, ale také na kulturní dědictví a trvání – na vědomí, že něco předáváme budoucnosti. V tomto ohledu mám naději. Existuje dost opravdu dobrých projektů lidí, kteří mají zájem, aby se diskuze o AI posunula tímto směrem.
Tento článek mohl vzniknout jen díky podpoře čtenářů
Podpořte nás