Algoritmy sociálních sítí jsou novou taktickou zbraní

Když na konci loňského listopadu skončilo první kolo prezidentských voleb v Rumunsku, vypadalo to na vítězství překvapivého kandidáta. Călinu Georgescovi, černému koni rumunské politiky, průzkumy ještě tři týdny před volbami přisuzovaly jenom pět procent. Přesto vyhrál první kolo.

Když aktivistická skupina promítla na berlínskou továrnu Tesly obrázek hajlujícího Muska a název firmy doplnila o „HEIL“, její tweet s fotografií z akce se uživatelům z území Německa vůbec nezobrazoval.

Odtajněné zprávy bezpečnostních služeb popisovaly, jak TikTok, čínskou sociální síť (kterou používá asi polovina dospělé rumunské populace), zaplavily dva týdny před volbami příspěvky ve prospěch proruského kandidáta z koordinované sítě 25 000 účtů, mnohých do té doby „spících“. Kampaň, která dovedla obejít kontrolu TikToku, jež jinak politickou reklamu zapovídá, byla na pozadí koordinovaná skrze aplikaci Telegram, přičemž uživatelé dostali za publikaci a systematické sdílení zaplaceno dohromady minimálně 381 000 dolarů. Rumunský ústavní soud pak vynesl přelomové rozhodnutí: při volbách byl natolik porušen volební zákon a transparentnost kampaně, že jejich výsledek označil za neplatný. Verdikt vyvolal pozdvižení v celém světě – ještě nikdo nikdy nezrušil volby kvůli… Internetu.

Přestože rozhodnutí soudu označila za „podkopání základů demokracie“ i konkurenční kandidátka Elena Lasconi a do ulic vyšly desetitisíce protestujících z jedné a později i druhé strany, dvoutýdenní raketový růst Georgesca – který do předvolebních debat v tradičních médiích ani nechodil, v kampani používal pouze sociální síťě (za podpory clusteru mezinárodních webů promoskevské síťě „Pravda“) a komisi pro dohled nad volbami oznámil, že za kampaň neutratil žádné peníze – ukázal moc sociálních médií v plném rozsahu.

Když Elon Musk v říjnu 2022 za 44 miliard dolarů koupil sociální síť Twitter, vyvolalo to pozdvižení nemenší. Jen pár týdnů nato obnovil účet prezidentského kandidáta Donalda Trumpa, dříve zablokovaný za schvalování násilného útoku na Kapitol. Na začátku prosince zveřejnil interní dokumenty z doby předchozího vedení, jimiž se ne úplně přesvědčivě snažil dokazovat, že manipulovalo sítí ve prospěch „liberálů“. V půlce prosince zablokoval účet svého údajného stalkera a vzápětí i deseti novinářů z respektovaných médií, kteří o kauze psali (někteří ani to ne), což ostře kontrastovalo s Muskovými prohlášeními, že „jenom bojuje za americkou svobodu projevu“. Na začátku volebního roku se k Trumpovi veřejně přihlásil, věnoval největší jednotlivý finanční příspěvek do kampaně a osobně se jí účastnil. A z analýz začalo vyplývat, že síť X (na níž Twitter přejmenoval) preferuje příspěvky republikánské strany před příspěvky demokratů.

Trump se Muskovi po vyhraných volbách bohatě odměnil: učinil ho svým vrchním poradcem a svěřil mu úřad pro efektivitu DOGE, jenž zahájil mocné škrty ve veřejných rozpočtech. Mimo jiné i v NASA, ty se ale nedotkly penězovodu k Muskově firmě Space X. Trump se sešel s ředitelem čínské sociální sítě TikTok a evidentně se dohodli, protože odložil hrozící zákaz aplikace na americkém území – a Šou C’ Čche se zúčastnil jeho inaugurace. V čelních řadách při rituálu v rotundě Kapitolu seděli kromě Muska i ředitelé Amazonu, Meta/Facebooku (na akci přispěli po miliónu dolarů) i Googlu. Společnost Meta, provozující Facebook, Instagram a Threads oznámila, že přestane spolupracovat s factcheckingovými organizacemi, a Google podle Trumpova příkazu přejmenoval na svých mapách Mexický záliv na Americký. Velikáni internetu se v nové situaci přispěchali sklonit a políbit prsten. Nový poradce a největší donor Trumpovy kampaně Musk si při projevu zvládl i zahajlovat.

Ať už si o konkrétních politických silách člověk myslí cokoliv, začalo být evidentní, že sociální sítě se staly v plném rozsahu taktickou zbraní, v úzkém sepětí s politikou. V situaci, kdy už lidé nečtou noviny, ale zprávy každodenně konzumují z nekonečných „feedů“ na sociálních sítích, získaly algoritmy, které rozhodují o tom, co který uživatel uvidí, ohromnou moc formovat veřejné mínění. A zprávy, které čteme, nastavují to, jak smýšlíme o světě.

Řešením můžou být decentralizované sociální sítě, které stojí na otevřených protokolech. Pozornost si nedávno získala nová síť Bluesky, která ale trpí stejnou základní slabinou: patří firmě, do které investoři nacpali spoustu peněz – a časem je budou chtít zpátky. Mezitím (zatím skoro v undergroundu) roste síť Mastodon, která vlastníka nemá. Levici potěší, že její software vytvářejí samotní uživatelé a provozují i servery, na kterých běží. A zatím to vypadá, že ji nepůjde zastavit ani regulovat, resp. že se reguluje sama.

Algoritmy vlivu

Až do roku 2012 fungovala sociální síť Facebook tak, že si uživatel vybral „přátele“ a viděl všechno, co zveřejnili na své „zdi“. Když jste měli 30 kamarádů a něco nasdíleli, všichni kamarádi to dostali do svého „feedu“. Tomu se říká „organický dosah“. Díky snadnosti a rychlosti použití nahradila sociální síť předchozí rozesílání hromadných mailů, mailing-listy, diskusní fóra, která musel člověk pravidelně sledovat. Brzy byl na Facebooku skoro každý, navíc příspěvky přestaly být z větší části viditelné „ven“ na internet, bez přihlášení, takže kdo na něm nebyl, začal být informačně mimo obraz.

Informace, videa a obrázky se začaly stávat „virálními“ a šířily se „sociální nákazou“. Jestliže každý člověk podle Dunbarova čísla zná zhruba 150 lidí, je známých našich známých 150² čili 22 500 lidí. To už je početný dav. K nim mohl nový mem – jak tomu začal říkat Richard Dawkins – dorazit za pomoci „lajkování“, kliknutí na zdvižený palec s nápisem „líbí“. To vše jen v druhé úrovni sociální sítě – a s každou další roste velikost publika exponenciálně. Tomu se dnes v hantýrce marketérů říká „dosah virální“. Ne náhodou: virus covidu se šířil podobně a s exponenciální křivkou jsme se nedobrovolně seznámili více než důvěrně.

Na jaře roku 2012 zaznamenaly blogy, stránky kapel, obchodů, firem i galerií náhlý propad návštěvnosti z Facebooku. Sociální síť, která sice čerstvě oslavila miliardovou uživatelskou základnu, ale příjmy měla pouze z reklamy, vymyslela nový způsob monetizace: příspěvky se zobrazí jenom malému procentu sledujících. Kdo chce, aby se zobrazily všem, musí zaplatit. A funguje to: „Když nemáme obsazené divadlo, vezmu deset tisíc a zaplatím Facebooku,“ vypráví mi divadelní produkční. „A najednou je vyprodáno.“

Má to i jinou logiku: feedy začaly být přehlcené, a i když člověka zajímaly nové písničky od kamaráda Franty, nezajímaly ho nutně jeho koťátka nebo plastikové modely letadel. Výzvou bylo nastavit algoritmus tak, aby každému zobrazil jenom ty příspěvky, které ho budou zajímat – resp. ty, které ho u sociální sítě udrží, protože čas, který trávíš na naší síti, trávíš i koukáním na naši reklamu.

Doporučující algoritmy začaly být temnou magií, úlohou pro masové zpracování dat i strojové učení. Problém je, že jejich konkrétní podobu sociální sítě tají jako své obchodní tajemství, podobně jako Google nezveřejňuje algoritmus, kterým počítá, jak vysoko se ten který web dostane ve výsledcích vyhledávání. Co nenajdeme Googlem, to pro nás neexistuje. Nebo existuje v podobě, kterou nám Google najde.

Tyto algoritmy jsou neprůhledné, nepodléhají veřejné kontrole a zásadním způsobem ovlivňují to, co si myslíme i kam přijdeme – například o jaké demonstraci se dozvíme. Na pochodu středoškoláků Fridays for Future přemýšlím nad tím, že bez Facebooku by tohle hnutí s Gretou Thunbergovou v čele nevzniklo. A kdyby Facebook nechtěl, tak taky ne. Konkrétní zpráva nebo pozvánka buď může dostat algoritmický „švuňk“ a masově se rozšířit, nebo zůstat zapadlá někde dole na prvním přeskoku v sociální síti. Algoritmus, který o tom rozhoduje, přesně neznáme ani ho nemáme ve svých rukou. Navíc se často mění a čím dál větší vliv na něj má umělá inteligence.

Dopamin

Výzkumy doporučujících algoritmů šly ruku v ruce s neuropsychologií, důležitým se stal zejména dopaminový cyklus (jak popisuje například Adam Alter v knize Neodolatelné), který nám v mozku zabezpečuje drobné odměny a současně se podílí na mechanismu závislosti. Návykovost počítačových her a propracovanost jejich mechanismů práce s dopaminem se objevila i v jiných aplikacích jako fenomén „gamifikace“ – například aplikace DuoLingo s ní pracuje tak důkladně, že vídáme i hodně večírkové typy stranit se zábavy, jenom aby naplnily dnešní dávku učení se jazyků. Lajky v nás vyvolávají pocit sociálního přijetí – a porci dopaminu ještě zvyšuje nejistota, zda po zveřejnění příspěvku nějaké lajky obdržíme. Algoritmy Tinderu nám servírují atraktivní partnery v nečekaných okamžicích, protože se zjistilo, že pak se nám dopaminu vyplaví víc. A sociální sítě občas nějaký ten dopaminek přistrčí záměrně, zvlášť když už se chystáte k odchodu – což se patrně naučily detekovat.

Během studie v roce 2020 vědci strčili do magnetické rezonance teenagery s diagnostikovanou závislostí na Instagramu a zjistili, že jejich mozky vykazují podobné mechanismy závislosti a nedostatku sebekontroly jako při užití návykových látek. Součástí doporučujících algoritmů je totiž i snaha udržet pozornost uživatele u sociální sítě co nejdéle. Říká se tomu „engagement“, česky snad „zaujetí“. Čím déle skrolujete sociální sítí, tím víc vidíte reklamy, kterou prodává inzerentům. Komoditou 21. století se stala pozornost. A algoritmy za pomocí analýzy ohromného množství dat, která o nás již mají, strojového učení i umělé inteligence tříbí způsoby, jak ji udržet.

Jedním z kritizovaných důsledků je i to, že sociální sítě zvýrazňují konflikty, protože konflikt nás emočně připoutává daleko víc než neutrální informace. Spolu s mechanismem vytváření bublin (popsaným už v roce 2011 v diskutované knize The Filter Bubble) či „komnat ozvěn“ (echo chambers) to mnozí považují za příčinu polarizace společnosti, kterou teď zažíváme, nebo dokonce i toho, proč se celá politika – jejímž volebním kampaním sociální sítě dominují – posunula blíž k populismu.

Čínská sociální síť TikTok bývá podezírána z toho, že záměrně formuje budoucí dospělé. Výzkumníci z University College London a University of Kent vytvořili na TikToku falešné profily dospívajících chlapců, které záměrně vyprofilovali tak, aby naznačovaly osamělost nebo psychické problémy. Během pěti dnů zaznamenali v doporučených videích čtyřnásobný nárůst misogynních nebo „toxicky maskulinních“ videí – ať záměrně nebo nezáměrně, algoritmy TikToku zneužívají zranitelnost k radikalizaci.

Heil Tesla

V červenci 2023 věnoval časopis Science speciální číslo sociálním sítím a jejich vlivu na politiku. Podle tří experimentů – uskutečněných ve spolupráci s Facebookem během amerických voleb v roce 2020 – nevede odstranění přesdílených článků z uživatelských feedů k menší polarizaci ani neovlivňuje politické názory; nahrazení algoritmického feedu běžnou časovou osou sice vedlo k poklesu času stráveného na Facebooku i expozice „nedůvěryhodným zdrojům“, k uživatelům se též dostalo méně polarizujícího obsahu, ale opět neměnilo jejich politické názory; podle třetí studie algoritmické feedy vedou k politické segregaci, konzervativci jsou k ní náchylnější než liberálové a současně dostávají víc dezinformací.

Kritici z řad vědců však souběžně upozornili na to, že Facebook výzkumníky nepustil přímo ke svým datům, poskytl jim jen anonymizované a potenciálně filtrované výsledky. A hlavně, že v době tehdejších amerických prezidentských voleb Facebook „v nouzi rozbil sklo“ a provedl ve svých algoritmech 63 úprav, které snižovaly dosah obsahu z „nevěrohodných zdrojů“ – výzkum proběhl zrovna v této době. A studie v respektovaném časopise mohl Facebook podle kritiků využít jako svoje alibi před veřejností, zdánlivě podložené vědou.

Organizace AlgorithmWatch a DFRLab sledovaly v únorových německých federálních volbách vliv algoritmů na propagaci extrémně pravicové strany AfD na síti X. Přímé algoritmické ovlivnění z dat nevypozorovaly. Stačilo, aby majitel sítě Elon Musk – s 210 milióny sledujícími první mezi rovnými – v prosinci 2024 označil AfD za „jiskřičku naděje pro Německo“, v lednu vedl online rozhovor s její lídryní Alicí Weidel a pár týdnů nato pak překvapivě vystoupil na předvolebním mítinku strany. Počet shlédnutí postů AfD na síti X vystřelil osminásobně a mezi 50 nejčtenějšími tweety německých politiků za uplynulý rok se ocitlo 13 příspěvků Alice Weidel. Její nejúspěšnější post měl 24 miliónů shlédnutí, zatímco nejčtenější příspěvek budoucího kancléře Friedricha Merze jen 2,2 milionu. Výsledek AfD oproti předchozím volbám stoupl o 10 procent, což je jistě nespravedlivé přičítat výhradně vlivu X.

Elon Musk má v Německu i obchodní zájmy a když aktivistická skupina Centrum pro krásu politiky promítla na berlínskou továrnu automobilky Tesla obrázek hajlujícího Muska a název firmy doplnila o „HEIL“, její tweet s fotografií z akce se uživatelům z území Německa vůbec nezobrazoval. Skupina se stala obětí shadow banningu – sama o omezení nedostala žádnou informaci a nemohla se proti němu (v rozporu s evropským Digital Services Act) bránit – na jejím účtu se totiž zdálo, že se nic neděje a že příspěvek prostě jenom nikoho nezajímá. Sociální sítě, byznys a politika se propletly nebezpečně těsně.

Evropská unie se pokusila v roce 2022 sociální sítě zprůhlednit Nařízením o digitálních službách (Digital Services Act), které mimo jiné zakazuje cílení reklamy na základě profilování s využitím citlivých osobních údajů, zprůhledňuje proces nahlašování i mazání nelegálního obsahu (dává uživatelům mj. právo se odvolat proti zablokování a zakazuje „shadow banning“) a v neposlední řadě ukládá velmi velkým platformám (nad 45 milionů uživatelů) povinnost zpřístupnit Unii ke kontrole či výzkumu i samotná jejich data či algoritmy. A zatímco o miliardové pokutě hrozící X/Twitteru jsme už slyšeli, výsledky veřejného výzkumu útrob algoritmů zatím neznáme.

Text je ukázkou z připravované Nebezpečné knihy.

Autor je dokumentarista.