Automatizované rozpoznávání tváří konečně i v Evropě

Když se před více než rokem lidé takřka bez problémů účastnili pohřbu kritika Kremlu Alexeje Navalného, řada lidí byla překvapená. Jak je možné, že ruský totalitní režim nechal tuto akci proběhnout? O pár dní později bylo jasno. Policie z akce pořídila videozáznam a následně pomocí technologie rozpoznávání tváří hosty ztotožnila. Kritiky režimu pak později pohodlně vyzvedla přímo doma.

Právě v souvislosti s režimy, jako je ten ruský či čínský, se o podobných technologiích mluví a píše nejčastěji. To se však mění: biometrický dohled, efektivní nástroj na hledání teroristů, avšak také na potlačování občanské společnosti, zapouští kořeny i v Evropě. Děje se tak navzdory schválenému evropskému Aktu o umělé inteligenci, který měl autoritářsky smýšlejícím evropským politikům a bezpečnostním složkám svázat ruce.

Test Maďarskem

Zásadním testem složitě dojednaného Aktu bude patrně blížící se sobota 28. června, kdy se má v Budapešti uskutečnit již třicátý ročník pouliční akce oslavující sexuální menšiny: Budapest Pride. Na ten měli maďarští politici tak nějak spadeno vždy, letos však do boje s „nebezpečnou ideologií“ nasazují nové prostředky opírající se o tři pozměňovací návrhy, které letos v březnu maďarský parlament narychlo schválil.

Vzhledem k tomu, že evropský Akt o umělé inteligenci má přednost před schváleným českým zákonem, tak senátoři (a před nimi poslanci) především vytvořili právně chaotickou situaci, kdy policie bude postupovat podle českého zákona a tím bude porušovat Akt.

Nová legislativa platí od poloviny dubna a kromě de facto zákazu Pridu jako takového umožňuje též pokutování jeho návštěvníků či jejich identifikaci pomocí technologie na rozpoznávání obličeje – účast na nepovoleném Pridu totiž bude vykládána jako spáchání přestupku. Přestupkem je ale třeba i přecházení na červenou: i v takové situaci může být teoreticky nově biometrická identifikace, pracující s neměnnými unikátními biologickými charakteristikami jednotlivců, v Maďarsku využita.

Nejen maďarské neziskové organizace zabývající se digitálními právy proto bijí na poplach. Podle nich je tato legislativní úprava v rozporu nejen s Aktem o umělé inteligenci, ale také s Chartou základních práv EU.

V celém sporu je přitom důležité rozlišit mezi „biometrickou identifikací zpětnou“ a „biometrickou identifikací v reálném čase“. Obě upravuje zmíněné nařízení o umělé inteligenci (Akt). Zatímco okamžité rozpoznání člověka pomocí například pokročilých kamerových systémů řadí schválená evropská legislativa mezi „zakázané“ systémy (byť i zde povoluje výjimky), identifikace zpětná spadá pouze mezi systémy „vysoce rizikové“.

Hledání reálného času

Podle výkladu Maďarské unie občanských svobod a dalších organizací maďarský systém pracuje se statickými snímky, tedy například s výřezy z kamerových záznamů, které následně porovnává s civilními registry (občanky, pasy). Pracuje tak s mírným zpožděním – i tato „zpětná“ identifikace však může být natolik rychlá, že v lidech vyvolá nechuť se shromáždění vůbec zúčastnit. Podle tohoto výkladu by tak systém měl spadat do „real-time“ kategorie, kterou evropský Akt zakazuje.

Maďarská unie občanských svobod v květnu spolu s dalšími organizacemi vypracovala odpovědi na ty nejčastější otázky týkající se možného postihu při účasti na Pridu. „Organizátoři jsou odhodláni tu akci zorganizovat. A zdá se, že k využití biometrického dohledu dojde. Policie totiž pravděpodobně Pride zakáže a účast na něm tak bude přestupkem. Pokud Pride vůbec nebude nahlášený, i tehdy bude mít policie oporu v zákoně takový nástroj využít,“ přibližuje, co lze na konci června očekávat, Ádám Remport, který v této organizaci pracuje.

K automatizovanému rozpoznávání tváří by podle něj patrně nedošlo, pokud by na akci bylo málo lidí. „Ale vše zatím nasvědčuje tomu, že tam budou desetitisíce lidí a ta snaha odradit je od účasti automatizovanou identifikací či pokutou pravděpodobně nezafunguje,“ dodává.

Již za pár týdnů se tak v Evropě pravděpodobně dozvíme více o takzvaném „chilling effectu“, který je často v souvislosti s biometrickým dohledem zmiňován. „Chilling effect“ je prakticky „odrazujícím účinkem“, kdy samotná existence systémů na rozpoznávání tváří způsobí, že se lidé raději daného občanského shromáždění vůbec nezúčastní.

České dohánění Západu

Nedávné zkušenosti z gruzínských protestů sice ukazují, že pokud je občanská společnost dostatečně odhodlaná, ani sofistikované dohledové technologie ji od protestu neodradí. Zkušenosti ze zahraničí bohužel zároveň ukazují, že přes opakovanou kritiku dopadu technologií na rozpoznávání tváří na občanskou společnost se těmto nástrojům postupně daří zabydlovat se i v západním světě. Ve Spojených státech tak pokračuje spanilá jízda nástroje Clearview, který je namířený proti migrantům. Tváře se rozpoznávají i v Londýně a podle zprávy francouzské organizace La Quadrature du Net v nějaké míře také v Itálii, Francii či Španělsku.

V Česku v tomto „dohánění Západu“ nejsme výjimečně zase tak pozadu. Činíme se v „biometrické identifikaci zpětné“, pro kterou česká policie využívá nástroj Digitální podoba osob. Ten je (podobně jako ten maďarský) naládovaný fotkami ze všech občanek a pasů a slouží k automatizované identifikaci osob. Za nedostatečnou oporu v zákoně a stejně tak za nekonzultování jeho spuštění cupuje tento systém ve výroční zprávě za loňský rok Úřad pro ochranu osobních údajů.

A daří se nám i co se týče „biometrické identifikace v reálném čase“. Senátoři totiž před pár dny schválili reformu zákona o policii a dalších zákonů, která takový dohled umožní, byť zatím jen na mezinárodních letištích. Schválená podoba zákona přitom obchází pravidla vytyčená evropským Aktem: k zařazení osoby do databáze, se kterou systém v reálném čase porovná nasnímané obličeje, nebude v Česku potřeba individuální posouzení soudem. Soud pouze povolí fungování systému jako takového a o zařazování jednotlivců už bude rozhodovat sama policie.

Proti se vyslovily pouze nezařazené senátorky Daniela Kovářová a Jana Zwyrtek Hamplová. Senátor Hraba se dle stenozáznamu nechal ministrem Rakušanem ujistit, že Česko bude evropská pravidla skutečně ignorovat a bude soudně povolovat zařazení celých skupin a nikoliv jednotlivců – a následně hlasoval pro. Podle senátora Fischera by individuální posuzování soudem příliš „zatížilo soudní systém“, a tak je lepší se na něj prostě vykašlat.

Vzhledem k tomu, že evropský Akt o umělé inteligenci má přednost před schváleným českým zákonem, tak senátoři (a před nimi poslanci) především vytvořili právně chaotickou situaci, kdy policie bude postupovat podle českého zákona a tím bude porušovat Akt. Důsledkem mohou být nejen sankce, které bude stát platit, ale i individuální žaloby těch, kteří se budou svých práv garantovaných Aktem domáhat.

Zdá se tak nyní, že při promýšlení dopadů biometrické automatizované identifikace už patrně brzy nebudeme muset pokukovat ani do Ruska, ani do Číny, ani do Maďarska – budeme je sami prožívat.

Autor pracuje v organizaci IuRe (Iuridicum Remedium), která se dlouhodobě zabývá biometrickým dohledem.