Evropský parlament odmítá hromadné sledování prostřednictvím umělé inteligence v rukou policie

SecurityGuideBezpečnost pro širokou veřejnost, Legislativa

Europoslanci jsou proti hromadnému sledování prostřednictvím využívání umělé inteligence policií. Rozhodli tak na plenárním zasedání 5. října ve Štrasburku. Evropský parlament (EP) žádá moratorium na zavádění systémů rozpoznávání obličeje.

Rezoluce, o které europoslanci hlasovali v úterý 5. října, prošla. Zveřejněné výsledky ukazují, že ji podpořilo 377 poslanců, proti bylo 248 a 62 členů se zdrželo hlasování.

Europoslanci požadují zajištění práva na soukromí a jsou znepokojeni např. důsledky užívání technologií AI v boji proti diskriminaci či soukromými databázemi a daty ze systémů rozpoznávání obličeje. Poukazují i na to, že automatické rozpoznávání by nemělo být používáno pro kontrolu hranic nebo veřejných prostranství. Požadují proto přísná opatření v situacích, kdy jsou při vymáhání práva použity nástroje umělé inteligence.

Poslanci poukazují na riziko algoritmické předpojatosti v aplikacích umělé inteligence a zdůrazňují, že k zabránění diskriminace ze strany AI je zapotřebí dohled lidí a silné zákonné pravomoci.

Nechceme omezovat vývoj umělé inteligence. My chceme stanovit podmínky pro její bezpečné užití,” řekl český poslanec Marcel Kolaja, který se otázce věnoval z pozice zpravodaje výboru pro vnitřní trh a ochranu spotřebitelů v rozhovoru s ČTK. Dále podle ČTK uvedl, že dává smysl, aby umělá inteligence v trestním právu pomáhala s administrativou, vytvářela doporučení nebo například analyzovala scény zločinů s cílem odhadnout způsob úmrtí člověka.

Kontroverzní technologie

V zájmu respektování soukromí a lidské důstojnosti žádají poslanci EP trvalý zákaz automatizovaného rozpoznávání osob na veřejných prostranstvích s tím, že občané by měli být sledováni pouze v případě podezření ze zločinu. Parlament požaduje, aby bylo zakázáno používání soukromých databází rozpoznávání obličeje (jako je systém Clearview AI, který se již používá) a prediktivního policejního dohledu, neboli snaze předvídat chování jednotlivců a skupin na základě velkého množství dat.

Zpravodaj výboru pro občanské svobody Petar Vitanov uvedl: „Základní práva jsou bezpodmínečná. Vůbec poprvé voláme po moratoriu na zavádění systémů rozpoznávání obličeje pro účely vymáhání práva, protože tato technologie se ukázala jako neúčinná a často vede k diskriminačním výsledkům. Jsme jednoznačně proti prediktivnímu policejnímu řízení založenému na používání AI a také na zpracování biometrických údajů, které vede k hromadnému sledování. Je to obrovská výhra pro všechny evropské občany.

Obavy z diskriminace

Podle předloženého textu na plenárním zasedání identifikační systémy založené na AI mohou nesprávně identifikovat menšinové etnické skupiny, LGBT osoby a další, což je zvláště důležité v kontextu vymáhání práva a soudnictví. Aby se zajistilo dodržování základních práv při používání těchto technologií, měly by být algoritmy transparentní, dohledatelné a dostatečně zdokumentované, říkají poslanci. Pokud je to možné, měly by veřejné orgány používat z důvodu transparentnosti software s otevřeným zdrojovým kódem.

Úřad Evropské unie pro dohled nad ochranou dat

Úřad Evropské unie pro dohled nad ochranou dat (EDPS) letos v dubnu vydal prohlášení ohledně zákazu technologií rozpoznávání obličeje. Důvodem k němu je nedemokratické narušování soukromí. Podle ČTK EDPS předložila první pravidla využívání umělé inteligence, s jejichž pomocí by chtěla omezit a regulovat škodlivé dopady sledovacích či manipulativních technologií.

Obecné využívání těchto technologií EDPS vylučuje. Posloužit by měly pouze ve výjimečných případech, a to např. při odhalování teroristických útoků nebo pátrání po osobách. Očekává se ovšem, že schválení těchto pravidel členskými státy unie a Evropským parlamentem potrvá několik let, důvodem je např. nesouhlas technologických firem s omezováním.

Podle ČTK EP však nereaguje přímo na tento návrh a představuje samostatnou iniciativu.

USA a systémy pro rozpoznávání tváře

Před negativními důsledky používání technologií rozpoznávajících obličeje varovala americké zákonodárce ve svém výzkumu pod záštitou výzkumné nadace Heritage Foudation Kara Frederick. Podle jejího výzkumu jsou tyto systémy velmi snadno zneužitelné a svádějí k hromadnému sledování občanů i zásahu do základních práv a svobod. Více jsme o tom zmiňovali v následujícím článku.

Zdroj: TZ europarl.europa.eu, ČTK