Systémy pro rozpoznávání tváře mohou vést k hromadnému sledování občanů i zasahovat do základních práv a svobod, varuje výzkumná nadace Heritage Foundation

SecurityGuideBezpečnostní technologie, Legislativa

Pod záštitou výzkumné nadace Heritage Foudation varuje Kara Frederick americké zákonodárce před negativním vlivem technologií rozpoznávajících obličeje. Podle jejího výzkumu jsou tyto systémy velmi snadno zneužitelné a svádějí k hromadnému sledování občanů i zásahu do základních práv a svobod.

V nedávném výzkumu předloženém americkému Podvýboru pro soudnictví Spojených států pro trestnou činnost, terorismus a vnitřní bezpečnost Kara Frederick, výzkumná pracovnice nadace Heritage Foundation, varovala zákonodárce, že technologie rozpoznávání obličeje je náchylná k nesprávnému použití a má blízko k hromadnému sledování občanů. Nabídla proto několik doporučení, jak s těmito systémy pracovat tak, aby bylo riziko zneužití v Americe nízké.

Jak sama uznává, technologie rozpoznávající obličeje se v minulosti na poli veřejné bezpečnosti osvědčily. Svou roli sehrály například v kauze Capital Gazette v roce 2018, podílely se také na zadržení nejméně tří osob vlastnící falešné pasy na mezinárodním letišti Dulles ve stejném roce. Rizika jsou přesto podle Kary Frederick vysoká. Mezi ně patří např. zranitelnost zabezpečení dat vůči hackerům a únikům, závěry generované nepřesnými algoritmy či autoritářské zneužívání technologií (určení etnicity a následné uvěznění menšin, identifikace desidentů).

Ve svém výzkumu se zaměřila na tři konkrétní rizika: vymezení občanských svobod a soukromí jednotlivců, outsourcing dohledu nad soukromými společnostmi a potenciální integraci dat ze systémů rozpoznávání tváře prostřednictvím hromadného sledování osob.

Aby se omezilo zneužívání, je nezbytný bezpečnostní rámec ochrany osobních údajů pro používání digitálních dat získaných technologií rozpoznávání obličeje.

Kara Frederick doporučuje:

  • vytvořit federální rámec pro ochranu dat s příslušnými standardy a dohledem, který bude určovat, jak mohou americké agentury (federální, státní i oblastní) shromažďovat, ukládat a sdílet data ze systémů rozpoznávání obličeje,
  • zajistit, aby jakýkoli americký systém správy identit používaný vládními aktéry byl bezpečný a spolehlivý na základě daných standardů v souladu s pokyny Národního institutu pro standardy a technologie,
  • prosadit inspekce a dohled nad všemi stranami,
  • aktualizaci harmonogramů a hodnocení dopadů každých šest měsíců.

Výstup z výzkumu Kary Frederick najdete zde.

Evropská unie a systémy pro rozpoznávání tváře

Úřad Evropské unie pro dohled nad ochranou dat (EDPS) letos v dubnu vydal prohlášení ohledně zákazu technologií rozpoznávání obličeje. Důvodem k němu je nedemokratické narušování soukromí. Podle ČTK EDPS předložila první pravidla využívání umělé inteligence, s jejichž pomocí by chtěla omezit a regulovat škodlivé dopady sledovacích či manipulativních technologií.

Obecné využívání těchto technologií EDPS vylučuje. Posloužit by měly pouze ve výjimečných případech, a to např. při odhalování teroristických útoků nebo pátrání po osobách. Očekává se ovšem, že schválení těchto pravidel členskými státy unie a Evropským parlamentem potrvá několik let, důvodem je např. nesouhlas technologických firem s omezováním.

Zdroj: heritage.org, ČTK