Face Recognition – je to za vás v pořádku?

Tuhle otázku si budeme s rozvojem umělé inteligence pokládat stále častěji: kde končí hranice světa technologií a začínají hranice lidského soukromí? Celá problematika začíná u zdánlivých maličkostí – když vám sociální sítě nabídnou přátelství s člověkem, kterého jste právě potkali; když vám internetová reklama nabízí produkt, na který jste se před nedávnem dotazovali; když vám chytrá lednička sama objedná láhev čerstvého mléka, protože jste ho právě dopili. A končí u velkých celospolečenských etických témat. Pokud síť kamer dokáže zastavit teroristu před tím, než odpálí bombu na letišti nebo v centru města, je to stále nežádoucí šmírování nebo jediný možný způsob obrany?

Svoboda versus bezpečnost

V nedávno publikovaném článku jsme představili, jak technologie umožňují prakticky okamžitou „face recognition“ – tedy rozpoznávání obličeje potenciálních zločinců na pražském letišti. Pokud v databázi nejste, a 99,9 % z nás v ní skutečně nikdy nebude, pravděpodobně uvítáte, že jste chráněni před potenciálním ohrožením. Větší dilema už nejspíš budete mít v případě, kdy byste se měli rozhodnout, zda dobrovolně dáte fotografii svého dítěte do oné databáze. Tady už se totiž ocitáme blízko tradičního sváru dvou hodnot – svobody a bezpečí.

Přirozeně bude většině z Vás nepříjemné poskytovat fotografie dětí do takovýchto databází. Budete si klást otázky, kdo ji vlastní, kdo k ní má přístup, jak s citlivými daty nakládá. Na druhou stranu, pokud by nedej bože vaše dítě bylo vtaženo do cizí dodávky, pravděpodobně byste dali jakoukoli fotografii světa za jeho co nejrychlejší nalezení. Toto je ovšem extrémní příklad, na který nechceme ani pomýšlet. Ovšem princip tohoto konfliktu „bezpečnost vs. svoboda“ pak platí i pro běžné, každodenní situace. Jak moc je nutné, aby nás bezpečností složky monitorovaly – kdy je to už zbytečné a kdy je to klíčové pro naši bezpečnost?

Hledání hranice 

Kam ještě pustit a kam už nepustit technologie AFR – automatizovaného rozpoznávání obličej (automated face recognition)? Rozpoznávání obličeje bylo kdysi považováno za užitečnou, ale spíše nepřesnou disciplínu, která se příliš silně opírala o zapojení člověka. Vzestup strojového učení však všechno změnil. Dnes je možné zachytit, agregovat a analyzovat obrovské množství obrazů obličeje z kamer, senzorů, smartphonů, webů, sociálních médií a okamžitě je porovnat s globální databází, kde se všechny prvky lidské tváře převádí na čísla – tvar očí, nosu nebo textura kůže.

„Dnes je celá oblast automatizovaného rozpoznávání obličejů zejména o matematickém algoritmu a dostupném výpočetním výkonu. Lidská tvář je definována mnoha body a jím odpovídajícími vektory, podle nichž je možné vytvářet unikátní a nezaměnitelný identikit každého člověka. Systém pak může velmi rychle a efektivně porovnávat obličeje z kamer s existující databází. Stačí mu jen základní matematické operace,“ říká Filip Jasz, který v Hewlett Packard Enterprise podílí na projektech pro veřejnou správu. Má přitom na starosti projekty, které spadají do kategorií ‚civil security‘ či ‚public safety‘. „To v zásadě znamená, že Česká republika, resp. Evropská unie chtějí garantovat svým občanům co možná nejlepší ochranu veřejného prostoru před potenciálním ohrožením. Představa, že to veřejné instituce dělají pro zneužití, je a priori špatná,“ říká Filip Jasz.

Samozřejmě je zde druhá strana stejné mince a tou je svět velkých komerčních hráčů, z nichž každý vyvíjí svůj software typu AFR – Apple, Facebook, Google, Microsoft a mnoho dalších. Primárním účelem těchto technologií je samozřejmě stále ochrana zákazníka a jeho dat. Není však tak nepředstavitelné, že by globální hráči mohli brzy využívat tuto technologii k byznysu. A proto musíme být obezřetní a být opatrní, jak daleko necháme technologii dojít – protože mezi bezpečností a svobodou je opravdu tenká hranice.