Huawei w kooperacji z Megvii stworzył wątpliwie moralny algorytm

Autor: Tomasz Łysoń 12 marca 2021

Chiński gigant przetestował oprogramowanie sztucznej inteligencji, które może rozpoznawać mniejszości ujgurskie. Republika Chińska od lat represjonuje mniejszości islamskie, a skalę terroru potwierdził wyciek tajnych danych państwowych. Władze stworzyły dla nich obozy reedukacyjne, w których zamkniętych jest już ponad milion osób. Pomimo, że Ujgurzy mają prawny status mniejszości etnicznej, w praktyce od lat są głównym obiektem represji partii komunistycznej.

Huawei współpracuje z Megvii 

Huawei przetestował oprogramowanie do rozpoznawania twarzy, które może natychmiast wywołać „ujgurskie alarmy” do władz rządowych. Zgodnie z wewnętrznymi zasadami sprzęt będzie identyfikował grupę mniejszościową. Organizacja badawcza IPVM wskazała, że chińska korporacja współpracowała w 2018 roku ze start-upem Megvii, gdzie owocem ich współpracy był system do rozpoznawania twarzy, a na podstawie tego można określić wiek, płeć i pochodzenie etniczne osób, które znajdowały się w większej grupie. Chiny zainteresowały się takim mechanizmem, aby namierzać muzułmańskie grupy etniczne. Obrońcy praw człowieka wskazali, że taka technologia w ostatnich latach zyskała na popularności wśród chińskich policjantów. Dochodzenie IPVM wskazało, jak Huawei, największy na świecie producent sprzętu telekomunikacyjnego, przyczynił się do rozwoju oprogramowania, które budzi kontrowersje moralne i etyczne. Gigant, w wyniku kooperacji udostępniał serwery, kamery oraz infrastrukturę chmury. Huawei i Megvii wydały w ciągu ostatnich kilku lat trzy systemy monitoringu, jednakże nie ma potwierdzenia, czy jednym z nich był system „alarmów ujgurskich”. Chińskie władze wykazały aprobatę dla całego przedsięwzięcia, wskazując, że takie systemy odzwierciedlają postęp technologiczny w kraju, a takie oprogramowanie może być używane w systemie ratownictwa i zapewni jeszcze większe bezpieczeństwo obywatelom. Algorytmy przetestowane na milionach zdjęć twarzy mogą zacząć wykrywać pewne „wzorce urody” i odróżnić mniejszości ujgurskie od większości Han w Chinach. Chiński totalitaryzm powinien być ostrzeżeniem dla nas wszystkich. Oprogramowanie do wykrywania pochodzenia etnicznego nie jest dostępne w Stanach Zjednoczonych. 

Sprzeciw obrońców praw człowieka

Obrońcy praw człowieka zdecydowanie nie zgadzają się ze stanowiskiem Chin, uważając, że system ten jest “spełnieniem marzeń” władz komunistycznych. Chiński reżim już kilka lat temu wykazywał zainteresowanie całkowitą kontrolą społeczną. Ten software niewątpliwie pomógłby zrealizować te plany, bowiem możliwość identyfikacji ludzi w przestrzeni miejskiej pozwoliłaby rządzącym na identyfikację niekorzystnych wg władz członków społeczeństwa i system byłby w stanie tłumić sprzeciw opinii publicznej. Chiński badacz praw człowieka Maya Wang wskazywał, że kraj coraz to częściej wykorzystuje inwigilację wspomaganą sztuczną inteligencją do monitorowania ogółu społeczeństwa i prześladowania mniejszości, protestujących i innych osób uznanych za zagrożenie dla państwa. 

Stanowisko badaczy 

Badacze sztucznej inteligencji są zaniepokojeni, że rozwój technologiczny i normalizacja może doprowadzić do jej rozprzestrzeniania się na całym świecie. Organy rządowe będą chciały kontrolować i identyfikować grupy etniczne, które uznają za niepożądane lub niebezpieczne. Oprogramowanie wywołało sporo debat etycznych wśród badaczy sztucznej inteligencji. Wskazują oni jednogłośnie, że takie algorytmy mogą przyczynić się do dyskryminacji i pogłębianiu różnic społecznych. Twierdzą również, że system z pewnością może generować niedokładne wyniki, ponieważ jego działanie będzie uzależnione od światła, kąta skanowania twarzy oraz jakości obrazu. 

Siła Huawei 

Takie działania chińskiego giganta mogą być niebezpieczne, z uwagi na fakt globalnego zasięgu Huawei. Firma  ma silną pozycję na rynku. Sprzęty i usługi tej marki używane są w ponad 170 krajach świata. Chińska korporacja prześcignęła Apple, stając się drugim co do wielkości producentem smartfonów na świecie i dąży do wprowadzenia na arenie międzynarodowej nowych sieci komórkowych 5G, które mają przekształcić Internet. Megvii to pekiński start-up, który zyskuje globalną sławę dzięki swoim produktom do rozpoznawania twarzy. Firma już rok temu zaproponowała „miejskie rozwiązanie Internetu Rzeczy”, które obejmuje system kamer, czujniki i oprogramowanie, które agencje rządowe mogą używać do monitorowania opinii publicznej. 

W Chinach taki system zainstalowano już w ponad 112 miastach. Pod międzynarodowym naciskiem władze miasta Xinjiangu (miejsce produkcji sprzętu) ogłosiły, że absolwenci szkół wyższych byli zaangażowani w tworzenie oprogramowania, chociaż niektórzy Ujgurowie donoszą, że byli zmuszeni zgodzić się pracować nad projektem inaczej mogliby trafić do aresztu. Władze Xinjiangu twierdzą, że wszyscy pracownicy wykonywali swoje obowiązki z własnej woli.