Jak podaje biometric update wizerunek twarzy na koszulce może być przedmiotem fałszerskiego ataku. Koszulki stały się zagrożeniem dla rozpoznawania twarzy, ale nowe badanie pokazuje, jak temu zapobiec!

Dyskusje na temat ataków biometrycznych zazwyczaj koncentrują się na próbach oszustw finansowych, ale coraz częstsze wykorzystywanie rozpoznawania twarzy w miejscach publicznych skłoniło naukowców do opracowania sposobów oszukiwania tej technologii w celu obejścia zabezpieczeń lub nadzoru. Jedną z metod, która okazała się skuteczna w kontrolowanych eksperymentach są obrazy przedstawiające atakujących na koszulkach. Najnowsze odkrycie w tej dziedzinie polega na zastąpieniu obrazów atakami polegającymi na prezentacji twarzy: koszulka z nadrukowaną ludzką twarzą jest prezentowana kamerze, co oszukuje system rozpoznawania twarzy, sprawiając, że uwierzy, iż widzi prawdziwą, trójwymiarową twarz.

Nowy artykuł grupy naukowców z Uniwersytetu Nauk Stosowanych w Niemczech przedstawia sposób zapobiegania tym właśnie atakom polegającym na prezentacji twarzy.

Naukowcy przetestowali 3 powszechnie stosowane algorytmy detekcji twarzy typu open source: RetinaFace, MTCNN i dlib, w oparciu o bazę danych T-shirt Face Presentation Attack (TFPA). Baza danych zawiera ponad 1600 zdjęć pochodzących ze 100 różnych koszulek, na każdej z nich nadrukowano wizerunek twarzy.

8 osób nosiło koszulki z nadrukowanymi twarzami w różnych pozach, a ich zdjęcia zostały zarejestrowane za pomocą kamery RealSense D435, zdolnej do rejestrowania informacji o głębi obrazów 3D.

W prawie wszystkich przypadkach algorytmy detekcji twarzy wykryły twarz na koszulce. Średni szacowany wskaźnik detekcji 3 algorytmów przekroczył 99% dla wszystkich ośmiu pozach, jak pokazują wyniki. Badanie wykazało również, że jeśli atakujący ukryłby twarz, zasłaniając ją dłońmi, nosząc maskę na twarz lub przechylając głowę, system biometryczny twarzy prawdopodobnie zwróciłby dopasowanie do koszulki – co oznaczałoby, że atak zakończyłby się sukcesem.

Sukces tego ataku prezentacyjnego jest niepokojący, ponieważ koszulki są łatwe do wykonania. Można je również ukryć pod kurtką, co oznacza, że ​​są łatwiejsze w użyciu pod nadzorem niż coś rzucającego się w oczy, takiego jak n. papierowa maska. Ataki z wykorzystaniem koszulek zostały już zidentyfikowane przez służby graniczne jako potencjalne zagrożenie.
Aby rozwiązać ten problem, naukowcy rozszerzyli bazę danych o 152 autentyczne prezentacje i zaproponowali nową metodę wykrywania. Zgodnie z wynikami badań, proponowany algorytm można łatwo połączyć z tradycyjnymi algorytmami wykrywania ataków prezentacyjnych.

Tekst na podstawie https://www.biometricupdate.com/202605/t-shirts-have-become-a-facial-recognition-threat-a-new-study-shows-how-to-stop-it


Ataki typu deepfake czyli oszustwa oparte na bazie AI dzięki wygenerowanej realistycznej próbce głosu z krótkiego nagrania (np. z mediów społecznościowych). Wykorzystanie fałszywej próbki głosu do nieautoryzowanych wejść na konta, tworzenia fałszywych reklam itp.

Wyciek danych biometrycznych. W przeciwieństwie do hasła, głosu nie można zmienić. Jeśli szablon głosowy wycieknie z bazy danych, jest on skradziony bezpowrotnie, co stwarza długotrwałe ryzyko dla tożsamości użytkownika.
Z raportu „Cyberzagrożenia, czego boją się Polacy” opracowanego m.in. przez Urząd Ochrony Danych Osobowych  wynika, że wycieku informacji (w ogóle) obawia się 1/3 Polaków. Najczęściej pojawiają się pytania, gdzie i w jaki sposób będą przechowywane dane, czy będą odpowiednio zabezpieczone i czy nie będą bezprawnie wykorzystywane.

Urata prywatności i wizerunku. Głos może zdradzać więcej niż tylko tożsamość – analiza mowy może ujawnić stan zdrowia, cechy psychiczne czy emocje, co może być także wykorzystane przeciwko użytkownikowi.

A dla Was co jest największym problemem?



Więcej o prywatności w  biometrii głosowej przeczytacie na naszym blogu
https://biometriq.pl/prywatnosc-w-biometrii-glosowej/

Pomysły na wykorzystanie najnowszych technologii mogą zaskakiwać. Na rynku pojawiły się deadboty (znane też jako griefbots lub postmortem avatars) czyli repliki osób zmarłych komunikujące się z bliskimi w rodzimym języku i własnym głosem. Są to  aplikacje czy programy komputerowe zbudowane w oparciu o dane pozyskane z Internetu, które mają stworzyć iluzję zmarłego i zapewnić wsparcie emocjonalne po starcie bliskich osób.

I choć cel wydaje się słuszny to naukowcy z Uniwersytetu w Cambridge zwracają uwagę na ilość zagrożeń związanych z tą technologią. Na podstawie przeanalizowanych 3 scenariuszy ( sprzedaż produktów z wykorzystaniem wizerunku zmarłego,, awatar rodzic dla dziecka, zakup długoletniej subskrypcji deadbota dla bliskich ) jako główne wymieniają: 

● możliwość manipulacji i wpływania na osoby w żałobie

● wykorzystanie wizerunku osób po śmierci bez ich uprzedniej zgody  (konieczność regulowania tego aspektu poprzez pozyskanie zgód na wykorzystanie, również w zakresie głosu)

● monetyzację doświadczenia żałoby i chęć obchodzenia regulacji dla celów sprzedaży przez firmy produkujące deadboty

● niekorzystny wpływ technologii na niektóre grupy społeczne, głównie dzieci (wskazanie wprowadzenia ograniczenia wiekowego do korzystania z tego rodzaju rozwiązań)

Jak podaje Newseria  naukowcy nie odrzucają całkowicie takiego rozwiązania. Jako korzyści wskazują:

● edukację społeczeństwa, deadbot jako międzypokoleniowa wymiana historii i doświadczeń (np. ocalali z Holokaustu opowiadają o swoich przeżyciach)

● źródło utrzymania rodzin po śmierci znanych twórców czy dziennikarzy

Deadboty to kolejny przykład wskazujący na konieczność wdrożenia regulacji prawnych dla usług tworzonych na bazie AI. To pozwoliłoby uniknąć naruszeń wykorzystujących wizerunek i głos po ich śmierci.

A Wy jakie macie zdanie na temat deadbotów? Przekonuje Was ten rodzaj usług? 

Więcej w materiale https://biznes.newseria.pl/news/deadboty-moga-byc,p262956223

Dowiedz się więcej: Deadboty, więcej zagrożeń czy korzyści?

Incydent ze Scarlett Johansson potwierdza fakt, że kwestia regulacji prawnych oraz skutecznych narzędzi jest obecnie najwyższym priorytetem w kontekście zapobiegania deepfakom, czyli atakom na bazie głosu. Wykorzystywanie bezprawne głosu znanych osób do promocji lub też ich dyskredytacji jest nagminne i stanowi nie lada wyzwanie w świecie social mediów.

Spór jaki toczy Johansson z Open AI, który użyl rzekomo jej głosu z filmu „Her ” do stworzenia asystenta Czata GPT  jest tutaj idealnym przykładem pokazującym jak w łatwy sposób da się wykorzystać głos i jak trudno udowodnić, że głos należy do danej a nie innej osoby.

Krótko mówiąc Open AI pomimo braku zgody Johansson na udzielenie licencji na jej głos do uworzenia asystenta głosowego czata GPT przedstawił swój produkt wykorzystujący głos o nazwie „Sky” łudząco do niego podobny.
Brak zabezpieczeń  prawnych w tym zakresie niestety nie działa na korzyść aktorki. Natomiast wyraźnie zwraca uwagę na konieczność ochrony pracy twórczej artystów do zasilania narzędzi sztucznej inteligencji.

O sprawie wykorzystania głosu S. Johansson przeczytacie w oryginalnym artykule

https://www.npr.org/2024/05/20/1252495087/openai-pulls-ai-voice-that-was-compared-to-scarlett-johansson-in-the-movie-her

Mówimy o tym nie bez powodu. Jeśli chodzi o narzędzia chroniące przed deepfakami BiometrIQ jako firma badawcza specjalizuje się w tworzeniu algorytmów pomagających w wyrywaniu oszustw, poprzez analizę porównawczą głosu prawdziwego z wygenerowanym przez AI. Za pomocą autorskich narzędzi możemy ocenić z bardzo wysoką pewnością czy głos został podrobiony czy nie. Zastosowanie algorytmu opartego na biometrii jest z pewnością najskuteczniejszym sposobem na walkę z deepfakami w Internecie.

Dysponujemy też algorytmem, który pomaga już na etapie tworzenia nagrań, znakować je tak, aby nie można było ich skutecznie użyć do dalszej konwersji czy syntezy głosu. Takie narzędzie, na pewno pomogłoby w zmniejszeniu przypadków kradzieży głosu.

Dowiedz się więcej: Regulacje prawne mogą zapobiec deepfakom. Case Scarlett Johansson