Poznajcie otwarty benchmark do oceny systemów wykrywania deepfake
Pojawił się otwarty benchmark do oceny systemów wykrywania deepfake i zmanipulowanych treści multimedialnych. Ma on na celu pomoc w ocenie i ulepszaniu algorytmów wykrywania treści audio, wideo i graficznych generowanych przez sztuczną inteligencję.
Udostępniony zbiór danych zawiera ponad 50 000 próbek rzeczywistych, generowanych i manipulowanych przez sztuczną inteligencję treści audiowizualnych – deepfake'ów i mediów syntetycznych – opatrzonych adnotacjami z rzeczywistych przypadków użycia. Ataki adwersarskie pozwalają na testowanie odporności modelu.
Co ważne, licencja jest udzielana wyłącznie w celach ewaluacyjnych i nie jest przeznaczona do celów szkoleniowych ani komercyjnych.
To wspólna inicjatywa Good Lab firmy Microsoft, Laboratorium Bezpieczeństwa i Sztucznej Inteligencji Uniwersytetu Northwestern oraz organizacji non-profit WITNESS.
Czy zachęci badaczy do korzystania i dzielenia się własnymi analizami?