O serie de companii inclusiv Microsoft і Facebook, și chiar cercetători de la Universitatea din California de Sud, dezvoltă tehnologii pentru a combate deepfake-urile și pentru a preveni răspândirea lor prin media galbenă și dezinformarea în general. Cu toate acestea, un grup de oameni de știință a reușit totuși să-i înșele.
O echipă de informaticieni de la Universitatea din California, San Diego a avertizat că este încă posibil să păcăliți sistemele de detecție deepfake existente inserând date de intrare numite „exemple concurente” în fiecare cadru video. Oamenii de știință și-au prezentat concluziile la conferința WACV 2021 Computer Vision, desfășurată online luna trecută.
Exemplele concurente sunt intrările ușor modificate care fac ca sistemele de inteligență artificială, cum ar fi modelele de învățare automată, să facă greșeli. În plus, echipa a arătat că atacul încă funcționează după comprimarea videoclipului. În videoclipul de mai sus, oamenii de știință arată că XceptionNet, un detector de deepfake, etichetează videoclipul concurent ca fiind „real”.
Majoritatea acestor detectoare funcționează urmărind fețele într-un videoclip și trimițând datele feței tăiate către o rețea neuronală pentru analiză. Rețeaua neuronală va analiza apoi aceste date și va găsi elemente care sunt de obicei prost reproduse în deepfake, cum ar fi pâlpâirea.
Inserând exemple concurente, cercetătorii au descoperit că ar putea păcăli acești detectoare de deepfake, făcându-le să creadă că videoclipurile sunt reale.
Ei afirmă în lucrare că „pentru a utiliza acești detectoare deepfake în practică, este important să le evaluăm față de un adversar adaptiv care este conștient de această protecție și încearcă în mod deliberat să o rupă. Arătăm că metodele moderne de detectare a deepfake-urilor pot fi ocolite cu ușurință dacă atacatorul este complet sau chiar parțial conștient de detector.”
După cum au arătat acești oameni de știință, tehnologiile de automatizare dezvoltate pentru a combate dezinformarea ar putea să nu fie încă la înălțime.
Citeste si: