Google contribuie la cercetarea de detectare Deepfake cu corpul său vizual Deepfake

Corpul Deepfake

Învățarea profundă este un domeniu avansat de învățare automată care crește rapid în aceste zile. Deși s-au făcut multe cercetări în acest domeniu, există încă un decalaj în cercetare. Inginerii Google au adus contribuții semnificative în acest sens și lucrează activ pentru a produce un corpus major. Gigantul de căutare a colaborat recent cu Jigsaw pentru a lansa un corpus imens de deepfakes. Cercetătorii pot lucra acum pe cadre sintetice de detectare video cu ajutorul corpusului disponibil gratuit.

Andrew Gully, managerul cercetării tehnice al Jigsaw și Nick Dufour, cercetătorul cercetătorului Google, au descris într-un document postare pe blog :

De la prima lor apariție la sfârșitul anului 2017, au apărut multe metode open-source de generare deepfake, ceea ce a dus la un număr tot mai mare de clipuri media sintetizate. În timp ce mulți sunt probabil intenționați să fie plini de umor, alții ar putea fi dăunători pentru persoane și societate.

Google a mai declarat că compania a lucrat cu actori consimțitori și plătiți pentru a compila setul de date al sutelor de videoclipuri. Compania a folosit apoi videoclipurile pentru a produce mii de deepfakes. Au generat atât mostre false cât și reale.

Având în vedere faptul că deepfake este o tehnologie în evoluție, compania va continua să adauge corpusului.

Credem cu tărie în susținerea unei comunități de cercetare înfloritoare în ceea ce privește atenuarea potențialelor prejudicii cauzate de utilizarea abuzivă a mediilor sintetice, iar lansarea de astăzi a setului nostru de date deepfake în benchmark-ul FaceForensics este un pas important în această direcție.

Videoclipurile Deepfake au fost inițial reperate în 2017. Aceste videoclipuri au fost inițial compilate pentru conținut umoristic. Oamenii folosesc acum sisteme bazate pe AI pentru a genera videoclipuri manipulative care schimbă fețele oamenilor. Există diverse aplicații generatoare de deepfake care pot fi în acest scop.

Lucrul bun este că autoritățile au luat acum cunoștință de această problemă și adoptă legi stricte pentru a spori controlul. Setul de date deepfake este o contribuție majoră la modul de soluționare a problemei. Mai mult, Google lucrează deja pentru a atenua potențialul abuz al acestei tehnologii. Compania a lansat un corpus de vorbire sintetic care a fost folosit ulterior de peste 150 de studii de cercetare.