Facebook kommer att identifiera Deepfake-bilder med sin artificiella intelligens –

Om du upptäcker mindre fingeravtryck på bilden, Artificiell intelligens Facebook kan urskilja detaljer om hur det neurala nätverket utformades för att skapa bilden, till exempel storleken på modellen eller hur den tränades. Hur kunde vi, bara genom att titta på ett foto, ta reda på hur många lager ett djupt neuralt nätverk har eller vilken förlustfunktion det tränades på? säger Tal Hassner, Facebooks chef för tillämpad vetenskap inom artificiell intelligens.

Komplexiteten av artificiell intelligens

Hassner och hans kollegor testade artificiell intelligens på en databas med 100 000 till 100 deepfakes skapade av 1 000 olika generativa modeller, som var och en genererar XNUMX bilder. Vissa av dessa bilder användes för att träna modellen, medan andra sparades och presenterades för modellen som bilder av okänt ursprung.

Detta hjälpte till att testa artificiell intelligens mot dess slutmål. “Vi tittar på ett fotografi och försöker bedöma hur den generativa modellen som skapade den fungerar, även om vi aldrig har sett den här modellen förut”, säger Hassner. Han vägrade dela hur exakt det har gjorts uppskattningar av artificiell intelligens, men säger att “vi är mycket bättre än slumpmässigt.”

Ett steg framåt för tekniken

“Detta är ett stort steg framåt inom fingeravtrycksområdet”, säger Nina Shik, författare till Deep Forgeries and Infocalypse. Men hon påpekar, liksom Hassner och hennes kollegor, att AI bara fungerar på bilder som var helt konstgjorda genereras, medan många deepfakes är videor skapade genom att limma ett ansikte mot en annan persons kropp.

Schick undrar också hur effektiv AI kommer att vara utanför labbet för att upptäcka deepfakes. i naturen … “De typer av ansiktsdetektionsmodeller vi ser är vanligtvis baserade på akademiska datauppsättningar och implementerade i en kontrollerad miljö”, säger Schick.

Artificiell intelligens

Hassner avböjde att prata om hur Facebook kommer att använda sin nya AI, men säger att sådant arbete är ett spel av katt och råtta mot de människor som skapar djupa förfalskningar. “Vi utvecklar bättre identifieringsmodeller, medan andra utvecklar allt bättre generativa modeller”, säger Hassner. “Jag tvivlar inte på det någon gång det kommer att finnas en metod det kommer fullständigt att lura oss.” Även om Facebook ibland orsakar problem, råder det ingen tvekan om att det gör ett bra jobb med att hitta deepfakes.

Relaterade artiklar

Back to top button