Hur upptäcker man deepfake?

Nyligen förbjöd Google deepfake-algoritmer på Google Colaboratory, en gratis datortjänst med hjälp av GPU:er. Det är inte en person eller teknikjätte som reglerar deepfakes, de är så vanliga att flera amerikanska delstater har lagar som reglerar dem. Det kinesiska lagförslaget kräver också definitionen av datorgenererade media, och eventuell EU-förordning för AI förväntas inkludera klausuler om just denna teknik.

Vad är deepfake, hur kan det upptäckas?

Kaspersky-experter förklarar vad deepfake bedrägeri är, varför det väcker så mycket kontrovers och hur användare kan skydda sig själva:

“Deepfake” syftar på typer av syntetiska, datorgenererade media, vanligtvis om mänskliga egenskaper, producerade med hjälp av djupa neurala nätverk. Det kan vara video-, foto- eller ljudinspelningar. Att använda djupinlärning istället för traditionella bildredigeringstekniker minskar avsevärt ansträngningen och skickligheten som krävs för att skapa en trovärdig låtsasbit. Ursprungligen hänvisade termen till en viss mjukvara som blev populär på Reddit. Mjukvaran kunde bädda in en persons ansikte i en video med en annan person och användes för att skapa porrbilder utan samtycke med efterbildningar av kändisar. Det uppskattas att 96 % av alla deepfake-bedrägerier består av pornografiska bilder. Missbruket av deepfake väcker farhågor om dess användningsområden, såsom skador på rykte och allmän förlägenhet. Denna teknik kan också hjälpa cyberkriminella. I minst två fall i Storbritannien och Hongkong användes djupfalska röstbedrägerier för att lura företag att överföra pengar till bedragare genom att låtsas vara chefer för de inblandade företagen. Ny forskning visar att kommersiella algoritmer för detektering av livlighet som används av finansinstitutioner i KYC-förfaranden kan luras av djupförfalskningar med ID-foton och skapa nya attackvektorer, vilket gör läckta referenser till ett allvarligt problem. Till exempel, i ett fall nyligen, användes en falsk intervju med Elon Musk för att stödja bedrägerier med kryptovaluta. Olika experter och byråer, som Europol, varnar för att den ökade tillgängligheten av deepfake-bilder kan leda till ytterligare spridning av desinformation på Internet.Alla nyheter är inte sanna nyheter. Bildmanipulation är lika gammalt som själva bilden. CGI har funnits i decennier, och båda har fått stor användning som deepfakes. Till exempel, i Kendrick Lamars senaste Heart Part 5-video, användes deepfake-teknik för att förvandla rapparens ansikte till andra kända kändisar som Kanye West. En algoritm användes för att rösta Val Kilmers karaktär efter att skådespelaren tappat sin röst i Top Gun: Maverick. Deepfake-algoritmer användes också för att skapa en viral TikTok-serie med den falska Tom Cruise i huvudrollen. Ett fåtal nystartade företag letar efter nya sätt att använda denna teknik, till exempel för att skapa verklighetstrogna metaversa avatarer.

Med alla förtroendeproblem kring deepfakes, om du undrar hur du upptäcker en deepfake, börja med följande tips:

Övertygande exempel på deepfakes, som de med Tom Cruise, kräver fortfarande mycket expertis, ansträngning och ibland även en professionell skådespelare. Bedrägerierna som används för bedrägerier tenderar fortfarande att vara av låg kvalitet och kan uppmärksammas av onaturliga läpprörelser, dåligt bearbetat hår, inkonsekventa ansiktsformer, lite eller ingen blinkning och hudfärgsinkonsekvenser. Misstag i hanteringen av kläder eller en hand över ansiktet kan också förråda en amatör deepfake. Om en känd eller offentlig person visar sig göra galna påståenden eller erbjudanden som är för bra för att vara sanna, bör vederbörlig försiktighet iakttas och informationen kontrolleras med välrenommerade källor, även om videon är övertygande. Det bör noteras att bedragare avsiktligt kan koda videor för att dölja sina deepfake brister. Därför är den bästa strategin att inte leta efter ledtrådar genom att titta på videon, utan att använda sunt förnuft och faktagranskning. En pålitlig säkerhetslösning ska skyddas om en högkvalitativ deepfake-bedrägeri övertalar användaren att ladda ner skadliga filer eller program, besök tvivelaktiga länkar eller nätfiskewebbplatser. I händelse av ett offer för deepfake porr, kan både webbplatsen (många webbplatser förbjuder att skicka deepfake) och brottsbekämpande myndigheter kontaktas för att begära borttagning av videon, eftersom att skapa en deepfake är ett brott. anfall.

Kaspersky Data Scientist Vladislav Tushkanov säger::

“Deepfake representerar ett utmärkt exempel på teknik som utvecklas snabbare än vi verkligen kan förstå och hantera dess effekter. Av denna anledning uppfattas det som ett nytt desinformationsverktyg som utmanar det förtroende vi har för individer som samhälle.”