august 1, 2021

Nettnord.no

Næringsnett Nord-Troms

Facebook-forskere sier at de kan fortelle hvor dype telefoner kommer fra

Et eksempel på den dype trenden skapt av CNBC

Kyle Walsh

I kunstig intelligens forskere Facebook Og Michigan State University sier at de har utviklet en ny programvare som kan avsløre hvor de såkalte dype kom fra.

Deepfaxes er digitalt konverterte videoer med AI. De har blitt Stadig mer realistisk De siste årene har det blitt vanskelig for mennesker å finne ut hva som er ekte på Internett, hva som egentlig er Facebook og hva som ikke er.

Facebook-forskere sier at deres AI-programvare – kunngjort onsdag – kan trene et media for å fastslå om det er et dypt bilde eller et statisk bilde eller en enkelt videoramme. Ikke bare det, men de hevder også at uansett hvor innovativ programvaren er, kan den identifisere AI som opprinnelig ble brukt til å lage DeepFace.

Tal Hasner, Facebooks leder for applikasjonsundersøkelser, sa til CNBC at “AI-programvare kan lære deg hvordan du ser på et bilde og fortelle deg nøyaktig hva utformingen av AI-modellen som skapte dette bildet er.”

Forskning kommer senere MSU realiserte i fjor Hasner sa at Facebooks arbeid med MSU gjør det mulig å bestemme hvilken modell av kamera som ble brukt til å ta et bestemt bilde.

‘Cat and Mouse Game’

Deepfacts er dårlige nyheter for Facebook, som fortsetter å slite med å holde falskt innhold utenfor kjernesiden, samt Messenger, Instagram og WhatsApp. Selskap Utestengt Deepfax i januar 2020 Men det sliter med å raskt fjerne dem alle fra plattformen.

Hasner sa at å finne deepfactors er et “katt-og-musespill” som er lett å produsere og vanskelig å oppdage.

En av de viktigste bruksområdene med deepfake er i pornografi, hvor en persons ansikt blir forvandlet til andres kropp, men de blir også brukt til å få kjendiser til å virke som om de gjør eller sier at de ikke gjør det.

Faktisk en Hyperrealistisk og bisarr Tom Cruise Deepfax-pakke Dictok har nå blitt sett mer enn 50 millioner ganger, noe som gjør det vanskelig for mange å se hvor uvirkelige de er.

I dag kan alle lage sine egne deepfacks ved hjelp av gratis apper som FakeApp eller Faceswap.

Nina Schick, en Deepfake-ekspert som ga råd til USAs president Joe Biden og den franske presidenten Emmanuel Macron, sa at det ikke var lett å finne dype bots på CokeXAI-konferansen mandag.

I en oppfølgings-e-post fortalte han CNBC at arbeidet til Facebook og MSU “virker som en stor avtale når det gjelder deteksjon”, men understreket at det er viktig å finne ut hvor dypt deteksjonsmodeller faktisk fungerer i naturen.

“Alt er bra og bra i et sett med treningsdata i et kontrollert miljø,” la han til og la til at “en av de største utfordringene ser ut til å være at det er enkle måter å lure deteksjonsmodeller på – det vil si å komprimere et bilde eller video. “

Tassner var enig i at en dårlig skuespiller kan komme seg rundt detektoren. “Kan dette beseire systemet vårt? Jeg tror det vil,” sa han.

I det store og hele er det to typer deepfaqs. Fullt skapt av AI som falske menneskelige ansikter på www.thispersondoesnotexist.com, Og andre som bruker komponenter av AI for å manipulere virkelige medier.

Shik stilte spørsmålstegn ved om Facebooks verktøy ville fungere på sistnevnte, og sa “one size fits all detectors”. Men Xiaoming Liu, en Facebook-samarbeidspartner i staten Michigan, sa at arbeidet “er evaluert og verifisert i to inngående saker.” Liu sa at “ytelsen kan være lav” i tilfeller der manipulasjonen bare skjer i et veldig lite område.

Chris Ume, den kunstige mediekunstneren bak Tom Cruise Deepfake, sa mandag at DeepFake-teknologien beveger seg raskt på CokeX.

“Det er mange forskjellige AI-verktøy, og for Tom Cruise, for eksempel, kombinerer jeg forskjellige verktøy for å få kvaliteten du ser på kanalen min,” sa han.

Det er ukjent på dette tidspunktet hva han vil gjøre etter at han forlater stillingen. “Vi har ikke engang en diskusjon om produktene,” sa Tasner og la til at det er flere potensielle brukssaker, inkludert påvisning av integrerte dype dummyangrep.

“Hvis noen vil misbruke dem (produksjonsmodeller) og ønsker å starte et samordnet angrep ved å laste opp materiale fra forskjellige kilder, ved å oppdage at de alle kommer fra de samme formene som vi aldri har sett før, har det virkelig disse spesifikke egenskapene, spesifikke attributter, “sa han.

Som en del av oppdraget, sa han, har Facebook samlet og listet opp 100 forskjellige dype dummy-modeller.

READ  Hvor finner du GTA Online Terminator påskeegg