Folje kryesore
- Hulumtimi i ri zbulon se njerëzit nuk mund t'i ndajnë imazhet e krijuara nga AI nga ato reale.
- Pjesëmarrësit i vlerësuan imazhet e krijuara nga AI si më të besueshme.
- Ekspertët besojnë se njerëzit duhet të ndalojnë së besuari çdo gjë që shohin në internet.
Fjalia 'të shohësh është të besosh' nuk është më e rëndësishme kur bëhet fjalë për internetin dhe ekspertët thonë se nuk do të përmirësohet së shpejti.
Një studim i kohëve të fundit zbuloi se imazhet e fytyrave të krijuara nga inteligjenca artificiale (AI) jo vetëm që ishin shumë fotorealiste, por ato gjithashtu dukeshin më të virtytshme se fytyrat reale.
"Vlerësimi ynë i fotorealizmit të fytyrave të sintetizuara nga AI tregon se motorët e sintezës kanë kaluar nëpër luginën e çuditshme dhe janë në gjendje të krijojnë fytyra që janë të padallueshme dhe më të besueshme se fytyrat reale," vunë re studiuesit.
Ai person nuk ekziston
Kërkuesit, Dr. Sophie Nightingale nga Universiteti Lancaster dhe Profesor Hany Farid nga Universiteti i Kalifornisë, Berkeley, kryen eksperimentet pasi pranuan kërcënimet e mirëpublikuara të falsifikimeve të thella, duke filluar nga të gjitha llojet e mashtrimeve në internet deri tek ato fuqizuese. fushata dezinformuese.
"Ndoshta më e dëmshmja është pasoja që, në një botë dixhitale në të cilën çdo imazh ose video mund të falsifikohet, autenticiteti i çdo regjistrimi të papërshtatshëm ose të padëshiruar mund të vihet në pikëpyetje," pohuan studiuesit.
Ata argumentuan se ndërsa ka pasur përparim në zhvillimin e teknikave automatike për të zbuluar përmbajtjen e rreme të thellë, teknikat aktuale nuk janë mjaft efikase dhe të sakta për të vazhduar me rrjedhën e vazhdueshme të përmbajtjeve të reja që ngarkohen në internet. Kjo do të thotë se u takon konsumatorëve të përmbajtjes në internet që të dallojnë të vërtetën nga e rreme, sugjeron dyshja.
Jelle Wieringa, një avokate e ndërgjegjësimit të sigurisë në KnowBe4, ra dakord. Ai i tha Lifewire përmes emailit se lufta kundër falsifikimeve të thella është jashtëzakonisht e vështirë për t'u bërë pa teknologji të specializuar. "[Teknologjitë zbutëse] mund të jenë të shtrenjta dhe të vështira për t'u zbatuar në procese në kohë reale, shpesh duke zbuluar një falsifikim të thellë vetëm pas faktit."
Me këtë supozim, studiuesit kryen një sërë eksperimentesh për të përcaktuar nëse pjesëmarrësit njerëzorë mund të dallojnë fytyrat e sintetizuara më të fundit nga fytyrat reale. Në testet e tyre, ata zbuluan se pavarësisht trajnimit për të ndihmuar në njohjen e falsifikimeve, shkalla e saktësisë u përmirësua vetëm në 59%, nga 48% pa stërvitje.
Kjo i bëri studiuesit të testonin nëse perceptimet e besueshmërisë mund t'i ndihmonin njerëzit të identifikonin imazhet artificiale. Në një studim të tretë, ata u kërkuan pjesëmarrësve të vlerësonin besueshmërinë e fytyrave, vetëm për të zbuluar se vlerësimi mesatar për fytyrat sintetike ishte 7.7% më i besueshëm se vlerësimi mesatar për fytyrat reale. Numri mund të mos duket i madh, por studiuesit pretendojnë se është statistikisht i rëndësishëm.
Fake më të thella
Falsimet e thella ishin tashmë një shqetësim i madh dhe tani ujërat janë turbulluar më tej nga ky studim, i cili sugjeron se imazhe të tilla të rreme me cilësi të lartë mund të shtojnë një dimension krejtësisht të ri në mashtrimet në internet, për shembull, duke ndihmuar në krijimin e më shumë profile të rreme bindëse në internet.
"E vetmja gjë që nxit sigurinë kibernetike është besimi që njerëzit kanë në teknologjitë, proceset dhe njerëzit që përpiqen t'i mbajnë ato të sigurta," ndau Wieringa. "Faketë e thella, veçanërisht kur bëhen fotorealiste, minojnë këtë besim dhe, rrjedhimisht, adoptimin dhe pranimin e sigurisë kibernetike. Kjo mund të çojë në mosbesimin e njerëzve ndaj gjithçkaje që perceptojnë."
Chris Hauk, kampion i privatësisë së konsumatorëve në Pixel Privacy, ra dakord. Në një shkëmbim të shkurtër emaili, ai i tha Lifewire se falsifikimi i thellë fotorealist mund të shkaktojë "kërdi" në internet, veçanërisht këto ditë kur të gjitha llojet e llogarive mund të aksesohen duke përdorur teknologjinë e ID-së me fotografi.
Veprim korrigjues
Fatmirësisht, Greg Kuhn, Drejtor i IoT, Prosegur Security, thotë se ka procese që mund të shmangin një vërtetim të tillë mashtrues. Ai i tha Lifewire përmes emailit se sistemet e kredencializimit të bazuara në AI përputhen me një individ të verifikuar me një listë, por shumë prej tyre kanë masa mbrojtëse të integruara për të kontrolluar për "gjallërinë".
"Këto lloje sistemesh mund të kërkojnë dhe udhëzojnë një përdorues që të kryejë detyra të caktuara, të tilla si buzëqeshja ose kthimi i kokës majtas, më pas djathtas. Këto janë gjëra që fytyrat e krijuara në mënyrë statike nuk mund t'i kryejnë," ndau Kuhn.
Kërkuesit kanë propozuar udhëzime për të rregulluar krijimin dhe shpërndarjen e tyre për të mbrojtur publikun nga imazhet sintetike. Si fillim, ata sugjerojnë përfshirjen e filigranëve të rrënjosur thellë në vetë rrjetet e sintezës së imazheve dhe videove për të siguruar që të gjitha mediat sintetike mund të identifikohen me besueshmëri.
Deri atëherë, Paul Bischoff, avokat i privatësisë dhe redaktor i kërkimit infosec në Comparitech, thotë se njerëzit janë vetëm."Njerëzit do të duhet të mësojnë të mos u besojnë fytyrave në internet, ashtu siç kemi mësuar të gjithë (shpresojmë) të mos u besojmë emrave të shfaqur në emailet tona," tha Bischoff për Lifewire përmes emailit.
