Teadlased hoiatavad, et inimesed ei suuda heli sügavvõltsinguid usaldusväärselt tuvastada isegi treenituna
Tehisintellektiga loodud heli, mis jäljendab inimesi, võib olla nii veenev, et inimesed ei suuda veerandi ajast vahet teha – isegi kui nad on koolitatud võltshääli tuvastama, väidab uus uuring.
Teadus- ja meditsiiniajakirjas Plos One avaldatud aruande kohaselt uurisid Londoni ülikooli kolledži teadlased, kui täpselt suudavad inimesed tehisintellekti loodud heli ja orgaanilise heli vahel vahet teha. Uuring leiab aset keset süvavõltsingute, videote ja piltide levikut, mida saab redigeerida nii, et need näeksid välja justkui tegelikud pildid teistest inimestest.
“Varasemas kirjanduses on süvavõltsingud esile tõstetud kui üks suurimaid tehisintellekti edusammudest tulenevaid turvaohtusid nende väärkasutamise võimaluse tõttu,” kirjutasid teadlased oma sel kuul avaldatud artiklis.
“Kuid uuringud, mis uurivad inimeste tuvastamise võimalusi, on piiratud,” jätkasid teadlased, selgitades, miks nad alustasid püüdlust välja selgitada, kui realistlikud on kõne süvavõltsingud inimeste kuulajatele.
MIS ON AI?
AI-ga loodud heli, mis jäljendab inimesi, võib olla nii veenev, et inimesed ei suuda veerandi ajast vahet teha. (Getty Images)
Uurimisrühm kasutas teksti kõneks muutmise algoritmi kahel andmekogumil, mis genereerisid 50 süvavõltskõne näidist. Teadlased kasutasid nii inglise kui ka mandariini kõnet, “et aru saada, kas kuulajad kasutasid sügavate võltsingute tuvastamiseks keelespetsiifilisi atribuute.”
Seejärel testiti kõnenäidiseid 529 inimesega, kellelt küsiti, kas nende arvates oli kõnes reaalne inimene või kas kõne oli arvuti loodud.
MIS ON CHATGPT?
Uuringu kohaselt suutsid osalejad sügavalt võltskõnet täpselt tuvastada vaid 73% ajast, samas kui tulemused paranesid “veidi” pärast seda, kui osalejaid koolitati arvutiga loodud heli äratundmiseks.
“Meie leiud kinnitavad, et inimesed ei suuda sügavalt võltskõnet usaldusväärselt tuvastada, olenemata sellest, kas nad on saanud koolitust tehissisu tuvastamiseks või mitte,” ütles uuringu autor Kimberly Mai avalduses.
Londoni ülikooli kolledži üks peamisi ülikoolilinnaku hooneid, 24. aprill 2017. (Reuters/Toby Melville)
“Samuti väärib märkimist, et proovid, mida selles uuringus kasutasime, loodi suhteliselt vanade algoritmidega, mis tõstatab küsimuse, kas inimesed suudaksid vähem tuvastada süvavõltskõnet, mis on loodud praegu ja tulevikus kõige keerukama tehnoloogia abil. “
Seda uuringut peetakse esimeseks omataoliseks, mis uurib, kuidas inimesed tuvastavad süvavõltsitud heli muus keeles kui inglise keeles.
MIS ON HÄÄLEKLOONIMINE? MÕISTA, KUIDAS SEE TÖÖTAB, MILLEKS SAAB SEDA KASUTADA JA VEEL VEEL
Inglise ja mandariini keelt kõnelevad osalejad näitasid ligikaudu sama tuvastamissagedust, inglise keelt kõnelevad inimesed väitsid, et nad tuginesid hingamise kuulamisele, et teha kindlaks, kas heli oli tõeline või arvuti loodud. Mandariini kõnelejad ütlesid, et pöörasid tähelepanu kõneleja rütmile ja sõnade rütmile, et aidata heli õigesti tuvastada.
“Kuigi on mõningaid erinevusi funktsioonides, mida inglise ja mandariini keele kõnelejad kasutavad sügavvõltsingute tuvastamiseks, on neil kahel rühmal palju sarnasusi. Seetõttu on kõnesüvavõltsingute ohupotentsiaal järjepidev, hoolimata kasutatavast keelest,” kirjutasid teadlased.
Uuring on “hoiatus”, et “inimesed ei suuda kõnesüvavõltsinguid usaldusväärselt tuvastada”, kusjuures teadlased rõhutavad, et “vastased kasutavad juba kõnesüvavõltsinguid pettuste sooritamiseks” ja tehnoloogia muutub AI hiljutiste edusammudega ainult veenvamaks.
Heli süvavõltsinguid on USA-s ja Euroopas kuritegude toimepanemiseks juba korduvalt kasutatud. (stock)
“Kuna generatiivse tehisintellekti tehnoloogia muutub keerukamaks ja paljud neist tööriistadest on avalikult kättesaadavad, näeme nii palju eeliseid kui ka riske. Valitsustel ja organisatsioonidel oleks mõistlik välja töötada strateegiad nende tööriistade kuritarvitamise vastu võitlemiseks. , kindlasti, kuid me peaksime tunnistama ka silmapiiril olevaid positiivseid võimalusi,” ütles uuringu autor ja Londoni ülikooli arvutiteaduse professor Lewis D. Griffin ülikooli avaldatud avalduses.
AI “HÄÄLIKLOONI” petturid, mis tabavad üha enam vanemaid ameeriklasi, hoiatavad SENATORID
Heli süvavõltsinguid on USA-s ja Euroopas kuritegude toimepanemiseks juba korduvalt kasutatud.
Uuring osutas näiteks 2019. aastal toimunud kelmusele, mis jättis Ühendkuningriigis asuva energiaettevõtte umbes 243 000 dollarit miinusesse pärast seda, kui pettur helistas ettevõtte tegevjuhiga ja teeskles, et on organisatsiooni Saksamaal asuva emaettevõtte boss. .
Pettur suutis tehisintellekti tehnoloogia abil tabada ülemuse kerget saksa aktsenti ja mehe hääle “meloodiat”, nõudes samal ajal tegevjuhilt raha viivitamatut pangakontole kandmist, kirjutas toona Wall Street Journal.
AI HÄÄLKLOONIMISPETTUSED TÕUSUVAD, SIIN SAATE END KAITSTA
Föderaalne Kaubanduskomisjon hoiatas eelmisel kuul, et petturid toetuvad üha enam häälte kloonimise tehnoloogiale, et veenda pahaaimamatuid ohvreid raha üle maksma. (Getty Images)
Osariikides löövad ohvrid telefonipettustele häirekella, mille sihtmärgiks on sageli eakad ameeriklased. Föderaalne Kaubanduskomisjon hoiatas eelmisel kuul, et petturid toetuvad üha enam häälte kloonimise tehnoloogiale, et veenda pahaaimamatuid ohvreid raha üle maksma. Kurjategijad võivad teha võrku postitatud inimesest helihammustuse või video, kloonida häält ja helistada inimese lähedastele, teeseldes samal ajal, et ta on raskes olukorras ja vajab kiiret raha.
RAKENDUSE FOX NEWS HAKKAMISEKS klõpsake SIIA
Paljud ohvrid räägivad hiljem politseile, et kloonitud hääl kõlas nii sarnaselt nende armastatuga, et nad ei kahtlustanud kohe, et tegu on pettusega.
Mai ütles Fox News Digitalile, et uuringud näitavad, et inimeste koolitamine tehisintellekti loodud kõne märkamiseks tõenäoliselt “parandab tuvastamisvõimalusi, seega peaksime keskenduma muudele lähenemisviisidele”, osutades käputäiele muudele võimalustele tehnikaga seotud riskide leevendamiseks.
“Praegu võiks abiks olla ühishanke ja vastuste koondamine faktide kontrollimise meetmena. Samuti näitame, et kuigi inimesed ei ole individuaalselt usaldusväärsed, suureneb tuvastamise jõudlus, kui vastuseid koondate (kogute kokku palju otsuseid ja teete enamuse otsuse),” Mai selgitas.
“Lisaks peaksid jõupingutused keskenduma automatiseeritud detektorite täiustamisele, muutes need testheli erinevustele vastupidavamaks. Lisaks peaksid organisatsioonid seadma prioriteediks muude strateegiate, näiteks eeskirjade ja poliitikate rakendamise.”
