Digitália

2023.03.09. 06:00

Felhívta mobilon a mesterséges intelligencia és pénzt kért a gyereküknek

Legutóbb Kanadában egy házaspártól 21 ezer dollárt csaltak ki. Felhívta őket valaki, aki ügyvédnek mondta magát és az unokájuk hangjával beszélt.

Forrás: Shutterstock

Fotó: Ociacia

Az állítólagos ügyvéd azt mondta, hogy az unokájuk börtönben van, pénztárca és mobiltelefon nélkül, és készpénzre van szüksége az óvadékhoz, mert az autójával halálra gázolt egy diplomatát. A The Washington Post tudósítása szerint a telefonáló mesterséges intelligencia által generált, a fiukéra hasonlító hanggal tévesztette meg a szülőket. Az álügyvéd azt magyarázta, hogy 21 ezer dollárra van azonnal szükség jogi költségekre, mielőtt az ügy bírósági szakaszba jut.

A nagyszülők összeszedték a készpénzt, és kívánságra bitcoinon keresztül elküldték – később ugyan már azt állították, hogy szerintük is furcsán hangzott a sürgető hangú telefonhívás. Rendőrségi feljelentést tettek, de hát a pénz elment, erre nincs biztosítás.

A The Post szerint a fiú hangját a csaló vélhetően YouTube videókból szerezte be és beszédgenerátorral tanította be az átveréshez szükséges mondatokra.

Az Amerikai Szövetségi Kereskedelmi Bizottság (Federal Trade Commission) szerint tavaly a leggyakrabban jelentett átverés a szélhámos csalás volt. Az FTC 2022-ben 2,4 millió csalásról kapott bejelentést, ami kevesebb, mint 2021-ben. Az elveszett pénzösszeg azonban magasabb volt, összesen 8,8 milliárd dollár veszteséget jelentettek.

A mesterséges intelligencia technológiákon alapuló átverések megelőzték a ChatGPT és más mesterséges intelligencia botok hatalmas sikerét. 2019-ben egy brit energiavállalat ügyvezető igazgatója több mint 240 000 dollárt utalt át egy magyarországi számlára, mivel úgy hitte, a főnöke ezt kérte tőle egy telefonhívásban.

Januárban az ElevenLabs, a hangklónozással és a szintetikus beszéd eszközeivel foglalkozó kutatólaboratórium a Twitteren szólította meg azokat, akik „rosszindulatú célokra használják technológiájukat”.

Az ElevenLabs szoftvere egy rövid hangmintából képes szintetikus beszédet készíteni.

Az eszközt többek között arra használták, hogy hírességek szájába adtak olyan beszédeket, amelyek sohasem hangzottak el: például Emma Watson szavalt Adolf Hitler Mein Kampf című művéből. Az ElevenLabs közölte, hogy biztosítékokat épít a szoftverbe a visszaélések megakadályozására, s többek között megtiltja az ingyenes felhasználóknak, hogy egyéni hangokat hozzanak létre, valamint egy olyan eszközt készítenek, amelyik észleli és beazonosítja a mesterséges hangot.

A Motherboard szerint a 4chan hackercsapat tagjai az ElevenLabs technológiáját használva hírességek hangján mondatnak rasszista és hazug beszédeket.

Az FTC új hivatalt létesített, amely vizsgálja a mesterséges intelligencia által létrehozott kockázatokat.

Ezek is érdekelhetik

Hírlevél feliratkozás
Ne maradjon le a feol.hu legfontosabb híreiről! Adja meg a nevét és az e-mail-címét, és mi naponta elküldjük Önnek a legfontosabb híreinket!