Мъж и жена от Канада са измамени с 21 000 долара, след като получили обаждане от човек, който се представил за адвокат и заявил, че синът им е в затвора заради убийство на дипломат при пътен инцидент.

Според Бенджамин Пъркин, човекът от другата страна на линията пуснал на родителите му генериран с изкуствен интелект (AI) глас, който звучал като неговия и поискал от тях пари.

Мнимият адвокат се обадил на родителите отново след първоначалното обаждане и им заявил, че Пъркин има нужда от 21 000 долара за разходи за адвокат, преди да се яви пред съда.

Пъркин заявил пред Washington Post, че гласът бил "достатъчно близък до неговия, за да убеди родителите му, че разговарят със самия него."

Родителите на Бъркин събрали сумата и изпратили парите на измамника чрез биткойн, но впоследствие признали, че обаждането им прозвучало странно. Те осъзнали, че са били измамени, след като Пъркин се обадил да ги чуе по-късно същата вечер.

От Washington Post информират, че Пъркин не знае как измамниците са се сдобили с гласа му, но казва, че има публикувани видеа в YouTube за каране на моторни шейни.

Възходът на по-мощните AI инструменти съвпада с увеличаването на броя на измамите, в които хора се представят за други.

Измамите с AI технологии предшестват появата на ChatGPT и други AI ботове, които сега са особено популярни.

През 2019 г. управляващият директор на британска енергийна компания превежда над 240 000 долара по сметка в Унгария, след като мислел, че шефът му е наредил да го направи в телефонно обаждане.

През януари ElevenLabs, която се занимава с изследвания в областта на клонирането на гласове и инструменти за синтетична реч, повдигна в Twitter въпроса за хора, "които използват тяхната технология за злонамерени цели."

Стартъп компанията информира, че пуска инструмент, който ще позволи на хората да проверяват дали даден аудио запис е направен с технологията на компанията и че нейната VoiceLab става единствено платена.

Ден преди това от ElevenLabs информираха, че са наясно с "увеличаващия се брой на случаите на злоупотреба с клонирани гласове".

От Motherboard установиха, че членове на сайта 4chan използват технологията на ElevenLabs, за да генерират гласове, които звучат като определени знаменитости и говорят расистки и неуместни неща.

Прочети още

Виж всички