Personen i telefonen lät exakt som Ruth Cards barnbarn Brandon.
Han behövde pengar snabbt och eftersom Ruth kände igen hans röst begav hon sig till banken.
Benjamin Perkins föräldrar blev uppringda av en man som sa att han var jurist. Benjamin påstods ha kört ihjäl en annan man och behövde pengar till borgen. Juristen räckte över telefonen till någon – som lät exakt som Benjamin.
I båda fallen, som Washington Post rapporterat om, handlade det om en ny bedrägeriform – röster klonade med hjälp av artificiell intelligens.
”Omöjligt att tänka sig för ett år sen”
Tidigare har stora mängder ljudmaterial krävts för att trovärdigt kunna klona någons röst, men AI-utveckligen går i rasande takt – nu är det snabbare, enklare och mer lättillgängligt än förut.
– Det som var omöjligt att tänka sig för ett år sedan, det är gratis i dag. Företagen som gör och säljer AI vill ha mycket data – därför ger de bort sina tjänster, säger Tobias Falk, lektor på institutionen för data- och systemvetenskap vid Stockholms universitet, till SVT Nyheter.
”Kommit till en punkt där maskinerna kan härma oss”
– Algoritmer tränas på att härma hur den mänskliga hjärnan fungerar. Det går jättefort nu, men det har tagit decennier att komma till en punkt där maskinerna kan härma oss så bra som de gör i dag.
Polisens nationella bedrägericenter skriver i ett mejl till SVT Nyheter att man ”känner till fenomenet” men att man i nuläget inte sett några ärenden i Sverige. ”Vi bevakar detta och har kommunikation med internationella kontakter”, skriver polisens presstalesperson.
Hur många sekunder långt klipp räcker för att kunna klona någons röst? Och hur bra funkar det egentligen på svenska?
Se videon ovan för vårt test.
AI-klonade röster – mer än bara bedrägerier
Tobias Falk säger att det finns en rad potentiella användningsområden för en välgjord AI-klonad röst.
En klonad röst kan användas för att producera stora mängder tal till exempel till tv- och datorspel. Experiment med att klona och bevara en människas röst efter att denne gått bort pågår. Tobias Falk säger också att det skulle kunna förbättra hur vi som människor i framtiden kommunicerar med våra datorer, att ge våra maskiner en röst och därigenom möjligheten att kommunicera med oss.
