OPMERKELIJK – Een multinational is In Hongkong voor een kleine 24 miljoen euro opgelicht nadat de fraudeurs een overtuigende deepfake-videovergadering hadden georganiseerd. Een ongelukkige kassier dacht tijdens die meeting met zijn in Engeland woonachtige cfo te maken te hebben. Ook andere aanwezigen zagen er dankzij het gebruik van deepfake-videotechnologie zo bedrieglijk uit dat de financiële medewerker het geld naar de cybercriminelen overmaakte.
De oplichting begon met een nepmail van de cfo die zei met een geheime transactie bezig te zijn. De financiële medewerker vernoedde aanvankelijk een phishingmail, maar liet zijn bedenkingen varen toen hij in een videoconferentie zijn cfo en andere managers aantrof. De kassier was de enige echte persoon tijdens het overleg, aldus de politie van Hongkong.
De man meende in de stemmen, mimiek en gezichten zijn bazen te herkennen. De fraudeurs wisten die perfect na te bootsen op basis van openbare beelden en andere video die beschikbaar waren. Hoewel synthetische media al meerdere jaren bestaan, maken generatieve-ai-tools de creatie van overtuigende deepfakes gemakkelijk en goedkoop. Waar voorheen alleen al het klonen van een stem zo’n tienduizend euro kostte, bieden startups deze dienst momenteel voor een paar dollar aan. Ook video-deepfakes zijn financieel binnen het bereik van criminelen gekomen. Deepfake-video voor bijvoorbeeld phishing-fraude is al voor minder dan twintig euro per minuut as-a-service beschikbaar.
Met kunstmatige intelligentie gemaakte beelden vormen een toenemende bedreiging. Eind vorige maand werd de Amerikaanse zangeres Taylor Swift de dupe van met ai gegenereerde porno. Toen sociale media deze prikkelende beelden verwijderden, waren ze al tientallen miljoenen keren bekeken