Deepfakes: journalisten misbruikt om oplichting te verspreiden

Journalisten van Sky News zijn slachtoffer geworden van deepfakes die gebruikt werden om illegale online casino’s te promoten, verborgen achter apps die op de App Store gepresenteerd werden als kinderspellen. Eens gedownload, leiden deze apps gebruikers door naar niet-vergunde gokwebsites, wat hun persoonlijke en financiële gegevens in gevaar brengt. Ook werden bedrijfsidentiteiten misbruikt om deze oplichtingen geloofwaardig te doen lijken.

In een steeds verder digitaliserende wereld, waarin artificiële intelligentie dagelijks de grenzen van het realistische verlegt, toont een verontrustende zaak hoe deze technologische vooruitgang kan worden misbruikt voor kwaadaardige doeleinden. Journalisten van Sky News ontdekten recent dat ze het doelwit waren van “deepfakes” – hun gezichten en stemmen werden met behulp van AI gemanipuleerd – om onbewust reclame te maken voor illegale online casino’s. Verspreid via sociale media en apps die zich voordeden als kinderspellen op de App Store, tonen deze frauduleuze advertenties de gevaren van een steeds moeilijker te reguleren digitaal ecosysteem.

Een digitale oplichting van een nieuw type

Journalisten van Sky News ontdekten dat ze slachtoffer waren geworden van deepfakes waarin ze zogenaamd illegale online casino’s promootten. In de gemanipuleerde video’s leken ze gokapps aan te prijzen die verborgen waren in de App Store, terwijl ze in werkelijkheid nooit aan zulke promoties hadden meegewerkt.

De verdachte apps, zoals “Limbo Hopper Frog”, waren zorgvuldig vermomd om de controles van de platforms én van gebruikers te misleiden. Ze gebruikten kleurrijke beelden, schattige dieren als personages en waren geclassificeerd als geschikt voor kinderen vanaf 4 jaar. Maar eens geïnstalleerd, leidden ze gebruikers naar niet-vergunde gokwebsites. Sommige apps veranderden zelfs hun inhoud na goedkeuring om detectie te vermijden.

Een bedreiging voor consumenten en online veiligheid

De fraudeurs achter deze apps gingen zelfs zover dat ze de identiteit van kleine bedrijven misbruikten om hun apps een legitiem uiterlijk te geven. Carla, een marketingconsultant uit Wales, ontdekte dat haar naam zonder toestemming aan een gokapp was gekoppeld. Jennifer Viccars, medeoprichter van het platform MyUnit, zag haar bedrijf vermeld staan als ontwikkelaar van een andere frauduleuze app.

“Het is het tegenovergestelde van waar wij als merk voor staan. We zorgen ervoor dat kwetsbare mensen net niét worden uitgebuit.”

Volgens Andrew Rhodes, CEO van de Gambling Commission, vormen deze illegale casino’s niet enkel een overtreding van de gokwetgeving, maar ook een ernstige bedreiging voor consumenten.

“Je weet niet waar je geld naartoe gaat of waar je financiële gegevens terechtkomen. Je bent kwetsbaar voor alles wat verkeerd kan gaan. Deze casino’s zijn niet voor niets illegaal.”

Gebruikers meldden dat ze werden gevraagd om foto’s van hun kredietkaarten, identiteitsbewijzen en energierekeningen te uploaden om zogezegd hun winst op te nemen – een ernstige schending van gegevensbescherming.

“Ze zullen die gegevens gebruiken voor witwaspraktijken, identiteitsfraude en simpelweg om geld te verdienen,” aldus Rhodes.

Technologieplatformen onder druk

Apple beweert jaarlijks tienduizenden frauduleuze apps op te sporen, maar deze zaak legt de tekortkomingen van hun controles bloot. De frauduleuze apps slaagden erin goedkeuring te krijgen door zich voor te doen als onschuldige spelletjes, waarna ze hun inhoud veranderden om gebruikers naar illegale gokplatforms te leiden.

Rhodes riep technologiebedrijven op om hun verantwoordelijkheid te nemen:

“Als je iets aanbiedt aan consumenten, ben je verplicht ervoor te zorgen dat het overeenkomt met wat je beweert dat het is.”

Een reactie van de autoriteiten, maar aanhoudende uitdagingen

Sinds april heeft het handhavingsteam van de Gambling Commission meer dan 1.150 waarschuwingen en dwangmaatregelen uitgevaardigd en meer dan 81.000 URL’s laten verwijderen uit zoekmachines. Maar de snelle evolutie van dit soort oplichting, gecombineerd met geavanceerde technologieën zoals deepfakes, maakt het bijzonder moeilijk om deze praktijken volledig tegen te houden.

Steeds meer bekende gezichten slachtoffer van deepfake-campagnes

De zaak van de Sky News-journalisten staat niet op zichzelf. Al maandenlang worden beroemdheden het doelwit van deepfake-video’s die hen valselijk in verband brengen met illegale online casino’s.

Zo werden gemanipuleerde video’s verspreid waarin beelden van Nederlandse nieuwszenders zoals NOS en Omroep Brabant gebruikt werden om goksites te promoten.

Ook bekende voetballers bleven niet gespaard. Virgil van Dijk, aanvoerder van het Nederlands elftal, verscheen onterecht in een deepfake op Instagram waarin hij een gokapp aanprijst. Kevin De Bruyne, Belgisch international, werd op gelijkaardige wijze misbruikt in een video op Facebook.

Deze manipulaties waren bedoeld om de indruk van geloofwaardigheid te wekken voor deze frauduleuze platforms. Ze tonen aan hoe gemakkelijk geavanceerde technologieën kunnen worden ingezet om het publiek te misleiden en illegale activiteiten te ondersteunen.