Generatieve AI democratiseert e-commercefraude, waarbij oplichters steeds vaker door AI gegenereerde afbeeldingen gebruiken om terugbetalingen te verkrijgen voor items die ze nooit retourneren. Volgens BedraadOnline winkelplatforms – die al lang vertrouwen op door klanten ingediende foto’s om terugbetalingsverzoeken te valideren – hebben moeite om onderscheid te maken tussen echte en verzonnen schadeclaims.
Het probleem is bijzonder acuut geworden op Chinese sociale-mediaplatforms zoals RodeOpmerking En Douyin. Wired belicht een recente zaak waarbij krabbenhandelaar Gao Jing betrokken was, die een terugbetalingsclaim ontving, vergezeld van een video van ‘dode’ krabben. De fraude kwam aan het licht toen de verkoper biologische inconsistenties in de beelden opmerkte: de krabben hadden het verkeerde aantal poten en het geslacht van de krabben veranderde tussen de clips. Uit politieonderzoek bleek dat de video door AI was gegenereerd, wat leidde tot de arrestatie van de koper.
Het probleem reikt verder dan individuele oplichters. Michael Reitblat, CEO van fraudedetectiebedrijf Fortervertelde Wired dat door AI gemanipuleerde terugbetalingsclaims met meer dan zijn toegenomen 15% wereldwijd sinds het begin van het jaar. Georganiseerde misdaadgroepen gebruiken deze tools naar verluidt om fraude op grote schaal te automatiseren, waarbij ze roterende IP-adressen gebruiken om detailhandelaren te overspoelen met valse claims voor ‘beschadigde’ huishoudelijke artikelen. Hoewel sommige verkopers hun eigen AI-tools inzetten om vervalste afbeeldingen te detecteren, blijft de technologie onvolmaakt, waardoor detailhandelaren gedwongen worden een strenger retourbeleid te overwegen, wat eerlijke kopers zou kunnen hinderen.
In een lichtere ontwikkeling uit hetzelfde rapport merkt Wired het virale succes op van ‘Yichang Beer’. Ondanks de merknaam met Chinese karakters en drakenbeelden, wordt het bier daadwerkelijk gebrouwen Kazachstan en werd oorspronkelijk verkocht op Russischsprekende markten. Op het etiket van het product staat dat het al sinds 1858 wordt gebrouwen, tientallen jaren voordat bier in China werd geïntroduceerd. Ironisch genoeg wordt het bier, nadat het op de Chinese sociale media viraal is gegaan vanwege zijn ‘nep’-erfgoed, nu geïmporteerd en verkocht in de eigenlijke stad Yichang.
