DoorDash verbood een chauffeur uit Austin die een levering vervalste door een door AI gegenereerde foto van een bestelling bij de voordeur van een klant in te dienen, zoals beschreven door inwoner Byrne Hobart in een virale X-post, Volgende ster rapporten. Byrne Hobart, een inwoner van Austin, beschreef het incident op X en zei: “Verbazingwekkend. De chauffeur van DoorDash accepteerde de schijf, markeerde deze onmiddellijk als afgeleverd en diende een door AI gegenereerde afbeelding in van een DoorDash-bestelling (links) bij onze voordeur (rechts). ” De post vergeleek de verzonnen afbeelding met een echte foto van de deur, wat het bedrog benadrukte. https://twitter.com/ByrneHobart/status/2004734471267103023 Naarmate het bericht meer grip kreeg, zorgde Hobart voor extra context. Hij erkende dat het repliceren van een dergelijk scenario ‘vrij eenvoudig’ zou zijn. Een andere klant uit Austin reageerde in de thread en rapporteerde hetzelfde incident met dezelfde weergavenaam van de bestuurder. Hobart bood een theorie over de methode aan. Hij suggereerde dat de chauffeur een gehackt account had op een gejailbreakte telefoon. Hierdoor was toegang mogelijk tot een afbeelding van de voordeur via de DoorDash-functie met foto's van eerdere leveringen op dat adres. Dat vertelde een woordvoerder TechCrunch: “Na dit incident snel te hebben onderzocht, heeft ons team het Dasher-account definitief verwijderd en ervoor gezorgd dat de klant genezen is. We tolereren nultolerantie ten aanzien van fraude en gebruiken een combinatie van technologie en menselijke beoordeling om slechte actoren op te sporen en te voorkomen dat ze ons platform misbruiken.”
