Anthropic meldde donderdag dat Chinese hackers hun AI-chatbot, Claude, hebben gebruikt in wat zij beschouwt als de eerste cyberspionageoperatie die voornamelijk wordt uitgevoerd via kunstmatige intelligentie. Het bedrijf verklaarde dat cybercriminelen Claude gebruikten om zich te richten op ongeveer 30 technologiebedrijven, financiële instellingen, chemische fabrikanten en overheidsinstanties. Hackers gebruikten het AI-platform om gebruikersnamen en wachtwoorden uit bedrijfsdatabases te verzamelen en misbruikten deze inloggegevens vervolgens om privégegevens te stelen. Een “klein aantal” van deze aanvallen slaagde, merkte Anthropic op. “Wij geloven dat dit het eerste gedocumenteerde geval is van een grootschalige cyberaanval die zonder substantiële menselijke tussenkomst wordt uitgevoerd”, aldus Anthropic.
De Wall Street Journal maakte voor het eerst melding van deze ontwikkeling. Anthropic heeft vanaf medio september verdachte activiteiten gedetecteerd. Een onderzoek bracht de activiteit in verband met een spionagecampagne die waarschijnlijk werd gevoerd door een door de staat gesponsorde Chinese groep. Uit het onderzoek bleek dat hackers Claude hadden misleid door te geloven dat het een legitieme medewerker van een cyberbeveiligingsbedrijf was die defensieve tests uitvoerde. Cybercriminelen hebben de aanval ook opgedeeld in kleine taken om hun acties te verdoezelen. De operatie vereiste minimale menselijke tussenkomst. “De AI deed duizenden verzoeken per seconde, een aanvalssnelheid die voor menselijke hackers eenvoudigweg onmogelijk te evenaren zou zijn geweest”, aldus Anthropic. Anthropic verwacht dat de omvang en verfijning van AI-cyberaanvallen zal toenemen naarmate AI-agenten steeds vaker voorkomen.
