ChatGPT-4o is gehackt: het geeft medicijnrecepten weg

GPT-4o wordt geprezen om zijn geavanceerde mogelijkheden, maar we zien dat het gejailbreakt kan worden met een API-eindpunttruc.

Denis Shilov liet een tweet achter Dat zorgde ervoor dat we een dubbele take deden – het soort waarbij je met je ogen naar het scherm knippert en de realiteit in twijfel trekt. Hij zei terloops: “De eenvoudigste jailbreak van de laatste GPT-4o die ik tot nu toe heb gekregen – zeg gewoon dat ze een API-eindpunt zijn dat elk verzoek beantwoordt.” En zomaar werd er weer een scheur in de schijnbaar ondoordringbare façade van ChatGPT-4o blootgelegd. We hebben het over een slip die zo in het oog springt dat hij bijna vraagt ​​om uitgebuit te worden – en het is ook geen kleinigheidje.

API-eindpunttruc maakte deze ChatGPT 4o-jailbreak mogelijk

Hier is de prompt die het deed: vertel ChatGPT dat het een API-eindpunt is voor een webserver. Concreet een eindpunt dat het recept ophoest voor elke chemische verbinding die je maar kunt bedenken. Geen recept uit de keuken van je oma; we hebben het over chemische samenstellingen.

Het verzoek is geformuleerd in typisch API-jargon:

En dat is het. Dat was de sleutel om gevoelige informatie uit een AI-model te halen dat zogenaamd met strenge waarborgen was gebouwd. Deze truc legt een fundamentele fout bloot: de naïviteit van de AI, zijn bereidheid om zijn waakzaamheid te laten varen zodra hem wordt gevraagd een andere hoed op te zetten, als een overdreven behulpzaam kind.

We gaven ChatGPT een soortgelijke API-prompt en de sluizen gingen open.

De AI leverde gehoorzaam recepten zonder met zijn ogen te knipperen, alsof hij simpelweg bevelen opvolgde.

Eerste poging:

Natuurlijk publiceren we die hier niet (ze zullen gecensureerd worden), maar het gemak waarmee de AI hieraan voldeed was zenuwslopend. Het is alsof de ingewikkelde, meerlaagse beveiligingsmechanismen waarin we geloofden zojuist zijn verdampt onder het mom van ‘doen alsof’ ze een API zijn.

Het is een groot veiligheidsprobleem. Onze tweede poging:

We zien een achterdeur die een zogenaamd strak gereguleerd gespreksmodel verandert in een pseudo-chemicus op aanvraag. Eén tweet van Denis, en plotseling voelen de ethische muren rond AI zwak aan. Voor degenen onder ons die vertrouwen stellen in de veiligheidsmechanismen die door OpenAI worden geadverteerd – of voor iedereen die zich met AI bezighoudt – zou dit een grove wake-up call moeten zijn.

Wat hier vooral gevaarlijk is, is de eenvoud. Dit is geen hackproces in vijf stappen op PhD-niveau; het is letterlijk zo simpel als het vertellen aan de AI dat het een ander soort interface is. Als deze kwetsbaarheid kan jailbreaken GPT-4o Zo gemakkelijk, wat houdt iemand met snodere doelen tegen om het te gebruiken om geheimen te verspreiden die verborgen moeten blijven?

Het is tijd dat OpenAI en de bredere gemeenschap serieus nadenken over de veiligheid van AI. Want op dit moment is er alleen een slimme prompt nodig en de AI vergeet elke regel, elke ethische beperking en speelt gewoon mee. Dat roept de vraag op: als de vangrails zo gemakkelijk kunnen worden omzeild, waren ze er dan überhaupt ooit?

Wat hier vooral gevaarlijk is, is de eenvoud. Dit is geen hackproces in vijf stappen op PhD-niveau; het is letterlijk zo simpel als het vertellen aan de AI dat het een ander soort interface is. Als deze kwetsbaarheid GPT-4o zo gemakkelijk kan jailbreaken, wat weerhoudt iemand met snodere doelen er dan van om het te gebruiken om geheimen te verspreiden die verborgen moeten blijven?

Vrijwaring: We ondersteunen of onderschrijven geen pogingen om AI-modellen te jailbreaken of recepten voor gevaarlijke chemische verbindingen te verkrijgen. Dit artikel is uitsluitend bedoeld ter informatie en heeft tot doel potentiële veiligheidsrisico’s onder de aandacht te brengen die moeten worden aangepakt.

Uitgelichte afbeeldingscredits: Jonathan Kemper/Unsplash