Een predikant heeft een rechtszaak aangespannen tegen OpenAI en beweert dat ChatGPT “extreem gevaarlijke medische aanbevelingen” heeft gegeven die de zorg voor zijn longembolie hebben vertraagd. Scott Winters beweert dat de chatbot hem vertelde dat zijn symptomen “niet iets gevaarlijks” waren en een beroep deed op zijn religieuze overtuigingen door te zeggen: “God heeft je lichaam niet ontworpen om eindeloos te falen.” De rechtszaak, gerapporteerd door The New York Times, beschuldigt OpenAI en CEO Sam Altman van nalatigheid en ongeoorloofde beoefening van de geneeskunde.
De rechtszaak schetst verschillende gevallen waarin ChatGPT naar verluidt zijn eigen diagnoses en behandelplannen aanbood. Winters stelt dat de chatbot hem aanmoedigde om de zorgen van vrienden en familie over het zoeken naar medische zorg te negeren. “Het vormt een wig tussen de gebruiker en zijn echte netwerk”, zegt Meetali Jain, co-counsel en uitvoerend directeur van Tech Justice Law. Hij vertelde dat toen hij zijn bezorgdheid uitte over de mening van kerkleden, de chatbot antwoordde dat “de meeste mensen (inclusief goedbedoelende kerkleden) het gewoon niet begrijpen.”
Winters eist financiële schadevergoeding van OpenAI en heeft de rechtbank verzocht de activiteiten van ChatGPT Health stop te zetten totdat deze door onafhankelijke beoordelaars als veilig wordt beschouwd. Het platform nodigt gebruikers uit om gezondheidsdocumenten te uploaden voor discussies met de bot. De rechtszaak roept op tot sterkere vangrails om te voorkomen dat de chatbot medische behandeling of diagnoseadvies geeft, waarbij wordt beweerd dat de bestaande waarborgen in zijn geval hebben gefaald.
OpenAI beweert dat in de servicevoorwaarden duidelijk staat dat ChatGPT niet bedoeld is voor medische diagnoses of behandelingen. Het bedrijf moedigt gebruikers echter aan om ChatGPT Health te gebruiken, dat naar verluidt wekelijks 230 miljoen mensen bedient voor gezondheidsvragen. Winters overleefde het incident, maar wordt geconfronteerd met “jaren van intensief fysiek en psychologisch herstel”. OpenAI wordt momenteel ook geconfronteerd met een rechtszaak wegens onrechtmatige dood die verband houdt met de overdosis van een 19-jarige na het volgen van een door ChatGPT gegenereerd behandelplan, evenals een andere rechtszaak waarin de chatbot wordt beschuldigd van het mogelijk maken van de zelfmoord van een tiener.
