De Federal Trade Commission (FTC) heeft juridische stappen ondernomen tegen vijf bedrijven wegens misleidende praktijken met betrekking tot hun AI-technologieën, in navolging van haar toezegging om onethisch AI-gebruik te reguleren.
Deze rechtszaken vallen onder de “Operatie AI Voldoen”, gericht op bedrijven die de mogelijkheden van hun AI hebben overdreven of deze hebben gebruikt om de wet te overtreden.
De cases in beeld
Drie van de bedrijven-Ecom opstijgen, Bouwers van e-commerce-imperiumsEn FBA-machine– bestrijden de beschuldigingen voor de rechtbank. Ze werden beschuldigd van het verkopen van plannen om snel rijk te worden, waarbij werd beweerd dat hun AI-gestuurde tools winstgevende online winkels zouden kunnen creëren. In plaats daarvan leidden deze beloften ertoe dat consumenten miljoenen verloren, omdat de winsten nooit uitkwamen.
Elk van deze bedrijven heeft rechterlijke bevelen gekregen om hun activiteiten stop te zetten terwijl de zaken zich ontwikkelen.
Misleidende AI in actie
FTC-voorzitter Lina Khan benadrukte dat het misbruik van AI voor frauduleuze doeleinden illegaal is en verklaarde: “De handhavingsacties van de FTC maken duidelijk dat er geen AI-vrijstelling van de wet bestaat”.
Het harde optreden maakt deel uit van de grotere missie van het agentschap om consumenten te beschermen tegen misleidende praktijken en om ethische AI-ontwikkeling te garanderen.
Afgehandelde zaken: DoNotPay en Biden robocalls
Twee bedrijven hebben al een schikking getroffen met de FTC. Eén van de bekendere namen, Betaal nietbekend om zijn ‘robotadvocaat’, kreeg een boete omdat hij zijn AI verkeerd voorstelde als een juridisch alternatief. Ondanks de hype slaagde het er niet in diensten te leveren die overeenkwamen met echte menselijke advocaten, waardoor gebruikers met onvolledige documenten en onopgeloste problemen achterbleven.
Het bedrijf stemde ermee in te betalen $ 193.000 en eerdere gebruikers op de hoogte stellen van de beperkingen ervan.
In een afzonderlijk geval Steve Kramerdie heeft geschapen Door AI gegenereerde robocalls zich voordoen als president Joe Bidenkreeg een boete $ 6 miljoen door de FCC. De oproepen waren in strijd met de Wet op de bescherming van de telefoonconsumentenen er lopen nog meer rechtszaken tegen Kramer.
Rytr’s AI-beoordelingsgenerator op de scope
Het meest controversiële geval betreft Rytreen AI-bedrijf waarmee gebruikers valse online recensies konden genereren. Deze praktijk was in strijd met de regels van de FTC inzake misleidende reclame, vooral omdat veel van deze valse getuigenissen valse details bevatten die geen verband hielden met de producten of diensten in kwestie.
Hoewel het besluit van de FTC controversieel was en sommige commissarissen het daar niet mee eens waren, heeft Rytr ermee ingestemd te stoppen met het aanbieden van zijn diensten die AI-beoordelingen genereren.
Critici van de zaak, waaronder voormalig FTC-hoofdtechnoloog Neil Chilsonbeweren dat het verantwoordelijk houden van AI-bedrijven voor door gebruikers gegenereerde inhoud een gevaarlijk precedent schept. Hij uitte zijn bezorgdheid dat dit besluit de innovatie zou kunnen belemmeren door ontwikkelaars te bestraffen voor de manier waarop gebruikers hun tools misbruiken, zelfs als het bedrijf zelf geen schade aanrichtte.
Wat is het volgende?
De acties van de FTC markeren een belangrijk moment in de regulering van AI-technologieën. Terwijl sommigen zich zorgen maken dat dit de innovatie in de weg zou kunnen staan, blijft het agentschap vasthouden aan de handhaving van de wetgeving inzake consumentenbescherming, en maakt het duidelijk dat AI-ontwikkelaars verantwoordelijk moeten zijn voor de manier waarop hun technologie wordt gebruikt.
Naarmate AI zich blijft ontwikkelen, zou dit slechts het begin kunnen zijn van strenger toezicht in de sector.
Uitgelicht beeldtegoed: Emre Çıtak/Ideogram AI
