Reddit maakt zijn verificatieproces aanscherp om mensachtige AI-bots buiten te houden, de CEO van het bedrijf Steve Huffman aangekondigd op maandag. De verhuizing komt na een team van onderzoekers uitgegeven Een zwerm van AI-aangedreven bots op de subreddit “My My My My View”, die meer dan 1.700 opmerkingen plaatst en verschillende persona’s aanneemt.
Het experiment, dat Reddit veroordeelde als ‘onjuist en zeer onethisch’, benadrukte de potentiële risico’s van AI-aangedreven bots die mensen op het platform voordoen. Om dit te verminderen, zal Reddit beginnen met werken met services van derden om de mensheid van gebruikers te verifiëren, waarbij sommige gebruikers informatie moeten verstrekken om te bevestigen dat ze menselijk zijn en in sommige gevallen volwassenen.
Huffman benadrukte dat Reddit niet zal eisen dat gebruikers hun namen of identiteiten bekendmaken, waarin staat dat “anonimiteit essentieel is voor Reddit.” Het bedrijf is van plan externe bedrijven te gebruiken om ‘de essentiële informatie en niets anders’ te verstrekken, en verzekerde dat het de persoonlijke informatie van gebruikers zal blijven beschermen en teruggaat tegen buitensporige eisen van de autoriteiten.
De beslissing wordt waarschijnlijk gedeeltelijk gedreven door de evoluerende wettelijke vereisten, inclusief wetten die zijn aangenomen in ten minste negen staten en de VK die leeftijdsverificatie verplicht om kinderen op sociale mediaplatforms te beschermen. Reddit neemt al maatregelen om “slechte” bots te verbieden, maar het nieuwe verificatieproces zal waarschijnlijk worden gebruikt om het platform verder te beschermen.
De exacte omstandigheden waaronder gebruikers verplicht zijn om verificatie te ondergaan, zijn onduidelijk, evenals de specifieke services van derden die zullen worden gebruikt. Populaire verificatieplatforms omvatten persona, legering, streepidentiteit, plaid en voetafdruk, waarvoor doorgaans door de overheid uitgegeven ID’s vereisen om leeftijd en mensheid te verifiëren. Nieuwere technologieën, zoals het ‘bewijs van menselijk’ apparaat van Sam Altman, kunnen ook worden overwogen.
Critici hebben hun bezorgdheid geuit over de potentiële gegevensprivacy en beveiligingsrisico’s die verband houden met ID -controles, met name op een platform zoals Reddit, waar gebruikers vaak anoniem gevoelige of persoonlijke ervaringen delen. Huffman erkende deze zorgen en verklaarde dat Reddit “extreem beschermend zal zijn voor uw persoonlijke informatie.”
