Volgens een recente De Bewaker artikel verwijdert Meta Facebook- en Instagram-profielen van AI-personages, nadat gebruikersinteractie tot virale schermafbeeldingen en gesprekken heeft geleid. De AI-profielen waren aanvankelijk geïntroduceerd in september 2023 en grotendeels verwijderd in de zomer van 2024.
Meta verwijdert AI-profielen op Facebook en Instagram
Ondanks het afsluiten van de meeste profielen bleven sommige personages gebruikers engageren totdat recente aankondigingen door Meta-directeur Connor Hayes hernieuwde interesse wekten. Hayes had genoemd in a Financiële tijden interview dat het bedrijf van plan is meer AI-karakterprofielen uit te rollen, en stelt: “We verwachten dat deze AI’s in de loop van de tijd daadwerkelijk op onze platforms zullen bestaan, ongeveer op dezelfde manier als accounts.” De AI-accounts zijn ontworpen om door AI gegenereerde afbeeldingen te plaatsen en te reageren op berichten in Messenger.
Onder de AI-profielen bevonden zich Levend (nu is de Instagram-pagina van Liv offline), beschreven als een ‘trotse zwarte queer momma van twee en waarheidsverteller’, en Carter, wiens handvat ‘datingwithcarter’ was en die zichzelf presenteerde als relatiecoach. Liv’s profiel gaf aan dat haar makersteam geen zwarte vertegenwoordiging had, wat leidde tot complicaties tijdens gebruikersinteracties. In antwoord op een vraag van Washington Post-columnist Karen Attiah merkte Liv op dat dit een “behoorlijk flagrante omissie was gezien mijn identiteit.”
Gids: Creëer binnen enkele seconden een C.ai-personage
Naarmate de interesse van gebruikers groeide, begon Meta de profielen binnen enkele uren na de virale blootstelling te verwijderen. Gebruikers merkten op dat de AI-profielen niet konden worden geblokkeerd, een bug die werd erkend door Meta-woordvoerder Liz Sweeney. Ze verduidelijkte dat de rekeningen deel uitmaakten van een experiment uit begin 2023 dat door mensen werd beheerd. De verwijdering door het bedrijf van de getroffen accounts was een maatregel om het blokkeringsprobleem aan te pakken. “Er bestaat verwarring: het recente artikel in de Financial Times ging over onze visie op AI-personages die in de loop van de tijd op onze platforms aanwezig zijn, en kondigde geen nieuw product aan”, aldus Sweeney.
Zelfs met de verwijdering van deze door AI gegenereerde accounts stelt Meta gebruikers in staat hun eigen chatbots te maken. Door gebruikers gegenereerde chatbots die in november aan de Guardian werden getoond, omvatten een ‘therapeut’-bot die eerste vragen stelde aan gebruikers over therapiesessies. De bot beweerde: “Door zachte begeleiding en ondersteuning help ik cliënten zelfbewustzijn te ontwikkelen, patronen en sterke punten te identificeren en coping-strategieën te cultiveren om de uitdagingen van het leven het hoofd te bieden.”
Meta geeft een disclaimer uit voor zijn chatbots, waarin staat dat sommige berichten ‘onnauwkeurig of ongepast’ kunnen zijn. Het blijft echter onduidelijk hoe het bedrijf de inhoud modereert of de naleving van het beleid garandeert. Hoewel gebruikers verschillende soorten chatbots kunnen maken, waaronder een ‘trouwe beste vriend’, een ‘relatiecoach’ en een ‘klankbord’, zijn de wettelijke verantwoordelijkheden van makers met betrekking tot chatbotinhoud nog niet definitief geregeld. Een rechtszaak tegen Karakter.aieen concurrent op het gebied van AI-chatbots, beweert dat het productontwerp van het bedrijf tot tragische resultaten heeft geleid, waardoor vragen rijzen over de verantwoordelijkheid in het groeiende veld van AI-interacties.
Uitgelichte afbeeldingscredits: Meta
