Meta’s Instagram-platform genereert automatisch door AI geproduceerde koppen en beschrijvingen voor berichten van gebruikers zonder hun toestemming, zoals gerapporteerd door 404 Media op een dinsdag. Deze elementen verschijnen in de paginacode en verschijnen alleen in de resultaten van zoekmachines om de Google-ranglijst voor Instagram-inhoud te verbeteren. Een Engadget-editor waargenomen dit op hun eigen berichten. De gegenereerde koppen en beschrijvingen zijn bedoeld om Instagram-posts te optimaliseren voor een betere zichtbaarheid in zoekmachines. Ze blijven verborgen voor gebruikers binnen de Instagram-applicatie zelf. In plaats daarvan worden ze ingebed in de onderliggende HTML-structuur van de berichten, waardoor ze beïnvloeden hoe externe zoekhulpmiddelen de inhoud indexeren en weergeven. Deze praktijk werkt zonder kennisgeving of goedkeuring van de personen die de berichten uploaden. Engadget-stafschrijver Sam Chapman deelde een voorbeeld uit zijn eigen ervaring. Hij postte over Bloomhunter, een bordspel dat hij ontwierp. Het automatische systeem produceerde een beschrijving waarin stond: “Floramino is een gezellig puzzelspel waarin je als reizende bloemist tuinen regelt.” Het vervolgde: “De demo ziet er leuk uit, met charmante beelden en strategische elementen.” Deze uitvoer bevatte een duidelijke onnauwkeurigheid, aangezien Bloomhunter verschilt van Floramino, dat bestaat als een afzonderlijk puzzelspel dat beschikbaar is op het Steam-platform. De foutieve beschrijving geeft een verkeerde voorstelling van de creatie van Chapman en zou potentiële kijkers die naar zijn inhoud zoeken, kunnen misleiden. 404 De media benadrukten nog meer gevallen waarbij publieke figuren en instellingen betrokken waren. Auteur Jeff VanderMeer heeft een titelloze video geüpload waarin een konijn een banaan eet. De door AI gegenereerde titel werd ‘Meet the Bunny Who Loves Eating Bananas, A Voedzaam tussendoortje voor je huisdier’. Deze formulering hanteert een promotionele, zoekmachinevriendelijke stijl die typerend is voor inhoud die is geoptimaliseerd voor zoekopdrachten met betrekking tot de verzorging van huisdieren of het gedrag van dieren. Dergelijke titels transformeren neutrale of persoonlijke uploads in generieke, klikbare samenvattingen die prioriteit geven aan algoritmische aantrekkingskracht boven de oorspronkelijke bedoeling. Een bibliotheek in Massachusetts promootte een leesevenement met een boek van VanderMeer. Het bericht kreeg een automatisch gegenereerde kop: “Ga met Jeff VanderMeer mee op een spannend strandavontuur met Mesta ….” De weglatingstekens geven aan dat de titel wegloopt, maar het kadert de gebeurtenis in avontuurlijke termen die mogelijk niet overeenkomen met het eigenlijke boek of de daadwerkelijke bijeenkomst. Deze wijziging verlegt de focus naar opwinding, waardoor mogelijk niet-gerelateerd zoekverkeer wordt aangetrokken en het waargenomen thema van de post wordt gewijzigd. Cosplayers zijn soortgelijke problemen tegengekomen met hun inhoud. Meerdere personen meldden dat ze titels hadden ontvangen die niet bij elkaar pasten en kunstmatig geproduceerd waren. Cosplayer Brian Dang zei tegen 404 Media: “Ik zou zulke middelmatige tekst niet schrijven, en het klinkt alsof deze automatisch op schaal is gegenereerd met een LLM.” Hij voegde eraan toe: “Dit wordt problematisch wanneer de kop of beschrijving iemand adverteert op een manier die niet is hoe hij zichzelf persoonlijk zou omschrijven.” Deze niet-overeenkomende afbeeldingen roepen zorgen op over de authenticiteit, vooral bij makers die afhankelijk zijn van personal branding in de beeldende kunst, zoals cosplay. Verificatie van de plaatsing van de krantenkoppen gebeurde via de Rich Result Test-tool van Google. Het onthulde de titels in de title-tags van het bericht en de beschrijvingen in het ’tekst’-gedeelte van de code. Deze elementen werken los van de alt-tekstfunctie van Instagram, die het platform genereert om slechtziende gebruikers te helpen door afbeeldingen toegankelijk te beschrijven. De SEO-gerichte toevoegingen voegen dus een extra, onbedoeld interpretatiekader toe aan de berichten. Individuen kunnen hun recente uploads controleren door ernaar te zoeken in externe zoekmachines om eventuele gegenereerde elementen te identificeren. Met deze stap kunnen gebruikers beoordelen of hun inhoud zonder hun medeweten dergelijke wijzigingen heeft ondergaan.
Engadget nam contact op met Meta voor opheldering. Het bedrijf heeft een verklaring uitgegeven waarin wordt uitgelegd dat het “onlangs AI is gaan gebruiken om titels te genereren voor berichten die in de resultaten van zoekmachines verschijnen. Dit helpt mensen de inhoud die wordt gedeeld beter te begrijpen.” Meta merkte op dat gebruikers de mogelijkheid hebben om indexering van hun accounts uit te schakelen. Deze actie elimineert echter alle zichtbaarheid van zoekmachines, waardoor de kans kleiner wordt dat anderen het profiel of de berichten ervan ontdekken. In de verklaring werd verder erkend: “Net als bij alle door AI gegenereerde inhoud zijn deze titels mogelijk niet altijd 100% accuraat.”
