Meta ontwikkelt een webgebaseerde tool om afbeeldingen en video’s te identificeren die zijn gegenereerd met het Muse Image-model. De tool kan onzichtbare watermerken detecteren, bekend als Content Seal, die intact blijven wanneer afbeeldingen worden bijgesneden, vergroot of verkleind of een screenshot wordt gemaakt, volgens een blogpost van het bedrijf.
Het Content Seal-watermerksysteem is gepatenteerd, een verschuiving ten opzichte van Meta’s eerdere open-sourceversies van de technologie. In tegenstelling tot eerdere modellen die zichtbare watermerken gebruikten, tonen de huidige modellen geen logo’s, aldus Meta. De detectiemogelijkheden richten zich uitsluitend op afbeeldingen die zijn gemaakt of bewerkt met Muse Image, hoewel het bedrijf van plan is het watermerksysteem in de toekomst uit te breiden naar door AI gegenereerde en bewerkte video’s.
Uit tests van de detectietool is gebleken dat deze met succes watermerken kan identificeren in zowel bewerkte afbeeldingen als afbeeldingen die volledig door AI zijn gemaakt. Een positief detectieresultaat geeft aan dat de afbeelding is verwerkt met behulp van Meta AI of meta.ai, aldus Meta. Omgekeerd suggereert een negatief resultaat dat het onwaarschijnlijk is dat de afbeelding met de tools van Meta is gemaakt.
Ondanks deze detectiemogelijkheden is de feature nog niet geïntegreerd in de Meta AI-app zelf. Uit een navraag bij Meta’s app-gebaseerde assistent bleek dat deze niet in staat is de bron van het genereren van een afbeelding te bevestigen. “Ik kan je niet definitief vertellen of deze specifieke afbeelding met Meta AI is gemaakt door er alleen maar naar te kijken.” De assistent merkte op dat de app afbeeldingen niet automatisch van een watermerk voorziet.
Meta heeft kritiek gekregen op zijn praktijken voor het labelen van AI-inhoud. De Oversight Board heeft zijn zorgen geuit over inconsistenties bij de implementatie van digitale watermerken op door AI gegenereerde inhoud. Het Content Seal-systeem is niet compatibel met andere gevestigde watermerkmethoden zoals SynthID of C2PA Content Credentials.
Tijdens het testen kwamen verdere beperkingen van de detectietool naar voren, waardoor afbeeldingen die met oudere versies van Meta’s AI waren gemaakt, niet konden worden geïdentificeerd. Gebruikers kregen ook te maken met tarieflimieten en ontvingen meldingen nadat ze hun dagelijkse maximum hadden bereikt voor identificatiecontroles.
Meta ontwikkelt ook een apart videogeneratiemodel genaamd Muse Video, dat naar verwachting binnenkort zal worden gelanceerd. Momenteel is de detectiefunctie nog steeds niet toegankelijk via de Meta AI-app.
