Substack heeft een nieuwe AI-detectietool gelanceerd, ontwikkeld in samenwerking met Pangram. Met deze tool kunnen lezers beoordelen hoeveel inhoud door AI is geschreven, van toepassing op tekst langer dan 100 woorden. De functie is vandaag beschikbaar gekomen op internet en op iOS-platforms, waarbij in de toekomst Android-ondersteuning wordt verwacht.
Daarnaast biedt Substack een nieuwe verklaringsruimte voor makers om expliciet te delen hoe AI in hun inhoud werd gebruikt. Het bedrijf wil duidelijke verwachtingen scheppen voor lezers met betrekking tot door AI gegenereerd materiaal.
De blogpost waarin de functie wordt aangekondigd, bevat kritiek op LinkedIn, waarin wordt gewezen op de prevalentie van door AI gegenereerde inhoud op dat platform. Het beschrijft pogingen om een vals gevoel van menselijke verbondenheid met door AI gegenereerde inhoud te creëren als ‘Claudefishing’. Substack merkte op dat tools voor het detecteren van door AI gegenereerde inhoud, inclusief die van Pangram, geen perfecte nauwkeurigheid garanderen.
De Atlantic heeft de beperkingen van AI-detectietools onderzocht en de onnauwkeurigheid van de mogelijkheden van Pangram benadrukt. Substack erkende deze beperkingen en hintte op mogelijke extra functies met betrekking tot AI-inhoud en gebruikersvoorkeuren in de toekomst. Het bedrijf verklaarde dat het zijn doel is om ervoor te zorgen dat lezers de aard van de inhoud waarmee ze bezig zijn begrijpen, en vatte zijn standpunt samen als “mensen moeten weten wat ze krijgen”.
