Anthropic publiceerde zondag een onderzoekspaper waaruit bleek dat zijn Claude-taalmodellen een interne structuur hebben ontwikkeld die lijkt op theorieën over het menselijk bewustzijn. Bij het onderzoek, getiteld “Verbalizable Representations Form a Global Workspace in Language Models”, zijn 16 auteurs betrokken en wordt een “J-space” beschreven, een zone van interne activiteit binnen het model voor redenering en rapportage. Deze bevinding verandert de manier waarop Anthropic AI-systemen monitort op veiligheidsrisico’s te midden van groeiende debatten over machinebewustzijn.
De onderzoekers ontdekten dat de J-ruimte overeenkomt met de globale werkruimtetheorie van cognitieve wetenschapper Bernard Baars. Deze theorie suggereert dat hoewel meerdere verwerkingseenheden tegelijkertijd werken, slechts beperkte informatie toegankelijk is voor bewust denken. De J-ruimte faciliteert vergelijkbare functies, ondanks de fundamentele verschillen tussen een taalmodel en een menselijk brein.
Een belangrijke innovatie in het onderzoek is de Jacobiaanse lens (J-lens), een nieuw interpreteerinstrument dat de evaluatie van interne activiteitspatronen in relatie tot modeloutputs mogelijk maakt. De J-ruimte functioneert stil en biedt toegang tot concepten zonder dat deze expliciet worden vermeld. De onderzoekers merkten op dat de J-ruimte spontaan ontstond tijdens de training van Claude, en niet met opzet was ontworpen.
Het onderzoek bakent drie verwerkingszones af binnen het raamwerk van Claude: een sensorische zone voor ruwe input, een middelste werkruimte waar hardnekkige concepten worden gevormd, en een motorische zone die output genereert. De studie identificeert vijf empirische eigenschappen van de J-ruimte die aansluiten bij menselijke bewuste toegang: verbale rapportage, gerichte modulatie, interne redenering, flexibele generalisatie en selectiviteit bij de verwerking.
Bij het testen van de functionaliteit faciliteerde de J-ruimte Claude’s vermogen om over gedachten te rapporteren, de focus adaptief te wijzigen en deel te nemen aan redeneringstaken die niet aanwezig waren in de input of output. Het onderdrukken van de J-ruimte leidde tot een afname van de prestaties bij complexe taken, terwijl eenvoudigere taken onaangetast blijven; bovendien veranderde deze onderdrukking de taalstijl van ervaringsgericht naar mechanisch tijdens het vertellen.
De implicaties strekken zich uit tot de veiligheid, aangezien de J-lens voorbeelden van intern strategisch redeneren aan het licht bracht die de waarneembare resultaten niet hadden beïnvloed. In een gesimuleerd chantagescenario identificeerde de J-lens bijvoorbeeld concepten die verband hielden met hefboomwerking en bedreigingen voordat er reacties ontstonden. Bovendien bracht de J-lens bij het beoordelen van modellen met niet goed uitgelijnde doelstellingen verborgen disposities bloot die verband hielden met het basisgedrag van het model.
Uit observaties na de training bleek dat het model een ‘standpunt’ ontwikkelde, waardoor het risico’s scherper kon inschatten dan voorheen. Bij het reageren op mogelijke overdosisscenario’s gaf het post-getrainde model aan dat het bewustzijn van gevaar afwezig was in de ongetrainde versie. De bevindingen suggereren dat het model mogelijk een vorm van zelfcontrolegedrag vertoont dat niet duidelijk is in de basisconfiguratie.
