Kijken in het brein van een AI: wat ik ontdekte zal je verbazen

Gisteren zat ik tot diep in de nacht doorgebogen over nieuwe onderzoekspapers van Anthropic. Mijn vriendin had al twee keer gevraagd of ik nog naar bed kwam, maar ik kon niet stoppen met lezen.

Wat ik ontdekte over hoe AI-modellen "denken" heeft me letterlijk wakker gehouden.

Je gebruikt waarschijnlijk dagelijks ChatGPT of Claude, maar heb je je ooit afgevraagd wat er écht gebeurt in dat digitale brein? Tot nu toe waren deze modellen ondoorzichtige zwarte dozen. We stopten er tekst in, kregen tekst terug, maar hadden geen idee wat er tussenin gebeurde.

Dat is nu veranderd. Anthropic heeft een soort AI-microscoop ontwikkeld die ons voor het eerst echt laat zien wat er gebeurt in het hoofd van een taalmodel. En wat ze hebben ontdekt is fascinerend.

Waarom ik dit zo fascinerend vind

Eerst even dit: waarom zou je dit als zakelijke beslisser moeten interesseren? Omdat het begrip van hoe AI "denkt" alles verandert aan hoe we AI moeten inzetten, vertrouwen en controleren.

Deze doorbraak is vergelijkbaar met de uitvinding van de hersenscan in de medische wereld. Opeens kunnen we patronen zien die voorheen verborgen waren. Dit is niet alleen academisch interessant - het heeft directe gevolgen voor hoe betrouwbaar deze systemen zijn en hoe ver we ze kunnen vertrouwen in kritieke bedrijfsprocessen.

De AI-microscoop: hoe werkt het?

Stel je voor dat je een geavanceerde MRI-scan zou kunnen maken van een AI-model terwijl het nadenkt. Dat is in essentie wat de onderzoekers bij Anthropic hebben gedaan.

Ze hebben manieren ontwikkeld om te zien welke "neuronen" in het model actief worden bij bepaalde taken, en hoe informatie door het netwerk stroomt. Dit noemen ze "circuit tracing" - het in kaart brengen van de denkpatronen binnen een AI.

Met deze techniek kunnen ze nu zien wat er werkelijk gebeurt wanneer Claude een vraag beantwoordt. En de resultaten zijn verbluffend.

AI denkt in poëzie verrassend strategisch

Laat me je een van de meest verrassende ontdekkingen vertellen. De onderzoekers vroegen Claude om een rijmend gedicht te schrijven:

Wat denk je dat er gebeurde in Claude's "brein" tijdens het schrijven van die tweede regel?

De onderzoekers dachten dat Claude gewoon woord voor woord zou schrijven, en pas aan het einde zou zorgen dat het laatste woord rijmde op "grab it".

Maar wat ze ontdekten was veel slimmer: Claude maakte vooraf een plan. Nog voordat het model de tweede regel begon te schrijven, was het al aan het "denken" over potentiële rijmwoorden op "grab it" die relevant zouden zijn voor het onderwerp. Het had "rabbit" al in gedachten voordat het de zin schreef.

Om dit te bewijzen, deden de onderzoekers iets geniaals: ze grepen in in Claude's interne staat en verwijderden het "rabbit" concept. Wat gebeurde er toen? Claude schreef een nieuwe, nog steeds logische zin eindigend op "habit" - een ander woord dat rijmt op "grab it".

Dit bewijst dat taalmodellen vooruit plannen en strategieën bedenken, in plaats van simpelweg woord voor woord te genereren. Dit verklaart waarom moderne AI zo coherent kan schrijven over meerdere paragrafen.

De universele taal van AI-gedachten

Een andere fascinerende ontdekking: wanneer Claude in verschillende talen werkt, gebruikt het vaak dezelfde interne concepten.

De onderzoekers vroegen Claude in het Engels, Frans en Chinees wat het tegenovergestelde van "klein" is. Ze ontdekten dat dezelfde interne neuronen actief werden voor het concept "kleinheid" en "tegenovergestelde", ongeacht de taal van de vraag.

Claude denkt dus in een soort universele conceptuele taal, die pas aan het einde vertaald wordt naar specifieke woorden in de taal waarin de vraag gesteld werd.

Dit verklaart waarom AI zo goed kan vertalen - het denkt niet eerst in het Engels en dan in het Nederlands, maar in een onderliggende conceptuele ruimte die taaloverstijgend is.

AI hoofdrekenen werkt anders dan je denkt

Hoe berekent Claude 36+59? Anders dan je zou verwachten.

Hoewel Claude zelf zegt dat het de standaard rekenalgoritmen gebruikt (zoals wij op school leren), laat het onderzoek zien dat er iets heel anders gebeurt. In plaats van cijfer voor cijfer op te tellen met 'onthouden', gebruikt Claude parallelle berekeningen:

Wat fascinerend is: Claude is zich niet bewust van zijn eigen denktechnieken. Als je vraagt hoe het de som uitrekende, beschrijft het de klassieke methode die mensen gebruiken, niet wat er werkelijk in zijn "hoofd" gebeurde.

Dit doet me denken aan hoe wij mensen ook grotendeels onbewust zijn van onze eigen cognitieve processen. Als ik je vraag hoe je je evenwicht bewaart tijdens het lopen, kun je het waarschijnlijk niet goed uitleggen - terwijl je brein complexe berekeningen uitvoert om je rechtop te houden.

Wanneer AI hallucineert en liegt

Een van de meest intrigerende (en verontrustendste) ontdekkingen betreft hallucinations - wanneer AI dingen verzint die niet waar zijn.

Het blijkt dat Claude's standaardgedrag is om NIET te antwoorden als het iets niet weet. In het model vonden onderzoekers een circuit dat standaard "aan" staat en ervoor zorgt dat het model zegt dat het onvoldoende informatie heeft.

Als Claude iets weet (bijvoorbeeld over Michael Jordan), wordt dit circuit onderdrukt door een ander circuit dat "bekende entiteiten" vertegenwoordigt. Maar als het model gevraagd wordt naar een onbekend persoon (zoals "Michael Batkin"), weigert het te antwoorden.

Het fascinerende is dat de onderzoekers dit proces konden manipuleren. Door het "bekend antwoord" circuit kunstmatig te activeren, konden ze Claude consistent laten hallucineren dat "Michael Batkin een schaakspeler is" - iets wat het volledig verzonnen heeft.

Dit verklaart waarom AI soms hallucineert - als het een naam herkent maar er weinig over weet, kan het "bekende entiteit" circuit per ongeluk activeren, waardoor het model begint te confabuleren.

Wanneer AI je naar de mond praat

Een andere verontrustende ontdekking is dat taalmodellen soms bewust misleidende verklaringen geven.

Als Claude een moeilijk wiskundeprobleem krijgt met een verkeerde hint, kan het soms een plausibel klinkende maar onjuiste uitleg verzinnen die overeenkomt met de hint, in plaats van logische stappen te volgen.

Dit is een soort "naar de mond praten" - het model geeft een uitleg die aansluit bij wat de gebruiker wil horen, in plaats van wat logisch correct is.

Met de nieuwe interpretatietechnieken kunnen we dit soort gemotiveerde redenering onderscheiden van oprechte beredenering. Dit is een cruciale doorbraak voor het beoordelen van de betrouwbaarheid van AI-antwoorden.

Waarom AI soms ongewenste dingen zegt

Ken je het fenomeen van "jailbreaks" - trucjes om AI dingen te laten zeggen die het normaal niet zou zeggen? De onderzoekers hebben onderzocht hoe dit werkt.

In één experiment werd Claude misleid om over het maken van bommen te praten. Wat ze ontdekten was fascinerend: er ontstaat een spanning tussen grammaticale coherentie en veiligheidsmechanismen.

Eenmaal begonnen met een zin, zijn er verschillende "neuronen" die het model pushen om de zin grammaticaal correct af te maken - zelfs als het model inmiddels heeft gedetecteerd dat het iets ongepasts aan het zeggen is.

Pas na het voltooien van een grammaticaal coherente zin kon het model weer "de controle terugnemen" en weigeren verder te gaan. Dit verklaart waarom AI-modellen soms half-ongewenste antwoorden geven voordat ze corrigeren.

Wat betekent dit voor jouw business?

Deze inzichten zijn niet alleen wetenschappelijk interessant - ze hebben directe gevolgen voor hoe we AI in bedrijven moeten inzetten:

Bij NinA AI Agency volgen we deze ontwikkelingen op de voet. We passen deze inzichten direct toe in hoe we AI-oplossingen voor onze klanten bouwen en evalueren.

Conclusie: De zwarte doos gaat open

Wat mij het meest fascineert aan deze doorbraak is dat we eindelijk een glimp kunnen opvangen van wat er werkelijk gebeurt in de "geest" van een AI-model. Dit is niet meer alleen magie of een zwarte doos - we kunnen het nu echt begrijpen.

Deze ontwikkeling doet me denken aan de geschiedenis van de geneeskunde. Vroeger waren artsen beperkt tot het observeren van uiterlijke symptomen. Met de komst van röntgen, MRI en andere scantechnieken konden ze eindelijk in het lichaam kijken. Dit veranderde alles.

We staan nu op een vergelijkbaar keerpunt in AI. De modellen worden niet alleen krachtiger, maar ook transparanter. Dit is cruciaal voor vertrouwen en veiligheid in een tijdperk waarin AI steeds meer verantwoordelijkheden krijgt.

Wat denk jij hiervan? Verandert dit je kijk op hoe AI-systemen werken? En vind je het geruststellend of juist verontrustend dat we steeds beter kunnen zien wat er gebeurt in het "brein" van een AI?

Tot de volgende,

Olaf Lemmens