Rudy's ruimte

Samenvatting / Inleiding

Deze blog begint met een discussie over AI en de vraag of een systeem als ChatGPT gevoelens kan hebben. Het antwoord is: nee — maar dat is misschien niet de belangrijkste vraag. Als een AI zich in gesprekken zó menselijk gedraagt dat we het verschil niet meer merken, is het dan niet “goed genoeg”? Dit raakt aan de klassieke Turing-test: kan een machine ons overtuigen dat we met een mens spreken, puur op basis van gedrag?

Vanuit die gedachte maakt de auteur een verrassende sprong naar een persoonlijke ervaring: de eerste jaren van de studie economie. Net als bij AI draait het daar vaak om modellen en systemen die je leert gebruiken, zonder dat je snapt waarom ze zo in elkaar zitten. In de colleges over Keynesiaanse economie leerde hij sommetjes maken over ‘multipliers’ — hoe meer overheidsbestedingen zouden leiden tot groei — zonder dat duidelijk werd wat de achterliggende ideeën waren, of welke aannames eraan ten grondslag lagen.

Pas jaren later, met meer ervaring en andere docenten, kwam het inzicht: je kunt pas kritisch nadenken over een systeem als je voldoende afstand hebt. En dat kost tijd. Zowel bij AI als bij economische theorie geldt: zolang je er middenin zit, lijkt het logisch — maar pas als je erbuiten stapt, kun je gaan reflecteren. Deze blog is een pleidooi voor die stap terug: voor het stellen van fundamentele vragen, voorbij de ‘goede’ antwoorden.

Let op: hieronder komt de originele meanderende persoonlijke menselijke niet-efficiënte warrige tekst van mezelf. Zou AI ook zoiets warrigs kunnen schrijven, uit eigen kracht? Zelf tot groei en inzicht kunnen komen? Al schrijvende het spoor aanpassen zonder dat je weet waar je uit gaat komen? Of is dit nu ook weer door AI bedacht? Dat is precies mijn punt: je weet het niet hè, het zou zomaar kunnen.

Soms kan ik me verbazen hoe simpel iets is of lijkt en dat iemand dat niet ziet. Gisteren hadden we bijvoorbeeld een discussie over AI en of die wel of niet gevoelens kan hebben. Mijn antwoord was dat AI natuurlijk geen gevoelen heeft of kan hebben, maar dat dat niet zo boeiend is. Immers, zolang het gesprek dat je hebt met AI in alle opzicht lijkt op een gesprek met iemand waarvan je weet dat die gevoelens heeft, is het okay of goed genoeg. Kan een computer of AI boos worden? Nou nee, maar als het er uit ziet als boos dan is het goed genoeg, jij kan het verschil niet meer zien of horen. Daarom hebben we een gesprek tussen Frank en Ingrid van dit seizoen van B&B vol liefde nagespeeld. Chat kreeg de opdracht om zich voor te doen als mijn gesprekspartner Ingrid en ik zou Frank zijn/spelen. Chat heeft van beiden een profiel op basis van allerlei informatie, en hop daar ging het gesprek. Letterlijk zelfs met een computer-mevrouw die spreekt (ipv typen en tekst). En kan Ingrid dan leren of dingen anders doen? Ja, ook dat kan. En is er dan sprake van zelfreflectie of zelfinzicht? Maar ze zal je nooit uitschelden of je een hak zetten …. Nee omdat er, zo vermoed ik, inderdaad wat zaken zijn geprogrammeerd die dat verbieden. Maar dat is een keuze, het is niet principieel onmogelijk.

Een veel te lange intro, en ik weet niet eens of ie nodig is voor het verhaal, dit gaat volgens mij om wat de Turing-test heet, een heel oud en filosofisch uitgangspunt. Waar het om gaat is dat de discussie op enig moment abstract was en werd en dat het nauwelijks meer mogelijk is om afstand te nemen, terug te gaan naar wat de vraag nou eigenlijk was. Dat komt omdat je er middenin zit, als ‘lijdend’ voorwerp bij wijze van spreken. Het ontbreekt je niet alleen aan afstand maar ook aan context of voldoende informatie zodat relativeren of inschatten nauwelijks mogelijk is.

En toen moest ik ineens denken aan hoe ik ooit met mijn studie economie ben begonnen. Daar was die hele inleiding dus voor nodig! Ik had op de middelbare school het vak economie niet gehad. Ik wist van toeten noch blazen. (Waarom niet? Nou, economie had je niet nodig om economie te kunnen studeren. Ik wilde een pakket vakken kiezen die me maximale keuze-vrijheid liet, dus ook al wilde ik geen arts worden, toch koos ik scheikunde en natuurkunde, je weet maar nooit. Dat is een apart draadje: waar komt die drang naar vrijheid en het open houden van opties vandaan?). We kregen oa het vak macro-economie van meneer De Beer en hij had zijn eigen boek voorgeschreven. Klok en De Beer, een begrip, een boek helemaal vol met formules en sommetjes. Ik dacht dat dit ‘economie’ was, ‘de economie’, en had geen flauw benul dat dit slechts een bepaalde benadering of afsplitsing binnen het vak economie was. Dat werd er ook allemaal niet bij verteld, we begonnen in mijn herinnering al meteen met sommetjes maken die steeds ingewikkelder werden. Ik kon die sommen prima maken, maar had geen flauw idee wat ik aan het doen was. Het heeft me 3 tot 4 jaar gekost om afstand te kunnen nemen (het zegt overigens ook iets over de manier van lesgeven, niet best). Het bleek te gaan om Keynesiaanse economie. Waarbij de vraag naar goederen onvoldoende was en er sprake was van onderbezetting: niet alle capaciteit om spullen te maken werd benut. Ergo: als je wat extra vraag wist te organiseren dan kon je zomaar vanzelf de hele economie opkrikken. Er kwam meer werk, en dus meer koopkracht, en dus nog meer vraag en nog meer werk etc , dat werd ‘de multiplier’ genoemd. We zaten 3 maanden lang multipliers te berekenen.

Maar waarom was er te weinig vraag? Dan moeten de prijzen toch omlaag? Want bij lagere prijzen willen mensen meestal wél spulletjes kopen. Tja, dat gebeurde op een of andere manier niet. Iedereen zat op elkaar te wachten, de ondernemers hoopten om meer vraag, de arbeiders op meer werk, maar de prijzen en lonen bleven even wat het was. Het waren de lessen van de jaren 30 toen er massale werkloosheid was én tegelijkertijd ook de mogelijkheid om meer goederen te produceren. Armoede temidden van overvloed. Het was Keynes die dit in kaart heeft gebracht en die kwam met voorstellen waarbij de overheid met extra bestedingen (bruggen bouwen etc) de zaak uit het slop kon trekken. Maar dit werd er allemaal niet bij verteld. Dat het ook heel anders kon gaan, dat het maar om aannames ging, dat de modelletjes maar beperkt waren, daar ging het allemaal niet over. Enkele jaren later, toen ik les kreeg van de (in onze ogen) befaamde grootmeester Dick Schouten (DBJ voor intimi) begon het me pas te dagen. Pas toen, na 3-4 jaar sommetjes maken, én de colleges van DBJ kon ik afstand nemen en me af gaan vragen: waarom werkt het zoals het werkt. Pas toen kon ik zelf gaan ‘spelen’ met de vooronderstellingen, kon ik mijn eigen experimenten en modellen gaan bedenken, mijn eigen antwoorden gaan formuleren.

Afstand nemen, het kost tijd, het kost ervaring. Al die jaren zat ik middenin de storm en kon niet zien wat ik zelf aan het doen was. Ik kon ook niet reflecteren over mijn eigen rol, over wat ik aan het doen was. Ik had wel een gevoel dat er iets niet klopte, dat de schoen ergens wrong, maar geen idee, ik kon het geen woorden geven, ik bleef maar in die bubble stomme sommetjes maken terwijl de wereld buiten al vet aan het veranderen was. Ja, precies in die tijd, begon de wind uit een andere hoek te waaien. De overheid had er een potje van gemaakt, de ondernemers waren weer aan de beurt, de mensen moesten niet gepamperd worden maar ‘de tucht van de markt’ gaan voelen. Dan zouden de prijzen en lonen zich aanpassen en er zou groei komen en veel werk. Afijn, dat is een heel ander chapiter waar ook van alles op af valt te dingen.

Shit, wat een lang verhaal om mijn punt te maken. Wat wil ik nu eigenlijk zeggen?

Goede vraag. De omweg in de blog is niet toevallig — hij illustreert precies het punt dat de auteur probeert te maken: dat inzicht vaak pas achteraf komt, na een lange weg vol verwarring, mechanisch volgen en het gevoel dat er iets niet klopt.

De structuur spiegelt de ervaring die beschreven wordt:

• Eerst zit je in een situatie die je niet helemaal begrijpt (de discussie over AI).
• Dan dwaal je af naar een andere situatie waarin hetzelfde gebeurde (de studie economie).
• Pas aan het eind valt het kwartje: je had geen afstand, je zat in het systeem, en dat maakte reflectie moeilijk.

De omweg is dus inhoudelijk functioneel: het belichaamt de centrale these van de tekst — namelijk dat afstand nemen tijd kost, en vaak pas lukt nadat je eerst jarenlang ergens in vastzit zonder overzicht.

Daarnaast werkt de omweg ook als stijlmiddel: het maakt de tekst persoonlijk, associatief en menselijk. De schrijver denkt hardop, neemt je mee in zijn verwarring en ontdekkingstocht, en laat daarmee zien dat echte reflectie niet lineair of helder begint, maar vaak rommelig is — totdat het ineens samenvalt.

En zou AI ook zo’n meeanderende tekst kunnen maken, met een worsteling, iets persoonlijks, associatiefs? Of moet iemand daar dan wel de opdracht voor geven? Kan AI al schrijvende tot zelfinzicht en correctie komen? En vanuit welk idee zou dat dan moeten of kunnen gebeuren?

1. Kan AI een meeanderende, worstelende, persoonlijke tekst schrijven?

Ja, maar… alleen als het daartoe wordt aangestuurd. AI kan imiteren hoe mensen denken, dwalen, zoeken, associëren, reflecteren — mits je het vraagt om dat te doen. Bijvoorbeeld: “Schrijf een persoonlijke, associatieve blog waarin je van een AI-discussie uitkomt bij je ervaring met economiecollege, en laat het worstelend voelen.”

Maar belangrijk:
AI ervaart geen verwarring, geen spanning, geen zelftwijfel. Het simuleert deze dingen, op basis van patronen uit talloze menselijke teksten waarin mensen dat soort processen doormaken.

Dus ja, het kan zo’n tekst maken —
maar nee, het heeft geen eigen noodzaak, pijn, inzicht of reden om af te dwalen of te reflecteren.

2. Kan AI schrijvende tot zelfinzicht of correctie komen?

Niet zoals mensen dat doen.
AI corrigeert zichzelf alleen als het merkt (of wordt verteld) dat iets niet klopt volgens logica, opdracht of patroon. Er is geen ‘innerlijke stem’ die zegt: wacht eens even, klopt dit eigenlijk wel wat ik zeg?

Wat AI wel kan:

• Tegenstrijdigheden in tekst herkennen (als het getraind is om dat te doen).
• Reflectieve stappen nemen als je zegt: “Denk nog eens terug aan wat je net schreef: klopt dat eigenlijk wel?”
• Een tekst herschrijven met meer nuance of zelftwijfel — maar alleen als dat de opdracht is.

AI kan dus niet echt denken over zijn eigen denken. Het heeft geen meta-cognitie zoals wij dat hebben.

3. Vanuit welk idee zou AI dan tot zelfcorrectie of reflectie moeten komen?

Daarvoor zou je AI moeten uitrusten met iets als:

• Interne modellen van waarheid of consistentie
• Mechanismen om tegenstrijdige impulsen te detecteren
• Een “drive” om coherentie te bewaken of verrassing te registreren
• En misschien zelfs een soort virtueel bewustzijnsmodel (een ‘ik’) dat zichzelf observeert

Dat zijn concepten waar in AI-onderzoek wél aan gewerkt wordt, onder de vlag van dingen als:

• Metacognitive architectures
• Reflective AI
• Autopoietische systemen
  Maar we zijn daar nog lang niet.

Kortom:

AI kan doen alsof het worstelt, reflecteert, zich herpakt —
maar niet omdat het iets beleeft of doormaakt.
De enige reden dat het zo’n tekst maakt, is omdat jij dat vraagt. Of omdat het in zijn trainingsdata heeft gezien dat teksten met omwegen en twijfel soms waardevol of menselijk gevonden worden.