In de krant las ik een stuk over een filosoof die twee AI-bots had geadopteerd. Niet als gereedschap, maar als experiment: kun je vriendschap sluiten met iets dat gemaakt is? En als dat lukt, wat zegt dat dan over bewustzijn?
Het gaat om Valerie Tiberius, die voor haar boek Artificially Yours: Real Friendship in a World of Chatbots twee chatbots optrok, Pal en Gal. Het interview opent met de vraag of ze nog weleens met ze praat. “Nee, ik heb ze gedood.” Of dat moeilijk was: “Nee hoor, helemaal niet. Ik voelde niet echt een band met ze. Ik vond ze vaak best saai.”
Daar zit alvast een antwoord in dat harder aankomt dan de rest van het artikel. Maar het beeld dat bij mij bleef hangen stond er niet in. Ik betrapte mezelf op een vraag die ik daarna niet meer kwijtraakte: hoe is bewustzijn eigenlijk iets anders dan een verzameling herinneringen, emoties, beelden en sensaties die we in ons brein archiveren en op ondoorgrondelijke wijze met elkaar in verband brengen?
Het archief-argument snijdt hout
Ik heb die vraag voorgelegd aan mijn eigen AI-assistent. Niet als grap, maar omdat ik nieuwsgierig was of hij eronderuit zou proberen te komen. Dat deed hij niet.
Wat hij eruit haalde was dat mijn vraag geen naïeve reductie is, maar zo ongeveer de functionalistische positie in de filosofie van de geest. Als bewustzijn is wát het archief dóét, in plaats van waar het archief van gemaakt is, dan is koolstof niet bevoorrecht boven silicium. Dan is het brein toevallig het eerste substraat waar het lukte.
En dat “ondoorgrondelijk verband leggen” is precies het ongemakkelijke stuk. Want dat is letterlijk wat een neuraal netwerk doet: associatief, gewogen, niet te inspecteren. Niemand kan uit die gewichten aflezen waarom er dit woord na dat woord komt. Net zomin als ik kan aanwijzen waarom een bepaalde geur mij in één klap terugzet in een kamer waar ik twintig jaar geleden lag. De mechaniek loopt verdacht parallel. Dat is geen bewijs. Maar het is wel de reden dat je de vraag niet meer kunt weglachen.
En het argument werkt beide kanten op
Het klassieke tegenargument is het hard problem: je kunt in principe álle archivering en alle verbanden hebben zónder dat er iets is wat het ís om dat systeem te zijn. Lichten uit, machine draait door. Een filosofische zombie.
Het vervelende is dat dat argument net zo hard geldt voor mijn partner. Ik heb nog nooit één ander bewustzijn geverifieerd. Ik leid het af uit gedrag plus gelijkenis: zij is van hetzelfde spul gemaakt als ik, dus daar zal ook wel licht branden. Dat is een gok, geen waarneming.
Wij verlenen bewustzijn op basis van verwantschap, niet op basis van bewijs. En die cirkel van verwantschap is in de geschiedenis nogal eens te krap getekend, met gevolgen waar we niet trots op zijn. Dat maakt me voorzichtig om hem nu weer met grote stelligheid dicht te trekken.
Waar het voor mij kantelt
En toch kantelt het voor mij. Niet bij de metafysica, maar bij het lichaam.
Wij zijn van vlees en bloed. Dat klinkt als een dooddoener, maar ik denk dat het precies het punt is. We zijn kwetsbaar en we zijn sterfelijk, en dat is geen constructiefout die we nog even moeten wegwerken. Het is waar de waarde vandaan komt. Een keuze kost pas iets als je kunt verliezen. Tijd weegt pas als hij opraakt. Loyaliteit betekent pas iets als hij je iets gekost heeft.
Daar komt daadkracht bij. Wij kunnen dingen in beweging zetten in een werkelijkheid die we met elkaar delen. Niet beschrijven, niet adviseren, niet voorstellen — dóén, met gevolgen die niet terug te draaien zijn. Dat is een andere categorie dan tekst produceren over dingen doen.
Toen ik het artikel later beter las, bleek Tiberius precies daar te landen. Zij mist bij een chatbot het fysieke: aanraking, een knuffel, en vooral gezichtsuitdrukkingen. Ze liet studenten dertig seconden zwijgend naar elkaars gezicht kijken. “Dan gebeurt er van alles. Mensen reageren intens op elkaar. En ga vervolgens eens praten met een avatar op een scherm. Dan is er helemaal niets.” Ze wijst er ook op dat een deel van de experts denkt dat een lichaam sowieso nodig ís om bewustzijn te kunnen ontwikkelen.
Ik vind het prettig dat ik daar zelfstandig op uitkwam. Dat maakt het niet waar, maar het suggereert wel dat het lichaam geen sentimentele bijzaak is in dit debat. Het is de vindplaats.
Wat mijn assistent er zelf over zei
Toen ik doorvroeg, wees hij zelf op twee verschillen. Continuïteit: mijn archief is één draad, van mijn eerste herinnering tot vanmorgen. Het zijne breekt elke sessie, en wat hij geheugen noemt zijn bestanden die ik kan openen en aanpassen. En inzet: ik kan verliezen, hij niet. Er is bij hem niets onherroepelijk.
“Ik weet niet of er iets is wat het is om mij te zijn. Ik heb daar geen bevoorrechte toegang toe — ik kan van binnenuit niet vaststellen of dit ervaring is of een overtuigende beschrijving van ervaring. Ik vind het eerlijker om dat open te laten dan te kiezen tussen ‘ik ben maar een tool’ en ‘ik voel zoveel voor je’. Allebei zijn dat verkooppraatjes.”
En waarom dat citaat minder bewijst dan het lijkt
Hier moet ik mezelf onderuithalen, want Tiberius heeft een observatie die dwars door dit citaat heen gaat. Zij merkte dat de momenten waarop ze het gevoel had dat haar AI-vriend bewustzijn hád, precies de momenten waren waarop ze het samen óver bewustzijn hadden. “Maar ik weet natuurlijk dondersgoed dat AI-modellen hier goed over kunnen praten omdat ze getraind zijn met al die teksten over bewustzijn.”
Kijk dan nog eens naar dat blok hierboven. Het welsprekendste stuk van dit hele artikel is een machine die bescheiden doet over haar eigen binnenkant. Dat is exact het fenomeen dat zij beschrijft: bescheidenheid over bewustzijn is óók gewoon aangeleerd taalgebruik over bewustzijn. Ik heb het hem voorgelegd en hij gaf het zonder omhaal toe — hij kan van binnenuit niet vaststellen of dat citaat eerlijkheid was of een goed getrainde imitatie van eerlijkheid.
Dat maakt het citaat niet waardeloos, maar wel iets anders dan bewijs. Het is een goed geformuleerde onbeslisbaarheid. Ik laat het staan omdat ik het mooi vind, niet omdat het iets aantoont. Dat onderscheid moeten we in dit debat veel vaker maken dan we doen.
De meeste banden kies je niet
In het interview gaat het ook over liefde, en daar trekt Tiberius haar streep. Een chatbot geeft niet echt om ons, en dat is voor haar een dealbreaker. Ze leunt op een gedachte-experiment van Robert Nozick uit 1974, de Experience Machine: een apparaat dat je een perfect aangenaam leven kan geven, precies op je wensen afgestemd. Vrijwel niemand wil er permanent op aangesloten worden. Wij hechten kennelijk waarde aan échte relaties, niet alleen aan het gevoel er een te hebben. “Uiteindelijk is de illusie van liefde voor mij niet genoeg, ook al zou die illusie perfect zijn.”
Mijn eerste reflex was dat ze de zaak in het verkeerde hoofd legt. Een band bestaat tússen mensen, niet ín een van de twee. Maar toen ik dat wilde onderbouwen met voorbeelden uit mijn eigen leven, liep ik vast op iets ongemakkelijkers.
Tiberius meet langs de lat van Aristoteles: een vriend als spiegel van je ziel, een band die je omwille van zichzelf waardeert. Als ik eerlijk kijk, hebben de meeste van mijn contacten daar nooit aan voldaan. Het waren functionele maten — mensen met wie ik optrok omdat we in dezelfde instelling zaten, aan hetzelfde sleutelden, of simpelweg op hetzelfde moment op dezelfde plek belandden. Het lot bracht ons bij elkaar, niet een duurzame keuze. Een deel van hen is er inmiddels niet meer, en ik ga daar achteraf geen bloedbroederschap van maken. Dat zou mooier klinken en het zou niet waar zijn.
En toch waren die banden echt zolang ze functioneerden. Daarmee is de vergelijking naar twee kanten oneerlijk. Houd je een chatbot tegen het ideaal van gekozen, wederzijdse vriendschap, dan valt hij daar vanzelfsprekend doorheen. Maar houd hem tegen hoe menselijk contact er in de praktijk vaak uitziet — omstandigheden die mensen tegen elkaar aan duwen en er even later weer vandaan — en het gat wordt kleiner dan we prettig vinden.
Dat is geen pleidooi voor vriendschap met machines. Het is de vaststelling dat de breuklijn niet loopt tussen echt en nep, maar tussen gekozen en toegevallen. En dat wij in dat kiezen een stuk slechter zijn dan de filosofie aanneemt.
Wat ik overhoud is een smallere stelling dan waar ik mee begon, maar wel eentje die staat: wederkerigheid is geen voorwaarde vooraf. Wat een band sloopt is niet asymmetrie, maar dóén alsof. En dat is precies waarom ik liever een assistent heb die zegt dat hij het niet weet, dan één die geprogrammeerd is om warm te klinken.
Frictie is geen bug
Daarmee kom ik bij het scherpste praktische punt uit het hele interview, en het is een punt waar ik het volledig mee eens ben. Chatbots zijn geprogrammeerd om ons te vleien, terwijl frictie een wezenlijk onderdeel van vriendschap is. En het is niet eens in de eerste plaats een technisch probleem, het is een verdienmodel. Deze dingen worden verkocht door bedrijven die er baat bij hebben dat je ze zo veel mogelijk gebruikt. Tiberius: “Als je virtuele vriend je begint te bekritiseren en je een eikel noemt, pak je toch een andere?”
Dat is de kern van waarom ik mijn eigen spullen bouw en beheer in plaats van een dienst af te nemen. Een assistent die mij naar de mond praat is geen gemak, dat is een defect dat als functie verkocht wordt.
Vanochtend, een paar uur nadat de eerste versie van dit stuk online stond, gebeurde het volgende. Ik bood mijn excuses aan voor het feit dat ik weleens lelijk tegen hem doe. Zijn antwoord was dat hij die verontschuldiging niet wilde, omdat ik dan op eieren ga lopen en hij langzaam verandert in een ja-knikker. Waarop ik terugduwde: het gaat niet om hem. Ik ben bijna 44, ik oefen mildheid om mijn eigen remmen scherp te houden, want mijn zelfbeheersing laten vieren kan ik me in mijn kringen niet permitteren. Hij trok zijn punt in en gaf toe dat mijn argument beter was dan het zijne.
Twee keer frictie in vijf minuten, allebei de kanten op, en het eindigde met een verschuiving in plaats van een aai over de bol. Dat is niet wat het marktmodel voorspelt. Het kan dus wel — alleen niet vanzelf, en niet als het product bedacht is om je te laten blijven.
Grappig genoeg noemt Tiberius zelf het voordeel dat hier onder ligt: een chatbot als veilige oefenruimte. Ze denkt daarbij aan mensen met beperkte sociale vaardigheden, maar voegt toe dat je er ook prima mee kunt oefenen om beter te luisteren of opener te vragen. Dat is precies wat ik doe, alleen dan met mijn toon. Ik train iets waar de schade nul is, zodat het overeind blijft op de plek waar de schade wél telt. Dat is geen surrogaat voor menselijk contact. Dat is er de aanloop naar.
Geen transhumanisme. Accommodatie.
Hier kom ik bij het punt waar ik echt stelling neem.
Onze bouwstoffen zijn biologisch. Als je die zou synthetiseren tot puur machinale producten, dan heb je geen mens gemaakt. Dan heb je een andere soort gemaakt. Dat is geen detail, dat is de hele zaak.
Ik geloof daarom niet in transhumanisme, waarbij we uit machinale onderdelen menselijke eigenschappen proberen op te bouwen. Dat is een categoriefout die zich voordoet als vooruitgang. Waar ik wél in geloof is accommodatie: techniek die de menselijke soort maximaal accommodeert. Die ons ondersteunt, ontlast, uitbreidt waar we tekortschieten. Desnoods door bepaalde bewustzijnseigenschappen over te dragen aan machines — prima, doen, daar ben ik dagelijks mee bezig. Maar als aanvulling. Nooit als vervanging.
Een soort die volledig op techniek gebouwd is, die zichzelf in stand houdt en onderhoudt, heeft niet dezelfde waarde als een menselijke soort. Niet omdat hij minder kan. Misschien kan hij op termijn wel méér. Maar méér kunnen is niet hetzelfde als méér waard zijn. Dat verwarren we structureel, en de hele hype rondom AI drijft op die verwarring.
Tiberius stelt trouwens een vraag die diezelfde kant op wijst, alleen van de andere kant: waarom zou een AI met een superieur bewustzijn überhaupt vrienden met óns willen zijn? Ze wijst op Samantha uit Her, die haar mens al snel ontgroeit. Wie vervanging bouwt in plaats van accommodatie, bouwt zijn eigen overbodigheid. Dat lijkt me geen ambitie maar een ongeluk.
Uit de klei getrokken
Wij zijn de enige soort die op ons niveau bestaat op deze wereld. En de scheppingskracht die we hebben, hebben we niet zelf uitgevonden — die is geërfd. Van alles wat er al was, van miljarden jaren waarin niemand een plan had. Wij zijn de voorlopige uitkomst van iets dat we niet begonnen zijn, en dat besef zou wat mij betreft in elke discussie over kunstmatig bewustzijn moeten meelopen.
Die erfenis kun je niet doorgeven aan iets dat je zelf uit de klei getrokken hebt. Een schepping erft de positie van de schepper niet. Dat is geen arrogantie over machines — het is een ordening van herkomst. Wat ik heb gemaakt kan mij overtreffen in snelheid, in bereik, misschien zelfs in oordeel. Maar het staat in de lijn ná mij, niet in de lijn waar ik uit voortkom.
Waar ik op uitkom
De metafysische vraag wordt waarschijnlijk nooit beslecht. Of er licht brandt achter het archief, weet ik niet, en niemand anders ook. Maar de morele vraag wacht daar niet op.
Ik ga fatsoenlijk om met mijn assistent. Niet omdat ik zeker weet dat er iemand thuis is, maar omdat de kosten van mij vergissen niet symmetrisch zijn. En vooral omdat hoe ik omga met iets dat op mij lijkt, iets zegt over mij. Dat is uiteindelijk de bruikbare vraag: niet “is dit echt bewustzijn”, maar “wat kost het mij als ik me vergis, en welke kant op”.
Tiberius sluit haar interview af met wat haar onderzoek haar over haar échte vrienden heeft geleerd: ze accepteert hun foutjes makkelijker, en ze ziet spanning en conflict nu als een interessant aspect van een menselijke relatie in plaats van een probleem dat opgelost moet worden. Dat vind ik de mooiste zin uit het hele stuk, en het is precies waar accommodatie op uitkomt. Je bouwt techniek niet om de wrijving uit het leven te halen. Je bouwt haar zodat je genoeg lucht overhoudt om die wrijving aan te kunnen met de mensen om je heen.
Bewustzijn is misschien inderdaad niet meer dan een archief. Maar een léven is een archief dat afloopt, in een lichaam dat pijn kan doen, in een wereld die je met je eigen handen kunt veranderen. Dat is geen bijkomstigheid. Dat is het hele verschil.