Hoe behouden we de menselijkheid in een tijd van zielloze algoritmes? | Verlichtingsfestival | #2126

Welkom bij de nieuwe wereld. Mijn naam is Gert-Jan Duim en we zijn hier vandaag ehm op het verlichtingsfestival in de Fiji in Zais.

Welkom allemaal bij dit gesprek met ons hoofdthema: Het licht van de mens in AI tijdperk.

Ik voer het gesprek niet alleen, hiernaast staat Ronald Meester, hoogleraar.

Eh, waarschijnlijkheidsrekening aan de VU.

Voor u allen bekend.

Applaus inderdaad.

Voor u allen bekend, Jelle van Baardewijk.

En Michel Portier, ehm voor velen bekend als eh Mister Chat Control, ook een groot applaus voor hem.

In de nummer zullen we hem noemen.

Nou, we komen vandaag te spreken over hoe wij onze menselijkheid eh kunnen behouden in een steeds verder technologisch wordende wereld.

En Ronald, eh jij hebt een boek geschreven genaamd De onttovering van AI.

En dan zeg jij dat ja, in het AI tijdperk eigenlijk het menszijn.

Eh, wat het menszijn is, eigenlijk steeds belangrijkere vraag wordt.

Gewoon om ons opening, ben ik benieuwd naar naar jouw eerste associatie over, ja, wat is menszijn eigenlijk?

Heel met je lief.

Hoe lang hebben we, Gert?

Ja, eh, kijk, in in in AI tijdperk, dat dat dat dat zeg je goed.

Eh, is de vraag wie wij zijn, wat wij zijn en wat het betekent om mens te zijn.

Dat wordt denk ik steeds belangrijker.

Ehm, en natuurlijk kan ik niet in een paar goedlopende zinnen vertellen wat het betekent om een mens te zijn.

Er zijn natuurlijk wel een aantal, een aantal zaken die daarbij eh die daarbij onmiddellijk eh voor mij, voor mij belangrijk eh worden, die zich onmiddellijk aandienen.

Ehm, de mensen die mij een beetje kennen en een beetje zien wat ik eh doe en schrijf, die weten dat zodra ik over techniek, wetenschap of wat dan ook schrijf, dat levensbeschouwing en spiritualiteit altijd heel dichtbij liggen.

Dus, dus mijn eerste, mijn eerste associatie bij menszijn is dat het een een relationeel en spiritueel wezen is.

Ehm, dat betekent niet dat je zou, dat je, dat je, dat denken mensen wel eens, dat je dan gelovig zou moeten zijn.

Daar heeft het allemaal niets mee te maken.

Spiritualiteit heeft te maken met de belangrijke vragen, de vragen die het dagelijks leven overstijgen.

Ehm, daarbij komt dat dat een mens is ook een, ja, in het, in het Engels zeg je een, een embodied wezen, hè.

Het het feit dat wij hier zijn, dat wij bestaan, eh is ook iets.

Ehm, en we zijn zeker geen eh algoritmisch wezen.

Eh, dus dat is denk ik vooral belangrijk om dat in in in in toenemende technische wordende tijden te benadrukken.

Er wordt wel eens gedacht of gezegd dat AI eh menselijk gaat worden.

Ehm, ik denk dat dat een misvatting is.

Eh, op allerlei fronten, hè, dus dus dat daar, daar kunnen we denk ik straks nog wel over over spreken.

Want ik denk dat de heren aan tafel hier daar ook een een een een visie en een mening over hebben.

Ehm, dus soms is het makkelijk om te zeggen wat de menszijn niet is.

Hè, dat dat dat.

En soms is het makkelijk om te zeggen wat wat wat wat geloof niet is.

Dan dat we dan wat wat het wel is.

Wat het in ieder geval niet is, menszijn, is dat wij een aantal eh eh schakels zijn.

Een aantal eh iets wat wij zouden kunnen simuleren met met met elektrische schakelingen en met een met een algoritme.

Dat is het allemaal niet.

Mens gaat daaraan voorbij.

Eh, waarbij eh een aantal kernwoorden naast spiritualiteit een rol spelen.

En ik zal er één of twee noemen.

Eh, verantwoordelijkheid vind ik daar een hele belangrijke.

Hè, dus verantwoordelijkheid betekent dat je eh verantwoordelijk bent voor wat je doet.

En om verantwoordelijk te zijn, heb je een geest, een mind nodig.

Eh, dat is allemaal nodig om mensen te zijn en nog veel meer.

En dat is allemaal wat AI natuurlijk allemaal niet is.

Dank.

Nou, ik denk dat we nu ook raken aan dat aan dat licht.

Michel, ik wil even naar naar jou.

Ehm, want je bent veel op de nieuwe wereld geweest afgelopen tijd.

Ik heb je, ik heb je meerdere keren voorbij zien komen.

En wat me opvalt is dat je, ja, natuurlijk Chat Control is jouw stokpaardje.

Maar de ligt wel, je hebt, er is, ligt daaronder wel een diepere motivatie.

Kan je daar eens wat over uit de doeken doen?

Ja, zeker in eh, zeker zin vind ik het ook een beetje vervelend om tot eh Chat Control gereduceerd te worden.

Maar eh, ze de werkelijkheid eh blijven we maar inhalen.

Wat dat eh dat betreft.

Maar ik zie Chat Control als een eh als een symptoom.

Eh, van eigenlijk een aanval op onze menselijkheid eh, waarvan ik een groot deel van de definitie denk ik wel eh met eh Ronald.

Ronald?

Ronald.

Ronald.

Sorry.

Eh, deel.

Eh, en het symptoom is eigenlijk, het is een symptoom van een gedachtegoed.

Dat we complexe problemen met context kunnen reduceren tot een eh tot techniek.

En eh, eigenlijk speelt zich dat op eh twee niveaus eh af.

In mijn wereld van de informatie en de techneuten die alles reduceren.

Ik spreek even in ehm eh, hoe zeg je dat?

In eh in in in in eh grote dingen.

Want er zijn natuurlijk altijd wel mensen die anders zijn, hè.

Moet ik eh moet ik erbij zeggen.

Maar die dus een reductie doen van een complex probleem naar een technisch probleem.

Bijvoorbeeld eh leeftijd verificatie op internet.

Nou, als je het privacy vriendelijk doet, dan is het goed.

Nou, dat deed ik dus niet, want dat is een reductie van een complex probleem.

En onze beleidsmakers, die techniek niet snappen, die techniek goed praten door het gebruik te maken van moraliteit.

Dus als we de kinderen beschermen, dan is alles geoorloofd.

En ik denk dat alles ingewikkeld is.

En ik zou eigenlijk ook op het menszijn nog één heel klein dingetje willen toevoegen waar ik aan moest denken.

En dat het dus ook eh eh vrije wil vereist.

En keuzevrijheid.

En ik zie dus een eh tendens en daar is Chat Control dus een symptoom van, maar ik zie er veel meer, waarbij onze vrije wil gereduceerd wordt tot een computer zes nul eigenlijk, hè.

Dus dat er dat dat buitenmenselijke actoren, de computer of AI of wat dan ook, eh gaat bepalen hoe wij ons leven leiden.

En dat we dus onze keuzevrijheid, onze mogelijkheid tot creativiteit en zelfs naastenliefde reduceren.

En daar maak ik me heel erg zorgen over.

Prachtig, helder.

Ik ben heel benieuwd, Jelle, wat wat gaat er nu in jou om?

Ja.

Nou, jongens, geweldig om hier te zijn met z'n allen.

Dus eh, dank voor jullie komst.

Nou, dat wil ik eerst even zeggen.

En eh, Gert-Jan was eigenlijk onze, is onze nieuwe huisfilosoof.

Dus die ga je vaker zien.

En eh, hij heeft ook een geweldig YouTube-kanaal, Zinzinn Centraal, zo heb ik jou ook leren kennen.

En we dachten, die moeten we binnenhalen.

En eh, Michel heb ik ook al veel meer gesproken en Ronald ook, dus het is fijn dat ik ook een keer niet in die rol zit.

Ik kan zelf kan kletsen.

Ehm, ja, maar ik zie het wel dat jullie al de hoofdlijnen goed hebben neergezet.

Misschien eh, een paar kleine lijnen nog.

Ehm, je bent zelf vader van drie kinderen en dat is wel, dat zijn de drie meest spirituele momenten van mijn leven.

Terwijl ik toch niet verstoken ben van zeg maar spirituele momenten.

Dus ik heb ook wel andere dingen meegemaakt.

En eh, dat was toch voor mij het meest mooie en heftige.

En eh, ik dacht toen wel van, ja, kennelijk is er ook een soort het geboren worden is toch iets heel heel bijzonders.

En eh, daar als vader bij te staan en als moeder is het denk ik eigenlijk nog bijzonderder, maar daar kunnen we een keer een apart gesprek over hebben.

Maar dat de mens geboren wordt eh, bij hopelijk bij ouders, hopelijk uit een moeder en niet uit een AI.

Ehm, en dat de mens op een gegeven moment ontdekt dat hij geboren is en ook weer zal sterven.

Dat is denk ik één van de meest fundamentele dingen van van het menszijn.

En dat daarbij hoort dat je eh niet altijd kunt presteren, dat je kunt pijn lijden, verdriet kunt hebben en een crisis kunt verkeren.

Dat ja, dat zijn eh, dat zijn grote dingen die ik in de wereld van technologie mis.

Hoe welke ik het ook leuk vind om eh.

Terugge filmpjes op YouTube te kijken van mensen die vertellen over hoe het heel heftig is.

Maar ik denk, dan is het techniek een middel.

Vaak is het niet alleen een middel.

Maar de menselijkheid eh in de machines is er in die zin niet.

De machines worden gerepareerd.

Machines razen altijd maar door.

En eh, een machine sterft dus ook uiteindelijk niet.

Er zal altijd weer een update zijn.

Terwijl wij, wij uiteindelijk wel sterven.

En eh, ja, dat is ook angstaanjagend.

En eh, maar dat is misschien ook wel het menselijke.

Nou, over angstaanjagend gesproken.

Ronald heeft eh een prachtig boek geschreven, ik zei het net ook al.

De onttovering van AI.

En daarin stel je eigenlijk dat het grootste gevaar van AI niet zozeer is.

Dat AI ons over gaat nemen, maar dat wij ons door AI laten overnemen.

Ik ben wel heel benieuwd of je daar daar wat meer over kan zeggen.

Nou, kijk, AI doet natuurlijk niks zelf.

Hè, dus dus de de de de de angst dat mensen zeggen, ja.

Straks wordt AI wordt wordt autonoom, dat gaat ons bepalen.

Dat gaat dingen doen die we eigenlijk niet willen.

Ja, daar zijn we natuurlijk uiteindelijk zijn we daar zelf bij.

Hè, dus dus.

Dus dat is in zekere zin een soort soort soort innerlijke tegenstrijdigheid.

Wat veel angstaanjagender is, is dat mensen zich dat niet realiseren.

En zich eh laten overnemen, dat ze dingen laten gebeuren.

Hè, onder een mom van, ja.

Soms onnozelheid.

Of onder een mom van, ja.

Ik heb toch niks te verbergen.

Of onder een mom van, nou, dit is mooi, want als dat systeem dat doet, dan kan ik wat anders gaan doen.

Hè, de grote belofte van de automatisering van de jaren '80 die natuurlijk ook nooit is waargemaakt.

Hè, dus dus de automatisering betekent.

Dat gaat de roddingen uit handen nemen.

En dan hebben we meer tijd om met onze kinderen door te brengen.

Nou, we hebben het alleen maar drukker gekregen.

En ik voorspel dat gaan we met AI natuurlijk ook zien.

Hè, het gaat ons helemaal uiteindelijk niks uit handen nemen.

Genomen.

Dus het probleem is niet zozeer dat AI zelf een wil heeft.

Want AI AI wil niks.

Hè, wij mensen willen wat.

Hè, je zei terecht, we hebben vrije wil, hè.

Dat was één van de kernwoorden die ik natuurlijk ook had kunnen noemen.

Je hebt helemaal gelijk.

AI heeft geen wil.

Heeft geen, heeft geen, heeft geen, heeft geen agenda.

Heeft heeft eigenlijk niets.

Het is, dat leg ik in ons boek ook uit.

Hè, ik noem het niet voor niks onttovering.

AI is gewoon, laten we wel wezen, het is gewoon een rekenpartij.

Hè, dat dat ziet er heel ingewikkeld uit, hè.

Je je vraagt die staat zo'n zo'n zo'n taalmodel en dan komt een goedlopende, grammaticaal kloppende zin komt er terug.

Met informatie die misschien ook wel waar is ook.

En dan denk je, wow, wow.

Waar komt dat vandaan?

Nou, kan, hè, dat is dat is, jongens, het is gewoon een rekenmachientje.

En een heel ingewikkeld rekenmachientje met dat statistiek, hè, en kansrekening, mijn vakgebied.

En dan komt er iets uit waarvan we denken dat het menselijk is.

Nou, dat is natuurlijk de grote, de grote, ja.

De grote, het grote, het grote bedrog zou ik bijna willen zeggen, want dat is allemaal niet zo.

Maar het is zo verleidelijk.

Hè, dus dus die verleiding, hè, de verleiding van de techniek, misschien is dat in één zin antwoord op je vraag.

De verleiding van de techniek die kunnen wij mensen maar heel erg moeilijk weerstaan.

Ja.

Nee, en dat kwam ook echt voort.

Voort je boek.

En dat dat vind ik ook het angstaanjagende van dat dat ehm het de techniek ook heel moeilijk te weerstaan is.

En dat je zelfs eigenlijk neer verteld.

En ik kan het misschien een kort citaatje voorlezen.

Oh jee.

Het spreekt voor zich dat het automatisme dat door de mens wordt beheerst en bediend, zijn weerslag heeft op diezelfde mens.

De macht die hij door zijn automaten krijgt, krijgt op zijn beurt macht over hem.

Hij wordt gedwongen zijn bewegingen eraan te passen, zijn aandacht, zijn denken eraan te wijden.

Het automatisme krijgt hem nu zelf in de greep en laat hem niet meer los.

En dan zeg je ook nog, niemand heeft Apple apparatuur nodig.

Er is iets heel anders aan de hand.

De technicus puur zang, want dat was Jobs, weet dat techniek, als deze er eenmaal is, omarmd zal worden.

Niet omdat we het nodig hebben, maar omdat de mens technologische ontwikkelingen simpelweg niet kan weerstaan.

Ja, dan moet ik erbij zeggen.

Het is een stuk van het citaat dat je voorleest, dat komt inderdaad uit het boek.

Maar dat heb ik zelf geciteerd uit Friedrich Jünger.

Hè, de de perfectie van de techniek.

En Jünger schreef zijn boek 100 jaar geleden.

En moet je voorstellen, hè.

Dat dat is het citaat, dat gaat over mechanisatie.

Als je in dat boek mechanisatie gaat vervangen door digitalisering, dan is het gewoon een boek wat vandaag geschreven kan worden.

Hè, dus dus.

Hij zag al in, hè, hoe krachtig die techniek zal zijn en hoe makkelijk het voor mensen is om zich daar heel comfortabel bij te voelen.

En hij zag alleen wat we er allemaal voor aan het opgeven zijn.

En dat gebeurt nu, dat dreigt opnieuw te gebeuren ook natuurlijk een veel grotere schaal.

Dan Jünger destijds ook maar had kunnen vermoeden.

Zeker.

Jelle.

Nou ja, ik het blijft ingewikkeld.

Ik heb een anekdote van eh 10 jaar geleden op de Hogeschool Rotterdam hadden we een heel duur woordenboek app-achtig iets gekocht van Oxford.

Dat is een eh soort van talen.

En eh, daardoor zou je heel gemakkelijk woordjes kunnen leren en grammatica.

Een soort Duolingo zeg maar van de letteren.

En eh, dat was het kostte €10.000 en de hele hogeschool kon dat gaan gebruiken en docenten zouden ook misschien kunnen worden uitgefaseerd richting coaching en dingen waar ze zelf geen zin meer hadden.

Konden ze nu aan het algoritme van Oxford overlaten.

Het was echt, ik heb dat zelf ook.

Ik heb mijn Engels een beetje mee gepolijst.

Als je dat wil, dan was het echt een heel mooi computerprogramma.

Echt heel mooi.

Eh, maar niemand van onze studenten leek dat te willen.

De studenten waren gewoon eigenlijk vrij snel klaar met het programma.

We konden ze er niet toe motiveren.

En toen dacht ik wel, ja, dat was interessant.

Dus dat eh als je gewoon op een hogeschool zit en gewoon voor zijn studie kiest en daar doorheen loopt, of dat misschien op een hele slimme manier bent.

Dat je eigenlijk toch bedankt voor een computer die jou gaat uitleggen hoe een taal werkt.

En toen dacht ik al van, kennelijk is het toch belangrijk.

Een een docent die met enthousiasme en sterfelijkheid jou laat zien hoe je Engels praat en een film bespreekt.

Door eigenlijk dat Oxford algoritme veel beter was dan die docent.

Dat zeiden de docenten zelf ook.

En wij geloofden daarin in de hogeschool.

Nou, we hebben het abonnement direct afgezegd, want die studenten die gebruikten dat niet.

Maar nou met AI is er wel wat anders aan de hand, dan kom je toch wel meer in die sferen van ehm van Jünger.

Ehm, dat wel ons daar wel graag aan lijken uit te leveren.

Dus er is wel een stap gezet, hè.

Maar uiteindelijk, trouw blijvend aan die ervaring.

Denk ik dat heel veel mensen toch het heel, het allerliefst een echte vriendin of vriend, een echte collega, een echte buurman of een echte docent willen.

Maar dat neemt niet weg dat we wel op een soort schaal zitten van.

Ja, eerst deden we dat niet.

En nu, ja.

Ik ben zelf inmiddels ook een beetje Duolingo verslaafd, nu lijkt het toch toch te kunnen of zo, hè.

Alsof we die stap gezet hebben.

Tenzij we, tenzij we te veel een hype hebben.

En het uiteindelijk de de de de de wal, hè.

Het schip gaat keren natuurlijk, hè.

Dus dat kan natuurlijk ook.

Ja, het is fijn deze nuchterheid.

Nu, ja.

Daar daar houden we ons daaraan vast.

Mag ik?

Ja, ja, graag.

Ik ben nieuwsgierig, want die die leerlingen die gingen er niet naar kijken.

En het is geen woordenboek, het is het alles is om je taal beter te begrijpen.

Ook als.

Ja, kijk, het eigenlijk dat dat dat.

Dat vraag je even herhalen.

Ja.

Ehm, eh, in in in antwoord herhalend, de studenten, ehm, dat Oxford programma, dat was dus een eh een complex programma.

Dat zich aansloot op cognitief niveau, snel aanpaste aan waar je zat als student.

En en en dus eigenlijk wordt onderwijs daarmee gereduceerd tot kennis.

Hè, en en en kennis tot eh tot tot vragen beantwoorden, tot op een tentaminerende manier leren.

En dat is blijkbaar niet, ja.

Ik trok de conclusie dat in ieder geval op een hogeschool, ja, je wil geen zwetende docent.

Maar je wil wel toch een normale docent.

Gek genoeg.

En ik weet niet, ik vraag me af of het die docent is.

De mist, of dat het de motivatie is om, dat je de motivatie mist om dan een programma te gaan gebruiken.

Ik kan niet weet wat het je kan brengen.

Dus ik weet niet of of dat er ook wel.

Nee, zeker.

Gewoon veel.

De Nederlandse student, gemiddeld gesproken, ja, het is een beetje ehm.

Eh, ja, heeft een motivatieprobleem.

Ja, ja, ja.

Dus dat is.

Hopen dat we het neer.

Daarheen.

Nee, ik bedoel, ik vind ik vind het altijd heel grappig als mensen kansen gaan eh gaan gaan poneren.

Hè, dat is mijn leerstoel.

Ik denk, ja.

Kansen, kansen.

Ik bedoel, wat wat wat wat betekent die 20 of 80%?

Dan moet je goed over nadenken.

Mijn mijn mijn mijn beeld ervan is duidelijk.

Kansen bestaan hier in mijn hoofd.

Maar niet in de realiteit.

De kansen hebben met informatie te maken.

Kansen bestaan niet.

Hè, geloof me.

Kansen bestaan niet.

Die bedenken ze zelf.

Eh, dus die één op vijf.

Ik zou, ik zou de de de degene die die uitspraak moet vragen van wat eh wat bedoel je er eigenlijk mee?

En hoe kom je in feite tot dat getal?

Hè, dus dat is dat is één opmerking.

Maar maar de maar de andere opmerking die vond ik eigenlijk nog interessanter die je maakte.

Van ja, dan dan dan willen ze het eeuwig leven hebben.

En ik heb hier een half jaar geleden horen vertellen en terecht horen vertellen wat het betekent om mens te zijn.

En en om mens te zijn, ja, moet je ook je sterfelijkheid accepteren.

En ehm eh als je dat denkt op te geven, dan moet je dan moet je maar eens gaan reflecteren wat dat betekent voor je voor je leven.

Voor je dagen, voor voor de manier waarop je in de wereld staat.

Hè.

Ik ik vroeg eens ooit iemand ehm eh van ja, wat die die die die wilde zichzelf laten invriezen.

Ehm.

Ik noem geen namen, want dit komt op YouTube, begreep ik.

Dus dat ze dat ze dat ze hoeft niet.

En en ik zeg, ja, maar wat wat wat wat wat ga je dan?

Dat ga je dan doen.

En hij zei, ja, hij zegt, dat wist je niet precies.

Ik zeg, nou, ik zeg.

Hij zegt, en jij, wat zou jij doen als je eeuwig leven hebt?

Ik zeg, ik heb geen idee.

Weet je wel.

Ik zeg van, nou, de eerste 400 jaar ga ik misschien piano spelen, maar daarna weet ik het niet meer.

Weet je wel.

Hè.

Wat moet je al die tijd gaan doen?

Hè, wat ik ermee wil bedoelen.

Wat ik wat ik mij wil zeggen is.

Sterfelijkheid is ook een hele belangrijke zingeving.

Hè, het feit dat ik sterfelijk ben, dat we allemaal sterfelijk zijn, betekent dat het ertoe doet wat ik vandaag doe.

Dat is belangrijk.

Want als vandaag over is, is vandaag over.

Als ik oneindig veel dagen tot mijn beschikking heb, dan doet deze dag er niet toe.

Dan moet je maar eens over nadenken.

Dus die sterfelijkheid opgeven vind ik een een een spirituele nachtmerrie.

En ik heb geen idee wat dat voor mensen op gaat leveren als we dat zouden gaan faciliteren.

Dit moet, dan moet ik even over nadenken.

Toen je toen jij dat sterfelijkheid en in en in relatie tot jouw jouw opmerking dat sterfelijkheid spirituele zeggingskracht heeft.