De zaal is uitverkocht en de barvrouw wordt gek van alle mensen die contant willen betalen. Maar dit is Utrecht, waar contant betalen aan de bar uitsterft en volgens de gemeentelijke website de stad probeert digitale kansen optimaal te benutten door slim en verantwoord digitale toepassingen en nieuwe technologieën in te zetten.

Toch verzamelden zich zo’n honderd geïnteresseerden zich fysiek aan de Oude Gracht voor de thema-avond “AI, Waardevol of Waarde(n)loos?” van de Vierde Golf, een kritische politieke beweging ontstaan uit de linkse hoek. De zaal gaat in gesprek met VU-hoogleraar Waarschijnlijkheidsrekening Ronald Meester en datawetenschapper Marc Jacobs over de toenemende invloed van AI, Artificial Intelligence, op onze samenleving, onze waarden en ons dagelijks leven.  Meester en Jacobs publiceerden eerder dit jaar het boek “De Onttovering van AI”, waarin zij een ethisch-technisch-filosofisch raamwerk proberen te geven voor het omgaan met deze technologische ontwikkeling en de betekenis ervan voor menselijke behoeften.

De Vierde Golf is in de coronatijd opgericht, vertelt gastvrouw Romke aan het begin van de avond, als tegenwicht voor de technocratisering van de maatschappij, reden waarom dit onderwerp zo goed past bij de thema’s waarmee de Vierde Golf zich bezighoudt.

Ronald Meester trapte af, door naast het benoemen van de zegeningen ook de kosten van AI te onderstrepen. Die zegeningen kennen we allemaal: ChatGPT een samenvatting laten maken van een lijvig boekwerk. Oude korrelige flims naar HD omzetten. Een website vertalen. Maar wat zijn de kosten? Hiervoor gebruikt Ronald Meester de al bijna een eeuw oude gedachten van filosoof Friederich Junger over de kosten van mechanisatie. Die kosten, of de gevaren, waren volgens hem afhankelijkheid en zelfs ondergeschiktheid. Datzelfde geldt nog in sterkere mate voor digitalisatie en AI: het automatische geeft macht en controle uit handen aan een technisch systeem. Met als kosten: afhankelijk te worden van AI, en in het bijzonder de creërende versie hiervan: generatieve AI.

Voor een gezond tegenwicht hebben Meester en Jacobs een checklist in hun boek opgenomen voor een verstandig gebruik van AI. Bijvoorbeeld door het stellen van de twee vragen Word ik er beter van? en Heb ik het nodig? Deze checklist helpt om de controle over AI bij onszelf te houden. Bottom-up, in plaats van top-down.

Hoe die controle in de praktijk uitpakt illustreert Ronald Meester met een voorbeeld, waarbij hij probeert ChatGPT boos te maken door onzinnige antwoorden aan “hem, het of haar” te geven. Inderdaad wordt het taalmodel boos en radeloos, waardoor Ronald er oprecht medelijden mee krijgt. Het is – zelfs voor een doorgewinterde wiskundewetenschapper – moeilijk om geen menselijke gevoelens te krijgen bij generatieve AI. Marc Jacobs wordt verdrietig van mensen die levensadvies vragen aan ChatGPT, of het een liefdesbrief laten  schrijven.

De Vierde Golf zou de Vierde Golf niet zijn als er geen poging wordt gedaan om de discussie politiek, dat wil zeggen links/rechts, in te kaderen. Gespreksleider Maurits in ’t Veld vraagt de twee auteurs naar de relatie tussen AI en het kapitalisme. Ronald Meester voert aan dat de scheiding links versus rechts voor hem niet meer relevant is: de echte scheiding is nu tussen technocratie en menselijkheid. Technische vooruitgang wordt gestimuleerd door kapitalistische impulsen die, voor zover ze menselijk zijn, mogen worden omarmd. Collectivistische stromen kunnen  zowel technocratisch als menselijk van aard zijn, en we moeten wegblijven van een collectivistische technocratie.

De grenzen van generatieve AI blijken “echtheid” en “menselijkheid” te zijn. AI kan de allerbeste bron worden van menselijke opvattingen, maar heeft geen “reality check”. Voor die echtheid, die menselijkheid is AI geen substituut. Als laatste voorbeeld deelt Ronald Meester zijn ervaring als docent. Studenten kunnen een prachtig AI-gegenereerd werkstuk inleveren, maar in plaats van dat te beoordelen is het veel effectiever om een één-op-één gesprek over het werkstuk te voeren. “Dan weet ik binnen vijf minuten wat voor cijfer ik moet geven”.

Net als in de jaren vijftig, merkt iemand op de voorste rij op. Inderdaad. Terug naar de jaren vijftig dankzij AI. Fysiek samenkomen, zoals hier gebeurt, in een zaaltje aan de Oude Gracht. Waar geen AI-gestuurde algoritmes zijn om uitingen die tegen de community standards zijn weg te filteren.

Boek: Ronald Meester en Marc Jacobs. De onttovering van AI. Een pleidooi voor het gebruik van gezond verstand. 2024. Marizel Press.