#longread — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #longread, aggregated by home.social.
-
A deep dive into the origin story of W Social, an analysis of the strategic arguments they have been using to appeal to government officials, media companies and advertisers… and the discussion of conflicting signals they have been sending
-
The Untold Story About W Social: Unconventional Beginnings, Strategic Pitches and Conflicting Signals
-
The Untold Story About W Social: Unconventional Beginnings, Strategic Pitches and Conflicting Signals
-
🚨 New post alert 📝
A deep dive into #WSocial with some fascinating findings: candid statements about their motives, a Greta Thunberg connection, potential AI plans (!!!)
Why write about it again? I still had so many questions after publishing my first article.
I spent 3 weeks watching every interview I could find and connecting the dots.
I hope you'll enjoy this piece:
-
🚨 New post alert 📝
A deep dive into #WSocial with some fascinating findings: candid statements about their motives, a Greta Thunberg connection, potential AI plans (!!!)
Why write about it again? I still had so many questions after publishing my first article.
I spent 3 weeks watching every interview I could find and connecting the dots.
I hope you'll enjoy this piece:
-
🚨 New post alert 📝
A deep dive into #WSocial with some fascinating findings: candid statements about their motives, a Greta Thunberg connection, potential AI plans (!!!)
Why write about it again? I still had so many questions after publishing my first article.
I spent 3 weeks watching every interview I could find and connecting the dots.
I hope you'll enjoy this piece:
-
🚨 New post alert 📝
A deep dive into #WSocial with some fascinating findings: candid statements about their motives, a Greta Thunberg connection, potential AI plans (!!!)
Why write about it again? I still had so many questions after publishing my first article.
I spent 3 weeks watching every interview I could find and connecting the dots.
I hope you'll enjoy this piece:
-
🚨 New post alert 📝
A deep dive into #WSocial with some fascinating findings: candid statements about their motives, a Greta Thunberg connection, potential AI plans (!!!)
Why write about it again? I still had so many questions after publishing my first article.
I spent 3 weeks watching every interview I could find and connecting the dots.
I hope you'll enjoy this piece:
-
✒️ New to Me Vintage Pen: Omas 557-S Extra Ogiva
https://cjs-wunderkammer.ghost.io/new-to-me-vintage-pen-omas-557-s-extra-ogiva/
-
✒️ New to Me Vintage Pen: Omas 557-S Extra Ogiva
https://cjs-wunderkammer.ghost.io/new-to-me-vintage-pen-omas-557-s-extra-ogiva/
-
✒️ New to Me Vintage Pen: Omas 557-S Extra Ogiva
https://cjs-wunderkammer.ghost.io/new-to-me-vintage-pen-omas-557-s-extra-ogiva/
-
✒️ New to Me Vintage Pen: Omas 557-S Extra Ogiva
https://cjs-wunderkammer.ghost.io/new-to-me-vintage-pen-omas-557-s-extra-ogiva/
-
✒️ New to Me Vintage Pen: Omas 557-S Extra Ogiva
https://cjs-wunderkammer.ghost.io/new-to-me-vintage-pen-omas-557-s-extra-ogiva/
-
Hi @Gargron,
this seems a thread about #convivlal #tools.
Tools tend to be either #emancipative or #convenient. The smarter they are. the dumber and more dependant can you be and get along for now. The less smart the tools, the more skill is trained in you. Choose #agency or #convenience. #Priorities matter. #Longread: https://archive.org/details/illich-conviviality -
Hi @Gargron,
this seems a thread about #convivlal #tools.
Tools tend to be either #emancipative or #convenient. The smarter they are. the dumber and more dependant can you be and get along for now. The less smart the tools, the more skill is trained in you. Choose #agency or #convenience. #Priorities matter. #Longread: https://archive.org/details/illich-conviviality -
Hi @Gargron,
this seems a thread about #convivlal #tools.
Tools tend to be either #emancipative or #convenient. The smarter they are. the dumber and more dependant can you be and get along for now. The less smart the tools, the more skill is trained in you. Choose #agency or #convenience. #Priorities matter. #Longread: https://archive.org/details/illich-conviviality -
Hi @Gargron,
this seems a thread about #convivlal #tools.
Tools tend to be either #emancipative or #convenient. The smarter they are. the dumber and more dependant can you be and get along for now. The less smart the tools, the more skill is trained in you. Choose #agency or #convenience. #Priorities matter. #Longread: https://archive.org/details/illich-conviviality -
Hi @Gargron,
this seems a thread about #convivlal #tools.
Tools tend to be either #emancipative or #convenient. The smarter they are. the dumber and more dependant can you be and get along for now. The less smart the tools, the more skill is trained in you. Choose #agency or #convenience. #Priorities matter. #Longread: https://archive.org/details/illich-conviviality -
Ingezonden: We moeten AI pauzeren en niet normaliseren op de Hogeschool Rotterdam
In dit essay of ‘academische blog’ beargumenteert docent en onderzoeker Felix van Hoften (RBS) dat AI schadelijk is voor de planeet, de samenleving en het onderwijs. Hij is kritisch op de deterministische houding over AI – ‘het is er nu eenmaal, we kunnen er niet omheen’- binnen de Hogeschool Rotterdam. Hij pleit ervoor een stap terug te doen en eerst kritisch na te denken hoe we genAI willen inzetten.
Dit stuk in een minuut
Felix van Hoften (RBS) roept in zijn essay de Hogeschool Rotterdam op om kritischer te kijken naar generatieve kunstmatige intelligentie (genAI). Hij beargumenteert dat door een groot aantal nadelen van genAI uiteen te zetten.
Hij haalt Aldous Huxley aan, de schrijver van Brave New World. Huxley voorspelde in zijn boek uit 1932 hoe technologie kan leiden tot verslaving, verlies van kritisch denkvermogen en afhankelijkheid van een kleine elite. Van Hoften ziet deze ontwikkeling terug in de manier waarop genAI wordt omarmd: deterministisch en weinig terughoudend, ‘het kan niet anders’.
GenAI wordt vaak gepresenteerd als een oplossing voor grote problemen (zoals klimaatverandering, economische groei en ongelijkheid); Van Hoften plaatst hier kanttekeningen bij en wijst bijvoorbeeld op onderzoek dat aantoont dat AI werk juist intensiveert en mensen geestelijk uitput.
Van Hoften gaat ook kritisch in op de ecologische impact van genAI, met de bijbehorende datacenters, energieverbruik, watergebruik en grondstoffenwinning. Deze groei legt extra druk op het milieu en kan de energietransitie ondermijnen.
GenAI levert daarnaast onderbetaalde arbeid op zoals content-moderatie in lage-inkomenslanden die neokoloniale verhoudingen versterkt.
De winst van AI komt ondertussen vooral terecht grote techbedrijven, wat ongelijkheid kan vergroten en afhankelijkheid versterkt. Daarbij is de ideologie van een aantal techbazen verontrustend, bijvoorbeeld antidemocratisch.Van Hoften betoogt dat genAI schadelijk kan zijn voor kritisch denken en daarmee voor het onderwijs. Onderzoek suggereert dat intensief gebruik van genAI leidt tot minder cognitieve ontwikkeling, oppervlakkig leren en uiteindelijk afhankelijkheid van technologie. Studenten verliezen mogelijk het vermogen om zelfstandig te denken, diep te lezen en complexe problemen te begrijpen. De gezamenlijke kennisbasis neemt af, en het vermogen problemen op te lossen dreigt af te nemen.
Dit staat haaks op de kerntaken van onderwijsinstellingen, zoals het bevorderen van kritisch denken, autonomie en burgerschap. Het staat ook haaks op de visie van de Hogeschool Rotterdam die naar eigen zeggen een kritische, onderzoekende houding bij studenten en docenten wil stimuleren.De auteur pleit om genAI op de HR kritisch te benaderen en niet vanuit de visie: ‘het is er nu eenmaal’. Van Hoften betoogt dat innovatie in dienst moet staan van samenleving, moet passen binnen planetaire grenzen en aandacht moet hebben voor welzijn, rechtvaardigheid en democratie. Zolang genAI daar niet aantoonbaar aan bijdraagt, moet de samenleving, en zeker het onderwijs, terughoudend en kritisch blijven.
In 1932 publiceerde Aldous Huxley zijn befaamde boek A brave new world. Deze dystopische toekomstroman beschrijft hoe het denkvermogen van mensen is platgelegd door de volledige omarming van en verslaving aan technologie. Huxley’s werk wordt de laatste tijd vaker aangehaald om onze tijd te duiden. Zo weeft Paul Schenderling in zijn nieuwe boek Continent van de kwaliteit zijn werk als leidraad voor een nieuw economisch paradigma. Ander werk van Huxley, De Tijd van oligarchen, heeft ook weer aandacht gekregen. Sterker nog, het is opnieuw uitgebracht door meesterverteller Bas Heijne.
Dit is geen toeval. De combinatie van deze twee profetische werken zijn een spiegel voor onze tijd. Huxley voorzag (90 jaar geleden!) de combinatie van entertainment, desinformatie, verslaving en het verlies van kritisch denkvermogen, met als gevolg een afhankelijkheid van een kleine groep ‘ondernemers’, als voorbode van het eroderen van het autonome en goede leven.
Is de laatste telg van de technofamilie: generatieve kunstmatige intelligentie, kortweg genAI, de samenloop van innovatie die Huxley voorzag? Dit essay bekijkt, door de lens van Huxley, hoe genAI onze wereld gaat beïnvloeden en specifieker ons onderwijs. Want is er een wereld mogelijk, waarin kritisch denken, autonomie, welzijn, verantwoordelijkheid en rechtvaardigheid bestaat én waarin AI is doorgedrongen tot elk haarvat van onze samenleving? Ik betwijfel het.
GenAI(-positiviteit) is werkelijk o-ve-ral
Als we the Economist, het Financieele Dagblad en allerlei tech-optimisten mogen geloven, is genAI dé messiaanse technologie: klimaatproblematiek wordt opgelost, de economie gaat groeien en, volgens musicus en tech-ondernemer Will.I.Am, gaat AI zelfs ongelijkheid oplossen. GenAI verhoogt arbeidsproductiviteit, we kunnen saai werk uitbesteden en ons concentreren op taken die leuk zijn. We moeten we er allemaal aan, want dit is dé toekomst voor iedereen. De positiviteit rondom AI groeit hand in hand met zijn alomtegenwoordigheid.
Dit debat verloopt vergelijkbaar als andere technologiedebatten. Nadat eerst Big Tech-ondernemers euforie roepen en gezaghebbende bladen en opiniemakers hun plasje hebben gedaan, staan nieuwbakken AI-consultants en andere ‘experts’ te springen om hun verhaal te doen. Vaak zijn dit deterministen: ‘’De technologie is er nu eenmaal, dus je moet maar gewoon mee.’’ Een Thatcheriaans there-is-no-alternative opvatting. Dat dit een invalide argument is, beschreven Rob van der Rijt en ik in het academische blad Real-world Economic Review, want dan zouden we alles wat bedrijven ontwikkelen maar moeten accepteren? Gelukkig zijn we niet zo naïef geweest met asbest, röntgenstraling, en de duizenden chemische stoffen die inmiddels zijn verboden in de EU, en hebben we er paal en perk aan gesteld.
Dit argument negeert daarnaast een veel belangrijkere vraag: wat is het doel van technologie en innovatie? Innovatie-onderzoeker Mario Pansera vraagt dit ook in zijn boek Post-growth innovations af en komt tot drie doelen: een probleem oplossen, welzijn bevorderen of het aanpakken van vormen van ongelijkheid en onrechtvaardigheid. Gaat genAI één van deze doelen bereiken?
Laten we de belofte van verhoogde arbeidsproductiviteit bekijken. Een andere groep technoverdedigers, de productivisme-optimisten, stelt dat we arbeidsproductiever worden en zo minder hoeven te werken, of saaie klussen kunnen uitbesteden aan het algoritme. Onderzoekers van Harvard hebben gekeken naar deze claim, en stellen ondubbelzinnig: AI Doesn’t Reduce Work, It Intensifies It. Mensen nemen meer taken op zich, doen werk waarvoor ze niet zijn getraind en werken vaker buiten werktijden. Het gevolg: cognitive fatigue, burnouts en lagere kwaliteit werk. Ander onderzoek bevestigt dit: e-mailtijd verdubbelt, chatgebruik stijgt met 145% en diepe focus op werk verminderde. Sommige onderzoekers zien zelfs een vorm van, wat zij noemen, Brain fry[1]. Werknemers ervaren grote vermoeidheid door te veel genAI gebruik omdat onze cognitieve capaciteit wordt overschreden. We werken meer en raken nóg vermoeider. Niet verstandig in een samenleving die al hypernerveus is.
Maar er is ook iets anders aan de hand. En om dat te duiden moeten we theorie lenen uit de ecologische economie. Deze toename van werk komt door een fenomeen dat we de Jevons Paradox noemen. Jevons, econoom, beschreef in 1865 dat efficiënter gebruik van middelen – wat een kostenbesparing oplevert – zal leiden tot een groter gebruik van dat middel, omdat het goedkoper wordt. Dit fenomeen zien we overal in onze economie: vliegen, koelen, verlichting, energiegebruik, en ook in de (digitale) diensten. De introductie van digitale tools om efficiënter te werken, heeft het tegenovergestelde effect: in plaats van de werklast te verminderen, wordt die juist meer. We zien dit ook bijvoorbeeld in gezondheidszorg. GenAI bevrijdt ons niet van taken, het frituurt ons brein, omdat de agenda te vol zit, te vol om te herstellen.
Ecologische realiteit
Er is nog een domein waar herstel cruciaal is. Onze leefomgeving. De productivisme-optimisten zijn ook op dit terrein zelfverzekerd. Zij stellen, dat genAI onze economie duurzamer gaat maken. Zakenbladen zoals Forbes en Bloomberg zien de toekomst zonnig tegemoet. Om dit beter te begrijpen moeten we ook hier een systemische bril uit de ecologische economie opzetten: het principe van sociaal metabolisme.
GenAI is niet alleen het appje op je telefoon of de chatbot in je browser, maar álle stromen van energie, grondstoffen en arbeid die verwerkt zitten in de totale supply chain. GenAI is niet alleen software, maar een infrastructuur. De laptops, smartphones waarop we genAI gebruiken draaien op computerchips die gefabriceerd worden via een extreem complex en wereldwijd verspreid productieproces. Daarbij komen honderden ketens samen waarin zeldzame metalen worden gewonnen, componenten worden geproduceerd en systemen worden geassembleerd. Op de achtergrond draaien gigantische datacenters in enorme, vaak anonieme gebouwen volgestouwd met servers in stalen racks. Die datacenters draaien niet ‘in de cloud’, maar op fysieke energie-, water- en arbeidssystemen. Uiteindelijk loopt die hele keten door tot in ons huis: door glasvezel- en koperen kabels onder de grond, via wifi-signalen tot aan het scherm in je hand. Het voelt als een lichtgewicht digitale interactie, maar is in werkelijkheid het eindpunt van een intensief wereldwijd metabolisch systeem.
Onderzoeker Ed Conway ziet geen cloud, hij ziet een groeiend netwerk van mijnbouw van kritische grondstoffen, logistiek, energie, arbeid en kapitaal. En dit systeem blijft groeien. Zo bouwen we in Nederland aan zeven megadatacentra; wereldwijd zien we eenzelfde ontwikkeling. Omdat deze datacenters enorm veel energie gebruiken, zal (een deel van) onze energietransitie worden opgeslokt om genAI te faciliteren.
Daarnaast is het jaarlijkse waterverbruik van genAI nu al even groot als de hoeveelheid die per jaar in flessen wordt verkocht. Big Tech-bedrijven, ooit voorlopers in emissiereductie, hebben stilletjes hun CO2 doelen op pauze gezet of zelfs stopgezet.
Ook deze technologie gaat leiden tot achteruitgang in onze leefomgeving, bijvoorbeeld het verlies van plant- en diersoorten die nooit meer terugkomen. Mijnbouwgroei is nu al één van de redenen waarom we grote stukken oerbos aan het slopen zijn. Een van de bekendste AI-onderzoekers ter wereld, Kate Crawford, is bang dat de groeiende AI-slop onze ‘toekomst opvreet’. Waar willen we energie en grondstoffen eigenlijk voor gebruiken: AI-troep of algemeen welzijn?
Neokolonialisme
Het metabolistische perspectief opent ook andere denkdeuren. Er is namelijk veel arbeid nodig om onze genAI systemen aan de praat te houden. Zo moet toch iemand content en context controleren en modereren. Medemensen in Oost-Afrika beoordelen expliciet gewelddadige, of erger, content, met als gevolg psychisch trauma. En dit gebeurt, weer, onderbetaald[2]. Onderzoekers in een snel groeiend onderzoeksveld noemen dit AI-kolonialisme; een onrechtvaardigheid waar mensen nauwelijks van op de hoogte zijn.
Ook op macroniveau versterkt genAI neokolonialisme. Zo reproduceren AI-modellen WEIRD (Western, educated, industrialized, rich and democratic) standpunten, zelfs als ze expliciet worden geïnstrueerd dat niet te doen. De werking van het sociaal metabolisme vergroot de druk op goedkope rare earth metals die tegen veel te lage kosten worden gemijnd, en waardoor neokoloniale relaties blijven bestaan en zelfs worden versterkt.
Kritisch denken
Kolonialisme vindt niet alleen in de fysieke wereld plaats, maar ook in onze meta-fysieke. In Huxley’s Brave new world krijgen baby’s elektrische shocks als ze een boek zien. Zo worden ze geconditioneerd om bang te zijn voor kennis.
GenAI is ons denken en onze autonomie aan het beïnvloeden met niet te negeren consequenties voor het hoger onderwijs. Als hoger onderwijs en onderzoeksinstelling zou je zeggen dat wij hiervan tot in detail van op de hoogte zijn, dat we genAI kritisch bekijken en niet naïef normaliseren of zelfs actief verkopen aan de jonge leiders van de toekomst. Want, wat zijn wij als onderwijsinstelling? Waar leiden we voor op? Onze net gepubliceerde Impact Agenda: talent voor transitie zet onder meer ‘toekomstbestendigheid’, ‘duurzaamheid’ en ‘rechtvaardigheid’ centraal. Als we dit serieus nemen, moeten we minimaal het bovenstaande ecologische en neokolonialistische perspectief verwerken in onze curricula. De Strategische Agenda stelt: ‘We ontwikkelen een kritische, onderzoekende houding bij studenten en docenten, die vraagstukken vanuit meerdere perspectieven benaderen’ (p.14). Top, een instelling die kritisch denken op een voetstuk plaatst. Maar hoe is de onderzoekende, kritische houding te vergoelijken met de argeloze explosie van genAI in onze curricula?
Want dat laatste is misschien wel de grootste crux van dit verhaal. We weten uit onderzoek van Massachusetts Institute of Technology dat studenten die regelmatig genAI inzetten, minder breinverbindingen aanmaken en dat het lees- en analytisch vermogen negatief beïnvloedt. Er is kritiek op dat onderzoek, zo is er bijvoorbeeld een zeer kleine onderzoekspopulatie gebruikt. Maar het is zeker niet het enige onderzoek dat verontrustende resultaten laat zien. Als AI-normalisatie in het onderwijs doorzet, kunnen studenten steeds minder zelf denken, zich authentiek uitdrukken en andere perspectieven zien.
De overtreffende trap van de gefrituurd brein hypothese is, cognitive surrender, breinovergave of AI-onderwerping, zoals onderzoekers in deze paper het noemen. Zij claimen dat er langzaam een derde manier van denken aan het ontstaan is naast Kahnemans systeem 1, snel en automatisch denken, en systeem 2, diep en bewust denken. Systeem 3: niet meer denken. Hoogleraar Erik Scherder concludeert dit ook in zijn boek Liever moe: ‘AI staat voor afnemende intelligentie. Heel simpel gezegd: generatieve AI leidt ertoe dat je je hersenen minder gaat gebruiken’.
Hoogleraar van Baalen stelt dat inspanning, twijfel en mentale herstructurering noodzakelijk zijn voor duurzame kennisopbouw. De momenten waarop studenten moeten worstelen met de stof zijn essentieel. ‘No pain, no gain.’ Roxanne van Iperen beschrijft skim reading: We lezen tekst vluchtig zonder het op te nemen. We raken het vermogen tot deepreading kwijt en daarmee het diep begrip van complexe ideeën. Studenten hebben wellicht een oppervlakkig antwoord op de vraag van een docent, maar ze zijn niet in staat die kennis ergens anders te gebruiken.
Zelfs techoptimisten van de blog MT/Sprout beginnen zich te roeren. Door genAI begin je namelijk steeds meer op je collega en medestudent te lijken. Hoe zit dat? Wat CHATGPT voor jou bedenkt, bedenkt hij voor iedereen. ‘Als elk denkpatroon uit een robot komt, wie ben jij dan nog?’, schrijft Laura Borghols in een artikel in Trouw. Van Iperen pakt het nog een stapje verder. Zij vergelijkt de mens met een fruitvlieg die instinctief van vrucht naar vrucht hopt. Als we niet meer hoeven te denken, wat is de mens dan nog?
Pedagogische taak
Daarnaast hebben we als instelling ook een pedagogische rol. Jonge mensen groeien op in onze klas, naar een hopelijk nieuwsgierige en geïnformeerde burger. Een duidelijke doelstelling van de RBS betekeniseconomie, gebouwd op de basis van Gert Biesta. Ook hier moeten we alert zijn. Veel genAI gebruik kan leiden tot emotionele groei-achterstand, door een consequentie die wordt aangeduid als social offloading. Het uitbesteden van ongemak en onzekerheid aan een chatbot, die wél weet hoe je moet reageren, als je ruzie hebt met je vriendin, collega, of medestudent. Dit kan gevoelens van eenzaamheid en isolatie versterken en zal ‘veerkracht’ zeker niet doen toenemen. Het naar de mond praten, ‘Wat een goede vraag Felix, zo had ik het zelf nog niet bekeken’, door AI-chatbots kan leiden tot psychoses, overmatige zelfbevestiging en een afname aan cognitieve flexibiliteit.
Dat we de deterministen (’het is nu eenmaal zo’) pedagogisch niet serieus moeten nemen verwoordt Ilyaz Nasrullah goed in Trouw: ‘Vervang de term “AI gebruiken” door “sigaretten roken” en het wordt direct duidelijk hoe onzinnig het argument …. is: “Scholieren roken toch wel sigaretten, het is daarom beter om ze te leren die op de juiste manier te roken.” Dat jongeren “toch wel” AI gebruiken, betekent natuurlijk niet dat dat ook goed voor hun ontwikkeling is.’
Als je sinds je middelbare school al je denkwerk hebt uitbesteed aan een genAI en op de hogeschool ook, dan verlies je het vermogen om kritisch te kunnen denken, je probleemoplossend vermogen en databegrip. Dan zullen doelen uit de strategische agenda onder druk komen te staan. ‘Veerkracht’, één van de doelen uit de agenda is namelijk verbonden met autonomie door agency. Het gevoel hebben dat je de wereld begrijpt en invloed kan hebben.
Macroschaal kennisvorming
Want een minimaal begrip van de wereld is belangrijk in de interpetatie van diezelfde wereld. Nobelprijswinnaar Daron Acemoglu theoretiseert en berekent dat genAI-gebruik op macro-schaal een bizar sneeuwbaleffect kan veroorzaken: een knowledge collapse. Als individuen meer op AI vertrouwen, dan is er een kans dat het leerprikkels, experimentatie en cognitieve kwaliteiten beïnvloedt. Omdat kennisvorming vaak een bijproduct is van deep learning en het experimentele leerproces, kunnen we die kennis inzetten om problemen op te lossen. Door genAI zijn we steeds minder aan het experimenteren, en komt er geen kennis meer bij als bijproduct én snappen we het probleem steeds minder, waardoor we eerder geneigd zijn om genAI weer in te zetten om het te begrijpen. Met als gevolg….Een positieve feedback loop uit de system sciences.
Dat kan leiden tot een knowledge collapse, waar we uiteindelijk de simpelste processen niet meer begrijpen, omdat we die uitbesteed hebben. Filosoof Lisanne Bainbridge noemt dit de ironie van automatisering. Hoe beter een technologie menselijke taken overneemt, hoe minder goed we de basis van technologie begrijpen en minder goed problemen kunnen oplossen. Als het dan misgaat, gaat het ook goed mis. Siri Berends en Lisa Doeland beschrijven dit in de Groene Amsterdammer: ‘Doordat ik de makkelijke delen van het werk niet meer beoefende, werd ik ook minder goed in de lastigere delen van het werk’. En misschien gaat Lisa nog een stapje verder. Deze filosoof vreest ook doordat we steeds minder zelf iets maken, we ook vertrouwen verliezen in onszelf.
Plagiaat
In Nederland wordt AI in het onderwijs onkritisch genormaliseerd en ingevoerd. Dit is de titel van een open brief van 1700 wetenschappers en bezorgde burgers aan universiteiten en hogescholen. Ook zie ik dit – met enkele uitzonderingen – op onze hogeschool. AI-trainingen worden aangeboden aan medewerkers zonder dat het genoeg kritisch wordt ingelijst. Ook aan de andere kant van de plas zie je dezelfde normalisering en daaropvolgende reacties: universiteiten adopteren de technologie onkritisch en weinig transparant.
De normalisering van AI in onderwijsinstellingen leidt tot een curieuze paradox. De heilige graal van onderwijs, plagiaat, wordt langzaam onze achilleshiel. Want genAI is de grootste plagiaatmachine die de mens ooit heeft verzonnen. Vrijwel alle genAI apps worden getraind door het plunderen van archieven, teksten en afbeeldingen, gemaakt door artiesten, tekenaars, ontwerpers, fotografen, schrijvers en onderzoekers, zonder toestemming, zonder verwijzing en zonder compensatie. Dat is geen innovatie, maar extractie.
Wie profiteert?
AI is de toekomst dus. Als een technologie ons leven diep gaat beheersen dan is het cruciaal te analyseren wie er baat bij heeft. In de betekeniseconomie duiden we dit met de term cui bono geleend van onderzoeker/schrijver Sjors Roeters. Want in de kern is dit ook een politiek-economisch vraagstuk.
De bekendste econoom van de 20e eeuw, John Maynard Keynes, voorspelde in de jaren 1930 dat door arbeidsproductiviteitsverhoging mensen in de 21e eeuw nog maar 14 uur per week zouden werken. Dit is niet gebeurd, onder andere omdat we de baten van ons economische proces niet ten behoeve van de arbeiders- en middenklasse zijn gaan inzetten, maar ten behoeve van een kleine bovenlaag Zeker in de laatste veertig jaar hebben we de neoliberalistische ideologie in Nederland stevig omarmd. Gaat AI Keynesiaans functioneren, of zal zoals Huxley voorspelt de ongelijkheid nóg verder doen toenemen?
Relax, zegt de derde groep AI-verdedigers, de naïeve productivisten, er komen banen bij, net als toen de auto op de markt kwam, of de pc. Het lijkt mij echter naïef om de stortvloed aan rapporten te negeren die stellen dat AI de middenklasse gaat slopen, zoals dit rapport, of dit, of dit. We zien al dat bedrijven mensen ontslaan omdat genAI goedkoper is en er zijn vooral zorgen over kantoorbanen op bachelor afstudeerniveau.
Werk kan ook minder betekenisvol worden. Mijn buurman, een programmeur, vertelde me dat de magie van zijn werk is verdwenen. De creatieve taken heeft genAI overgenomen en hij controleert alleen nog maar. Tekstschrijvers, communicatiemedewerkers, ontwerpers en filmmakers geven hetzelfde aan.
De genAI levert inmiddels ook echte foute ‘innovaties’. Met Meta glasses en Grok kun je van iedereen een foto nemen, uitkleden en alles mee doen zonder toestemming. Barbie gaat bijna haar genAI doll lanceren. In plaats van buiten te spelen gaan kinderen spelen met poppen waar de beste vriend een statistisch algoritme wordt in een plastic omhulsel met een te kleine taille. De next frontier in oorlogsvoering is natuurlijk ook genAI,
De Big Tech-ondernemers zien AI natuurlijk als onvermijdelijk en nodig. Onderzoeker Daniel Mügge van de UvA draait er in zijn net gepubliceerde boek de AI matrix niet omheen. Het is een misvatting dat technologie een neutrale tool is die mensen op een ‘goede’ of ‘verkeerde’ manier kunnen gebruiken. Dit schrijft ook Thomas Dekeyser in het boek Techno-negative. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving.
Ideologie
Mügge ziet bij de vormgevers van genAI een ideologie met vier hoofdingrediënten: onkritisch techno-solutionisme waar sociale problemen kunnen worden opgelost met een app, morele superioriteit (tech-ondernemers weten wat goed is voor iedereen), een diep wantrouwen van overheidsactiviteiten en tot slot een anti-mens mindset waar geld verdienen menselijk lijden kan legitimeren.
Sommige Big Tech-ondernemers zoals Peter Thiel vinden de democratie een achterhaald concept. Dekeyser vraagt zich daarom af: in een wereld waar Big Tech steeds meer verweven is met autoritarisme, moeten we ons de vraag stellen, waar leidt technologie eigenlijk toe? En dan komen we weer terug bij de onderzoeker Mario Pansera. Hij stelt dat technologie een middel kan zijn om macht en middelen te concentreren bij een kleine groep.
We accepteren deze technologie geluidloos, maar beseffen we dat het ons economisch afhankelijk gaat maken van een kleine groep mensen aan de andere kant van de plas? Piketty liet in 2014 al zien dat ongelijkheid het belangrijkste probleem van onze tijd is. Deze ontwikkeling zal dit alleen maar versterken. Want we gaan afhankelijk worden van diegene die deze technologie bezit. En afhankelijkheid is de vijand van autonomie, de onafhankelijkheid om ons leven vorm te geven.
Zou onderwijs niet een krachtig tegengeluid moeten laten horen, zoals Paulo Freire al beschreef in zijn Pedogagie van de onderdrukten? Ook onderwijs is nooit neutraal. Het is een instrument om macht in stand te houden of om mensen te bevrijden.
Oplossingen
Het eerder genoemde Harvard-onderzoek stelt dat we minimaal moeten inzetten op minder genAI, meer pauzes en actiever met mensen connectie maken. Bizar dat dat we dat op papier moeten gaan zetten. Connectie maken is wat ons mens maakt.
Daarnaast kunnen we in mijn optiek minimaal transparanter en completer gaan communiceren richting onze collega’s en studenten over de complicaties van genAI. Misschien kunnen we een genAI disclaimer toevoegen aan onderwijsactiviteiten, of aan de edu-genAI versie die we wellicht als hogeschool gaan gebruiken?
Leidende instituten maken een pedagische en didactische draai. Ze worden weer old school. Print, minimaal laptopgebruik en directe instructie met docenten. Kinderen van tech-ondernemers gaan naar deze scholen. Als we niet opletten wordt denken voor een heel klein groepje mensen, aldus Lubach over het onderwerp. Zit de échte toegevoegde waarde van het onderwijs niet in jonge mensen leren denken? En is dit niet een betere manier om ons als instituut te onderscheiden?
En sure, sommige onderzoekers zien dit anders. Ik zie ook wel dat in de gezondheidszorg genAI echt waarde kan toevoegen. Maar dan moet dit wel gericht gebeuren, binnen duidelijk kaders. Toen de röntgenstraling in 1895 werd ontdekt, richtte men het werkelijk op alles. Totdat het gevaar duidelijk werd. Nu gebruiken we het alleen voor toepassingen die er toe doen en met mate. Zitten we nu op het equivalent van 1885, we richten AI maar op alles, en negeren de nadelen?
Conclusie
Innovatie moet uiteindelijk met Huxley’s woorden, in dienst van de samenleving staan en niet alleen in dienst van de zakken van een paar ondernemers. Dat schrijven Rob en ik ook in Real-World Economist Review. Wij hebben vier pilaren omschreven waar algemene innovatie aan zou moeten voldoen:
1 – Het moet passen binnen planetaire grenzen.
2 – Het moet welzijnsverhogend zijn.
3 – Het moet rechtvaardigheid versterken.
4 – Het moet bijdragen aan de kwaliteit van de democratie.Als genAI hieraan gaat bijdragen dan wil ik mee. Maar laat me eerst bewijs zien, voordat we dit in alle lagen gaan normaliseren. En dan blijft nog steeds: ik vind zelf denken zo leuk!
Het is geen defaitistisch, deterministisch gegeven. Wij hebben invloed op deze technologie. Als maatschappij, als onderzoeks- en onderwijsinstelling, en als individu. We kunnen beslissen dat we mens zijn en onderdeel van de samenleving. En dan moeten we ons veel vaker de vraag stellen: wat is het doel van technologie en innovatie? En gaat het ons leven verbeteren? Hopelijk kunnen we de lessen van Huxley gebruiken om genAI te weerstaan en ons simpele mensbrein te beschermen tegen naïef techno-optimisme, kritisch denkvermogenverlies en autonomie-inperking.
Als iedereen vol gaat op AI, moeten wij, de HR, dan niet het tegenovergestelde doen? Op deze hogeschool kun je wel écht leren, een eigen stem ontwikkelen, kritisch nadenken en betekenisvol ondernemen voor een betere toekomst. Gaan we, zoals Bas Heijne stelt in de heruitgave van Huxley, onze onderwerping hartstochtelijk omarmen? Of gaan we kritisch inkaderen hoe ons onderwijs eruit moet zien? Een speciale HR-taskforce zou dit eerst moeten gaan onderzoeken.
Bedankt voor het lezen.
Felix van Hoften, onderzoeker-docent HRO en Universiteit van Amsterdam
Naschrift
Dit waarschuwingsdocument is niet hyperbolisch. Het is een verzameling van bekende kennis. Daarnaast is het old school. Onderzocht, opgeschreven en geredigeerd door een mens (met een hart). Meer info? Check Against AI, Pause AI en The Algorithmic Justice Lead
-
Ingezonden: We moeten AI pauzeren en niet normaliseren op de Hogeschool Rotterdam
In dit essay of ‘academische blog’ beargumenteert docent en onderzoeker Felix van Hoften (RBS) dat AI schadelijk is voor de planeet, de samenleving en het onderwijs. Hij is kritisch op de deterministische houding over AI – ‘het is er nu eenmaal, we kunnen er niet omheen’- binnen de Hogeschool Rotterdam. Hij pleit ervoor een stap terug te doen en eerst kritisch na te denken hoe we genAI willen inzetten.
Dit stuk in een minuut
Felix van Hoften (RBS) roept in zijn essay de Hogeschool Rotterdam op om kritischer te kijken naar generatieve kunstmatige intelligentie (genAI). Hij beargumenteert dat door een groot aantal nadelen van genAI uiteen te zetten.
Hij haalt Aldous Huxley aan, de schrijver van Brave New World. Huxley voorspelde in zijn boek uit 1932 hoe technologie kan leiden tot verslaving, verlies van kritisch denkvermogen en afhankelijkheid van een kleine elite. Van Hoften ziet deze ontwikkeling terug in de manier waarop genAI wordt omarmd: deterministisch en weinig terughoudend, ‘het kan niet anders’.
GenAI wordt vaak gepresenteerd als een oplossing voor grote problemen (zoals klimaatverandering, economische groei en ongelijkheid); Van Hoften plaatst hier kanttekeningen bij en wijst bijvoorbeeld op onderzoek dat aantoont dat AI werk juist intensiveert en mensen geestelijk uitput.
Van Hoften gaat ook kritisch in op de ecologische impact van genAI, met de bijbehorende datacenters, energieverbruik, watergebruik en grondstoffenwinning. Deze groei legt extra druk op het milieu en kan de energietransitie ondermijnen.
GenAI levert daarnaast onderbetaalde arbeid op zoals content-moderatie in lage-inkomenslanden die neokoloniale verhoudingen versterkt.
De winst van AI komt ondertussen vooral terecht grote techbedrijven, wat ongelijkheid kan vergroten en afhankelijkheid versterkt. Daarbij is de ideologie van een aantal techbazen verontrustend, bijvoorbeeld antidemocratisch.Van Hoften betoogt dat genAI schadelijk kan zijn voor kritisch denken en daarmee voor het onderwijs. Onderzoek suggereert dat intensief gebruik van genAI leidt tot minder cognitieve ontwikkeling, oppervlakkig leren en uiteindelijk afhankelijkheid van technologie. Studenten verliezen mogelijk het vermogen om zelfstandig te denken, diep te lezen en complexe problemen te begrijpen. De gezamenlijke kennisbasis neemt af, en het vermogen problemen op te lossen dreigt af te nemen.
Dit staat haaks op de kerntaken van onderwijsinstellingen, zoals het bevorderen van kritisch denken, autonomie en burgerschap. Het staat ook haaks op de visie van de Hogeschool Rotterdam die naar eigen zeggen een kritische, onderzoekende houding bij studenten en docenten wil stimuleren.De auteur pleit om genAI op de HR kritisch te benaderen en niet vanuit de visie: ‘het is er nu eenmaal’. Van Hoften betoogt dat innovatie in dienst moet staan van samenleving, moet passen binnen planetaire grenzen en aandacht moet hebben voor welzijn, rechtvaardigheid en democratie. Zolang genAI daar niet aantoonbaar aan bijdraagt, moet de samenleving, en zeker het onderwijs, terughoudend en kritisch blijven.
In 1932 publiceerde Aldous Huxley zijn befaamde boek A brave new world. Deze dystopische toekomstroman beschrijft hoe het denkvermogen van mensen is platgelegd door de volledige omarming van en verslaving aan technologie. Huxley’s werk wordt de laatste tijd vaker aangehaald om onze tijd te duiden. Zo weeft Paul Schenderling in zijn nieuwe boek Continent van de kwaliteit zijn werk als leidraad voor een nieuw economisch paradigma. Ander werk van Huxley, De Tijd van oligarchen, heeft ook weer aandacht gekregen. Sterker nog, het is opnieuw uitgebracht door meesterverteller Bas Heijne.
Dit is geen toeval. De combinatie van deze twee profetische werken zijn een spiegel voor onze tijd. Huxley voorzag (90 jaar geleden!) de combinatie van entertainment, desinformatie, verslaving en het verlies van kritisch denkvermogen, met als gevolg een afhankelijkheid van een kleine groep ‘ondernemers’, als voorbode van het eroderen van het autonome en goede leven.
Is de laatste telg van de technofamilie: generatieve kunstmatige intelligentie, kortweg genAI, de samenloop van innovatie die Huxley voorzag? Dit essay bekijkt, door de lens van Huxley, hoe genAI onze wereld gaat beïnvloeden en specifieker ons onderwijs. Want is er een wereld mogelijk, waarin kritisch denken, autonomie, welzijn, verantwoordelijkheid en rechtvaardigheid bestaat én waarin AI is doorgedrongen tot elk haarvat van onze samenleving? Ik betwijfel het.
GenAI(-positiviteit) is werkelijk o-ve-ral
Als we the Economist, het Financieele Dagblad en allerlei tech-optimisten mogen geloven, is genAI dé messiaanse technologie: klimaatproblematiek wordt opgelost, de economie gaat groeien en, volgens musicus en tech-ondernemer Will.I.Am, gaat AI zelfs ongelijkheid oplossen. GenAI verhoogt arbeidsproductiviteit, we kunnen saai werk uitbesteden en ons concentreren op taken die leuk zijn. We moeten we er allemaal aan, want dit is dé toekomst voor iedereen. De positiviteit rondom AI groeit hand in hand met zijn alomtegenwoordigheid.
Dit debat verloopt vergelijkbaar als andere technologiedebatten. Nadat eerst Big Tech-ondernemers euforie roepen en gezaghebbende bladen en opiniemakers hun plasje hebben gedaan, staan nieuwbakken AI-consultants en andere ‘experts’ te springen om hun verhaal te doen. Vaak zijn dit deterministen: ‘’De technologie is er nu eenmaal, dus je moet maar gewoon mee.’’ Een Thatcheriaans there-is-no-alternative opvatting. Dat dit een invalide argument is, beschreven Rob van der Rijt en ik in het academische blad Real-world Economic Review, want dan zouden we alles wat bedrijven ontwikkelen maar moeten accepteren? Gelukkig zijn we niet zo naïef geweest met asbest, röntgenstraling, en de duizenden chemische stoffen die inmiddels zijn verboden in de EU, en hebben we er paal en perk aan gesteld.
Dit argument negeert daarnaast een veel belangrijkere vraag: wat is het doel van technologie en innovatie? Innovatie-onderzoeker Mario Pansera vraagt dit ook in zijn boek Post-growth innovations af en komt tot drie doelen: een probleem oplossen, welzijn bevorderen of het aanpakken van vormen van ongelijkheid en onrechtvaardigheid. Gaat genAI één van deze doelen bereiken?
Laten we de belofte van verhoogde arbeidsproductiviteit bekijken. Een andere groep technoverdedigers, de productivisme-optimisten, stelt dat we arbeidsproductiever worden en zo minder hoeven te werken, of saaie klussen kunnen uitbesteden aan het algoritme. Onderzoekers van Harvard hebben gekeken naar deze claim, en stellen ondubbelzinnig: AI Doesn’t Reduce Work, It Intensifies It. Mensen nemen meer taken op zich, doen werk waarvoor ze niet zijn getraind en werken vaker buiten werktijden. Het gevolg: cognitive fatigue, burnouts en lagere kwaliteit werk. Ander onderzoek bevestigt dit: e-mailtijd verdubbelt, chatgebruik stijgt met 145% en diepe focus op werk verminderde. Sommige onderzoekers zien zelfs een vorm van, wat zij noemen, Brain fry[1]. Werknemers ervaren grote vermoeidheid door te veel genAI gebruik omdat onze cognitieve capaciteit wordt overschreden. We werken meer en raken nóg vermoeider. Niet verstandig in een samenleving die al hypernerveus is.
Maar er is ook iets anders aan de hand. En om dat te duiden moeten we theorie lenen uit de ecologische economie. Deze toename van werk komt door een fenomeen dat we de Jevons Paradox noemen. Jevons, econoom, beschreef in 1865 dat efficiënter gebruik van middelen – wat een kostenbesparing oplevert – zal leiden tot een groter gebruik van dat middel, omdat het goedkoper wordt. Dit fenomeen zien we overal in onze economie: vliegen, koelen, verlichting, energiegebruik, en ook in de (digitale) diensten. De introductie van digitale tools om efficiënter te werken, heeft het tegenovergestelde effect: in plaats van de werklast te verminderen, wordt die juist meer. We zien dit ook bijvoorbeeld in gezondheidszorg. GenAI bevrijdt ons niet van taken, het frituurt ons brein, omdat de agenda te vol zit, te vol om te herstellen.
Ecologische realiteit
Er is nog een domein waar herstel cruciaal is. Onze leefomgeving. De productivisme-optimisten zijn ook op dit terrein zelfverzekerd. Zij stellen, dat genAI onze economie duurzamer gaat maken. Zakenbladen zoals Forbes en Bloomberg zien de toekomst zonnig tegemoet. Om dit beter te begrijpen moeten we ook hier een systemische bril uit de ecologische economie opzetten: het principe van sociaal metabolisme.
GenAI is niet alleen het appje op je telefoon of de chatbot in je browser, maar álle stromen van energie, grondstoffen en arbeid die verwerkt zitten in de totale supply chain. GenAI is niet alleen software, maar een infrastructuur. De laptops, smartphones waarop we genAI gebruiken draaien op computerchips die gefabriceerd worden via een extreem complex en wereldwijd verspreid productieproces. Daarbij komen honderden ketens samen waarin zeldzame metalen worden gewonnen, componenten worden geproduceerd en systemen worden geassembleerd. Op de achtergrond draaien gigantische datacenters in enorme, vaak anonieme gebouwen volgestouwd met servers in stalen racks. Die datacenters draaien niet ‘in de cloud’, maar op fysieke energie-, water- en arbeidssystemen. Uiteindelijk loopt die hele keten door tot in ons huis: door glasvezel- en koperen kabels onder de grond, via wifi-signalen tot aan het scherm in je hand. Het voelt als een lichtgewicht digitale interactie, maar is in werkelijkheid het eindpunt van een intensief wereldwijd metabolisch systeem.
Onderzoeker Ed Conway ziet geen cloud, hij ziet een groeiend netwerk van mijnbouw van kritische grondstoffen, logistiek, energie, arbeid en kapitaal. En dit systeem blijft groeien. Zo bouwen we in Nederland aan zeven megadatacentra; wereldwijd zien we eenzelfde ontwikkeling. Omdat deze datacenters enorm veel energie gebruiken, zal (een deel van) onze energietransitie worden opgeslokt om genAI te faciliteren.
Daarnaast is het jaarlijkse waterverbruik van genAI nu al even groot als de hoeveelheid die per jaar in flessen wordt verkocht. Big Tech-bedrijven, ooit voorlopers in emissiereductie, hebben stilletjes hun CO2 doelen op pauze gezet of zelfs stopgezet.
Ook deze technologie gaat leiden tot achteruitgang in onze leefomgeving, bijvoorbeeld het verlies van plant- en diersoorten die nooit meer terugkomen. Mijnbouwgroei is nu al één van de redenen waarom we grote stukken oerbos aan het slopen zijn. Een van de bekendste AI-onderzoekers ter wereld, Kate Crawford, is bang dat de groeiende AI-slop onze ‘toekomst opvreet’. Waar willen we energie en grondstoffen eigenlijk voor gebruiken: AI-troep of algemeen welzijn?
Neokolonialisme
Het metabolistische perspectief opent ook andere denkdeuren. Er is namelijk veel arbeid nodig om onze genAI systemen aan de praat te houden. Zo moet toch iemand content en context controleren en modereren. Medemensen in Oost-Afrika beoordelen expliciet gewelddadige, of erger, content, met als gevolg psychisch trauma. En dit gebeurt, weer, onderbetaald[2]. Onderzoekers in een snel groeiend onderzoeksveld noemen dit AI-kolonialisme; een onrechtvaardigheid waar mensen nauwelijks van op de hoogte zijn.
Ook op macroniveau versterkt genAI neokolonialisme. Zo reproduceren AI-modellen WEIRD (Western, educated, industrialized, rich and democratic) standpunten, zelfs als ze expliciet worden geïnstrueerd dat niet te doen. De werking van het sociaal metabolisme vergroot de druk op goedkope rare earth metals die tegen veel te lage kosten worden gemijnd, en waardoor neokoloniale relaties blijven bestaan en zelfs worden versterkt.
Kritisch denken
Kolonialisme vindt niet alleen in de fysieke wereld plaats, maar ook in onze meta-fysieke. In Huxley’s Brave new world krijgen baby’s elektrische shocks als ze een boek zien. Zo worden ze geconditioneerd om bang te zijn voor kennis.
GenAI is ons denken en onze autonomie aan het beïnvloeden met niet te negeren consequenties voor het hoger onderwijs. Als hoger onderwijs en onderzoeksinstelling zou je zeggen dat wij hiervan tot in detail van op de hoogte zijn, dat we genAI kritisch bekijken en niet naïef normaliseren of zelfs actief verkopen aan de jonge leiders van de toekomst. Want, wat zijn wij als onderwijsinstelling? Waar leiden we voor op? Onze net gepubliceerde Impact Agenda: talent voor transitie zet onder meer ‘toekomstbestendigheid’, ‘duurzaamheid’ en ‘rechtvaardigheid’ centraal. Als we dit serieus nemen, moeten we minimaal het bovenstaande ecologische en neokolonialistische perspectief verwerken in onze curricula. De Strategische Agenda stelt: ‘We ontwikkelen een kritische, onderzoekende houding bij studenten en docenten, die vraagstukken vanuit meerdere perspectieven benaderen’ (p.14). Top, een instelling die kritisch denken op een voetstuk plaatst. Maar hoe is de onderzoekende, kritische houding te vergoelijken met de argeloze explosie van genAI in onze curricula?
Want dat laatste is misschien wel de grootste crux van dit verhaal. We weten uit onderzoek van Massachusetts Institute of Technology dat studenten die regelmatig genAI inzetten, minder breinverbindingen aanmaken en dat het lees- en analytisch vermogen negatief beïnvloedt. Er is kritiek op dat onderzoek, zo is er bijvoorbeeld een zeer kleine onderzoekspopulatie gebruikt. Maar het is zeker niet het enige onderzoek dat verontrustende resultaten laat zien. Als AI-normalisatie in het onderwijs doorzet, kunnen studenten steeds minder zelf denken, zich authentiek uitdrukken en andere perspectieven zien.
De overtreffende trap van de gefrituurd brein hypothese is, cognitive surrender, breinovergave of AI-onderwerping, zoals onderzoekers in deze paper het noemen. Zij claimen dat er langzaam een derde manier van denken aan het ontstaan is naast Kahnemans systeem 1, snel en automatisch denken, en systeem 2, diep en bewust denken. Systeem 3: niet meer denken. Hoogleraar Erik Scherder concludeert dit ook in zijn boek Liever moe: ‘AI staat voor afnemende intelligentie. Heel simpel gezegd: generatieve AI leidt ertoe dat je je hersenen minder gaat gebruiken’.
Hoogleraar van Baalen stelt dat inspanning, twijfel en mentale herstructurering noodzakelijk zijn voor duurzame kennisopbouw. De momenten waarop studenten moeten worstelen met de stof zijn essentieel. ‘No pain, no gain.’ Roxanne van Iperen beschrijft skim reading: We lezen tekst vluchtig zonder het op te nemen. We raken het vermogen tot deepreading kwijt en daarmee het diep begrip van complexe ideeën. Studenten hebben wellicht een oppervlakkig antwoord op de vraag van een docent, maar ze zijn niet in staat die kennis ergens anders te gebruiken.
Zelfs techoptimisten van de blog MT/Sprout beginnen zich te roeren. Door genAI begin je namelijk steeds meer op je collega en medestudent te lijken. Hoe zit dat? Wat CHATGPT voor jou bedenkt, bedenkt hij voor iedereen. ‘Als elk denkpatroon uit een robot komt, wie ben jij dan nog?’, schrijft Laura Borghols in een artikel in Trouw. Van Iperen pakt het nog een stapje verder. Zij vergelijkt de mens met een fruitvlieg die instinctief van vrucht naar vrucht hopt. Als we niet meer hoeven te denken, wat is de mens dan nog?
Pedagogische taak
Daarnaast hebben we als instelling ook een pedagogische rol. Jonge mensen groeien op in onze klas, naar een hopelijk nieuwsgierige en geïnformeerde burger. Een duidelijke doelstelling van de RBS betekeniseconomie, gebouwd op de basis van Gert Biesta. Ook hier moeten we alert zijn. Veel genAI gebruik kan leiden tot emotionele groei-achterstand, door een consequentie die wordt aangeduid als social offloading. Het uitbesteden van ongemak en onzekerheid aan een chatbot, die wél weet hoe je moet reageren, als je ruzie hebt met je vriendin, collega, of medestudent. Dit kan gevoelens van eenzaamheid en isolatie versterken en zal ‘veerkracht’ zeker niet doen toenemen. Het naar de mond praten, ‘Wat een goede vraag Felix, zo had ik het zelf nog niet bekeken’, door AI-chatbots kan leiden tot psychoses, overmatige zelfbevestiging en een afname aan cognitieve flexibiliteit.
Dat we de deterministen (’het is nu eenmaal zo’) pedagogisch niet serieus moeten nemen verwoordt Ilyaz Nasrullah goed in Trouw: ‘Vervang de term “AI gebruiken” door “sigaretten roken” en het wordt direct duidelijk hoe onzinnig het argument …. is: “Scholieren roken toch wel sigaretten, het is daarom beter om ze te leren die op de juiste manier te roken.” Dat jongeren “toch wel” AI gebruiken, betekent natuurlijk niet dat dat ook goed voor hun ontwikkeling is.’
Als je sinds je middelbare school al je denkwerk hebt uitbesteed aan een genAI en op de hogeschool ook, dan verlies je het vermogen om kritisch te kunnen denken, je probleemoplossend vermogen en databegrip. Dan zullen doelen uit de strategische agenda onder druk komen te staan. ‘Veerkracht’, één van de doelen uit de agenda is namelijk verbonden met autonomie door agency. Het gevoel hebben dat je de wereld begrijpt en invloed kan hebben.
Macroschaal kennisvorming
Want een minimaal begrip van de wereld is belangrijk in de interpetatie van diezelfde wereld. Nobelprijswinnaar Daron Acemoglu theoretiseert en berekent dat genAI-gebruik op macro-schaal een bizar sneeuwbaleffect kan veroorzaken: een knowledge collapse. Als individuen meer op AI vertrouwen, dan is er een kans dat het leerprikkels, experimentatie en cognitieve kwaliteiten beïnvloedt. Omdat kennisvorming vaak een bijproduct is van deep learning en het experimentele leerproces, kunnen we die kennis inzetten om problemen op te lossen. Door genAI zijn we steeds minder aan het experimenteren, en komt er geen kennis meer bij als bijproduct én snappen we het probleem steeds minder, waardoor we eerder geneigd zijn om genAI weer in te zetten om het te begrijpen. Met als gevolg….Een positieve feedback loop uit de system sciences.
Dat kan leiden tot een knowledge collapse, waar we uiteindelijk de simpelste processen niet meer begrijpen, omdat we die uitbesteed hebben. Filosoof Lisanne Bainbridge noemt dit de ironie van automatisering. Hoe beter een technologie menselijke taken overneemt, hoe minder goed we de basis van technologie begrijpen en minder goed problemen kunnen oplossen. Als het dan misgaat, gaat het ook goed mis. Siri Berends en Lisa Doeland beschrijven dit in de Groene Amsterdammer: ‘Doordat ik de makkelijke delen van het werk niet meer beoefende, werd ik ook minder goed in de lastigere delen van het werk’. En misschien gaat Lisa nog een stapje verder. Deze filosoof vreest ook doordat we steeds minder zelf iets maken, we ook vertrouwen verliezen in onszelf.
Plagiaat
In Nederland wordt AI in het onderwijs onkritisch genormaliseerd en ingevoerd. Dit is de titel van een open brief van 1700 wetenschappers en bezorgde burgers aan universiteiten en hogescholen. Ook zie ik dit – met enkele uitzonderingen – op onze hogeschool. AI-trainingen worden aangeboden aan medewerkers zonder dat het genoeg kritisch wordt ingelijst. Ook aan de andere kant van de plas zie je dezelfde normalisering en daaropvolgende reacties: universiteiten adopteren de technologie onkritisch en weinig transparant.
De normalisering van AI in onderwijsinstellingen leidt tot een curieuze paradox. De heilige graal van onderwijs, plagiaat, wordt langzaam onze achilleshiel. Want genAI is de grootste plagiaatmachine die de mens ooit heeft verzonnen. Vrijwel alle genAI apps worden getraind door het plunderen van archieven, teksten en afbeeldingen, gemaakt door artiesten, tekenaars, ontwerpers, fotografen, schrijvers en onderzoekers, zonder toestemming, zonder verwijzing en zonder compensatie. Dat is geen innovatie, maar extractie.
Wie profiteert?
AI is de toekomst dus. Als een technologie ons leven diep gaat beheersen dan is het cruciaal te analyseren wie er baat bij heeft. In de betekeniseconomie duiden we dit met de term cui bono geleend van onderzoeker/schrijver Sjors Roeters. Want in de kern is dit ook een politiek-economisch vraagstuk.
De bekendste econoom van de 20e eeuw, John Maynard Keynes, voorspelde in de jaren 1930 dat door arbeidsproductiviteitsverhoging mensen in de 21e eeuw nog maar 14 uur per week zouden werken. Dit is niet gebeurd, onder andere omdat we de baten van ons economische proces niet ten behoeve van de arbeiders- en middenklasse zijn gaan inzetten, maar ten behoeve van een kleine bovenlaag Zeker in de laatste veertig jaar hebben we de neoliberalistische ideologie in Nederland stevig omarmd. Gaat AI Keynesiaans functioneren, of zal zoals Huxley voorspelt de ongelijkheid nóg verder doen toenemen?
Relax, zegt de derde groep AI-verdedigers, de naïeve productivisten, er komen banen bij, net als toen de auto op de markt kwam, of de pc. Het lijkt mij echter naïef om de stortvloed aan rapporten te negeren die stellen dat AI de middenklasse gaat slopen, zoals dit rapport, of dit, of dit. We zien al dat bedrijven mensen ontslaan omdat genAI goedkoper is en er zijn vooral zorgen over kantoorbanen op bachelor afstudeerniveau.
Werk kan ook minder betekenisvol worden. Mijn buurman, een programmeur, vertelde me dat de magie van zijn werk is verdwenen. De creatieve taken heeft genAI overgenomen en hij controleert alleen nog maar. Tekstschrijvers, communicatiemedewerkers, ontwerpers en filmmakers geven hetzelfde aan.
De genAI levert inmiddels ook echte foute ‘innovaties’. Met Meta glasses en Grok kun je van iedereen een foto nemen, uitkleden en alles mee doen zonder toestemming. Barbie gaat bijna haar genAI doll lanceren. In plaats van buiten te spelen gaan kinderen spelen met poppen waar de beste vriend een statistisch algoritme wordt in een plastic omhulsel met een te kleine taille. De next frontier in oorlogsvoering is natuurlijk ook genAI,
De Big Tech-ondernemers zien AI natuurlijk als onvermijdelijk en nodig. Onderzoeker Daniel Mügge van de UvA draait er in zijn net gepubliceerde boek de AI matrix niet omheen. Het is een misvatting dat technologie een neutrale tool is die mensen op een ‘goede’ of ‘verkeerde’ manier kunnen gebruiken. Dit schrijft ook Thomas Dekeyser in het boek Techno-negative. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving.
Ideologie
Mügge ziet bij de vormgevers van genAI een ideologie met vier hoofdingrediënten: onkritisch techno-solutionisme waar sociale problemen kunnen worden opgelost met een app, morele superioriteit (tech-ondernemers weten wat goed is voor iedereen), een diep wantrouwen van overheidsactiviteiten en tot slot een anti-mens mindset waar geld verdienen menselijk lijden kan legitimeren.
Sommige Big Tech-ondernemers zoals Peter Thiel vinden de democratie een achterhaald concept. Dekeyser vraagt zich daarom af: in een wereld waar Big Tech steeds meer verweven is met autoritarisme, moeten we ons de vraag stellen, waar leidt technologie eigenlijk toe? En dan komen we weer terug bij de onderzoeker Mario Pansera. Hij stelt dat technologie een middel kan zijn om macht en middelen te concentreren bij een kleine groep.
We accepteren deze technologie geluidloos, maar beseffen we dat het ons economisch afhankelijk gaat maken van een kleine groep mensen aan de andere kant van de plas? Piketty liet in 2014 al zien dat ongelijkheid het belangrijkste probleem van onze tijd is. Deze ontwikkeling zal dit alleen maar versterken. Want we gaan afhankelijk worden van diegene die deze technologie bezit. En afhankelijkheid is de vijand van autonomie, de onafhankelijkheid om ons leven vorm te geven.
Zou onderwijs niet een krachtig tegengeluid moeten laten horen, zoals Paulo Freire al beschreef in zijn Pedogagie van de onderdrukten? Ook onderwijs is nooit neutraal. Het is een instrument om macht in stand te houden of om mensen te bevrijden.
Oplossingen
Het eerder genoemde Harvard-onderzoek stelt dat we minimaal moeten inzetten op minder genAI, meer pauzes en actiever met mensen connectie maken. Bizar dat dat we dat op papier moeten gaan zetten. Connectie maken is wat ons mens maakt.
Daarnaast kunnen we in mijn optiek minimaal transparanter en completer gaan communiceren richting onze collega’s en studenten over de complicaties van genAI. Misschien kunnen we een genAI disclaimer toevoegen aan onderwijsactiviteiten, of aan de edu-genAI versie die we wellicht als hogeschool gaan gebruiken?
Leidende instituten maken een pedagische en didactische draai. Ze worden weer old school. Print, minimaal laptopgebruik en directe instructie met docenten. Kinderen van tech-ondernemers gaan naar deze scholen. Als we niet opletten wordt denken voor een heel klein groepje mensen, aldus Lubach over het onderwerp. Zit de échte toegevoegde waarde van het onderwijs niet in jonge mensen leren denken? En is dit niet een betere manier om ons als instituut te onderscheiden?
En sure, sommige onderzoekers zien dit anders. Ik zie ook wel dat in de gezondheidszorg genAI echt waarde kan toevoegen. Maar dan moet dit wel gericht gebeuren, binnen duidelijk kaders. Toen de röntgenstraling in 1895 werd ontdekt, richtte men het werkelijk op alles. Totdat het gevaar duidelijk werd. Nu gebruiken we het alleen voor toepassingen die er toe doen en met mate. Zitten we nu op het equivalent van 1885, we richten AI maar op alles, en negeren de nadelen?
Conclusie
Innovatie moet uiteindelijk met Huxley’s woorden, in dienst van de samenleving staan en niet alleen in dienst van de zakken van een paar ondernemers. Dat schrijven Rob en ik ook in Real-World Economist Review. Wij hebben vier pilaren omschreven waar algemene innovatie aan zou moeten voldoen:
1 – Het moet passen binnen planetaire grenzen.
2 – Het moet welzijnsverhogend zijn.
3 – Het moet rechtvaardigheid versterken.
4 – Het moet bijdragen aan de kwaliteit van de democratie.Als genAI hieraan gaat bijdragen dan wil ik mee. Maar laat me eerst bewijs zien, voordat we dit in alle lagen gaan normaliseren. En dan blijft nog steeds: ik vind zelf denken zo leuk!
Het is geen defaitistisch, deterministisch gegeven. Wij hebben invloed op deze technologie. Als maatschappij, als onderzoeks- en onderwijsinstelling, en als individu. We kunnen beslissen dat we mens zijn en onderdeel van de samenleving. En dan moeten we ons veel vaker de vraag stellen: wat is het doel van technologie en innovatie? En gaat het ons leven verbeteren? Hopelijk kunnen we de lessen van Huxley gebruiken om genAI te weerstaan en ons simpele mensbrein te beschermen tegen naïef techno-optimisme, kritisch denkvermogenverlies en autonomie-inperking.
Als iedereen vol gaat op AI, moeten wij, de HR, dan niet het tegenovergestelde doen? Op deze hogeschool kun je wel écht leren, een eigen stem ontwikkelen, kritisch nadenken en betekenisvol ondernemen voor een betere toekomst. Gaan we, zoals Bas Heijne stelt in de heruitgave van Huxley, onze onderwerping hartstochtelijk omarmen? Of gaan we kritisch inkaderen hoe ons onderwijs eruit moet zien? Een speciale HR-taskforce zou dit eerst moeten gaan onderzoeken.
Bedankt voor het lezen.
Felix van Hoften, onderzoeker-docent HRO en Universiteit van Amsterdam
Naschrift
Dit waarschuwingsdocument is niet hyperbolisch. Het is een verzameling van bekende kennis. Daarnaast is het old school. Onderzocht, opgeschreven en geredigeerd door een mens (met een hart). Meer info? Check Against AI, Pause AI en The Algorithmic Justice Lead
-
Ingezonden: We moeten AI pauzeren en niet normaliseren op de Hogeschool Rotterdam
In dit essay of ‘academische blog’ beargumenteert docent en onderzoeker Felix van Hoften (RBS) dat AI schadelijk is voor de planeet, de samenleving en het onderwijs. Hij is kritisch op de deterministische houding over AI – ‘het is er nu eenmaal, we kunnen er niet omheen’- binnen de Hogeschool Rotterdam. Hij pleit ervoor een stap terug te doen en eerst kritisch na te denken hoe we genAI willen inzetten.
Dit stuk in een minuut
Felix van Hoften (RBS) roept in zijn essay de Hogeschool Rotterdam op om kritischer te kijken naar generatieve kunstmatige intelligentie (genAI). Hij beargumenteert dat door een groot aantal nadelen van genAI uiteen te zetten.
Hij haalt Aldous Huxley aan, de schrijver van Brave New World. Huxley voorspelde in zijn boek uit 1932 hoe technologie kan leiden tot verslaving, verlies van kritisch denkvermogen en afhankelijkheid van een kleine elite. Van Hoften ziet deze ontwikkeling terug in de manier waarop genAI wordt omarmd: deterministisch en weinig terughoudend, ‘het kan niet anders’.
GenAI wordt vaak gepresenteerd als een oplossing voor grote problemen (zoals klimaatverandering, economische groei en ongelijkheid); Van Hoften plaatst hier kanttekeningen bij en wijst bijvoorbeeld op onderzoek dat aantoont dat AI werk juist intensiveert en mensen geestelijk uitput.
Van Hoften gaat ook kritisch in op de ecologische impact van genAI, met de bijbehorende datacenters, energieverbruik, watergebruik en grondstoffenwinning. Deze groei legt extra druk op het milieu en kan de energietransitie ondermijnen.
GenAI levert daarnaast onderbetaalde arbeid op zoals content-moderatie in lage-inkomenslanden die neokoloniale verhoudingen versterkt.
De winst van AI komt ondertussen vooral terecht grote techbedrijven, wat ongelijkheid kan vergroten en afhankelijkheid versterkt. Daarbij is de ideologie van een aantal techbazen verontrustend, bijvoorbeeld antidemocratisch.Van Hoften betoogt dat genAI schadelijk kan zijn voor kritisch denken en daarmee voor het onderwijs. Onderzoek suggereert dat intensief gebruik van genAI leidt tot minder cognitieve ontwikkeling, oppervlakkig leren en uiteindelijk afhankelijkheid van technologie. Studenten verliezen mogelijk het vermogen om zelfstandig te denken, diep te lezen en complexe problemen te begrijpen. De gezamenlijke kennisbasis neemt af, en het vermogen problemen op te lossen dreigt af te nemen.
Dit staat haaks op de kerntaken van onderwijsinstellingen, zoals het bevorderen van kritisch denken, autonomie en burgerschap. Het staat ook haaks op de visie van de Hogeschool Rotterdam die naar eigen zeggen een kritische, onderzoekende houding bij studenten en docenten wil stimuleren.De auteur pleit om genAI op de HR kritisch te benaderen en niet vanuit de visie: ‘het is er nu eenmaal’. Van Hoften betoogt dat innovatie in dienst moet staan van samenleving, moet passen binnen planetaire grenzen en aandacht moet hebben voor welzijn, rechtvaardigheid en democratie. Zolang genAI daar niet aantoonbaar aan bijdraagt, moet de samenleving, en zeker het onderwijs, terughoudend en kritisch blijven.
In 1932 publiceerde Aldous Huxley zijn befaamde boek A brave new world. Deze dystopische toekomstroman beschrijft hoe het denkvermogen van mensen is platgelegd door de volledige omarming van en verslaving aan technologie. Huxley’s werk wordt de laatste tijd vaker aangehaald om onze tijd te duiden. Zo weeft Paul Schenderling in zijn nieuwe boek Continent van de kwaliteit zijn werk als leidraad voor een nieuw economisch paradigma. Ander werk van Huxley, De Tijd van oligarchen, heeft ook weer aandacht gekregen. Sterker nog, het is opnieuw uitgebracht door meesterverteller Bas Heijne.
Dit is geen toeval. De combinatie van deze twee profetische werken zijn een spiegel voor onze tijd. Huxley voorzag (90 jaar geleden!) de combinatie van entertainment, desinformatie, verslaving en het verlies van kritisch denkvermogen, met als gevolg een afhankelijkheid van een kleine groep ‘ondernemers’, als voorbode van het eroderen van het autonome en goede leven.
Is de laatste telg van de technofamilie: generatieve kunstmatige intelligentie, kortweg genAI, de samenloop van innovatie die Huxley voorzag? Dit essay bekijkt, door de lens van Huxley, hoe genAI onze wereld gaat beïnvloeden en specifieker ons onderwijs. Want is er een wereld mogelijk, waarin kritisch denken, autonomie, welzijn, verantwoordelijkheid en rechtvaardigheid bestaat én waarin AI is doorgedrongen tot elk haarvat van onze samenleving? Ik betwijfel het.
GenAI(-positiviteit) is werkelijk o-ve-ral
Als we the Economist, het Financieele Dagblad en allerlei tech-optimisten mogen geloven, is genAI dé messiaanse technologie: klimaatproblematiek wordt opgelost, de economie gaat groeien en, volgens musicus en tech-ondernemer Will.I.Am, gaat AI zelfs ongelijkheid oplossen. GenAI verhoogt arbeidsproductiviteit, we kunnen saai werk uitbesteden en ons concentreren op taken die leuk zijn. We moeten we er allemaal aan, want dit is dé toekomst voor iedereen. De positiviteit rondom AI groeit hand in hand met zijn alomtegenwoordigheid.
Dit debat verloopt vergelijkbaar als andere technologiedebatten. Nadat eerst Big Tech-ondernemers euforie roepen en gezaghebbende bladen en opiniemakers hun plasje hebben gedaan, staan nieuwbakken AI-consultants en andere ‘experts’ te springen om hun verhaal te doen. Vaak zijn dit deterministen: ‘’De technologie is er nu eenmaal, dus je moet maar gewoon mee.’’ Een Thatcheriaans there-is-no-alternative opvatting. Dat dit een invalide argument is, beschreven Rob van der Rijt en ik in het academische blad Real-world Economic Review, want dan zouden we alles wat bedrijven ontwikkelen maar moeten accepteren? Gelukkig zijn we niet zo naïef geweest met asbest, röntgenstraling, en de duizenden chemische stoffen die inmiddels zijn verboden in de EU, en hebben we er paal en perk aan gesteld.
Dit argument negeert daarnaast een veel belangrijkere vraag: wat is het doel van technologie en innovatie? Innovatie-onderzoeker Mario Pansera vraagt dit ook in zijn boek Post-growth innovations af en komt tot drie doelen: een probleem oplossen, welzijn bevorderen of het aanpakken van vormen van ongelijkheid en onrechtvaardigheid. Gaat genAI één van deze doelen bereiken?
Laten we de belofte van verhoogde arbeidsproductiviteit bekijken. Een andere groep technoverdedigers, de productivisme-optimisten, stelt dat we arbeidsproductiever worden en zo minder hoeven te werken, of saaie klussen kunnen uitbesteden aan het algoritme. Onderzoekers van Harvard hebben gekeken naar deze claim, en stellen ondubbelzinnig: AI Doesn’t Reduce Work, It Intensifies It. Mensen nemen meer taken op zich, doen werk waarvoor ze niet zijn getraind en werken vaker buiten werktijden. Het gevolg: cognitive fatigue, burnouts en lagere kwaliteit werk. Ander onderzoek bevestigt dit: e-mailtijd verdubbelt, chatgebruik stijgt met 145% en diepe focus op werk verminderde. Sommige onderzoekers zien zelfs een vorm van, wat zij noemen, Brain fry[1]. Werknemers ervaren grote vermoeidheid door te veel genAI gebruik omdat onze cognitieve capaciteit wordt overschreden. We werken meer en raken nóg vermoeider. Niet verstandig in een samenleving die al hypernerveus is.
Maar er is ook iets anders aan de hand. En om dat te duiden moeten we theorie lenen uit de ecologische economie. Deze toename van werk komt door een fenomeen dat we de Jevons Paradox noemen. Jevons, econoom, beschreef in 1865 dat efficiënter gebruik van middelen – wat een kostenbesparing oplevert – zal leiden tot een groter gebruik van dat middel, omdat het goedkoper wordt. Dit fenomeen zien we overal in onze economie: vliegen, koelen, verlichting, energiegebruik, en ook in de (digitale) diensten. De introductie van digitale tools om efficiënter te werken, heeft het tegenovergestelde effect: in plaats van de werklast te verminderen, wordt die juist meer. We zien dit ook bijvoorbeeld in gezondheidszorg. GenAI bevrijdt ons niet van taken, het frituurt ons brein, omdat de agenda te vol zit, te vol om te herstellen.
Ecologische realiteit
Er is nog een domein waar herstel cruciaal is. Onze leefomgeving. De productivisme-optimisten zijn ook op dit terrein zelfverzekerd. Zij stellen, dat genAI onze economie duurzamer gaat maken. Zakenbladen zoals Forbes en Bloomberg zien de toekomst zonnig tegemoet. Om dit beter te begrijpen moeten we ook hier een systemische bril uit de ecologische economie opzetten: het principe van sociaal metabolisme.
GenAI is niet alleen het appje op je telefoon of de chatbot in je browser, maar álle stromen van energie, grondstoffen en arbeid die verwerkt zitten in de totale supply chain. GenAI is niet alleen software, maar een infrastructuur. De laptops, smartphones waarop we genAI gebruiken draaien op computerchips die gefabriceerd worden via een extreem complex en wereldwijd verspreid productieproces. Daarbij komen honderden ketens samen waarin zeldzame metalen worden gewonnen, componenten worden geproduceerd en systemen worden geassembleerd. Op de achtergrond draaien gigantische datacenters in enorme, vaak anonieme gebouwen volgestouwd met servers in stalen racks. Die datacenters draaien niet ‘in de cloud’, maar op fysieke energie-, water- en arbeidssystemen. Uiteindelijk loopt die hele keten door tot in ons huis: door glasvezel- en koperen kabels onder de grond, via wifi-signalen tot aan het scherm in je hand. Het voelt als een lichtgewicht digitale interactie, maar is in werkelijkheid het eindpunt van een intensief wereldwijd metabolisch systeem.
Onderzoeker Ed Conway ziet geen cloud, hij ziet een groeiend netwerk van mijnbouw van kritische grondstoffen, logistiek, energie, arbeid en kapitaal. En dit systeem blijft groeien. Zo bouwen we in Nederland aan zeven megadatacentra; wereldwijd zien we eenzelfde ontwikkeling. Omdat deze datacenters enorm veel energie gebruiken, zal (een deel van) onze energietransitie worden opgeslokt om genAI te faciliteren.
Daarnaast is het jaarlijkse waterverbruik van genAI nu al even groot als de hoeveelheid die per jaar in flessen wordt verkocht. Big Tech-bedrijven, ooit voorlopers in emissiereductie, hebben stilletjes hun CO2 doelen op pauze gezet of zelfs stopgezet.
Ook deze technologie gaat leiden tot achteruitgang in onze leefomgeving, bijvoorbeeld het verlies van plant- en diersoorten die nooit meer terugkomen. Mijnbouwgroei is nu al één van de redenen waarom we grote stukken oerbos aan het slopen zijn. Een van de bekendste AI-onderzoekers ter wereld, Kate Crawford, is bang dat de groeiende AI-slop onze ‘toekomst opvreet’. Waar willen we energie en grondstoffen eigenlijk voor gebruiken: AI-troep of algemeen welzijn?
Neokolonialisme
Het metabolistische perspectief opent ook andere denkdeuren. Er is namelijk veel arbeid nodig om onze genAI systemen aan de praat te houden. Zo moet toch iemand content en context controleren en modereren. Medemensen in Oost-Afrika beoordelen expliciet gewelddadige, of erger, content, met als gevolg psychisch trauma. En dit gebeurt, weer, onderbetaald[2]. Onderzoekers in een snel groeiend onderzoeksveld noemen dit AI-kolonialisme; een onrechtvaardigheid waar mensen nauwelijks van op de hoogte zijn.
Ook op macroniveau versterkt genAI neokolonialisme. Zo reproduceren AI-modellen WEIRD (Western, educated, industrialized, rich and democratic) standpunten, zelfs als ze expliciet worden geïnstrueerd dat niet te doen. De werking van het sociaal metabolisme vergroot de druk op goedkope rare earth metals die tegen veel te lage kosten worden gemijnd, en waardoor neokoloniale relaties blijven bestaan en zelfs worden versterkt.
Kritisch denken
Kolonialisme vindt niet alleen in de fysieke wereld plaats, maar ook in onze meta-fysieke. In Huxley’s Brave new world krijgen baby’s elektrische shocks als ze een boek zien. Zo worden ze geconditioneerd om bang te zijn voor kennis.
GenAI is ons denken en onze autonomie aan het beïnvloeden met niet te negeren consequenties voor het hoger onderwijs. Als hoger onderwijs en onderzoeksinstelling zou je zeggen dat wij hiervan tot in detail van op de hoogte zijn, dat we genAI kritisch bekijken en niet naïef normaliseren of zelfs actief verkopen aan de jonge leiders van de toekomst. Want, wat zijn wij als onderwijsinstelling? Waar leiden we voor op? Onze net gepubliceerde Impact Agenda: talent voor transitie zet onder meer ‘toekomstbestendigheid’, ‘duurzaamheid’ en ‘rechtvaardigheid’ centraal. Als we dit serieus nemen, moeten we minimaal het bovenstaande ecologische en neokolonialistische perspectief verwerken in onze curricula. De Strategische Agenda stelt: ‘We ontwikkelen een kritische, onderzoekende houding bij studenten en docenten, die vraagstukken vanuit meerdere perspectieven benaderen’ (p.14). Top, een instelling die kritisch denken op een voetstuk plaatst. Maar hoe is de onderzoekende, kritische houding te vergoelijken met de argeloze explosie van genAI in onze curricula?
Want dat laatste is misschien wel de grootste crux van dit verhaal. We weten uit onderzoek van Massachusetts Institute of Technology dat studenten die regelmatig genAI inzetten, minder breinverbindingen aanmaken en dat het lees- en analytisch vermogen negatief beïnvloedt. Er is kritiek op dat onderzoek, zo is er bijvoorbeeld een zeer kleine onderzoekspopulatie gebruikt. Maar het is zeker niet het enige onderzoek dat verontrustende resultaten laat zien. Als AI-normalisatie in het onderwijs doorzet, kunnen studenten steeds minder zelf denken, zich authentiek uitdrukken en andere perspectieven zien.
De overtreffende trap van de gefrituurd brein hypothese is, cognitive surrender, breinovergave of AI-onderwerping, zoals onderzoekers in deze paper het noemen. Zij claimen dat er langzaam een derde manier van denken aan het ontstaan is naast Kahnemans systeem 1, snel en automatisch denken, en systeem 2, diep en bewust denken. Systeem 3: niet meer denken. Hoogleraar Erik Scherder concludeert dit ook in zijn boek Liever moe: ‘AI staat voor afnemende intelligentie. Heel simpel gezegd: generatieve AI leidt ertoe dat je je hersenen minder gaat gebruiken’.
Hoogleraar van Baalen stelt dat inspanning, twijfel en mentale herstructurering noodzakelijk zijn voor duurzame kennisopbouw. De momenten waarop studenten moeten worstelen met de stof zijn essentieel. ‘No pain, no gain.’ Roxanne van Iperen beschrijft skim reading: We lezen tekst vluchtig zonder het op te nemen. We raken het vermogen tot deepreading kwijt en daarmee het diep begrip van complexe ideeën. Studenten hebben wellicht een oppervlakkig antwoord op de vraag van een docent, maar ze zijn niet in staat die kennis ergens anders te gebruiken.
Zelfs techoptimisten van de blog MT/Sprout beginnen zich te roeren. Door genAI begin je namelijk steeds meer op je collega en medestudent te lijken. Hoe zit dat? Wat CHATGPT voor jou bedenkt, bedenkt hij voor iedereen. ‘Als elk denkpatroon uit een robot komt, wie ben jij dan nog?’, schrijft Laura Borghols in een artikel in Trouw. Van Iperen pakt het nog een stapje verder. Zij vergelijkt de mens met een fruitvlieg die instinctief van vrucht naar vrucht hopt. Als we niet meer hoeven te denken, wat is de mens dan nog?
Pedagogische taak
Daarnaast hebben we als instelling ook een pedagogische rol. Jonge mensen groeien op in onze klas, naar een hopelijk nieuwsgierige en geïnformeerde burger. Een duidelijke doelstelling van de RBS betekeniseconomie, gebouwd op de basis van Gert Biesta. Ook hier moeten we alert zijn. Veel genAI gebruik kan leiden tot emotionele groei-achterstand, door een consequentie die wordt aangeduid als social offloading. Het uitbesteden van ongemak en onzekerheid aan een chatbot, die wél weet hoe je moet reageren, als je ruzie hebt met je vriendin, collega, of medestudent. Dit kan gevoelens van eenzaamheid en isolatie versterken en zal ‘veerkracht’ zeker niet doen toenemen. Het naar de mond praten, ‘Wat een goede vraag Felix, zo had ik het zelf nog niet bekeken’, door AI-chatbots kan leiden tot psychoses, overmatige zelfbevestiging en een afname aan cognitieve flexibiliteit.
Dat we de deterministen (’het is nu eenmaal zo’) pedagogisch niet serieus moeten nemen verwoordt Ilyaz Nasrullah goed in Trouw: ‘Vervang de term “AI gebruiken” door “sigaretten roken” en het wordt direct duidelijk hoe onzinnig het argument …. is: “Scholieren roken toch wel sigaretten, het is daarom beter om ze te leren die op de juiste manier te roken.” Dat jongeren “toch wel” AI gebruiken, betekent natuurlijk niet dat dat ook goed voor hun ontwikkeling is.’
Als je sinds je middelbare school al je denkwerk hebt uitbesteed aan een genAI en op de hogeschool ook, dan verlies je het vermogen om kritisch te kunnen denken, je probleemoplossend vermogen en databegrip. Dan zullen doelen uit de strategische agenda onder druk komen te staan. ‘Veerkracht’, één van de doelen uit de agenda is namelijk verbonden met autonomie door agency. Het gevoel hebben dat je de wereld begrijpt en invloed kan hebben.
Macroschaal kennisvorming
Want een minimaal begrip van de wereld is belangrijk in de interpetatie van diezelfde wereld. Nobelprijswinnaar Daron Acemoglu theoretiseert en berekent dat genAI-gebruik op macro-schaal een bizar sneeuwbaleffect kan veroorzaken: een knowledge collapse. Als individuen meer op AI vertrouwen, dan is er een kans dat het leerprikkels, experimentatie en cognitieve kwaliteiten beïnvloedt. Omdat kennisvorming vaak een bijproduct is van deep learning en het experimentele leerproces, kunnen we die kennis inzetten om problemen op te lossen. Door genAI zijn we steeds minder aan het experimenteren, en komt er geen kennis meer bij als bijproduct én snappen we het probleem steeds minder, waardoor we eerder geneigd zijn om genAI weer in te zetten om het te begrijpen. Met als gevolg….Een positieve feedback loop uit de system sciences.
Dat kan leiden tot een knowledge collapse, waar we uiteindelijk de simpelste processen niet meer begrijpen, omdat we die uitbesteed hebben. Filosoof Lisanne Bainbridge noemt dit de ironie van automatisering. Hoe beter een technologie menselijke taken overneemt, hoe minder goed we de basis van technologie begrijpen en minder goed problemen kunnen oplossen. Als het dan misgaat, gaat het ook goed mis. Siri Berends en Lisa Doeland beschrijven dit in de Groene Amsterdammer: ‘Doordat ik de makkelijke delen van het werk niet meer beoefende, werd ik ook minder goed in de lastigere delen van het werk’. En misschien gaat Lisa nog een stapje verder. Deze filosoof vreest ook doordat we steeds minder zelf iets maken, we ook vertrouwen verliezen in onszelf.
Plagiaat
In Nederland wordt AI in het onderwijs onkritisch genormaliseerd en ingevoerd. Dit is de titel van een open brief van 1700 wetenschappers en bezorgde burgers aan universiteiten en hogescholen. Ook zie ik dit – met enkele uitzonderingen – op onze hogeschool. AI-trainingen worden aangeboden aan medewerkers zonder dat het genoeg kritisch wordt ingelijst. Ook aan de andere kant van de plas zie je dezelfde normalisering en daaropvolgende reacties: universiteiten adopteren de technologie onkritisch en weinig transparant.
De normalisering van AI in onderwijsinstellingen leidt tot een curieuze paradox. De heilige graal van onderwijs, plagiaat, wordt langzaam onze achilleshiel. Want genAI is de grootste plagiaatmachine die de mens ooit heeft verzonnen. Vrijwel alle genAI apps worden getraind door het plunderen van archieven, teksten en afbeeldingen, gemaakt door artiesten, tekenaars, ontwerpers, fotografen, schrijvers en onderzoekers, zonder toestemming, zonder verwijzing en zonder compensatie. Dat is geen innovatie, maar extractie.
Wie profiteert?
AI is de toekomst dus. Als een technologie ons leven diep gaat beheersen dan is het cruciaal te analyseren wie er baat bij heeft. In de betekeniseconomie duiden we dit met de term cui bono geleend van onderzoeker/schrijver Sjors Roeters. Want in de kern is dit ook een politiek-economisch vraagstuk.
De bekendste econoom van de 20e eeuw, John Maynard Keynes, voorspelde in de jaren 1930 dat door arbeidsproductiviteitsverhoging mensen in de 21e eeuw nog maar 14 uur per week zouden werken. Dit is niet gebeurd, onder andere omdat we de baten van ons economische proces niet ten behoeve van de arbeiders- en middenklasse zijn gaan inzetten, maar ten behoeve van een kleine bovenlaag Zeker in de laatste veertig jaar hebben we de neoliberalistische ideologie in Nederland stevig omarmd. Gaat AI Keynesiaans functioneren, of zal zoals Huxley voorspelt de ongelijkheid nóg verder doen toenemen?
Relax, zegt de derde groep AI-verdedigers, de naïeve productivisten, er komen banen bij, net als toen de auto op de markt kwam, of de pc. Het lijkt mij echter naïef om de stortvloed aan rapporten te negeren die stellen dat AI de middenklasse gaat slopen, zoals dit rapport, of dit, of dit. We zien al dat bedrijven mensen ontslaan omdat genAI goedkoper is en er zijn vooral zorgen over kantoorbanen op bachelor afstudeerniveau.
Werk kan ook minder betekenisvol worden. Mijn buurman, een programmeur, vertelde me dat de magie van zijn werk is verdwenen. De creatieve taken heeft genAI overgenomen en hij controleert alleen nog maar. Tekstschrijvers, communicatiemedewerkers, ontwerpers en filmmakers geven hetzelfde aan.
De genAI levert inmiddels ook echte foute ‘innovaties’. Met Meta glasses en Grok kun je van iedereen een foto nemen, uitkleden en alles mee doen zonder toestemming. Barbie gaat bijna haar genAI doll lanceren. In plaats van buiten te spelen gaan kinderen spelen met poppen waar de beste vriend een statistisch algoritme wordt in een plastic omhulsel met een te kleine taille. De next frontier in oorlogsvoering is natuurlijk ook genAI,
De Big Tech-ondernemers zien AI natuurlijk als onvermijdelijk en nodig. Onderzoeker Daniel Mügge van de UvA draait er in zijn net gepubliceerde boek de AI matrix niet omheen. Het is een misvatting dat technologie een neutrale tool is die mensen op een ‘goede’ of ‘verkeerde’ manier kunnen gebruiken. Dit schrijft ook Thomas Dekeyser in het boek Techno-negative. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving.
Ideologie
Mügge ziet bij de vormgevers van genAI een ideologie met vier hoofdingrediënten: onkritisch techno-solutionisme waar sociale problemen kunnen worden opgelost met een app, morele superioriteit (tech-ondernemers weten wat goed is voor iedereen), een diep wantrouwen van overheidsactiviteiten en tot slot een anti-mens mindset waar geld verdienen menselijk lijden kan legitimeren.
Sommige Big Tech-ondernemers zoals Peter Thiel vinden de democratie een achterhaald concept. Dekeyser vraagt zich daarom af: in een wereld waar Big Tech steeds meer verweven is met autoritarisme, moeten we ons de vraag stellen, waar leidt technologie eigenlijk toe? En dan komen we weer terug bij de onderzoeker Mario Pansera. Hij stelt dat technologie een middel kan zijn om macht en middelen te concentreren bij een kleine groep.
We accepteren deze technologie geluidloos, maar beseffen we dat het ons economisch afhankelijk gaat maken van een kleine groep mensen aan de andere kant van de plas? Piketty liet in 2014 al zien dat ongelijkheid het belangrijkste probleem van onze tijd is. Deze ontwikkeling zal dit alleen maar versterken. Want we gaan afhankelijk worden van diegene die deze technologie bezit. En afhankelijkheid is de vijand van autonomie, de onafhankelijkheid om ons leven vorm te geven.
Zou onderwijs niet een krachtig tegengeluid moeten laten horen, zoals Paulo Freire al beschreef in zijn Pedogagie van de onderdrukten? Ook onderwijs is nooit neutraal. Het is een instrument om macht in stand te houden of om mensen te bevrijden.
Oplossingen
Het eerder genoemde Harvard-onderzoek stelt dat we minimaal moeten inzetten op minder genAI, meer pauzes en actiever met mensen connectie maken. Bizar dat dat we dat op papier moeten gaan zetten. Connectie maken is wat ons mens maakt.
Daarnaast kunnen we in mijn optiek minimaal transparanter en completer gaan communiceren richting onze collega’s en studenten over de complicaties van genAI. Misschien kunnen we een genAI disclaimer toevoegen aan onderwijsactiviteiten, of aan de edu-genAI versie die we wellicht als hogeschool gaan gebruiken?
Leidende instituten maken een pedagische en didactische draai. Ze worden weer old school. Print, minimaal laptopgebruik en directe instructie met docenten. Kinderen van tech-ondernemers gaan naar deze scholen. Als we niet opletten wordt denken voor een heel klein groepje mensen, aldus Lubach over het onderwerp. Zit de échte toegevoegde waarde van het onderwijs niet in jonge mensen leren denken? En is dit niet een betere manier om ons als instituut te onderscheiden?
En sure, sommige onderzoekers zien dit anders. Ik zie ook wel dat in de gezondheidszorg genAI echt waarde kan toevoegen. Maar dan moet dit wel gericht gebeuren, binnen duidelijk kaders. Toen de röntgenstraling in 1895 werd ontdekt, richtte men het werkelijk op alles. Totdat het gevaar duidelijk werd. Nu gebruiken we het alleen voor toepassingen die er toe doen en met mate. Zitten we nu op het equivalent van 1885, we richten AI maar op alles, en negeren de nadelen?
Conclusie
Innovatie moet uiteindelijk met Huxley’s woorden, in dienst van de samenleving staan en niet alleen in dienst van de zakken van een paar ondernemers. Dat schrijven Rob en ik ook in Real-World Economist Review. Wij hebben vier pilaren omschreven waar algemene innovatie aan zou moeten voldoen:
1 – Het moet passen binnen planetaire grenzen.
2 – Het moet welzijnsverhogend zijn.
3 – Het moet rechtvaardigheid versterken.
4 – Het moet bijdragen aan de kwaliteit van de democratie.Als genAI hieraan gaat bijdragen dan wil ik mee. Maar laat me eerst bewijs zien, voordat we dit in alle lagen gaan normaliseren. En dan blijft nog steeds: ik vind zelf denken zo leuk!
Het is geen defaitistisch, deterministisch gegeven. Wij hebben invloed op deze technologie. Als maatschappij, als onderzoeks- en onderwijsinstelling, en als individu. We kunnen beslissen dat we mens zijn en onderdeel van de samenleving. En dan moeten we ons veel vaker de vraag stellen: wat is het doel van technologie en innovatie? En gaat het ons leven verbeteren? Hopelijk kunnen we de lessen van Huxley gebruiken om genAI te weerstaan en ons simpele mensbrein te beschermen tegen naïef techno-optimisme, kritisch denkvermogenverlies en autonomie-inperking.
Als iedereen vol gaat op AI, moeten wij, de HR, dan niet het tegenovergestelde doen? Op deze hogeschool kun je wel écht leren, een eigen stem ontwikkelen, kritisch nadenken en betekenisvol ondernemen voor een betere toekomst. Gaan we, zoals Bas Heijne stelt in de heruitgave van Huxley, onze onderwerping hartstochtelijk omarmen? Of gaan we kritisch inkaderen hoe ons onderwijs eruit moet zien? Een speciale HR-taskforce zou dit eerst moeten gaan onderzoeken.
Bedankt voor het lezen.
Felix van Hoften, onderzoeker-docent HRO en Universiteit van Amsterdam
Naschrift
Dit waarschuwingsdocument is niet hyperbolisch. Het is een verzameling van bekende kennis. Daarnaast is het old school. Onderzocht, opgeschreven en geredigeerd door een mens (met een hart). Meer info? Check Against AI, Pause AI en The Algorithmic Justice Lead
-
Ingezonden: We moeten AI pauzeren en niet normaliseren op de Hogeschool Rotterdam
In dit essay of ‘academische blog’ beargumenteert docent en onderzoeker Felix van Hoften (RBS) dat AI schadelijk is voor de planeet, de samenleving en het onderwijs. Hij is kritisch op de deterministische houding over AI – ‘het is er nu eenmaal, we kunnen er niet omheen’- binnen de Hogeschool Rotterdam. Hij pleit ervoor een stap terug te doen en eerst kritisch na te denken hoe we genAI willen inzetten.
Dit stuk in een minuut
Felix van Hoften (RBS) roept in zijn essay de Hogeschool Rotterdam op om kritischer te kijken naar generatieve kunstmatige intelligentie (genAI). Hij beargumenteert dat door een groot aantal nadelen van genAI uiteen te zetten.
Hij haalt Aldous Huxley aan, de schrijver van Brave New World. Huxley voorspelde in zijn boek uit 1932 hoe technologie kan leiden tot verslaving, verlies van kritisch denkvermogen en afhankelijkheid van een kleine elite. Van Hoften ziet deze ontwikkeling terug in de manier waarop genAI wordt omarmd: deterministisch en weinig terughoudend, ‘het kan niet anders’.
GenAI wordt vaak gepresenteerd als een oplossing voor grote problemen (zoals klimaatverandering, economische groei en ongelijkheid); Van Hoften plaatst hier kanttekeningen bij en wijst bijvoorbeeld op onderzoek dat aantoont dat AI werk juist intensiveert en mensen geestelijk uitput.
Van Hoften gaat ook kritisch in op de ecologische impact van genAI, met de bijbehorende datacenters, energieverbruik, watergebruik en grondstoffenwinning. Deze groei legt extra druk op het milieu en kan de energietransitie ondermijnen.
GenAI levert daarnaast onderbetaalde arbeid op zoals content-moderatie in lage-inkomenslanden die neokoloniale verhoudingen versterkt.
De winst van AI komt ondertussen vooral terecht grote techbedrijven, wat ongelijkheid kan vergroten en afhankelijkheid versterkt. Daarbij is de ideologie van een aantal techbazen verontrustend, bijvoorbeeld antidemocratisch.Van Hoften betoogt dat genAI schadelijk kan zijn voor kritisch denken en daarmee voor het onderwijs. Onderzoek suggereert dat intensief gebruik van genAI leidt tot minder cognitieve ontwikkeling, oppervlakkig leren en uiteindelijk afhankelijkheid van technologie. Studenten verliezen mogelijk het vermogen om zelfstandig te denken, diep te lezen en complexe problemen te begrijpen. De gezamenlijke kennisbasis neemt af, en het vermogen problemen op te lossen dreigt af te nemen.
Dit staat haaks op de kerntaken van onderwijsinstellingen, zoals het bevorderen van kritisch denken, autonomie en burgerschap. Het staat ook haaks op de visie van de Hogeschool Rotterdam die naar eigen zeggen een kritische, onderzoekende houding bij studenten en docenten wil stimuleren.De auteur pleit om genAI op de HR kritisch te benaderen en niet vanuit de visie: ‘het is er nu eenmaal’. Van Hoften betoogt dat innovatie in dienst moet staan van samenleving, moet passen binnen planetaire grenzen en aandacht moet hebben voor welzijn, rechtvaardigheid en democratie. Zolang genAI daar niet aantoonbaar aan bijdraagt, moet de samenleving, en zeker het onderwijs, terughoudend en kritisch blijven.
In 1932 publiceerde Aldous Huxley zijn befaamde boek A brave new world. Deze dystopische toekomstroman beschrijft hoe het denkvermogen van mensen is platgelegd door de volledige omarming van en verslaving aan technologie. Huxley’s werk wordt de laatste tijd vaker aangehaald om onze tijd te duiden. Zo weeft Paul Schenderling in zijn nieuwe boek Continent van de kwaliteit zijn werk als leidraad voor een nieuw economisch paradigma. Ander werk van Huxley, De Tijd van oligarchen, heeft ook weer aandacht gekregen. Sterker nog, het is opnieuw uitgebracht door meesterverteller Bas Heijne.
Dit is geen toeval. De combinatie van deze twee profetische werken zijn een spiegel voor onze tijd. Huxley voorzag (90 jaar geleden!) de combinatie van entertainment, desinformatie, verslaving en het verlies van kritisch denkvermogen, met als gevolg een afhankelijkheid van een kleine groep ‘ondernemers’, als voorbode van het eroderen van het autonome en goede leven.
Is de laatste telg van de technofamilie: generatieve kunstmatige intelligentie, kortweg genAI, de samenloop van innovatie die Huxley voorzag? Dit essay bekijkt, door de lens van Huxley, hoe genAI onze wereld gaat beïnvloeden en specifieker ons onderwijs. Want is er een wereld mogelijk, waarin kritisch denken, autonomie, welzijn, verantwoordelijkheid en rechtvaardigheid bestaat én waarin AI is doorgedrongen tot elk haarvat van onze samenleving? Ik betwijfel het.
GenAI(-positiviteit) is werkelijk o-ve-ral
Als we the Economist, het Financieele Dagblad en allerlei tech-optimisten mogen geloven, is genAI dé messiaanse technologie: klimaatproblematiek wordt opgelost, de economie gaat groeien en, volgens musicus en tech-ondernemer Will.I.Am, gaat AI zelfs ongelijkheid oplossen. GenAI verhoogt arbeidsproductiviteit, we kunnen saai werk uitbesteden en ons concentreren op taken die leuk zijn. We moeten we er allemaal aan, want dit is dé toekomst voor iedereen. De positiviteit rondom AI groeit hand in hand met zijn alomtegenwoordigheid.
Dit debat verloopt vergelijkbaar als andere technologiedebatten. Nadat eerst Big Tech-ondernemers euforie roepen en gezaghebbende bladen en opiniemakers hun plasje hebben gedaan, staan nieuwbakken AI-consultants en andere ‘experts’ te springen om hun verhaal te doen. Vaak zijn dit deterministen: ‘’De technologie is er nu eenmaal, dus je moet maar gewoon mee.’’ Een Thatcheriaans there-is-no-alternative opvatting. Dat dit een invalide argument is, beschreven Rob van der Rijt en ik in het academische blad Real-world Economic Review, want dan zouden we alles wat bedrijven ontwikkelen maar moeten accepteren? Gelukkig zijn we niet zo naïef geweest met asbest, röntgenstraling, en de duizenden chemische stoffen die inmiddels zijn verboden in de EU, en hebben we er paal en perk aan gesteld.
Dit argument negeert daarnaast een veel belangrijkere vraag: wat is het doel van technologie en innovatie? Innovatie-onderzoeker Mario Pansera vraagt dit ook in zijn boek Post-growth innovations af en komt tot drie doelen: een probleem oplossen, welzijn bevorderen of het aanpakken van vormen van ongelijkheid en onrechtvaardigheid. Gaat genAI één van deze doelen bereiken?
Laten we de belofte van verhoogde arbeidsproductiviteit bekijken. Een andere groep technoverdedigers, de productivisme-optimisten, stelt dat we arbeidsproductiever worden en zo minder hoeven te werken, of saaie klussen kunnen uitbesteden aan het algoritme. Onderzoekers van Harvard hebben gekeken naar deze claim, en stellen ondubbelzinnig: AI Doesn’t Reduce Work, It Intensifies It. Mensen nemen meer taken op zich, doen werk waarvoor ze niet zijn getraind en werken vaker buiten werktijden. Het gevolg: cognitive fatigue, burnouts en lagere kwaliteit werk. Ander onderzoek bevestigt dit: e-mailtijd verdubbelt, chatgebruik stijgt met 145% en diepe focus op werk verminderde. Sommige onderzoekers zien zelfs een vorm van, wat zij noemen, Brain fry[1]. Werknemers ervaren grote vermoeidheid door te veel genAI gebruik omdat onze cognitieve capaciteit wordt overschreden. We werken meer en raken nóg vermoeider. Niet verstandig in een samenleving die al hypernerveus is.
Maar er is ook iets anders aan de hand. En om dat te duiden moeten we theorie lenen uit de ecologische economie. Deze toename van werk komt door een fenomeen dat we de Jevons Paradox noemen. Jevons, econoom, beschreef in 1865 dat efficiënter gebruik van middelen – wat een kostenbesparing oplevert – zal leiden tot een groter gebruik van dat middel, omdat het goedkoper wordt. Dit fenomeen zien we overal in onze economie: vliegen, koelen, verlichting, energiegebruik, en ook in de (digitale) diensten. De introductie van digitale tools om efficiënter te werken, heeft het tegenovergestelde effect: in plaats van de werklast te verminderen, wordt die juist meer. We zien dit ook bijvoorbeeld in gezondheidszorg. GenAI bevrijdt ons niet van taken, het frituurt ons brein, omdat de agenda te vol zit, te vol om te herstellen.
Ecologische realiteit
Er is nog een domein waar herstel cruciaal is. Onze leefomgeving. De productivisme-optimisten zijn ook op dit terrein zelfverzekerd. Zij stellen, dat genAI onze economie duurzamer gaat maken. Zakenbladen zoals Forbes en Bloomberg zien de toekomst zonnig tegemoet. Om dit beter te begrijpen moeten we ook hier een systemische bril uit de ecologische economie opzetten: het principe van sociaal metabolisme.
GenAI is niet alleen het appje op je telefoon of de chatbot in je browser, maar álle stromen van energie, grondstoffen en arbeid die verwerkt zitten in de totale supply chain. GenAI is niet alleen software, maar een infrastructuur. De laptops, smartphones waarop we genAI gebruiken draaien op computerchips die gefabriceerd worden via een extreem complex en wereldwijd verspreid productieproces. Daarbij komen honderden ketens samen waarin zeldzame metalen worden gewonnen, componenten worden geproduceerd en systemen worden geassembleerd. Op de achtergrond draaien gigantische datacenters in enorme, vaak anonieme gebouwen volgestouwd met servers in stalen racks. Die datacenters draaien niet ‘in de cloud’, maar op fysieke energie-, water- en arbeidssystemen. Uiteindelijk loopt die hele keten door tot in ons huis: door glasvezel- en koperen kabels onder de grond, via wifi-signalen tot aan het scherm in je hand. Het voelt als een lichtgewicht digitale interactie, maar is in werkelijkheid het eindpunt van een intensief wereldwijd metabolisch systeem.
Onderzoeker Ed Conway ziet geen cloud, hij ziet een groeiend netwerk van mijnbouw van kritische grondstoffen, logistiek, energie, arbeid en kapitaal. En dit systeem blijft groeien. Zo bouwen we in Nederland aan zeven megadatacentra; wereldwijd zien we eenzelfde ontwikkeling. Omdat deze datacenters enorm veel energie gebruiken, zal (een deel van) onze energietransitie worden opgeslokt om genAI te faciliteren.
Daarnaast is het jaarlijkse waterverbruik van genAI nu al even groot als de hoeveelheid die per jaar in flessen wordt verkocht. Big Tech-bedrijven, ooit voorlopers in emissiereductie, hebben stilletjes hun CO2 doelen op pauze gezet of zelfs stopgezet.
Ook deze technologie gaat leiden tot achteruitgang in onze leefomgeving, bijvoorbeeld het verlies van plant- en diersoorten die nooit meer terugkomen. Mijnbouwgroei is nu al één van de redenen waarom we grote stukken oerbos aan het slopen zijn. Een van de bekendste AI-onderzoekers ter wereld, Kate Crawford, is bang dat de groeiende AI-slop onze ‘toekomst opvreet’. Waar willen we energie en grondstoffen eigenlijk voor gebruiken: AI-troep of algemeen welzijn?
Neokolonialisme
Het metabolistische perspectief opent ook andere denkdeuren. Er is namelijk veel arbeid nodig om onze genAI systemen aan de praat te houden. Zo moet toch iemand content en context controleren en modereren. Medemensen in Oost-Afrika beoordelen expliciet gewelddadige, of erger, content, met als gevolg psychisch trauma. En dit gebeurt, weer, onderbetaald[2]. Onderzoekers in een snel groeiend onderzoeksveld noemen dit AI-kolonialisme; een onrechtvaardigheid waar mensen nauwelijks van op de hoogte zijn.
Ook op macroniveau versterkt genAI neokolonialisme. Zo reproduceren AI-modellen WEIRD (Western, educated, industrialized, rich and democratic) standpunten, zelfs als ze expliciet worden geïnstrueerd dat niet te doen. De werking van het sociaal metabolisme vergroot de druk op goedkope rare earth metals die tegen veel te lage kosten worden gemijnd, en waardoor neokoloniale relaties blijven bestaan en zelfs worden versterkt.
Kritisch denken
Kolonialisme vindt niet alleen in de fysieke wereld plaats, maar ook in onze meta-fysieke. In Huxley’s Brave new world krijgen baby’s elektrische shocks als ze een boek zien. Zo worden ze geconditioneerd om bang te zijn voor kennis.
GenAI is ons denken en onze autonomie aan het beïnvloeden met niet te negeren consequenties voor het hoger onderwijs. Als hoger onderwijs en onderzoeksinstelling zou je zeggen dat wij hiervan tot in detail van op de hoogte zijn, dat we genAI kritisch bekijken en niet naïef normaliseren of zelfs actief verkopen aan de jonge leiders van de toekomst. Want, wat zijn wij als onderwijsinstelling? Waar leiden we voor op? Onze net gepubliceerde Impact Agenda: talent voor transitie zet onder meer ‘toekomstbestendigheid’, ‘duurzaamheid’ en ‘rechtvaardigheid’ centraal. Als we dit serieus nemen, moeten we minimaal het bovenstaande ecologische en neokolonialistische perspectief verwerken in onze curricula. De Strategische Agenda stelt: ‘We ontwikkelen een kritische, onderzoekende houding bij studenten en docenten, die vraagstukken vanuit meerdere perspectieven benaderen’ (p.14). Top, een instelling die kritisch denken op een voetstuk plaatst. Maar hoe is de onderzoekende, kritische houding te vergoelijken met de argeloze explosie van genAI in onze curricula?
Want dat laatste is misschien wel de grootste crux van dit verhaal. We weten uit onderzoek van Massachusetts Institute of Technology dat studenten die regelmatig genAI inzetten, minder breinverbindingen aanmaken en dat het lees- en analytisch vermogen negatief beïnvloedt. Er is kritiek op dat onderzoek, zo is er bijvoorbeeld een zeer kleine onderzoekspopulatie gebruikt. Maar het is zeker niet het enige onderzoek dat verontrustende resultaten laat zien. Als AI-normalisatie in het onderwijs doorzet, kunnen studenten steeds minder zelf denken, zich authentiek uitdrukken en andere perspectieven zien.
De overtreffende trap van de gefrituurd brein hypothese is, cognitive surrender, breinovergave of AI-onderwerping, zoals onderzoekers in deze paper het noemen. Zij claimen dat er langzaam een derde manier van denken aan het ontstaan is naast Kahnemans systeem 1, snel en automatisch denken, en systeem 2, diep en bewust denken. Systeem 3: niet meer denken. Hoogleraar Erik Scherder concludeert dit ook in zijn boek Liever moe: ‘AI staat voor afnemende intelligentie. Heel simpel gezegd: generatieve AI leidt ertoe dat je je hersenen minder gaat gebruiken’.
Hoogleraar van Baalen stelt dat inspanning, twijfel en mentale herstructurering noodzakelijk zijn voor duurzame kennisopbouw. De momenten waarop studenten moeten worstelen met de stof zijn essentieel. ‘No pain, no gain.’ Roxanne van Iperen beschrijft skim reading: We lezen tekst vluchtig zonder het op te nemen. We raken het vermogen tot deepreading kwijt en daarmee het diep begrip van complexe ideeën. Studenten hebben wellicht een oppervlakkig antwoord op de vraag van een docent, maar ze zijn niet in staat die kennis ergens anders te gebruiken.
Zelfs techoptimisten van de blog MT/Sprout beginnen zich te roeren. Door genAI begin je namelijk steeds meer op je collega en medestudent te lijken. Hoe zit dat? Wat CHATGPT voor jou bedenkt, bedenkt hij voor iedereen. ‘Als elk denkpatroon uit een robot komt, wie ben jij dan nog?’, schrijft Laura Borghols in een artikel in Trouw. Van Iperen pakt het nog een stapje verder. Zij vergelijkt de mens met een fruitvlieg die instinctief van vrucht naar vrucht hopt. Als we niet meer hoeven te denken, wat is de mens dan nog?
Pedagogische taak
Daarnaast hebben we als instelling ook een pedagogische rol. Jonge mensen groeien op in onze klas, naar een hopelijk nieuwsgierige en geïnformeerde burger. Een duidelijke doelstelling van de RBS betekeniseconomie, gebouwd op de basis van Gert Biesta. Ook hier moeten we alert zijn. Veel genAI gebruik kan leiden tot emotionele groei-achterstand, door een consequentie die wordt aangeduid als social offloading. Het uitbesteden van ongemak en onzekerheid aan een chatbot, die wél weet hoe je moet reageren, als je ruzie hebt met je vriendin, collega, of medestudent. Dit kan gevoelens van eenzaamheid en isolatie versterken en zal ‘veerkracht’ zeker niet doen toenemen. Het naar de mond praten, ‘Wat een goede vraag Felix, zo had ik het zelf nog niet bekeken’, door AI-chatbots kan leiden tot psychoses, overmatige zelfbevestiging en een afname aan cognitieve flexibiliteit.
Dat we de deterministen (’het is nu eenmaal zo’) pedagogisch niet serieus moeten nemen verwoordt Ilyaz Nasrullah goed in Trouw: ‘Vervang de term “AI gebruiken” door “sigaretten roken” en het wordt direct duidelijk hoe onzinnig het argument …. is: “Scholieren roken toch wel sigaretten, het is daarom beter om ze te leren die op de juiste manier te roken.” Dat jongeren “toch wel” AI gebruiken, betekent natuurlijk niet dat dat ook goed voor hun ontwikkeling is.’
Als je sinds je middelbare school al je denkwerk hebt uitbesteed aan een genAI en op de hogeschool ook, dan verlies je het vermogen om kritisch te kunnen denken, je probleemoplossend vermogen en databegrip. Dan zullen doelen uit de strategische agenda onder druk komen te staan. ‘Veerkracht’, één van de doelen uit de agenda is namelijk verbonden met autonomie door agency. Het gevoel hebben dat je de wereld begrijpt en invloed kan hebben.
Macroschaal kennisvorming
Want een minimaal begrip van de wereld is belangrijk in de interpetatie van diezelfde wereld. Nobelprijswinnaar Daron Acemoglu theoretiseert en berekent dat genAI-gebruik op macro-schaal een bizar sneeuwbaleffect kan veroorzaken: een knowledge collapse. Als individuen meer op AI vertrouwen, dan is er een kans dat het leerprikkels, experimentatie en cognitieve kwaliteiten beïnvloedt. Omdat kennisvorming vaak een bijproduct is van deep learning en het experimentele leerproces, kunnen we die kennis inzetten om problemen op te lossen. Door genAI zijn we steeds minder aan het experimenteren, en komt er geen kennis meer bij als bijproduct én snappen we het probleem steeds minder, waardoor we eerder geneigd zijn om genAI weer in te zetten om het te begrijpen. Met als gevolg….Een positieve feedback loop uit de system sciences.
Dat kan leiden tot een knowledge collapse, waar we uiteindelijk de simpelste processen niet meer begrijpen, omdat we die uitbesteed hebben. Filosoof Lisanne Bainbridge noemt dit de ironie van automatisering. Hoe beter een technologie menselijke taken overneemt, hoe minder goed we de basis van technologie begrijpen en minder goed problemen kunnen oplossen. Als het dan misgaat, gaat het ook goed mis. Siri Berends en Lisa Doeland beschrijven dit in de Groene Amsterdammer: ‘Doordat ik de makkelijke delen van het werk niet meer beoefende, werd ik ook minder goed in de lastigere delen van het werk’. En misschien gaat Lisa nog een stapje verder. Deze filosoof vreest ook doordat we steeds minder zelf iets maken, we ook vertrouwen verliezen in onszelf.
Plagiaat
In Nederland wordt AI in het onderwijs onkritisch genormaliseerd en ingevoerd. Dit is de titel van een open brief van 1700 wetenschappers en bezorgde burgers aan universiteiten en hogescholen. Ook zie ik dit – met enkele uitzonderingen – op onze hogeschool. AI-trainingen worden aangeboden aan medewerkers zonder dat het genoeg kritisch wordt ingelijst. Ook aan de andere kant van de plas zie je dezelfde normalisering en daaropvolgende reacties: universiteiten adopteren de technologie onkritisch en weinig transparant.
De normalisering van AI in onderwijsinstellingen leidt tot een curieuze paradox. De heilige graal van onderwijs, plagiaat, wordt langzaam onze achilleshiel. Want genAI is de grootste plagiaatmachine die de mens ooit heeft verzonnen. Vrijwel alle genAI apps worden getraind door het plunderen van archieven, teksten en afbeeldingen, gemaakt door artiesten, tekenaars, ontwerpers, fotografen, schrijvers en onderzoekers, zonder toestemming, zonder verwijzing en zonder compensatie. Dat is geen innovatie, maar extractie.
Wie profiteert?
AI is de toekomst dus. Als een technologie ons leven diep gaat beheersen dan is het cruciaal te analyseren wie er baat bij heeft. In de betekeniseconomie duiden we dit met de term cui bono geleend van onderzoeker/schrijver Sjors Roeters. Want in de kern is dit ook een politiek-economisch vraagstuk.
De bekendste econoom van de 20e eeuw, John Maynard Keynes, voorspelde in de jaren 1930 dat door arbeidsproductiviteitsverhoging mensen in de 21e eeuw nog maar 14 uur per week zouden werken. Dit is niet gebeurd, onder andere omdat we de baten van ons economische proces niet ten behoeve van de arbeiders- en middenklasse zijn gaan inzetten, maar ten behoeve van een kleine bovenlaag Zeker in de laatste veertig jaar hebben we de neoliberalistische ideologie in Nederland stevig omarmd. Gaat AI Keynesiaans functioneren, of zal zoals Huxley voorspelt de ongelijkheid nóg verder doen toenemen?
Relax, zegt de derde groep AI-verdedigers, de naïeve productivisten, er komen banen bij, net als toen de auto op de markt kwam, of de pc. Het lijkt mij echter naïef om de stortvloed aan rapporten te negeren die stellen dat AI de middenklasse gaat slopen, zoals dit rapport, of dit, of dit. We zien al dat bedrijven mensen ontslaan omdat genAI goedkoper is en er zijn vooral zorgen over kantoorbanen op bachelor afstudeerniveau.
Werk kan ook minder betekenisvol worden. Mijn buurman, een programmeur, vertelde me dat de magie van zijn werk is verdwenen. De creatieve taken heeft genAI overgenomen en hij controleert alleen nog maar. Tekstschrijvers, communicatiemedewerkers, ontwerpers en filmmakers geven hetzelfde aan.
De genAI levert inmiddels ook echte foute ‘innovaties’. Met Meta glasses en Grok kun je van iedereen een foto nemen, uitkleden en alles mee doen zonder toestemming. Barbie gaat bijna haar genAI doll lanceren. In plaats van buiten te spelen gaan kinderen spelen met poppen waar de beste vriend een statistisch algoritme wordt in een plastic omhulsel met een te kleine taille. De next frontier in oorlogsvoering is natuurlijk ook genAI,
De Big Tech-ondernemers zien AI natuurlijk als onvermijdelijk en nodig. Onderzoeker Daniel Mügge van de UvA draait er in zijn net gepubliceerde boek de AI matrix niet omheen. Het is een misvatting dat technologie een neutrale tool is die mensen op een ‘goede’ of ‘verkeerde’ manier kunnen gebruiken. Dit schrijft ook Thomas Dekeyser in het boek Techno-negative. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving.
Ideologie
Mügge ziet bij de vormgevers van genAI een ideologie met vier hoofdingrediënten: onkritisch techno-solutionisme waar sociale problemen kunnen worden opgelost met een app, morele superioriteit (tech-ondernemers weten wat goed is voor iedereen), een diep wantrouwen van overheidsactiviteiten en tot slot een anti-mens mindset waar geld verdienen menselijk lijden kan legitimeren.
Sommige Big Tech-ondernemers zoals Peter Thiel vinden de democratie een achterhaald concept. Dekeyser vraagt zich daarom af: in een wereld waar Big Tech steeds meer verweven is met autoritarisme, moeten we ons de vraag stellen, waar leidt technologie eigenlijk toe? En dan komen we weer terug bij de onderzoeker Mario Pansera. Hij stelt dat technologie een middel kan zijn om macht en middelen te concentreren bij een kleine groep.
We accepteren deze technologie geluidloos, maar beseffen we dat het ons economisch afhankelijk gaat maken van een kleine groep mensen aan de andere kant van de plas? Piketty liet in 2014 al zien dat ongelijkheid het belangrijkste probleem van onze tijd is. Deze ontwikkeling zal dit alleen maar versterken. Want we gaan afhankelijk worden van diegene die deze technologie bezit. En afhankelijkheid is de vijand van autonomie, de onafhankelijkheid om ons leven vorm te geven.
Zou onderwijs niet een krachtig tegengeluid moeten laten horen, zoals Paulo Freire al beschreef in zijn Pedogagie van de onderdrukten? Ook onderwijs is nooit neutraal. Het is een instrument om macht in stand te houden of om mensen te bevrijden.
Oplossingen
Het eerder genoemde Harvard-onderzoek stelt dat we minimaal moeten inzetten op minder genAI, meer pauzes en actiever met mensen connectie maken. Bizar dat dat we dat op papier moeten gaan zetten. Connectie maken is wat ons mens maakt.
Daarnaast kunnen we in mijn optiek minimaal transparanter en completer gaan communiceren richting onze collega’s en studenten over de complicaties van genAI. Misschien kunnen we een genAI disclaimer toevoegen aan onderwijsactiviteiten, of aan de edu-genAI versie die we wellicht als hogeschool gaan gebruiken?
Leidende instituten maken een pedagische en didactische draai. Ze worden weer old school. Print, minimaal laptopgebruik en directe instructie met docenten. Kinderen van tech-ondernemers gaan naar deze scholen. Als we niet opletten wordt denken voor een heel klein groepje mensen, aldus Lubach over het onderwerp. Zit de échte toegevoegde waarde van het onderwijs niet in jonge mensen leren denken? En is dit niet een betere manier om ons als instituut te onderscheiden?
En sure, sommige onderzoekers zien dit anders. Ik zie ook wel dat in de gezondheidszorg genAI echt waarde kan toevoegen. Maar dan moet dit wel gericht gebeuren, binnen duidelijk kaders. Toen de röntgenstraling in 1895 werd ontdekt, richtte men het werkelijk op alles. Totdat het gevaar duidelijk werd. Nu gebruiken we het alleen voor toepassingen die er toe doen en met mate. Zitten we nu op het equivalent van 1885, we richten AI maar op alles, en negeren de nadelen?
Conclusie
Innovatie moet uiteindelijk met Huxley’s woorden, in dienst van de samenleving staan en niet alleen in dienst van de zakken van een paar ondernemers. Dat schrijven Rob en ik ook in Real-World Economist Review. Wij hebben vier pilaren omschreven waar algemene innovatie aan zou moeten voldoen:
1 – Het moet passen binnen planetaire grenzen.
2 – Het moet welzijnsverhogend zijn.
3 – Het moet rechtvaardigheid versterken.
4 – Het moet bijdragen aan de kwaliteit van de democratie.Als genAI hieraan gaat bijdragen dan wil ik mee. Maar laat me eerst bewijs zien, voordat we dit in alle lagen gaan normaliseren. En dan blijft nog steeds: ik vind zelf denken zo leuk!
Het is geen defaitistisch, deterministisch gegeven. Wij hebben invloed op deze technologie. Als maatschappij, als onderzoeks- en onderwijsinstelling, en als individu. We kunnen beslissen dat we mens zijn en onderdeel van de samenleving. En dan moeten we ons veel vaker de vraag stellen: wat is het doel van technologie en innovatie? En gaat het ons leven verbeteren? Hopelijk kunnen we de lessen van Huxley gebruiken om genAI te weerstaan en ons simpele mensbrein te beschermen tegen naïef techno-optimisme, kritisch denkvermogenverlies en autonomie-inperking.
Als iedereen vol gaat op AI, moeten wij, de HR, dan niet het tegenovergestelde doen? Op deze hogeschool kun je wel écht leren, een eigen stem ontwikkelen, kritisch nadenken en betekenisvol ondernemen voor een betere toekomst. Gaan we, zoals Bas Heijne stelt in de heruitgave van Huxley, onze onderwerping hartstochtelijk omarmen? Of gaan we kritisch inkaderen hoe ons onderwijs eruit moet zien? Een speciale HR-taskforce zou dit eerst moeten gaan onderzoeken.
Bedankt voor het lezen.
Felix van Hoften, onderzoeker-docent HRO en Universiteit van Amsterdam
Naschrift
Dit waarschuwingsdocument is niet hyperbolisch. Het is een verzameling van bekende kennis. Daarnaast is het old school. Onderzocht, opgeschreven en geredigeerd door een mens (met een hart). Meer info? Check Against AI, Pause AI en The Algorithmic Justice Lead
-
Ingezonden: We moeten AI pauzeren en niet normaliseren op de Hogeschool Rotterdam
In dit essay of ‘academische blog’ beargumenteert docent en onderzoeker Felix van Hoften (RBS) dat AI schadelijk is voor de planeet, de samenleving en het onderwijs. Hij is kritisch op de deterministische houding over AI – ‘het is er nu eenmaal, we kunnen er niet omheen’- binnen de Hogeschool Rotterdam. Hij pleit ervoor een stap terug te doen en eerst kritisch na te denken hoe we genAI willen inzetten.
Dit stuk in een minuut
Felix van Hoften (RBS) roept in zijn essay de Hogeschool Rotterdam op om kritischer te kijken naar generatieve kunstmatige intelligentie (genAI). Hij beargumenteert dat door een groot aantal nadelen van genAI uiteen te zetten.
Hij haalt Aldous Huxley aan, de schrijver van Brave New World. Huxley voorspelde in zijn boek uit 1932 hoe technologie kan leiden tot verslaving, verlies van kritisch denkvermogen en afhankelijkheid van een kleine elite. Van Hoften ziet deze ontwikkeling terug in de manier waarop genAI wordt omarmd: deterministisch en weinig terughoudend, ‘het kan niet anders’.
GenAI wordt vaak gepresenteerd als een oplossing voor grote problemen (zoals klimaatverandering, economische groei en ongelijkheid); Van Hoften plaatst hier kanttekeningen bij en wijst bijvoorbeeld op onderzoek dat aantoont dat AI werk juist intensiveert en mensen geestelijk uitput.
Van Hoften gaat ook kritisch in op de ecologische impact van genAI, met de bijbehorende datacenters, energieverbruik, watergebruik en grondstoffenwinning. Deze groei legt extra druk op het milieu en kan de energietransitie ondermijnen.
GenAI levert daarnaast onderbetaalde arbeid op zoals content-moderatie in lage-inkomenslanden die neokoloniale verhoudingen versterkt.
De winst van AI komt ondertussen vooral terecht grote techbedrijven, wat ongelijkheid kan vergroten en afhankelijkheid versterkt. Daarbij is de ideologie van een aantal techbazen verontrustend, bijvoorbeeld antidemocratisch.Van Hoften betoogt dat genAI schadelijk kan zijn voor kritisch denken en daarmee voor het onderwijs. Onderzoek suggereert dat intensief gebruik van genAI leidt tot minder cognitieve ontwikkeling, oppervlakkig leren en uiteindelijk afhankelijkheid van technologie. Studenten verliezen mogelijk het vermogen om zelfstandig te denken, diep te lezen en complexe problemen te begrijpen. De gezamenlijke kennisbasis neemt af, en het vermogen problemen op te lossen dreigt af te nemen.
Dit staat haaks op de kerntaken van onderwijsinstellingen, zoals het bevorderen van kritisch denken, autonomie en burgerschap. Het staat ook haaks op de visie van de Hogeschool Rotterdam die naar eigen zeggen een kritische, onderzoekende houding bij studenten en docenten wil stimuleren.De auteur pleit om genAI op de HR kritisch te benaderen en niet vanuit de visie: ‘het is er nu eenmaal’. Van Hoften betoogt dat innovatie in dienst moet staan van samenleving, moet passen binnen planetaire grenzen en aandacht moet hebben voor welzijn, rechtvaardigheid en democratie. Zolang genAI daar niet aantoonbaar aan bijdraagt, moet de samenleving, en zeker het onderwijs, terughoudend en kritisch blijven.
In 1932 publiceerde Aldous Huxley zijn befaamde boek A brave new world. Deze dystopische toekomstroman beschrijft hoe het denkvermogen van mensen is platgelegd door de volledige omarming van en verslaving aan technologie. Huxley’s werk wordt de laatste tijd vaker aangehaald om onze tijd te duiden. Zo weeft Paul Schenderling in zijn nieuwe boek Continent van de kwaliteit zijn werk als leidraad voor een nieuw economisch paradigma. Ander werk van Huxley, De Tijd van oligarchen, heeft ook weer aandacht gekregen. Sterker nog, het is opnieuw uitgebracht door meesterverteller Bas Heijne.
Dit is geen toeval. De combinatie van deze twee profetische werken zijn een spiegel voor onze tijd. Huxley voorzag (90 jaar geleden!) de combinatie van entertainment, desinformatie, verslaving en het verlies van kritisch denkvermogen, met als gevolg een afhankelijkheid van een kleine groep ‘ondernemers’, als voorbode van het eroderen van het autonome en goede leven.
Is de laatste telg van de technofamilie: generatieve kunstmatige intelligentie, kortweg genAI, de samenloop van innovatie die Huxley voorzag? Dit essay bekijkt, door de lens van Huxley, hoe genAI onze wereld gaat beïnvloeden en specifieker ons onderwijs. Want is er een wereld mogelijk, waarin kritisch denken, autonomie, welzijn, verantwoordelijkheid en rechtvaardigheid bestaat én waarin AI is doorgedrongen tot elk haarvat van onze samenleving? Ik betwijfel het.
GenAI(-positiviteit) is werkelijk o-ve-ral
Als we the Economist, het Financieele Dagblad en allerlei tech-optimisten mogen geloven, is genAI dé messiaanse technologie: klimaatproblematiek wordt opgelost, de economie gaat groeien en, volgens musicus en tech-ondernemer Will.I.Am, gaat AI zelfs ongelijkheid oplossen. GenAI verhoogt arbeidsproductiviteit, we kunnen saai werk uitbesteden en ons concentreren op taken die leuk zijn. We moeten we er allemaal aan, want dit is dé toekomst voor iedereen. De positiviteit rondom AI groeit hand in hand met zijn alomtegenwoordigheid.
Dit debat verloopt vergelijkbaar als andere technologiedebatten. Nadat eerst Big Tech-ondernemers euforie roepen en gezaghebbende bladen en opiniemakers hun plasje hebben gedaan, staan nieuwbakken AI-consultants en andere ‘experts’ te springen om hun verhaal te doen. Vaak zijn dit deterministen: ‘’De technologie is er nu eenmaal, dus je moet maar gewoon mee.’’ Een Thatcheriaans there-is-no-alternative opvatting. Dat dit een invalide argument is, beschreven Rob van der Rijt en ik in het academische blad Real-world Economic Review, want dan zouden we alles wat bedrijven ontwikkelen maar moeten accepteren? Gelukkig zijn we niet zo naïef geweest met asbest, röntgenstraling, en de duizenden chemische stoffen die inmiddels zijn verboden in de EU, en hebben we er paal en perk aan gesteld.
Dit argument negeert daarnaast een veel belangrijkere vraag: wat is het doel van technologie en innovatie? Innovatie-onderzoeker Mario Pansera vraagt dit ook in zijn boek Post-growth innovations af en komt tot drie doelen: een probleem oplossen, welzijn bevorderen of het aanpakken van vormen van ongelijkheid en onrechtvaardigheid. Gaat genAI één van deze doelen bereiken?
Laten we de belofte van verhoogde arbeidsproductiviteit bekijken. Een andere groep technoverdedigers, de productivisme-optimisten, stelt dat we arbeidsproductiever worden en zo minder hoeven te werken, of saaie klussen kunnen uitbesteden aan het algoritme. Onderzoekers van Harvard hebben gekeken naar deze claim, en stellen ondubbelzinnig: AI Doesn’t Reduce Work, It Intensifies It. Mensen nemen meer taken op zich, doen werk waarvoor ze niet zijn getraind en werken vaker buiten werktijden. Het gevolg: cognitive fatigue, burnouts en lagere kwaliteit werk. Ander onderzoek bevestigt dit: e-mailtijd verdubbelt, chatgebruik stijgt met 145% en diepe focus op werk verminderde. Sommige onderzoekers zien zelfs een vorm van, wat zij noemen, Brain fry[1]. Werknemers ervaren grote vermoeidheid door te veel genAI gebruik omdat onze cognitieve capaciteit wordt overschreden. We werken meer en raken nóg vermoeider. Niet verstandig in een samenleving die al hypernerveus is.
Maar er is ook iets anders aan de hand. En om dat te duiden moeten we theorie lenen uit de ecologische economie. Deze toename van werk komt door een fenomeen dat we de Jevons Paradox noemen. Jevons, econoom, beschreef in 1865 dat efficiënter gebruik van middelen – wat een kostenbesparing oplevert – zal leiden tot een groter gebruik van dat middel, omdat het goedkoper wordt. Dit fenomeen zien we overal in onze economie: vliegen, koelen, verlichting, energiegebruik, en ook in de (digitale) diensten. De introductie van digitale tools om efficiënter te werken, heeft het tegenovergestelde effect: in plaats van de werklast te verminderen, wordt die juist meer. We zien dit ook bijvoorbeeld in gezondheidszorg. GenAI bevrijdt ons niet van taken, het frituurt ons brein, omdat de agenda te vol zit, te vol om te herstellen.
Ecologische realiteit
Er is nog een domein waar herstel cruciaal is. Onze leefomgeving. De productivisme-optimisten zijn ook op dit terrein zelfverzekerd. Zij stellen, dat genAI onze economie duurzamer gaat maken. Zakenbladen zoals Forbes en Bloomberg zien de toekomst zonnig tegemoet. Om dit beter te begrijpen moeten we ook hier een systemische bril uit de ecologische economie opzetten: het principe van sociaal metabolisme.
GenAI is niet alleen het appje op je telefoon of de chatbot in je browser, maar álle stromen van energie, grondstoffen en arbeid die verwerkt zitten in de totale supply chain. GenAI is niet alleen software, maar een infrastructuur. De laptops, smartphones waarop we genAI gebruiken draaien op computerchips die gefabriceerd worden via een extreem complex en wereldwijd verspreid productieproces. Daarbij komen honderden ketens samen waarin zeldzame metalen worden gewonnen, componenten worden geproduceerd en systemen worden geassembleerd. Op de achtergrond draaien gigantische datacenters in enorme, vaak anonieme gebouwen volgestouwd met servers in stalen racks. Die datacenters draaien niet ‘in de cloud’, maar op fysieke energie-, water- en arbeidssystemen. Uiteindelijk loopt die hele keten door tot in ons huis: door glasvezel- en koperen kabels onder de grond, via wifi-signalen tot aan het scherm in je hand. Het voelt als een lichtgewicht digitale interactie, maar is in werkelijkheid het eindpunt van een intensief wereldwijd metabolisch systeem.
Onderzoeker Ed Conway ziet geen cloud, hij ziet een groeiend netwerk van mijnbouw van kritische grondstoffen, logistiek, energie, arbeid en kapitaal. En dit systeem blijft groeien. Zo bouwen we in Nederland aan zeven megadatacentra; wereldwijd zien we eenzelfde ontwikkeling. Omdat deze datacenters enorm veel energie gebruiken, zal (een deel van) onze energietransitie worden opgeslokt om genAI te faciliteren.
Daarnaast is het jaarlijkse waterverbruik van genAI nu al even groot als de hoeveelheid die per jaar in flessen wordt verkocht. Big Tech-bedrijven, ooit voorlopers in emissiereductie, hebben stilletjes hun CO2 doelen op pauze gezet of zelfs stopgezet.
Ook deze technologie gaat leiden tot achteruitgang in onze leefomgeving, bijvoorbeeld het verlies van plant- en diersoorten die nooit meer terugkomen. Mijnbouwgroei is nu al één van de redenen waarom we grote stukken oerbos aan het slopen zijn. Een van de bekendste AI-onderzoekers ter wereld, Kate Crawford, is bang dat de groeiende AI-slop onze ‘toekomst opvreet’. Waar willen we energie en grondstoffen eigenlijk voor gebruiken: AI-troep of algemeen welzijn?
Neokolonialisme
Het metabolistische perspectief opent ook andere denkdeuren. Er is namelijk veel arbeid nodig om onze genAI systemen aan de praat te houden. Zo moet toch iemand content en context controleren en modereren. Medemensen in Oost-Afrika beoordelen expliciet gewelddadige, of erger, content, met als gevolg psychisch trauma. En dit gebeurt, weer, onderbetaald[2]. Onderzoekers in een snel groeiend onderzoeksveld noemen dit AI-kolonialisme; een onrechtvaardigheid waar mensen nauwelijks van op de hoogte zijn.
Ook op macroniveau versterkt genAI neokolonialisme. Zo reproduceren AI-modellen WEIRD (Western, educated, industrialized, rich and democratic) standpunten, zelfs als ze expliciet worden geïnstrueerd dat niet te doen. De werking van het sociaal metabolisme vergroot de druk op goedkope rare earth metals die tegen veel te lage kosten worden gemijnd, en waardoor neokoloniale relaties blijven bestaan en zelfs worden versterkt.
Kritisch denken
Kolonialisme vindt niet alleen in de fysieke wereld plaats, maar ook in onze meta-fysieke. In Huxley’s Brave new world krijgen baby’s elektrische shocks als ze een boek zien. Zo worden ze geconditioneerd om bang te zijn voor kennis.
GenAI is ons denken en onze autonomie aan het beïnvloeden met niet te negeren consequenties voor het hoger onderwijs. Als hoger onderwijs en onderzoeksinstelling zou je zeggen dat wij hiervan tot in detail van op de hoogte zijn, dat we genAI kritisch bekijken en niet naïef normaliseren of zelfs actief verkopen aan de jonge leiders van de toekomst. Want, wat zijn wij als onderwijsinstelling? Waar leiden we voor op? Onze net gepubliceerde Impact Agenda: talent voor transitie zet onder meer ‘toekomstbestendigheid’, ‘duurzaamheid’ en ‘rechtvaardigheid’ centraal. Als we dit serieus nemen, moeten we minimaal het bovenstaande ecologische en neokolonialistische perspectief verwerken in onze curricula. De Strategische Agenda stelt: ‘We ontwikkelen een kritische, onderzoekende houding bij studenten en docenten, die vraagstukken vanuit meerdere perspectieven benaderen’ (p.14). Top, een instelling die kritisch denken op een voetstuk plaatst. Maar hoe is de onderzoekende, kritische houding te vergoelijken met de argeloze explosie van genAI in onze curricula?
Want dat laatste is misschien wel de grootste crux van dit verhaal. We weten uit onderzoek van Massachusetts Institute of Technology dat studenten die regelmatig genAI inzetten, minder breinverbindingen aanmaken en dat het lees- en analytisch vermogen negatief beïnvloedt. Er is kritiek op dat onderzoek, zo is er bijvoorbeeld een zeer kleine onderzoekspopulatie gebruikt. Maar het is zeker niet het enige onderzoek dat verontrustende resultaten laat zien. Als AI-normalisatie in het onderwijs doorzet, kunnen studenten steeds minder zelf denken, zich authentiek uitdrukken en andere perspectieven zien.
De overtreffende trap van de gefrituurd brein hypothese is, cognitive surrender, breinovergave of AI-onderwerping, zoals onderzoekers in deze paper het noemen. Zij claimen dat er langzaam een derde manier van denken aan het ontstaan is naast Kahnemans systeem 1, snel en automatisch denken, en systeem 2, diep en bewust denken. Systeem 3: niet meer denken. Hoogleraar Erik Scherder concludeert dit ook in zijn boek Liever moe: ‘AI staat voor afnemende intelligentie. Heel simpel gezegd: generatieve AI leidt ertoe dat je je hersenen minder gaat gebruiken’.
Hoogleraar van Baalen stelt dat inspanning, twijfel en mentale herstructurering noodzakelijk zijn voor duurzame kennisopbouw. De momenten waarop studenten moeten worstelen met de stof zijn essentieel. ‘No pain, no gain.’ Roxanne van Iperen beschrijft skim reading: We lezen tekst vluchtig zonder het op te nemen. We raken het vermogen tot deepreading kwijt en daarmee het diep begrip van complexe ideeën. Studenten hebben wellicht een oppervlakkig antwoord op de vraag van een docent, maar ze zijn niet in staat die kennis ergens anders te gebruiken.
Zelfs techoptimisten van de blog MT/Sprout beginnen zich te roeren. Door genAI begin je namelijk steeds meer op je collega en medestudent te lijken. Hoe zit dat? Wat CHATGPT voor jou bedenkt, bedenkt hij voor iedereen. ‘Als elk denkpatroon uit een robot komt, wie ben jij dan nog?’, schrijft Laura Borghols in een artikel in Trouw. Van Iperen pakt het nog een stapje verder. Zij vergelijkt de mens met een fruitvlieg die instinctief van vrucht naar vrucht hopt. Als we niet meer hoeven te denken, wat is de mens dan nog?
Pedagogische taak
Daarnaast hebben we als instelling ook een pedagogische rol. Jonge mensen groeien op in onze klas, naar een hopelijk nieuwsgierige en geïnformeerde burger. Een duidelijke doelstelling van de RBS betekeniseconomie, gebouwd op de basis van Gert Biesta. Ook hier moeten we alert zijn. Veel genAI gebruik kan leiden tot emotionele groei-achterstand, door een consequentie die wordt aangeduid als social offloading. Het uitbesteden van ongemak en onzekerheid aan een chatbot, die wél weet hoe je moet reageren, als je ruzie hebt met je vriendin, collega, of medestudent. Dit kan gevoelens van eenzaamheid en isolatie versterken en zal ‘veerkracht’ zeker niet doen toenemen. Het naar de mond praten, ‘Wat een goede vraag Felix, zo had ik het zelf nog niet bekeken’, door AI-chatbots kan leiden tot psychoses, overmatige zelfbevestiging en een afname aan cognitieve flexibiliteit.
Dat we de deterministen (’het is nu eenmaal zo’) pedagogisch niet serieus moeten nemen verwoordt Ilyaz Nasrullah goed in Trouw: ‘Vervang de term “AI gebruiken” door “sigaretten roken” en het wordt direct duidelijk hoe onzinnig het argument …. is: “Scholieren roken toch wel sigaretten, het is daarom beter om ze te leren die op de juiste manier te roken.” Dat jongeren “toch wel” AI gebruiken, betekent natuurlijk niet dat dat ook goed voor hun ontwikkeling is.’
Als je sinds je middelbare school al je denkwerk hebt uitbesteed aan een genAI en op de hogeschool ook, dan verlies je het vermogen om kritisch te kunnen denken, je probleemoplossend vermogen en databegrip. Dan zullen doelen uit de strategische agenda onder druk komen te staan. ‘Veerkracht’, één van de doelen uit de agenda is namelijk verbonden met autonomie door agency. Het gevoel hebben dat je de wereld begrijpt en invloed kan hebben.
Macroschaal kennisvorming
Want een minimaal begrip van de wereld is belangrijk in de interpetatie van diezelfde wereld. Nobelprijswinnaar Daron Acemoglu theoretiseert en berekent dat genAI-gebruik op macro-schaal een bizar sneeuwbaleffect kan veroorzaken: een knowledge collapse. Als individuen meer op AI vertrouwen, dan is er een kans dat het leerprikkels, experimentatie en cognitieve kwaliteiten beïnvloedt. Omdat kennisvorming vaak een bijproduct is van deep learning en het experimentele leerproces, kunnen we die kennis inzetten om problemen op te lossen. Door genAI zijn we steeds minder aan het experimenteren, en komt er geen kennis meer bij als bijproduct én snappen we het probleem steeds minder, waardoor we eerder geneigd zijn om genAI weer in te zetten om het te begrijpen. Met als gevolg….Een positieve feedback loop uit de system sciences.
Dat kan leiden tot een knowledge collapse, waar we uiteindelijk de simpelste processen niet meer begrijpen, omdat we die uitbesteed hebben. Filosoof Lisanne Bainbridge noemt dit de ironie van automatisering. Hoe beter een technologie menselijke taken overneemt, hoe minder goed we de basis van technologie begrijpen en minder goed problemen kunnen oplossen. Als het dan misgaat, gaat het ook goed mis. Siri Berends en Lisa Doeland beschrijven dit in de Groene Amsterdammer: ‘Doordat ik de makkelijke delen van het werk niet meer beoefende, werd ik ook minder goed in de lastigere delen van het werk’. En misschien gaat Lisa nog een stapje verder. Deze filosoof vreest ook doordat we steeds minder zelf iets maken, we ook vertrouwen verliezen in onszelf.
Plagiaat
In Nederland wordt AI in het onderwijs onkritisch genormaliseerd en ingevoerd. Dit is de titel van een open brief van 1700 wetenschappers en bezorgde burgers aan universiteiten en hogescholen. Ook zie ik dit – met enkele uitzonderingen – op onze hogeschool. AI-trainingen worden aangeboden aan medewerkers zonder dat het genoeg kritisch wordt ingelijst. Ook aan de andere kant van de plas zie je dezelfde normalisering en daaropvolgende reacties: universiteiten adopteren de technologie onkritisch en weinig transparant.
De normalisering van AI in onderwijsinstellingen leidt tot een curieuze paradox. De heilige graal van onderwijs, plagiaat, wordt langzaam onze achilleshiel. Want genAI is de grootste plagiaatmachine die de mens ooit heeft verzonnen. Vrijwel alle genAI apps worden getraind door het plunderen van archieven, teksten en afbeeldingen, gemaakt door artiesten, tekenaars, ontwerpers, fotografen, schrijvers en onderzoekers, zonder toestemming, zonder verwijzing en zonder compensatie. Dat is geen innovatie, maar extractie.
Wie profiteert?
AI is de toekomst dus. Als een technologie ons leven diep gaat beheersen dan is het cruciaal te analyseren wie er baat bij heeft. In de betekeniseconomie duiden we dit met de term cui bono geleend van onderzoeker/schrijver Sjors Roeters. Want in de kern is dit ook een politiek-economisch vraagstuk.
De bekendste econoom van de 20e eeuw, John Maynard Keynes, voorspelde in de jaren 1930 dat door arbeidsproductiviteitsverhoging mensen in de 21e eeuw nog maar 14 uur per week zouden werken. Dit is niet gebeurd, onder andere omdat we de baten van ons economische proces niet ten behoeve van de arbeiders- en middenklasse zijn gaan inzetten, maar ten behoeve van een kleine bovenlaag Zeker in de laatste veertig jaar hebben we de neoliberalistische ideologie in Nederland stevig omarmd. Gaat AI Keynesiaans functioneren, of zal zoals Huxley voorspelt de ongelijkheid nóg verder doen toenemen?
Relax, zegt de derde groep AI-verdedigers, de naïeve productivisten, er komen banen bij, net als toen de auto op de markt kwam, of de pc. Het lijkt mij echter naïef om de stortvloed aan rapporten te negeren die stellen dat AI de middenklasse gaat slopen, zoals dit rapport, of dit, of dit. We zien al dat bedrijven mensen ontslaan omdat genAI goedkoper is en er zijn vooral zorgen over kantoorbanen op bachelor afstudeerniveau.
Werk kan ook minder betekenisvol worden. Mijn buurman, een programmeur, vertelde me dat de magie van zijn werk is verdwenen. De creatieve taken heeft genAI overgenomen en hij controleert alleen nog maar. Tekstschrijvers, communicatiemedewerkers, ontwerpers en filmmakers geven hetzelfde aan.
De genAI levert inmiddels ook echte foute ‘innovaties’. Met Meta glasses en Grok kun je van iedereen een foto nemen, uitkleden en alles mee doen zonder toestemming. Barbie gaat bijna haar genAI doll lanceren. In plaats van buiten te spelen gaan kinderen spelen met poppen waar de beste vriend een statistisch algoritme wordt in een plastic omhulsel met een te kleine taille. De next frontier in oorlogsvoering is natuurlijk ook genAI,
De Big Tech-ondernemers zien AI natuurlijk als onvermijdelijk en nodig. Onderzoeker Daniel Mügge van de UvA draait er in zijn net gepubliceerde boek de AI matrix niet omheen. Het is een misvatting dat technologie een neutrale tool is die mensen op een ‘goede’ of ‘verkeerde’ manier kunnen gebruiken. Dit schrijft ook Thomas Dekeyser in het boek Techno-negative. Elke technologie heeft inherente eigenschappen die, los van hoe je het gebruikt, problematisch kunnen zijn voor mens, natuur en samenleving.
Ideologie
Mügge ziet bij de vormgevers van genAI een ideologie met vier hoofdingrediënten: onkritisch techno-solutionisme waar sociale problemen kunnen worden opgelost met een app, morele superioriteit (tech-ondernemers weten wat goed is voor iedereen), een diep wantrouwen van overheidsactiviteiten en tot slot een anti-mens mindset waar geld verdienen menselijk lijden kan legitimeren.
Sommige Big Tech-ondernemers zoals Peter Thiel vinden de democratie een achterhaald concept. Dekeyser vraagt zich daarom af: in een wereld waar Big Tech steeds meer verweven is met autoritarisme, moeten we ons de vraag stellen, waar leidt technologie eigenlijk toe? En dan komen we weer terug bij de onderzoeker Mario Pansera. Hij stelt dat technologie een middel kan zijn om macht en middelen te concentreren bij een kleine groep.
We accepteren deze technologie geluidloos, maar beseffen we dat het ons economisch afhankelijk gaat maken van een kleine groep mensen aan de andere kant van de plas? Piketty liet in 2014 al zien dat ongelijkheid het belangrijkste probleem van onze tijd is. Deze ontwikkeling zal dit alleen maar versterken. Want we gaan afhankelijk worden van diegene die deze technologie bezit. En afhankelijkheid is de vijand van autonomie, de onafhankelijkheid om ons leven vorm te geven.
Zou onderwijs niet een krachtig tegengeluid moeten laten horen, zoals Paulo Freire al beschreef in zijn Pedogagie van de onderdrukten? Ook onderwijs is nooit neutraal. Het is een instrument om macht in stand te houden of om mensen te bevrijden.
Oplossingen
Het eerder genoemde Harvard-onderzoek stelt dat we minimaal moeten inzetten op minder genAI, meer pauzes en actiever met mensen connectie maken. Bizar dat dat we dat op papier moeten gaan zetten. Connectie maken is wat ons mens maakt.
Daarnaast kunnen we in mijn optiek minimaal transparanter en completer gaan communiceren richting onze collega’s en studenten over de complicaties van genAI. Misschien kunnen we een genAI disclaimer toevoegen aan onderwijsactiviteiten, of aan de edu-genAI versie die we wellicht als hogeschool gaan gebruiken?
Leidende instituten maken een pedagische en didactische draai. Ze worden weer old school. Print, minimaal laptopgebruik en directe instructie met docenten. Kinderen van tech-ondernemers gaan naar deze scholen. Als we niet opletten wordt denken voor een heel klein groepje mensen, aldus Lubach over het onderwerp. Zit de échte toegevoegde waarde van het onderwijs niet in jonge mensen leren denken? En is dit niet een betere manier om ons als instituut te onderscheiden?
En sure, sommige onderzoekers zien dit anders. Ik zie ook wel dat in de gezondheidszorg genAI echt waarde kan toevoegen. Maar dan moet dit wel gericht gebeuren, binnen duidelijk kaders. Toen de röntgenstraling in 1895 werd ontdekt, richtte men het werkelijk op alles. Totdat het gevaar duidelijk werd. Nu gebruiken we het alleen voor toepassingen die er toe doen en met mate. Zitten we nu op het equivalent van 1885, we richten AI maar op alles, en negeren de nadelen?
Conclusie
Innovatie moet uiteindelijk met Huxley’s woorden, in dienst van de samenleving staan en niet alleen in dienst van de zakken van een paar ondernemers. Dat schrijven Rob en ik ook in Real-World Economist Review. Wij hebben vier pilaren omschreven waar algemene innovatie aan zou moeten voldoen:
1 – Het moet passen binnen planetaire grenzen.
2 – Het moet welzijnsverhogend zijn.
3 – Het moet rechtvaardigheid versterken.
4 – Het moet bijdragen aan de kwaliteit van de democratie.Als genAI hieraan gaat bijdragen dan wil ik mee. Maar laat me eerst bewijs zien, voordat we dit in alle lagen gaan normaliseren. En dan blijft nog steeds: ik vind zelf denken zo leuk!
Het is geen defaitistisch, deterministisch gegeven. Wij hebben invloed op deze technologie. Als maatschappij, als onderzoeks- en onderwijsinstelling, en als individu. We kunnen beslissen dat we mens zijn en onderdeel van de samenleving. En dan moeten we ons veel vaker de vraag stellen: wat is het doel van technologie en innovatie? En gaat het ons leven verbeteren? Hopelijk kunnen we de lessen van Huxley gebruiken om genAI te weerstaan en ons simpele mensbrein te beschermen tegen naïef techno-optimisme, kritisch denkvermogenverlies en autonomie-inperking.
Als iedereen vol gaat op AI, moeten wij, de HR, dan niet het tegenovergestelde doen? Op deze hogeschool kun je wel écht leren, een eigen stem ontwikkelen, kritisch nadenken en betekenisvol ondernemen voor een betere toekomst. Gaan we, zoals Bas Heijne stelt in de heruitgave van Huxley, onze onderwerping hartstochtelijk omarmen? Of gaan we kritisch inkaderen hoe ons onderwijs eruit moet zien? Een speciale HR-taskforce zou dit eerst moeten gaan onderzoeken.
Bedankt voor het lezen.
Felix van Hoften, onderzoeker-docent HRO en Universiteit van Amsterdam
Naschrift
Dit waarschuwingsdocument is niet hyperbolisch. Het is een verzameling van bekende kennis. Daarnaast is het old school. Onderzocht, opgeschreven en geredigeerd door een mens (met een hart). Meer info? Check Against AI, Pause AI en The Algorithmic Justice Lead
-
Bank of England’s offshore clampdown will benefit UK pension savers
The Bank of England’s Prudential Regulation Authority has proposed changes to the use of funded reinsurance, which is…
#Economy #BankofEngland #centralbank #CentralBanks #CentralBanksoftheEuropeanSystem #DeutscheBundesbank #ECB #ESCB #Europe #European #EuropeanCentralBank #EuropeanCentralBanks #FTAdviser #longread #THEBANKOFENGLAND #TheBankofFrance #TheBankofItaly
https://www.europesays.com/2999627/ -
Tenhle #longread si dejte – nejlépe místo další stupidní televizní politické debaty s lidmi, kteří jsou součástí problému, nikoliv řešení. Evropa se buď sjednotí, nebo ztratí jakoukoliv relevanci. (Já jsem samozřejmě jednoznačně pro něco jako Spojené státy Evropské.)
https://pagenotfound.cz/clanek/upadajici-montovna-nebo-nenapadny-zeleny-tygr
-
Tenhle #longread si dejte – nejlépe místo další stupidní televizní politické debaty s lidmi, kteří jsou součástí problému, nikoliv řešení. Evropa se buď sjednotí, nebo ztratí jakoukoliv relevanci. (Já jsem samozřejmě jednoznačně pro něco jako Spojené státy Evropské.)
https://pagenotfound.cz/clanek/upadajici-montovna-nebo-nenapadny-zeleny-tygr
-
Tenhle #longread si dejte – nejlépe místo další stupidní televizní politické debaty s lidmi, kteří jsou součástí problému, nikoliv řešení. Evropa se buď sjednotí, nebo ztratí jakoukoliv relevanci. (Já jsem samozřejmě jednoznačně pro něco jako Spojené státy Evropské.)
https://pagenotfound.cz/clanek/upadajici-montovna-nebo-nenapadny-zeleny-tygr
-
https://www.europesays.com/ie/487269/ ‘The distance is a problem’: Parents of adults with intellectual disabilities forced to drive for hours to visit #Éire #Health #IE #Ireland #LongRead #SpecialReports
-
In the 1960s, if you wanted to surveil one person, you had to hire someone else to bug them or follow them. Today, we surveil everyone by default; you just have to tap into the data collected by the spies in their pockets (smartphones), on their wrists and fingers (smart watches and rings), their work tools (laptops), and in the public sphere (CCTV cameras) – you’ll have more on any person than the Stasi could ever dream of.
https://aeon.co/essays/things-have-jobs-and-digital-devices-are-made-to-track-you
-
In the 1960s, if you wanted to surveil one person, you had to hire someone else to bug them or follow them. Today, we surveil everyone by default; you just have to tap into the data collected by the spies in their pockets (smartphones), on their wrists and fingers (smart watches and rings), their work tools (laptops), and in the public sphere (CCTV cameras) – you’ll have more on any person than the Stasi could ever dream of.
https://aeon.co/essays/things-have-jobs-and-digital-devices-are-made-to-track-you
-
In the 1960s, if you wanted to surveil one person, you had to hire someone else to bug them or follow them. Today, we surveil everyone by default; you just have to tap into the data collected by the spies in their pockets (smartphones), on their wrists and fingers (smart watches and rings), their work tools (laptops), and in the public sphere (CCTV cameras) – you’ll have more on any person than the Stasi could ever dream of.
https://aeon.co/essays/things-have-jobs-and-digital-devices-are-made-to-track-you
-
In the 1960s, if you wanted to surveil one person, you had to hire someone else to bug them or follow them. Today, we surveil everyone by default; you just have to tap into the data collected by the spies in their pockets (smartphones), on their wrists and fingers (smart watches and rings), their work tools (laptops), and in the public sphere (CCTV cameras) – you’ll have more on any person than the Stasi could ever dream of.
https://aeon.co/essays/things-have-jobs-and-digital-devices-are-made-to-track-you
-
In the 1960s, if you wanted to surveil one person, you had to hire someone else to bug them or follow them. Today, we surveil everyone by default; you just have to tap into the data collected by the spies in their pockets (smartphones), on their wrists and fingers (smart watches and rings), their work tools (laptops), and in the public sphere (CCTV cameras) – you’ll have more on any person than the Stasi could ever dream of.
https://aeon.co/essays/things-have-jobs-and-digital-devices-are-made-to-track-you
-
How to survive the information crisis: ‘We once talked about fake news – now reality itself feels fake’.
In this age of crisis, technology is pulling us apart.
At its best, journalism can bring us together again, writes Guardian editor-in-chief Katharine Viner.
-
How to survive the information crisis: ‘We once talked about fake news – now reality itself feels fake’.
In this age of crisis, technology is pulling us apart.
At its best, journalism can bring us together again, writes Guardian editor-in-chief Katharine Viner.
-
How to survive the information crisis: ‘We once talked about fake news – now reality itself feels fake’.
In this age of crisis, technology is pulling us apart.
At its best, journalism can bring us together again, writes Guardian editor-in-chief Katharine Viner.
-
How to survive the information crisis: ‘We once talked about fake news – now reality itself feels fake’.
In this age of crisis, technology is pulling us apart.
At its best, journalism can bring us together again, writes Guardian editor-in-chief Katharine Viner.
-
How to survive the information crisis: ‘We once talked about fake news – now reality itself feels fake’.
In this age of crisis, technology is pulling us apart.
At its best, journalism can bring us together again, writes Guardian editor-in-chief Katharine Viner.
-
How to survive the information crisis: ‘We once talked about fake news – now reality itself feels fake’ | Media | The Guardian #LongRead www.theguardian.com/media/ng-int...
How to survive the information... -
Ist dieses Bild echt oder nicht? Forensische Methoden zur Fake-Erkennung
Wie erkennt man KI-generierte Bilder? Diese Frage treibt nicht nur mich, sondern auch einige meiner Kolleginnen und Kollegen um. Neulich wurde ich gefragt, was ich vom Image Verification Assistant von Mever halten würde. Meine ehrliche Antwort: Erst einmal nichts, da ich das nicht kannte.
Ich machte mich jedoch sogleich schlau: Mever steht für Media Analysis, Verification and Retrieval group und damit für eine Abteilung am Information Technologies Institute. Das wiederum ist eine 1998 gegründete gemeinnützige Organisation in Thessaloniki, die unter der Schirmherrschaft des Staates steht und sich mit Informatik, Telematik und Telekommunikation beschäftigt. Dessen Werkzeug wiederum wird im journalistischen Kontext zur Bildüberprüfung eingesetzt. Aber – und das wird schon auf den ersten Blick klar –, man darf von ihm keine simple Antwort im Stil von «Ja, dieses Bild ist KI-generiert» oder «Nein, dieses Bild ist authentisch» erwarten.
Stattdessen liefert es automatisiert die Resultate diverser Tests, die auf das fragliche Bild angewandt werden. Einige der Prüfungen mit den kombinierten Algorithmen weisen Fälschungswahrscheinlichkeit (Forgery Probability) in Form einer Prozentangabe aus, doch für die Interpretation sind wir auf uns selbst gestellt. Für sinnvolle Aussagen kommen wir nicht darum herum, uns mit den Testverfahren auseinanderzusetzen.
Eine bekannte Bildfälschung eines Mannes, der angeblich bei 9/11 auf einem der Twin Towers stand – hier eindeutig als falsch erkannt.Das werde ich gleich ausführlich tun. Doch zuvor folgt hier – für die Ungeduldigen unter meinen Leserinnen – mein vorläufiges Fazit:
Der Image Verification Assistant ist ein Werkzeug, das unbedingt ein Lesezeichen wert ist. Es liefert uns Indizien, die uns helfen, die Glaubwürdigkeit eines Bildes zu beurteilen. Diese Indizien können deutlich ausfallen oder vage sein. Ein klares Resultat ist zu erwarten, wenn Material manipuliert wurde, das bereits im komprimierten JPEG-Format in den sozialen Medien kursierte und bei dem bestimmte Partien verändert oder ausgetauscht wurden. Deutlich weniger effektiv ist die Methode, wenn die Änderungen an unkomprimiertem Bildmaterial ausgeführt wurden: Manipulationen an RAW-Aufnahmen dürften sich kaum feststellen lassen. Hier würde höchstens die Noiseprint-Analyse einen subtilen Hinweis liefern können.
Auf den journalistischen Alltag bezogen, dürfte das selten zum Problem werden. Die routinemässig zu prüfenden Bilder weisen keine Manipulationen auf höchstem Niveau auf. Sie werden mit dem Material ausgeführt, das greifbar ist – und das sind JPEG-Dateien aus dem Web und den sozialen Medien.
Wie aus ersten Indizien ein echter Verdachtsfall wird
Wie ich bei meinen Tests (weiter unten) nachweise, schlagen die Algorithmen auch bei harmlosen Motiven an. Das führt uns zur wichtigen Einsicht, dass die forensische Beurteilung nicht bloss anhand der Tests erfolgen kann. Ein Verdachtsfall ergibt sich, wenn mehrere Befunde zusammenkommen:
- Einer der Algorithmen meldet eine hohe Wahrscheinlichkeit für eine Manipulation.
- Dieser Befund wird durch die gesamte forensische Analyse gestützt.
- Der Befund erscheint in der menschlichen Begutachtung plausibel, insbesondere, weil wir uns einen Reim darauf machen könnten, was das Motiv hinter einer Fälschung sein könnte. Sprich: Die Algorithmen zeigen die Manipulation für einen massgeblichen Bildbereich an: für eine Person, einen bestimmten Vorgang, ein Symbol oder sonst ein aussagekräftiges Bildelement.
- Der Abschluss sollte die visuelle Beurteilung bilden: Realweltliche Unstimmigkeiten sind deutlichere Hinweise auf eine Fälschung als die Werte einer technischen Analyse.
Was nun die Entdeckung von KI-Deepfakes angeht, eignet sich der Image Verification Assistant nur bedingt. KI-Bilder entstehen wie echte Fotos aus einem Guss; sie werden nicht nach dem klassischen Splicing zusammengebaut. Meistens werden sie nicht im JPEG-Format ausgeliefert, sondern unkomprimiert als PNG: Es gibt daher keine Artefakte, die überprüft werden könnten. Vielleicht könnte wiederum das Noiseprinting herangezogen werden, weil bei einer KI-generierten Aufnahme das Muster fehlt, das für einen echten Fotosensor typisch ist. Diese Bilder sind gewissermassen zu glatt.
Auch KI-Generatoren hinterlassen verräterische Spuren
Allerdings hinterlassen auch generative Bilderzeugungsmodelle gewisse «mikroskopische» Muster, die eine Identifizierung ermöglichen. Man spricht von GAN-Fingerprints, die sich aber von klassischem Bildrauschen unterscheiden. Diese werden von spezialisierten Detektoren wie der hier vorgestellten Sight Engine benutzt. Das erlaubt es, sogar das verwendete Modell mit einer gewissen Sicherheit zu benennen.
Es gibt dennoch gewisse Überschneidungen bei den Methoden, die in einem Hybrid-Ansatz genutzt werden könnten: Ich denke an logische Inkonsistenzen, die sowohl bei KI-Bildern als auch bei herkömmlichen Bildfälschungen auftreten: In beiden Fällen kann ein unplausibler Schattenverlauf ein Warnsignal sein: Wenn bei einer Bildfälschung in Photoshop insbesondere ein Gesicht ausgetauscht wurde, kommt es oft vor, dass der Lichteinfall nicht übereinstimmt und die Schatten auf Nase, Hals und Stirn nicht der Umgebung entsprechen. Auch bei KI-generierten Bildern sind die Lichtbedingungen oft nicht konsistent.
Das festgehalten, geht es wie angedroht ans Eingemachte: Wir tauchen ab in die schöne Welt der verlustbehafteten Bildkompression, die abgesehen vom «Noiseprinting» entscheidend ist für die forensischen Analysen. Als Nichtmathematiker stosse ich beim Verständnis relativ schnell an Grenzen. Doch auch für Laien wird klar, wie raffiniert diese Methoden sind. Sie reduzieren die Datenmengen digitaler Bilder so beträchtlich, dass an Übertragungen via Internet zu Zeiten des Analogmodems überhaupt zu denken war. Gleichzeitig sind sie der Dreh- und Angelpunkt für die Erkennung von Bildmanipulationen. Denn die Kompression hinterlässt in der Bilddatei eine Spur, die über die ganze Fläche identisch sein muss. Falls sie es nicht ist, deutet das auf eine Bearbeitung oder auf die Verwendung von Bildmaterial aus verschiedenen Quellen hin.
Die technischen Methoden zur Entlarvung von Bildfälschern
Das sind einige der Methoden, die beim Image Verification Assistant zum Zug kommen:
Die Error Level Analysis (ELA) macht unterschiedliche Kompressionsraten innerhalb eines Bildes sichtbar. Eine Eigenschaft des JPG-Formats ist die verlustbehaftete Bildverkleinerung, die je nach Kompressionsrate unterschiedlich ausfallen kann. Bei Bildmanipulationen wird typischerweise Material aus unterschiedlichen Quellen kombiniert. Wenn solche Unterschiede sichtbar gemacht werden können, ist das ein deutlicher Hinweis auf eine Manipulation.
Ähnlich funktioniert die Erkennung der JPEG Ghosts (GHOST). Auch sie setzt auf die Erkennung von Partien im Bild mit unterschiedlichen Kompressionsgraden (Qualitätsstufen). Dabei wird das Bild mehrfach in unterschiedlichen Stufen komprimiert, wodurch die Unterschiede bei ursprünglichen Qualitätsstufen als eine Art Geist sichtbar werden.
Die Methode des Noiseprint & PRNU setzt beim Kamerasensor an. Sie liefern herstellungsbedingt kleine Unregelmässigkeiten, die für uns Menschen unsichtbares, sehr dezentes Bildrauschen sorgen (PRNU steht für Photo Response Non-Uniformity). Dieses lässt sich sichtbar machen und müsste über das ganze Bild hinweg einheitlich sein. Grössere Unterschiede deuten wiederum darauf hin, dass die entsprechenden Partien aus einer anderen Quelle stammen oder aber durch Bildbearbeitungsmethoden so stark verändert wurden, dass das ursprüngliche Sensorrauschen verloren ging.
Die Double Quantization (DQ) / JPEG Blocking setzt beim JPEG-Format und der Tatsache an, dass für die Kompression Bilder in Blöcke von 8×8 Pixel zerlegt werden, die über die Quantisierungstabelle eingedampft werden. Durch lokale Bearbeitungen können an diesen Blöcken Veränderungen auftreten, die bei einem integral gespeicherten Bild nicht zu erwarten wären. Daraus lässt sich entsprechend eine Manipulation ableiten.
Die CMFD-Methode (Copy-Move Forgery Detection) sucht nach mehrfach vorhandenen Bildbereichen innerhalb eines Bildes. Die weisen auf eine beliebte Bildbearbeitungsmethode hin: Mit dem Stempelwerkzeug oder einem anderen Tool werden unerwünschte Elemente zum Verschwinden gebracht, indem man sie mit harmlosen Partien aus der gleichen Aufnahme überdeckt.
Ich habe den Image Verification Assistant auf einige meiner schon häufiger benutzten Bilder angesetzt, mit folgenden Ergebnissen:
1) Ein unbearbeitetes Fasnachtsfoto direkt aus meiner Kamera
Zu erwarten wäre ein komplett unauffälliges Resultat. Das ist nicht der Fall. Einige der Tests schlagen an, u. a. der Noiseprint-Algorithmus. Im Bereich Fusion, wo mehrere der Resultate kombiniert werden, gibt der Trufor-Algorithmus eine Fälschungswahrscheinlichkeit von 21 Prozent an. Das ist erstaunlich hoch und zeigt, dass authentische Aufnahmen nicht vor verdächtigen Mustern gefeit sind.
Ein echtes, unbearbeitetes Foto liefert einige Verdachtsmomente.2) Eine KI-generierte Illustration
Die Testresultate für diese von Dall-e erzeugte Grafik ergeben kein klares Bild, was manipuliert sein könnte. Der Trufor-Wert weist immerhin eine Fälschungswahrscheinlichkeit von 56 Prozent auf. Ein Test mit einem dedizierten KI-Detektor ergibt hingegen das klare Resultat: «Likely AI generated».
Die Algorithmen sind nicht auf diese KI-Illustration ausgelegt.3) Das echte Foto eines KI-Plakats
Ein Agenturfoto des KI-generierten Werbeplakats der FDP zeigte schon früher die Grenzen der technischen Mittel bei der Fake-Erkennung auf: Das Bild selbst ist authentisch, auch wenn es das abfotografierte Motiv nicht ist. Das Resultat von Image Verification Assistant ist unauffällig; Trufor gibt eine Fälschungswahrscheinlichkeit von zwölf Prozent aus, OMGFuser meldet 16 Prozent.
Bei diesem Motiv liefert die Prüfung einen uneinheitlichen Befund.4) Ein kostenloses Stockfoto-Bild
Das fragliche Bild (hier als Beitragsbild verwendet) hat einen gewissen Kitschfaktor, wie ihn Bildgeneratoren mögen. Sie stammt jedoch von 2018, als die Bildgeneratoren noch nicht existierten. Image Verification Assistant unterstellt ihm eine hohe Fälschungswahrscheinlichkeit: 23 Prozent gemäss Trufor-Algorithmus und sogar 64 Prozent beim OMGFuser-Modul. Letzteres schlägt bei der Sitzbank an; die sieht für den Algorithmus höchst verdächtig aus.
Die Algorithmen stören sich an der Sitzbank – die aufs menschliche Auge harmlos wirkt.Für mein Auge als menschlicher Betrachter ist dieser Befund nicht nachzuvollziehen. Die Aufnahme wurde sicherlich bei Belichtung und Farbe kräftig nachbearbeitet, aber eine weitergehende Manipulation ist nicht zu erkennen. Natürlich ist es nicht auszuschliessen, dass der Urheber an der Bank herumgedoktert hat. Vielleicht erschien ihm deren Farbe nicht passend fürs Gesamtbild, oder sie war in Wirklichkeit aus Plastik und hätte die Stimmung komplett zerstört. Das wäre zwar bedauerlich, würde dem Zweck eines Symbolbilds ohne tiefere Botschaft jedoch keinen Abbruch tun.
#FakenewsDeepfakes #Longread -
The intertwined stories of Putin and Stalin’s refugees in a literary circle near Paris.
In the Paris suburb of Vanves, a small literary circle keeps alive the memory of the great Russian poet Marina Tsvetaeva, in the apartment where she lived before her doomed return to Stalin’s Russia.
Today’s Russian dissidents see in her verses a reflection of their own inner turmoil.
#MarinaTsvetaeva #Russia #Literature #History #Stalin #Putin #Poetry #Dissidents #Longread
-
The intertwined stories of Putin and Stalin’s refugees in a literary circle near Paris.
In the Paris suburb of Vanves, a small literary circle keeps alive the memory of the great Russian poet Marina Tsvetaeva, in the apartment where she lived before her doomed return to Stalin’s Russia.
Today’s Russian dissidents see in her verses a reflection of their own inner turmoil.
#MarinaTsvetaeva #Russia #Literature #History #Stalin #Putin #Poetry #Dissidents #Longread
-
The intertwined stories of Putin and Stalin’s refugees in a literary circle near Paris.
In the Paris suburb of Vanves, a small literary circle keeps alive the memory of the great Russian poet Marina Tsvetaeva, in the apartment where she lived before her doomed return to Stalin’s Russia.
Today’s Russian dissidents see in her verses a reflection of their own inner turmoil.
#MarinaTsvetaeva #Russia #Literature #History #Stalin #Putin #Poetry #Dissidents #Longread
-
The intertwined stories of Putin and Stalin’s refugees in a literary circle near Paris.
In the Paris suburb of Vanves, a small literary circle keeps alive the memory of the great Russian poet Marina Tsvetaeva, in the apartment where she lived before her doomed return to Stalin’s Russia.
Today’s Russian dissidents see in her verses a reflection of their own inner turmoil.
#MarinaTsvetaeva #Russia #Literature #History #Stalin #Putin #Poetry #Dissidents #Longread
-
The intertwined stories of Putin and Stalin’s refugees in a literary circle near Paris.
In the Paris suburb of Vanves, a small literary circle keeps alive the memory of the great Russian poet Marina Tsvetaeva, in the apartment where she lived before her doomed return to Stalin’s Russia.
Today’s Russian dissidents see in her verses a reflection of their own inner turmoil.
#MarinaTsvetaeva #Russia #Literature #History #Stalin #Putin #Poetry #Dissidents #Longread
-
https://www.europesays.com/ie/464481/ ‘He nearly left us twice’: Mother’s plea for RSV vaccine after baby’s fight for life #Éire #Health #IE #Ireland #LongRead #SpecialReports
