We hebben een zeer kinderlijke, zeer naïeve kijk op AI

De invloed van AI (zoals in LLM’s en chatbots) is momenteel enorm. Iedereen wil meedoen. Elk onderzoeksvoorstel moet ergens LLM’s bevatten of uitleggen hoe het AI gaat gebruiken (in deze enge zin). Mijn eigen visie kan als volgt worden samengevat:

1. AI (zoals in LLM’s en chatbots) is een ramp voor het milieu. Ze blaast alle duurzaamheidsdoelen voor de grote techbedrijven volledig weg en dit zal downstream gevolgen hebben voor bedrijven die ChatGPT etc. gebruiken.
2. AI (zoals in LLM’s en chatbots) is fundamenteel onethisch. Ze is onethisch vanwege het trainingsmateriaal dat zonder aanzien des auteurs van over de hele wereld is verzameld. Ze is onethisch omdat ze enorme hoeveelheden energie verbruikt en de ecologische voetafdruk van informatietechnologie enorm vergroot in een tijd waarin de hoogste prioriteit voor de hele samenleving zou moeten liggen bij het verminderen van de menselijke impact op het milieu. Ze is ook onethisch omdat ze de macht versterkt van een zeer kleine, in Silicon Valley gevestigde elite die steeds meer alle digitale menselijke activiteiten zal domineren. Helaas is er geen serieus democratisch toezicht op de activiteiten van de toonaangevende AI-bedrijven.
3. AI (zoals in LLM’s en chatbots) is een hype. De technologie wordt verkocht als een oplossing voor talloze problemen in alle domeinen. In werkelijkheid veroorzaakt het veel problemen op veel gebieden, niet alleen door mensen aan te moedigen niet het werk te doen, de inhoud te bestuderen, echt na te denken, maar ook door het fenomeen van de ‘hallucinatie’ zijn LLM-antwoorden vaak gewoon fout. Vanuit een cruciaal bedrijfsperspectief is het gebruik van LLM’s dus een heel slecht idee. Bedrijven beginnen zich dit te realiseren en zullen in de komende achttien maanden de aanname dat alles AI moet bevatten (zoals in LLM’s en chatbots) loslaten. Er komt dan weer een nieuwe technologische rage – zoals altijd.
4. Er zijn genoeg toepassingen voor andere soorten AI (meer traditionele machine learning/deep learning, Natural Language Processing, beeldverwerking, kennisrepresentatie en redeneren) die weliswaar niet zo ‘flitsend’ zijn, maar die veel minder schadelijk zijn voor het milieu, niet bijna ieders auteursrecht schenden en in andere opzichten niet zo schadelijk zijn voor de maatschappij. Deze gebieden van AI moeten worden aangemoedigd.
5. Op een dieper cultureel en filosofisch niveau gaan we gebukt onder de opvatting dat meer digitalisering onvermijdelijk beter is voor de samenleving, terwijl er geen bewijs is dat dit het geval is. Toch worden alle politieke beslissingen, inclusief de steun voor bedrijfsleven en wetenschappelijk onderzoek, geleid door deze opvatting. Het is een zeer kinderlijke, zeer naïeve kijk op de wereld. Dit geldt zowel op EU-niveau als in de Nederlandse wetenschappelijke financiering.