AI-geletterdheid in tijden van AI-storm
Vanaf 2 februari 2025 moeten organisaties voldoen aan de nieuwe AI-wetgeving, de Europese AI-verordening. Artikel 4 daarvan stelt dat zowel aanbieders als gebruikers van AI-systemen dan een toereikend niveau van AI-geletterdheid dienen te bezitten. Lid 56 van Artikel 3 geeft een definitie van AI-geletterdheid. Die is op orde als men zich bewust is van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken. Dit betoog belicht AI-geletterdheid in het licht van de stortvloed aan AI die nu al op ons afkomt. Hoe realistisch is de aanwezigheid van een toereikend niveau van AI-geletterdheid, vanaf 2 februari?
AI is alomtegenwoordig. We moeten er allemaal mee aan de slag, als we de media mogen geloven. Waarom die enorme hype? AI is immers niet nieuw. We zijn er al zo’n 60 jaar mee bezig. Maar er is veel veranderd. Ten eerste de rekenkracht. Vaak wordt de Wet van Moore aangehaald: het aantal transistors op een microchip verdubbelt elk jaar. Dat maakt het rekenen voor de computer sneller en efficiënter. De toepassing hiervan in, of met supercomputers en gedistribueerd rekenen leidde tot spectaculaire mogelijkheden. Zo heeft Elon Musks supercomputer Colossus 100.000 Nvidia-chips aan boord en willen Microsoft en OpenAI hun paradepaardje Stargate voorzien van miljoenen grafische chips. Daarnaast steeg de hoeveelheid data die beschikbaar is voor trainen van AI – en de opslagcapaciteit daarvoor – explosief. Niets dan voordelen voor een AI-onderzoeker, zoals ikzelf, want de AI-hype wil ons vaak doen geloven dat AI inmiddels voor elk (type) probleem de oplossing biedt.
Er zijn vele definities van AI. Voor het gemak slaan we die even plat tot een basale vorm: een machine (computer) taken laten uitvoeren waarvoor menselijke intelligentie als voorbeeld dient. Of die taken nu vallen onder de noemer beeld- of spraakherkenning, plannen et cetera, aan de basis staat altijd een leerproces. Ofwel, machinaal leren (Machine Learning) is een essentieel onderdeel van AI. Sterker nog, om daarbij ook nog eens de structuur en werking van de menselijke hersenen na te bootsen gebruiken we (diepe) neurale netwerken (Deep Learning). Hoe onze eigen hersenen echt functioneren is nog lang niet duidelijk. Er zijn vele gebiedjes voor specifieke zintuiglijke prikkels die met elkaar in verbinding staan en complexe interacties aangaan. Maar, hoe leidt dat nu tot een geheugen en de mogelijkheid tot abstraheren en interpreteren bijvoorbeeld? Ofwel, de kloof tussen menselijke intelligentie en artificiële intelligentie, of eerder tussen menselijk leren en machinaal leren is nog groot. Gezien de beschikbare hoeveelheid data en rekenkracht is de verleiding aanwezig om het succes van machinaal leren te verhogen door AI te trainen met steeds meer voorbeelden. Met als valkuil dat het steeds meer om het resultaat gaat dan om het daadwerkelijk begrijpen wat het AI-model doet, en dus daadwerkelijk geleerd heeft.
Hoe realistisch is nu de aanwezigheid van een toereikend niveau van AI-geletterdheid, vanaf 2 februari? Dat er snel een toereikend niveau moet komen op alle fronten mag duidelijk zijn als we bijvoorbeeld plannen lezen zoals die onlangs op de Zorgvisie portal verschenen: “Het kabinet wil de administratietijd in de zorg in 2030 halveren en noemt de mogelijkheden van generatieve AI revolutionair”. Ga er maar aan staan. Immers, een toereikend niveau van AI-geletterdheid houdt in dat gebruikers zich bewust zijn van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken. Gezien de materie die men moet overzien, is het behalen van dat niveau, op korte termijn een flinke uitdaging. Om de impact van de huidige AI-storm daadwerkelijk te kunnen doorgronden is veel meer nodig. De diepgang daarvan is afhankelijk van een aantal factoren, zoals het type organisatie dat AI wil inzetten of ontwikkelen, het type AI, de mate van datagedrevenheid van die organisatie en de verschillende rollen daarbinnen. Dus is het verstandig om afhankelijk daarvan verschillende gradaties van AI-geletterdheid te definiëren en die achtereenvolgens te implementeren. Handel op de manier zoals AI ontwikkeld hoort te worden: stel doelen en prioriteiten in samenspraak met alle belanghebbenden en werk iteratief. Afwachtend achteroverleunen is geen optie (meer). Directe actie is gewenst ook al zijn er nog geen passende AI-geletterdheid frameworks of reguleringen.