De vertrechtering van AI
De vraag wat AI betekent voor een wetenschappelijk vakgebied is betekenisloos wanneer je ‘m stelt voor het vakgebied van de AI zelf. Toch waag ik een poging.
AI, een relatief jong wetenschapsgebied, heeft een probleem met zelfreflectie. Vanaf het moment dat het vakgebied een naam kreeg in de jaren ’50 is het doordrenkt geweest met technologisch optimisme: het idee dat technologieontwikkeling gelijk staat aan vooruitgang, en dat technologische vooruitgang altijd goed is voor de maatschappij en de mensheid.
Niet gestuit door enige regulering, en tot ongeveer tien jaar geleden nog relatief onder de publieke radar, heeft het technologisch optimisme rond AI lange tijd weinig deuken opgelopen. Er kon tientallen jaren ongebreideld doorontwikkeld worden, en dat laat een ingenieursvak zich geen twee keer zeggen. Een fenomeen in de AI dat hieruit voortkomt is de vertrechtering van ontwikkelingen: het vakgebied heeft de neiging om alsmaar verder te focussen op steeds specifiekere problemen, datasets en evaluatiemethoden, en verbeteringen in tienden van procenten als grote overwinningen in te boeken. De vakterm voor dit proces is state-of-the-art (SOTA) chasing.
De Transformer, de T uit ChatGPT, is het voorlopige eindpunt van een ogenschijnlijk succesvol SOTA-chasing-traject, geplaveid met Turing Awards en Nobelprijzen voor natuurkunde en scheikunde. Dozijnen aan alternatieve methoden en technieken zijn in het vertrechteringsproces gesneuveld sinds de jaren ’90, zonder goede redenen. Sommigen daarvan gebruiken helemaal geen GPU’s of TPU’s, de energievreters die zorgen voor een steeds grotere ecologische voetafdruk van de huidige generatieve AI. Anderen zijn transparant en geen black boxes.
De ecologische voetafdruk, maar ook de inherente bias, illegaal verkregen trainingsmateriaal, de onbetrouwbaarheid, het gebrek aan transparantie bij veel Generatieve AI-systemen en de neiging van bedrijven om zich van dit alles niets aan te trekken zijn problemen die groot genoeg zijn om de technologie helemaal niet te gebruiken of te verbieden, totdat al deze problemen afdoende zijn geadresseerd. Maar dit station lijken we al lang gepasseerd te zijn; het hele land is in handen van de Romeinen. Of toch niet? Een kleine groep AI-onderzoekers blijft zich verzetten en blijft de vinger op de zere plekken leggen…
Die kleine groep AI-onderzoekers wordt gelukkig steeds beter gevonden door de media en verdient het om een stem te krijgen tot in de belangrijkste organisaties van onze wereld – zoals ‘onze eigen’ Virginia Dignum (universiteit van Umeå, voorheen VU, Utrecht en Delft) die daadwerkelijk die stem heeft in het adviesorgaan voor AI van de Verenigde Naties. Het zijn experts en doorzetters als Virginia die AI hopelijk die zet geven die het nodig heeft: richting het afdwingen van verantwoorde AI en zelfreflectie met echte consequenties.