Het existentiële gevaar van AI
In de perfecte wereld is AI de perfecte technologie. Maar we leven niet in een perfecte wereld.
In een perfecte wereld is er geen oorlog. En als er toch oorlog zou zijn, zouden AI systemen ingezet worden volgens het oorlogsrecht. En zouden militairen maatregelen nemen om schade aan burgers en hun huizen en scholen zoveel mogelijk te beperken.
In de echte oorlog zijn die militaire normen aan het vervagen. Zo sterk, dat burgerslachtoffers in grote getalen op de koop toe worden genomen. Van betekenisvolle menselijke controle op AI-gestuurde wapensystemen is nauwelijks sprake. Het doembeeld van de killer robot – een autonoom wapensysteem dat een doelwit selecteert en aanvalt zonder menselijke controle – komt daarmee gevaarlijk dichtbij.
Een perfecte wereld is duurzaam. En als er toch een milieucrisis zou zijn, zou AI ons helpen in 2050 een circulaire economie voor elkaar te krijgen en de opwarming van de aarde onder de 1,5 graad te houden. De zogenoemde twin transition.
In de echte wereld zorgt generatieve AI voor een enorme stijging van het gebruik van elektriciteit door datacentra. Die gebruiken nu bijna 3% van de Europese elektriciteit. De EU verwacht dat in 2030 vertienvoudigd zal zijn. In deze wereld maakt AI het vervuilende ultra-fast fashion verdienmodel van SHEIN mogelijk. Via AI steelt SHEIN op het internet trending modeontwerpen – vaak van jonge ontwerpers –, laat die deels door kinderen maken en prijst die online via TikTok-influencers aan, zodat jongeren die kleding massaal kopen en al snel weer weggooien.
Een perfecte wereld is democratisch, waarin AI wordt ingezet zodat burgers zich goed informeren, zodat ze een gedeeld beeld kunnen vormen van de publieke problemen en die democratisch bespreken en oplossen.
In de echte wereld zien jongeren nog zelden een journalistieke nieuwssite en bepalen algoritmes van Amerikaanse techbedrijven het nieuws dat ze lezen. Als gevolg gaat bijna alle reclamegeld naar techreuzen, wat de levensvatbaarheid van de Nederlandse media onder druk zet. In de echte wereld neemt Elon Musk Twitter over en vreest de WRR dus terecht dat een antidemocratische miljardair DPG Media (Trouw, AD, de Volkskrant) of Mediahuis (NRC, De Telegraaf) overneemt.
De manier waarop AI in de echte wereld ingezet wordt door landen in oorlog, techgiganten en gebruikers, brengt zodoende nu al existentiële risico’s met zich mee voor menselijke waardigheid, duurzaamheid en democratie. Het tij is slechts te keren wanneer ontwikkelaars, gebruikers en politici dat massaal onder ogen durven zien en ernaar gaan handelen.