Bart van der Sloot, universitair hoofddocent aan Tilburg Law School, heeft een boek geschreven dat gratis te downloaden is:
Regulating the Synthetic Society. Generative AI, Legal Questions and Societal Challenges.
Hier volgt de vertaling van een woord vooraf en een gedeelte van de inleiding:
“Dit open access boek geeft een inleiding tot Generatieve Kunstmatige Intelligentie en vier geavanceerde technologieën die hiermee mogelijk worden gemaakt: humanoïde robots, deepfakes, augmented reality en virtual reality.
Experts voorspellen dat over vijf jaar meer dan negentig procent van alle digitale content geheel of gedeeltelijk door AI gegenereerd zal zijn. In een ‘synthetische samenleving’ is het misschien niet meer mogelijk om vast te stellen wat echt is en wat niet. Hoewel deze technologieën nog in de kinderschoenen staan, kunnen ze nu al inhoud produceren die niet te onderscheiden is van authentiek materiaal. De impact van deze nieuwe realiteit op de democratie, het rechtssysteem, het functioneren van de pers en op persoonlijke relaties zou wel eens ongekend kunnen zijn.
De auteur beschrijft de innerlijke werking van elk van deze technologieën en brengt hun positieve toepassingen op het gebied van onderwijs, gezondheid en entertainment in kaart. Hij denkt na over hun negatieve toepassingen voor fraude, bedrog, uitbuiting en identiteitsdiefstal. Hij onderzoekt tevens hun diepere effecten op de ‘post-truth’-maatschappij, de privatisering van het publieke domein en het verlies van individuele autonomie en maatschappelijk vertrouwen.
Van der Sloot onderzoekt de manier waarop het huidige Europese juridische systeem van toepassing is op deze technologieën, en legt daarbij de nadruk op het recht op privacy en gegevensbescherming, intellectueel eigendom, vrijheid van meningsuiting, procesrecht, civiel recht, consumenten- en mededingingsrecht en de regulering van AI. Van der Sloot bespreekt alternatieven voor bestaande regelgevingen om regelgevingslacunes op te lossen en laat zien dat er geen gemakkelijke antwoorden zijn.”
1.Een inleiding tot dit boek
We weten allemaal dat Kunstmatige Intelligentie verbazingwekkende dingen kan doen. Ik denk dat we niet genoeg praten over wat Kunstmatige Intelligentie kan doen om ons dagelijks leven te verbeteren. In de gezondheidszorg gebruiken we Kunstmatige Intelligentie nu al voor betere en vroegere diagnoses. Die zijn cruciaal als je bijvoorbeeld kanker behandelt. We gebruiken ook al robots voor precisiechirurgie. Kunstmatige Intelligentie is ook essentieel als we ons doel willen bereiken om in 2050 klimaatneutraal te zijn. Precisielandbouw, door AI aangestuurd, stelt ons in staat om de hoeveelheid gebruikte pesticiden en meststoffen te verminderen. Slimme verwarming, op grote schaal en door AI aangestuurd, bespaart miljoenen tonnen olie en vermindert daardoor de CO2-voetafdruk.
We willen dat burgers de nieuwe technologie vertrouwen. Technologie is altijd neutraal. Wij bepalen wat we ermee doen. Daarom willen we dat de toepassingen van deze nieuwe technologieën het vertrouwen van onze burgers verdienen. Daarom bevorderen we een verantwoorde, mensgerichte benadering van Kunstmatige Intelligentie.1
Ursula von der Leyen, Europese Commissie, Europese Unie
1.1. INLEIDING
Zoals benadrukt door Ursula von der Leyen, de voorzitter van de Europese Commissie, kan kunstmatige intelligentie (AI) ons leven en de maatschappij zoals we die kennen radicaal veranderen. AI biedt kansen en mogelijkheden, maar ook uitdagingen, hindernissen en gevaren. Dit boek richt zich op Generatieve AI, oftewel het vermogen van AI om inhoud, spraak en handelingen te genereren die niet te onderscheiden zijn van menselijke output. Dit hoofdstuk beschrijft de talloze vragen en dilemma’s die worden opgeroepen door de synthetische werkelijkheid aan de hand van een eenvoudig voorbeeld van door AI gegenereerde inhoud (paragraaf 1.2) en introduceert vervolgens Generatieve AI en de vier synthetische technologieën die centraal staan in dit boek: humanoïde robots (HR’s), deepfakes (DF’s), Augmented Reality (AR) en Virtual Reality (VR) (paragraaf 1.3). Daarna volgt een beschrijving van wat dit boek te bieden heeft (paragraaf 1.4) en waar de beperkingen liggen (paragraaf 1.5). Tot slot wordt een overzicht gegeven van de inhoud van dit boek (paragraaf 1.6).
1.2. WELKOM IN DE SYNTHETISCHE SAMENLEVING
Stel je voor dat het 2034 is en deepfake-technologie heeft zich ontwikkeld zoals voorspeld. DF’s kunnen in minder dan een minuut worden gemaakt door iedere burger, waar ook ter wereld, mits hij toegang heeft tot een smartphone of computer. DF’s zijn zo realistisch geworden dat mensen ze niet meer kunnen onderscheiden van authentiek materiaal. Zelfs algoritmische detectieprogramma’s kunnen dat maar in ongeveer 50 procent van de gevallen. Stel dat iemand een sensationele video op een X-achtig platform plaatst, waarop een aantal blanke mannen te zien zijn die de Koran ontheiligen. In een mum van tijd genereert de clip aandacht. De linkse media zijn woedend, anonieme gebruikers plaatsen racistische commentaren en de rechtse media publiceren een interview met een islamcriticus die beweert dat het heilige boek gevaarlijk is en dat dat geweld sanctioneert. In comedyshows wordt ernaar verwezen. Maar is de video echt? Als burger zul je in 2034 hebben begrepen hoe gemakkelijk het is om DF’s te genereren en misschien heb je zelf mensen voor de gek gehouden. Er zullen in het verleden gevallen zijn geweest waarbij een mediahype onterecht bleek omdat de video, audio of tekst nep bleek te zijn. Wat doe je als burger? Negeer je het nieuws helemaal, probeer je zelf een inschatting te maken van de echtheid of vertrouw je alleen berichten die zijn verschenen via de traditionele mediakanalen die investeren in verificatieprocedures?
De opkomst van hybride en synthetische media zet de reguliere media extra onder druk. Het vertrouwen in deze instellingen is al tanende: mensen kiezen steeds vaker bronnen die hun gevestigde wereldbeeld bevestigen en steeds meer mensen lijden aan ‘realiteitsmoeheid’. Als de media meerdere keren per week inhoud aangeboden krijgen die onjuist blijkt te zijn, kunnen ze gedwongen worden om volledig af te zien van het werken met door gebruikers gegenereerde inhoud, vanwege de kosten en de tijd die deze analyse vergt. Dit zou betekenen dat waardevolle inhoud van burgerjournalisten wordt genegeerd. Bovendien kunnen traditionele media erachter komen dat sensationele inhoud wordt geplaatst op platforms met lagere kwaliteitsnormen, wat betekent dat traditionele verkooppunten altijd twee stappen achterlopen en mogelijk views en inkomsten mislopen.
De opkomst van deepfakes zou ook een groot effect kunnen hebben op de rechtspraak. DF’s worden nu al gebruikt als bewijs in rechtszaken. Dit is een trend die in 2034 waarschijnlijk in een stroomversnelling zal zijn geraakt. Er zullen waarschijnlijk fouten worden gemaakt, waardoor rechtbanken mogelijk alle inhoud op echtheid moeten controleren. Dit roept een aantal vragen op. Moet de aanklager bewijzen dat het bewijs authentiek is of is het aan de verdediging om aan te tonen dat het bewijs niet authentiek is? Welke normen moeten worden gebruikt voor authenticiteit? En wat als een AI-detectieprogramma suggereert dat de waarschijnlijkheid dat materiaal authentiek is 68 procent is? Niet alleen zal het verificatieproces de duur van rechtszaken beïnvloeden, er zal ook altijd sprake zijn van ‘plausibele ontkenning’. Iemand zal altijd kunnen volhouden dat zijn veroordeling gebaseerd was op vervalst bewijsmateriaal.
Een laatste voorbeeld. De meeste DF’s zijn seksueel getint: DF-porno. Clips tonen vaak beroemdheden, maar ook jonge meisjes die nog op de middelbare school zitten en die seksuele activiteiten uitvoeren die ze niet hebben gedaan. Een groot aantal tienermeisjes is al slachtoffer van online slut-shaming of andere vormen van online seksuele intimidatie. Deze praktijken worden soms ‘slut-shaming 2.0’ genoemd, zowel vanwege de omvang en intensiteit van de online beelden als vanwege de moeilijkheid om dergelijke inhoud te verwijderen of eraan te ontsnappen. Door middel van DF-technologie zouden deze praktijken naar een hoger niveau getild kunnen worden – wat we ‘slut-shaming 3.0′ zouden kunnen noemen. Experts vrezen het effect hiervan op de ontwikkeling van jonge meisjes en op de maatschappelijke positie van vrouwen.
Dit zijn slechts enkele van de vragen en thema’s die worden opgeroepen door de technologieën die centraal staan in dit boek. Zoals duidelijk zal worden, roepen de technologieën die hier worden besproken complexe vragen op: willen we leven in een maatschappij waarin het primaire sociale contact van een toenemend aantal ouderen een humanoïde robot is? Willen we oorlogsvoering gamificeren door middel van AR? Wat gebeurt er als kinderen die zich sociaal geïsoleerd voelen liever in VR leven dan met hun leeftijdsgenoten in de fysieke werkelijkheid? Deze en andere vragen komen aan bod in dit boek. In het bijzonder wordt in deze bundel beoordeeld welke rol het juridische systeem kan spelen bij het waarborgen van belangrijke waarden die als pijlers van onze samenleving fungeren, zoals een gedeelde waarheid, individuele autonomie en de democratische rechtsstaat.
1.3 Introductie nieuwe technologieën
De wereld wordt steeds meer gemedieerd door en beïnvloed door AI. Van alle hedendaagse technologische ontwikkelingen springt generatieve AI eruit. Het vermogen van AI om audio, video, tekst en andere inhoud te genereren zal een aanzienlijk effect hebben op de werkelijkheid en hoe we die waarnemen. Verschillende trends, zoals ontwikkelingen in robotica, deepfakes, AR en VR, de vier synthetische technologieën die centraal staan in dit boek, hebben ertoe geleid dat een steeds groter deel van onze alledaagse ervaringen door AI wordt gegenereerd: onze werkelijkheid wordt steeds synthetischer.
Humanoïde robots: HR’s hebben het fysieke uiterlijk van een mens. Ze hebben de motorische vaardigheden om te lopen en te praten als een mens. Ze draaien op geavanceerde software, waardoor ze mensachtige cognitieve functies hebben. Hiervoor zijn HR’s uitgerust met sensoren om dezelfde input te verzamelen als mensen. Ze zijn verbonden met het internet en hebben ingebouwde geavanceerde technologie, zoals gezichts-, object- en emotieherkenning. HR’s zijn zelflerend en handelen autonoom met behulp van AI en machine learning. Grote taalmodellen (Large Language Models, LLM’s) verbeteren niet alleen de verbale capaciteiten van robots, maar ze stellen deze ook in staat om beter te reageren op vragen of taken. LLM’s kunnen ook chatprogramma’s aansturen, bijvoorbeeld ter vervanging van medewerkers van de klantenservice. Sociale interactie met HR’s wordt steeds vloeiender, natuurlijker en intuïtiever. Al in 1996, toen de Tamagotchi werd geïntroduceerd (een kleine, eivormige computer die een programma uitvoerde in de rol van een huisdier, dat door de eigenaar verzorgd werd), was het duidelijk hoe snel mensen gehecht raakten aan levenloze voorwerpen. Dankzij de vooruitgang op het gebied van ontwerp, functionaliteit en gezelligheid gaan mensen steeds meer om met hun robots en raken ze er dol op. Dit is niet beperkt tot kinderen of adolescenten die het comfort van AI-vrienden verkiezen boven hun leeftijdsgenoten, of mannen die hun levenspartners vinden in HR’s; het strekt zich uit tot oudere mensen die AI’s gebruiken als gesprekspartners, die altijd beschikbaar zijn voor sociale interactie, en nog veel meer. Experts voorspellen dat het steeds moeilijker zal worden om robots van mensen te onderscheiden naarmate technologie en design vorderen, en de opkomst van Large Language Models heeft ertoe geleid dat communiceren met HR’s en chatbots nu al een opwindende ervaring kan zijn.
Deepfakes: DF’s zijn content (video, audio of anderszins) die geheel of gedeeltelijk is gefabriceerd, of bestaande content die is gemanipuleerd met behulp van AI. Hiervoor kunnen verschillende technologieën worden gebruikt, maar de populairste is gebaseerd op Generative Adversarial Networks (GAN). Net als bij HR’s is het uiteindelijke doel van DF’s dat AI-gegenereerde inhoud niet kan worden onderscheiden van authentiek materiaal. In slechts een paar jaar tijd heeft de DF-technologie zich zo snel ontwikkeld op het gebied van kwaliteit, productiesnelheid en kostenefficiëntie, dat mensen niet langer in staat zijn om valse van authentieke inhoud te onderscheiden. Een nepvideo kan in een minuut of twee worden gegenereerd. Hoewel de technologie nog in de kinderschoenen staat, zijn er aanwijzingen dat mensen DF-gezichten van niet-bestaande mensen nu al betrouwbaarder vinden dan die van echte mensen. Veel DF’s worden gebruikt voor relatief triviale doeleinden, maar omdat in een DF echte mensen dingen lijken te doen en te zeggen die ze nooit hebben gedaan of gezegd, kunnen ze toch een reële en significante impact hebben. DF’s worden gebruikt in oorlogsvoering (bijvoorbeeld generaals die hun troepen lijken te bevelen de wapens neer te leggen), politiek (bijvoorbeeld video’s van politieke leiders die vlak voor de verkiezingsdag schelden en vloeken op hun tegenstanders) en de rechtszaal (bijvoorbeeld een moeder die een nepvideo aanlevert van de vader die zich ongepast gedraagt tegenover hun kinderen in een voogdijzaak).
Augmented Reality: AR is de werkelijkheid zoals waargenomen door de gebruiker van bepaalde apparatuur die lagen toevoegt aan de werkelijkheid, met behulp van AI. Op die manier is iemands perceptie van de realiteit gebaseerd op de fysieke werkelijkheid, maar AI-gegenereerde zintuiglijke input (audio, video, olfactorische etc.) wordt daar bovenop of in plaats van bepaalde delen ervan ontvangen. AR wordt vaak in één adem genoemd met ‘gamification’, waarbij een activiteit of taak ‘leuk’ wordt gemaakt door kleuren, geluiden en andere prikkels toe te voegen aan de werkelijkheid. De technologie kan echter op veel verschillende manieren worden ingezet, ook voor professionele doeleinden. Het kan worden gebruikt om een route aan te geven tijdens een wandeling in het bos door gele smileys op de juiste weg te zetten; het kan worden gebruikt in oorlogsgebieden om het zien van bloed te vervangen door aangenamere stimuli. In Smart Cities wordt AI gebruikt om de geur in de straten aan te passen. Een mandarijnengeur kan in gebieden worden gespoten als voorspellende programmering heeft vastgesteld dat er een grote kans is op agressie in het uitgaansleven. Het is bekend dat de geur van fruit een kalmerend effect heeft op mensen.
Virtual reality: in zijn ideale vorm, wanneer een gebruiker zich in VR bevindt, wordt alle zintuiglijke input door AI gegenereerd. De meeste huidige vormen van VR richten zich op het creëren van AI-gegenereerde input voor slechts één van onze zintuigen, namelijk zicht. Er wordt echter ook geëxperimenteerd met geluid, geur en aanraking. Hoewel een gebruiker de nieuwe realiteit bewust betreedt, wordt de virtualiteit ervan over het algemeen als bijna echt ervaren, wat anders is dan bij de meeste vormen van AR, waar gebruikers zich over het algemeen bewust zijn van de kunstmatigheid van de toegevoegde zintuiglijke lagen. VR kan reële en concrete effecten hebben op mensen wanneer ze terugkeren naar de fysieke werkelijkheid, bijvoorbeeld wanneer ze behandeld worden voor angststoornissen of chronische pijn. VR wordt ook gebruikt voor gaming, voor de behandeling van mensen die lijden aan dissociatieve stoornissen, voor militaire training en voor educatieve doeleinden – bijvoorbeeld om kinderen te laten deelnemen aan democratische debatten in het oude Athene.
1.4. WAT DIT BOEK BIEDT
Dit zijn slechts enkele trends die ons gevoel en onze perceptie van de werkelijkheid zullen beïnvloeden. Hoewel deze technologieën nog in de kinderschoenen staan, hebben ze al reële en tastbare gevolgen gehad voor het persoonlijke leven van velen en voor de maatschappij in het algemeen. Zelfs als deze technologieën zich ontwikkelen volgens de meest conservatieve scenario’s, zal de werkelijkheid in toenemende mate worden bemiddeld, beïnvloed, veranderd en vervangen door AI-gegenereerde zintuiglijke input. Het centrale thema van dit boek is dan ook de realiteit.
Dit boek richt zich op de implicaties van de synthetische realiteit en bespreekt vier toepassingsgebieden: HR’s, DF’s, AR en VR. De reden om deze vier te kiezen is dat ze verschillende technologische stromingen vertegenwoordigen die onze perceptie van de werkelijkheid beïnvloeden. Een Humanoid Robot wordt in de fysieke werkelijkheid geplaatst, en handelt en praat als een mens. Een deepfake is een door AI gegenereerde weergave van de werkelijkheid, zij het vervormd. AR neemt de realiteit als basis, maar voegt AI-gegenereerde stimuli toe aan de perceptie van de gebruiker. Bij VR is de perceptie van de gebruiker van de werkelijkheid volledig AI-gegenereerd, terwijl het lichaam in de fysieke realiteit blijft.
Dit boek beschrijft de effecten van AI-gegenereerde inhoud op de werkelijkheid en onze perceptie daarvan. Het beschrijft de verschillende technologische ontwikkelingen en bespreekt de belangrijkste toepassingsgebieden van HR’s, DF’s, AR en VR. Het bespreekt zowel de potentiële positieve als negatieve effecten van deze toepassingen en gaat in op de maatschappelijke vragen die de technologieën oproepen. Het boek beschrijft de huidige regelgeving en evalueert hoe deze van toepassing is op de technologieën en hun belangrijkste gebruikssituaties. Verschillende hiaten in de regelgeving worden duidelijk: punten waarop de negatieve gevolgen van de technologieën niet adequaat kunnen worden aangepakt met de huidige wettelijke normen. Het boek sluit af met een bespreking van verschillende alternatieven voor het huidige juridische systeem die deze hiaten zouden kunnen oplossen, en bespreekt de verdiensten en valkuilen van elk van deze alternatieven. Uiteindelijk zijn er misschien meer vragen dan antwoorden.
Dit boek is geschreven voor een breed publiek, maar richt zich in het bijzonder op juristen, rechtswetenschappers, toezichthouders en studenten rechten en technologie. De focus ligt dan ook op de gevolgen van synthetische technologieën voor de maatschappij en de manier waarop het juridische systeem aangepast zou kunnen of moeten worden zodat de schadelijke gevolgen voor persoonlijke en maatschappelijke belangen aangepakt kunnen worden. Op het einde van het boek zou de lezer inzicht moeten hebben in de basiskwaliteiten van de vier technologieën en hun belangrijkste toepassingsgebieden, de positieve en negatieve gevolgen van hun gebruik in de praktijk en de maatschappelijke vragen die ze oproepen. De lezer begrijpt dan hopelijk ook hoe de huidige regelgeving van toepassing is op de verschillende technologieën, welke hiaten er zijn en welke mogelijke alternatieven op het gebied van regelgeving de geldende wettelijke normen zouden kunnen verbeteren. Bovenal moet het duidelijk zijn dat er vaak geen perfecte oplossingen zijn voor de vele ongemakkelijke vragen die generatieve AI oproept.
(Vertaald door Beste ID, met behulp van AI (DeepL, Google Translate). Noten zijn in de vertaling weggelaten: zie daarvoor de link naar het boek.)
