ChatGPT als sociaal disruptieve techniek
Ieder jaar vraagt het Beste-ID een stukje te schrijven; dit jaar was de vraag hoe AI (artificiële intelligentie) mijn vakgebied en de maatschappij zou kunnen veranderen. Eerlijk gezegd was ik wat ambivalent over deze vraag. Het toeval wilde namelijk dat ik de afgelopen twee jaar ook over AI geschreven had (hoewel dat misschien niet geheel toevallig is voor een techniekfilosoof). Twee jaar geleden dat eerlijke algoritmes meer vragen dan technische keuzes en vorig jaar dat ik vreesde dat AI gehypet was en dat mijn vakgebied te veel concentreerde op deze techniek ten koste van anderen. Vooral in het licht van het laatste voelt het wat bezwaarlijk nu weer over AI te schrijven.
Ik had me er natuurlijk makkelijk af kunnen maken door mijn bijdrage dit jaar door ChatGPT te laten schrijven. En hoewel sommigen beweren door ChatGPT geschreven teksten te herkennen, was het maar de vraag geweest of dat aan het licht gekomen. Ik kan U verzekeren dat ik dit zelf geschreven heb. (Hoewel het maar de vraag is of dat U, lezer, zou moeten overtuigen want ChatGPT is ook prima in staat zo’n zin te schrijven.)
Het bovenstaande laat mooi zien hoe generatieve AI, waarvan ChatGPT een voorbeeld is, al invloed heeft op de beoefening van wetenschap. Het roept bijvoorbeeld vragen op over auteurschap, maar ook over wetenschappelijke integriteit. Als ik ChatGPT een tekst laat schrijven en ik doe of ik de auteur ben is dat dan plagiaat, of is het iets ontoelaatbaars waar we nog geen goed woord of concept voor hebben? Mag ik ChatGPT wel gebruiken ter ondersteuning van het schrijfproces en hoe moet ik daar dan verantwoording voor afleggen?
Deze vragen laten zien dat ChatGPT een sociaal disruptieve technologie is. Dat wil zeggen een technologie die bestaande praktijken, zoals het schrijven van artikelen, overhoop haalt. Bovendien lijken bestaande regels, zoals in dit geval voor wetenschappelijke integriteit, niet meer – of tenminste niet meer volledig – te voldoen. Zelfs sommige van de concepten die we gebruiken om over dit vraagstuk na te denken – zoals auteurschap en plagiaat – lijken uitgedaagd te worden. (Bijvoorbeeld: veel filosofen en wetenschappers denken dat ChatGPT geen auteur kan zijn, maar is het presenteren van teksten van ChatGPT als eigen werk dan wel plagiaat? Veronderstelt dat geen andere oorspronkelijke auteur?)
Samen met collega’s doe ik onderzoek naar sociaal disruptieve technologieën in het onderzoeksprogramma Ethics of Socially Disruptive Technologies (www.esdit.nl) en AI is zeker niet de enige technologie die potentieel sociaal disruptief is. Denk bijvoorbeeld ook aan geo-engineering, waarmee we kunstmatig het klimaat kunnen bijsturen of artificiële baarmoeders. Wat de ethiek van dergelijke technologieën uitdagend maakt is dat de kaders die we nu hanteren om ze te beoordelen zelf gedeeltelijk niet meer goed bruikbaar lijken door de nieuwe technologische mogelijkheden en veranderende praktijken, zodat we nieuwe ethische concepten, theorieën en raamwerken moeten ontwikkelen om goed met dergelijke technieken om te gaan. ChatGPT is daarin niet uniek maar wel een goed voorbeeld van.