Kunstmatige intelligentie ontstond halverwege de jaren ‘50 met het doel om machines te maken die konden denken als mensen. Het verbeteren van het menselijk intellect stond niet op de agenda. Er waren echter ook technologische pioniers die anders dachten.
Het spook van het communisme waart weer rond in Amerika, maar deze keer digitaal. MIT-econoom Daron Acemoglu stelt de uitdagende vraag: “Zou een door AI ondersteund communisme werken?”1 Durfkapitalist Marc Andreessen vraagt zich af of ‘China communistische AI [zal] creëren?’ En de Republikeinse provocateur Vivek Ramaswamy vergelijkt ‘pro-communistische AI’ met Covid-19. Maar ondanks de paniek weet niemand echt wat ‘communistische AI’ betekent. Zou deze AI het Chinese technologiemodel volgen, met binnenlandse platforms die Amerikaanse bedrijven weerspiegelen maar onder strenge staatscontrole staan? Of zou ze een Europese verzorgingsstaat-benadering omarmen, waarbij AI-ontwikkeling wordt gecentraliseerd binnen openbare instellingen?
Die laatste optie is wel aantrekkelijk, zeker gezien het feit dat de huidige AI-race snelheid vaak belangrijker vindt dan kwaliteit. Het rampzalige experiment van Google met AI-gestuurde zoekresultaten,2 die suggereerden lijm op pizza’s te gebruiken en stenen te eten om de gezondheid te verbeteren, is hier een goed voorbeeld van. Een door de overheid gefinancierde aanpak van generatieve AI, met gecureerde datasets en streng toezicht, zou AI van hogere kwaliteit kunnen produceren en hogere prijzen kunnen vragen aan zakelijke gebruikers, zodat de inkomsten terugvloeien naar de makers van de inhoud.
Maar is een gesocialiseerde AI-economie het beste waar we naar kunnen streven, of is het te veel een capitulatie voor Silicon Valley? Kan ‘socialistische’ of ‘communistische’ AI meer bieden dan alleen een verschuiving in eigendom en controle van gegevens, modellen en computerinfrastructuren? Schuilt er een dieper, meer transformatief potentieel in dit vreemde idee?
De afgelopen jaren heb ik twee gelegenheden gehad om vanuit een historisch oogpunt over deze vraag na te denken. In mijn podcast ‘The Santiago Boys’ uit 2023 onderzocht ik het visionaire Project Cybersyn van Salvador Allende in Chili aan het begin van de jaren zeventig.3 Dit kortstondige maar ambitieuze project, dat werd geleid door de charismatische Britse consultant Stafford Beer, was bedoeld om de beperkte computerhulpbronnen van het land te gebruiken om de economie effectiever te beheren. Cybersyn, dat vaak het ‘socialistische internet’ wordt genoemd, maakte gebruik van het Chileense telexnetwerk om productiegegevens van staatsfabrieken naar een centraal punt in Santiago te sturen. De echte innovatie lag echter in een vroege vorm van machinaal leren, ontworpen om arbeiders mondiger te maken. Het project wilde de valkuilen van het Sovjetmodel vermijden door gebruik te maken van de ‘verborgen’ kennis van fabrieksarbeiders – kennis die meestal niet terecht kwam bij de kapitalistische managers.
De technici van Allende bezochten fabrieken en brachten samen met de arbeiders de productie- en managementprocessen in kaart. Deze waardevolle kennis werd vervolgens omgezet in operationele modellen met wel tien parameters per fabriek. Speciale statistische software hield deze gegevens in de gaten en waarschuwde arbeiders-managers in (bijna) realtime voor nieuwe knelpunten.
De kern van Cybersyn was een hybride systeem, waarin menselijke intelligentie werd versterkt door computerkracht. In ideale omstandigheden zouden arbeiders-managers, samen met Allendes bureaucraten, samenkomen in een ‘Operations Room’. Daar zouden ze gebruik kunnen maken van geavanceerde visualisatietools om de economie te begrijpen en te beheren, ongeacht hun eerdere ervaring in management of economie. Allendes ‘socialistische AI’ was erop gericht om door arbeiders geleid bestuur effectiever te maken door aan productie gerelateerde kennis – verborgen en onderbenut onder het kapitalisme – expliciet en bruikbaar te maken, terwijl arbeiders – de nieuwe leiders van het land – in staat werden gesteld om met competentie en vertrouwen te handelen. Is dit de ‘socialistische AI’ waar we naar op zoek zijn?
Ecologische intelligentie
Werkend aan mijn nieuwe podcast, ‘A Sense of Rebellion’, een follow-up van ‘The Santiago Boys’, bleef ik nadenken over de betekenis van dit vreemde concept. Het hart van de podcastserie wordt gevormd door Warren Brodey, een 100-jarige, die eerst psychiater was, toen cyberneticus werd, en toen hippie. Aan het eind van de jaren ‘60 richtte Brodey, gesteund door een rijke medewerker, in Boston een experimentele onderneming op, het Environmental Ecology Lab genaamd.
Ze streefden een unieke vorm van ecologische intelligentie na, die sterk verschilde van de orthodoxe AI-projecten bij MIT, dat zich slechts een paar metrohaltes verderop bevond. Brodey, ooit verbonden aan MIT en bevriend met de AI-pioniers Marvin Minsky en Seymour Papert, geloofde dat ze op het verkeerde spoor zaten. Voor Minsky en Papert ging intelligentie over abstracte algoritmische regels en procedures die het menselijk redeneren sturen. Door ze te ontcijferen en te benoemen kun je kunstmatige intelligentie in een computer implementeren.
Brodey en zijn vijf medewerkers stelden echter dat intelligentie niet beperkt is tot ons hoofd. In plaats daarvan komt intelligentie voort uit interacties tussen mensen en hun omgeving. De naam van hun lab, Environmental Ecology, weerspiegelde deze overtuiging dat context alles is; op zichzelf zijn abstracte regels en procedures betekenisloos. In het lab illustreerden ze dit punt vaak met een eenvoudig voorbeeld: het commando ‘Kleed je uit!’ betekent totaal verschillende dingen, afhankelijk van wie het zegt – een dokter, een geliefde of een vreemdeling in een donker steegje. Het bereiken van echte AI, die in staat is om subtiele contextuele verschillen autonoom te begrijpen, was volgens het lab een hele opgave. De taak vereiste van computers dat ze een oneindig aantal concepten, gedragingen en contexten en hun onderlinge relaties beheersten. Met andere woorden, het project om AI te bouwen ging niet alleen over het modelleren van menselijke mentale processen, maar vooral over het begrijpen van het hele culturele kader van de menselijke beschaving – de hele context die betekenis geeft.
In plaats van hun energie te verspillen aan de schijnbaar onmogelijke missie om dergelijke AI-systemen te bouwen, droomde het Environmental Ecology team ervan een manier te vinden om computers en cybernetische technologieën te gebruiken om mensen te helpen hun omgeving te verrijken, wat op zijn beurt hun leven zou verrijken. Brodey en zijn team zagen informatietechnologieën niet alleen als hulpmiddelen om dingen gedaan te krijgen, maar ook als instrumenten om over de wereld na te denken en zich ermee bezig te houden.
Stel je een responsief, cybernetisch systeem voor dat je betrekt in een dialoog over klimaatverandering en waterschaarste, of een auto die je aanzet tot nadenken over de staat van het openbaar vervoer terwijl je rijdt. Het team heeft zelfs een danspak gemaakt waarmee mensen de muziek waarop ze dansen kunnen beïnvloeden, wat de ingewikkelde ecologische relatie tussen beweging en geluid benadrukt.
Helpen bij ‘cognitive mapping’
De invloedrijke kritische theorie van de Frankfurter Schule luidde dat de instrumentele rede het moderne leven overschaduwt. Adorno, Horkheimer en Marcuse veroordeelden de middel-eind rationaliteit. Brodey en zijn team zagen dat radicaal anders. Het was niet de technologie maar het industriële kapitalisme dat onze wereld van zijn ecologische dimensie beroofde. De innovatieve technologie van het lab was erop gericht om deze verloren ecologische dimensie te herstellen, door sensoren en computers te gebruiken om de menselijke aandacht voor de verborgen complexiteit achter het schijnbaar alledaagse te vergroten. In zekere zin zag het lab responsieve en interactieve technologieën als hulpmiddelen voor wat de marxistische literatuurcriticus Fredric Jameson ‘cognitive mapping’ noemde. Technologie kan ons helpen om complexe processen te begrijpen die zich vaak aan ons begrip onttrekken.
Wat me in eerste instantie aantrok in het verhaal van Brodey is hoe zijn excentrieke ideeën een belangrijke maar bijna onzichtbare stempel drukten op onze digitale cultuur. Tijdens zijn korte periode aan het MIT begeleidde hij de jonge Nicholas Negroponte, de baanbrekende techno-utopist wiens werk aan het MIT Media Lab de algemene opvattingen over de digitale revolutie diepgaand heeft gevormd.4
Brodey was een voorstander van ‘responsiviteit’ als kernkwaliteit voor de nieuwe cybernetische apparaten die ze in het lab aan het bouwen waren. Hij zag responsiviteit als een manier om de dialoog tussen mens en machine te bevorderen en ons ecologisch bewustzijn te verdiepen. Negroponte herformuleerde dit concept, waardoor het beter te hanteren werd. Maar dat ging gepaard met enorme politieke en intellectuele kosten. Uiteindelijk bracht hij responsiviteit op één lijn met het traditionele AI-paradigma dat de nadruk legt op machines die de menselijke behoeften begrijpen en vervullen.
Het contrast tussen Brodey, de psychiater, en Negroponte, de architect, is opvallend: Brodey ging ervan uit dat mensen echt naar verandering en eeuwige vernieuwing verlangden, terwijl Negroponte zich richtte op het begrijpen en vervullen van onze directe behoeften. Brodey zag computers als hulpmiddelen voor transformatie; Negroponte, en later Silicon Valley, zagen ze als hulpmiddelen voor het voorspellen en bevredigen van onze bestaande, zij het onuitgesproken, behoeften.
Hun filosofieën liepen sterk uiteen. Negroponte richtte zich op het bouwen van eigenzinnige, excentrieke machines, terwijl Brodey prioriteit gaf aan het creëren van eigenzinnige, excentrieke mensen. Hoewel Brodey in 1967 een baanbrekend stuk schreef over ‘intelligente omgevingen’, hield hij vol dat dergelijke omgevingen niet konden bestaan zonder mensen. Voor hem was ‘intelligentie’ nooit een eigenschap die alleen aan machines kon worden toegeschreven.
Interessant genoeg was de operationele ruimte van Cybersyn een Brodey-achtige intelligentieomgeving bij uitstek, die machine learning, visualisatietechnieken en interactiviteit inzette om ongetrainde werknemers om te vormen tot bekwame managers. Maar Brodeys visie reikte veel verder dan de wereld van het management, want hij impliceerde dat met de juiste technologie álle omgevingen – van klaslokalen tot keukens tot badkamers – intelligenter konden worden, terwijl het ecologisch inzicht van mensen werd verrijkt. Als dit ‘socialistische AI’ was, dan was het socialisme in de meest alledaagse, praktische zin.
Kampioen in human enhancement
Brodey onderscheidde zich om nog een andere reden van de rest van het computer-establishment in de jaren 60. Terwijl zijn collega’s AI zagen als een hulpmiddel voor menselijke verbetering – machines die alledaagse taken overnamen om de productiviteit te verhogen – zag Brodey iets veel belangrijkers. Hij was een voorstander van human enhancement, een concept dat andere doelen nastreeft dan productiviteit en efficiëntie.5
Het onderscheid tussen de twee paradigma’s is subtiel, maar cruciaal. Verbetering is net als het gebruik van GPS om door onbekend terrein te navigeren: het helpt ons om meer gedaan te krijgen, sneller. Toch zorgt de technologie voor de productiviteitsstijging, niet de mens. Zulke voordelen zijn vluchtig; zonder technologische hulpmiddelen zoals onze mobiele telefoons met GPS zijn we even hulpeloos als voorheen. Enhancement daarentegen maakt gebruik van technologie om nieuwe vaardigheden te ontwikkelen. Stel je een aangeboren richtingsgevoel voor met geavanceerde geheugentechnieken of het leren lezen van natuurlijke tekens en hemelpatronen. In essentie maakt verbetering ons armer in de naam van efficiëntie, terwijl enhancement ons bijschoolt en een rijkere interactie met de wereld stimuleert. Dit fundamentele verschil geeft vorm aan onze integratie van technologie en bepaalt of we passieve gebruikers of creatieve ambachtslieden worden.
Brodey ontwikkelde deze inzichten toen hij begin jaren 60 meedeed aan een semi-geheim programma van de Amerikaanse overheid. De CIA had het lumineuze idee om getalenteerde blinden uit het hele land te verzamelen, hen Russisch te leren en hen te laten luisteren naar onderschepte Sovjetcommunicatie. De veronderstelling was dat hun blindheid hun andere zintuigen had versterkt en de zintuigen van ziende analisten overtrof. Als psychiater bracht Brodey jaren door met deze blinde mensen en probeerde de interne en externe signalen te begrijpen die ze gebruikten om hun verhoogde zintuiglijke capaciteiten te ontwikkelen. Dit leidde hem tot een baanbrekend inzicht: wij zouden allemaal – niet alleen blinden – rijkere perceptuele vermogens kunnen ontwikkelen en onze reuk-, tast- en gehoorzintuigen op diepgaande manieren kunnen verbeteren.
Door te stellen dat we allemaal een kunstenaarachtige gevoeligheid kunnen ontwikkelen, had zijn programma voor menselijke verbetering een poëtische dimensie. Brodey, een pragmaticus, geloofde dat computers de sleutel waren tot de realisatie ervan. Door interne en externe parameters – van lichaamswarmte tot vochtigheid en lichtkwaliteit – expliciet te maken, konden we deze subtiele taal leren beheersen. (Brodey stelde later aan de NASA, waar hij als consultant werkte, voor om astronauten te trainen met dezelfde technieken).
Brodey nam zijn visie op menselijke verbetering uiteindelijk mee naar het MIT, met als doel er een serieus onderzoeksprogramma van te maken. Hij kreeg echter te maken met aanzienlijke weerstand, niet alleen van het conservatieve AI-establishment maar ook van degenen die vreesden dat het concept duistere, nazi-achtige trekjes had. Stelde hij niet voor om op mensen te experimenteren? Zulke felle tegenstand dwong Brodey zich te wenden tot particuliere donoren. Gelukkig had hij twee rijke vrienden die zich bij hem aansloten.
Het cruciale verschil tussen human enhancement en human augmentation – de gevoeligheid voor automatisering – is pas tientallen jaren later duidelijk geworden. Vandaag de dag dreigen hulpmiddelen gebaseerd op generatieve AI niet alleen het werk van kunstenaars en schrijvers te vermeerderen, maar hen volledig te vervangen. Augmentation heeft als doel machines te maken die denken en waarnemen zoals mensen, waardoor menselijke vaardigheden mogelijk overbodig worden. Daarentegen gebruikt enhancement machines om mensen te helpen op geheel nieuwe manieren te denken en waar te nemen.
De mogelijkheid om onze vaardigheden uit te breiden
Brodeys visie was gedurfd, vooral als je bedenkt dat technologie in de tegencultuur van de jaren ’60 voor het grootste deel ofwel iets zielloos en anoniems was waar je je verre van moest houden, ofwel een middel voor persoonlijke bevrijding in een of andere terug-naar-het-land commune. Brodeys intelligente technologieën beloofden iets anders: een verrijking van onze smaak en een uitbreiding van onze vaardigheden. Ze zouden de mensheid niet achterhaald maken of leiden tot het homogene, gestandaardiseerde bestaan dat velen vreesden van de opkomst van de machinebeschaving. In plaats daarvan zouden ze nieuwe gebieden van menselijk potentieel ontsluiten en ervoor zorgen dat technologie dient om de menselijke ervaring te verheffen in plaats van te verkleinen.
Brodey formuleerde veel van zijn inzichten aan het begin van de jaren 1960, jaren voordat het lab van start ging. Dit was een tumultueuze periode waarin zijn professionele leven en zijn gezinsleven uiteenvielen. Ooit was hij een gerespecteerd lid van het Amerikaanse establishment, maar hij voelde zich steeds meer aangetrokken tot de meest avant-gardistische uithoeken van de samenleving. Net als veel Amerikaanse hippies uit die tijd vond Brodey politiek irrelevant. Daarom had hij moeite om zijn ideeën over menselijke verbetering om te zetten in politieke eisen.
Evald Ilyenkov, een marxistische filosoof uit de Sovjet-Unie en tijdgenoot van Brodey (beiden werden geboren in 1924, slechts een maand na elkaar), komt nu in beeld. Ilyenkov werkte onafhankelijk van Brodey en pakte soortgelijke kwesties aan, maar binnen het kader van het ‘creatief marxisme’ van de Sovjet Unie. Zijn werk geeft een duidelijker inzicht in wat menselijke verbetering betekent voor communistische en socialistische projecten.
Net als Brodey werkte Ilyenkov veel met blinden. Ook hij zag dat zowel cognitieve als zintuiglijke vaardigheden producten zijn van socialisatie en technologische interactie. Hij stelde dat de juiste pedagogische en technologische omgevingen nieuwe vaardigheden die in ons sluimerden konden cultiveren. Voor Ilyenkov was het communisme een door de staat geleid streven om latente menselijke vermogens te ontsluiten, zodat individuen hun volledige potentieel konden bereiken, ongeacht sociale of natuurlijke barrières.
Woedend over de fascinatie van Sovjetbureaucraten voor AI naar Amerikaans model, schreef Ilyenkov een van de meest overtuigende kritieken op kunstmatige intelligentie in zijn essay On the Idols and the Ideals (1968).6 Hij gebruikte een treffende metafoor: het bouwen van AI is als het bouwen van een enorme, dure fabriek om kunstmatig zand te produceren in het midden van een woestijn. Zelfs als de fabriek perfect zou werken, waarom zouden we dan niet gewoon het overvloedige natuurlijke zand, de menselijke intelligentie, gebruiken? Iljenkovs kritiek, geschreven in 1968, is vandaag de dag nog steeds relevant. We zitten nog steeds verstrikt in diezelfde woestijn en rechtvaardigen het bestaan van de kunstmatige zandfabriek terwijl we een fundamentele realiteit over het hoofd zien: misschien heeft niemand, behalve het leger en zijn kapitalistische weldoeners, deze faciliteit echt nodig.
Brodey gebruikte een metafoor van Marshall McLuhan en vergeleek de impact van zijn ecologische technologieën met een vis die plotseling het bestaan van water inziet. Op dezelfde manier is het tijd dat iemand de AI-geobsedeerde bewoners van de zandfabriek inlicht over de enorme woestijn achter haar muren – een woestijn die wemelt van creatieve, onvoorspelbare en poëtische intelligentie.
De grote onopgeloste vraag is deze: zullen we ooit echte menselijke verbetering bereiken als we blijven werken met concepten als ‘kunstmatige intelligentie’, die tegengesteld lijken aan de missie van de menselijke ontwikkeling?
Strenge controle op AI-kampioenen
In werkelijkheid gaan de kosten van de ontwikkeling van kunstmatige intelligentie veel verder dan de miljarden die sinds de jaren 1950 aan die ontwikkeling zijn gespendeerd. Het werd ook persoonlijk. Dat is te zien aan de meedogenloosheid van de ‘Young Turks’ die de opkomst van AI voorstonden. Hun agressieve fondsenwerving en rigide afbakening marginaliseerde de bijdragen van visionairs als Stafford Beer en Warren Brodey, die zich nooit op hun gemak voelden met het AI-label.
Brodey en Beer, die elkaar kort voor de dood van Beer in 2002 ontmoetten, hadden een totaal verschillende achtergrond. Beer was een voormalig zakenman en een trots lid van de elitaire Athenaeum Club in Groot-Brittannië, terwijl Brodey opgroeide in een Joods middenklasse gezin in Toronto. Ondanks hun verschillen deelden ze een afkeer van de wetenschappelijke discipline van AI en haar dogmatische beoefenaars. Beide mannen hadden dezelfde mentor: Warren McCulloch, een vooraanstaande naam in de cybernetica. Diens ideeën vonden Brodey en Beer aantrekkelijker dan de ideeën uit de wereld van de kunstmatige intelligentie, ook al zagen de vroege beoefenaars van de AI hun eigen discipline als een natuurlijke evolutie van de cybernetica. Maar evolutie was het niet: in veel opzichten was AI een achteruitgang ten opzichte van de oorspronkelijke cybernetische agenda.
Cybernetica kwam op in de nasleep van de Tweede Wereldoorlog, toen pioniers uit verschillende vakgebieden – wiskunde, neurofysiologie, techniek, biologie, antropologie, en nog meer – opvallende overeenkomsten zagen in hun onderzoeksagenda’s.7 Ze worstelden allemaal met complexe, niet-lineaire processen, waarbij het onmogelijk werd om oorzaken van gevolgen te scheiden. Wat een effect leek te zijn van een natuurlijk of sociaal proces kon tegelijkertijd de oorzaak zijn van een ander proces.
Er was een nieuw vocabulaire nodig om deze fenomenen te bespreken, wat leidde tot concepten als feedback loops en ‘circulaire causaliteit’. Deze interdisciplinaire benadering stelde wetenschappers die bekend waren met het cybernetische jargon in staat om processen in machines, menselijke hersenen en samenlevingen te analyseren met behulp van hetzelfde conceptuele kader.
Cybernetica was dus geen wetenschappelijke discipline maar een filosofie die de nadruk legde op wederzijdse oorzakelijkheid en de verstrengeling van schijnbaar ongerelateerde fenomenen. Ze stond naast andere filosofieën, van reductionisme tot holisme en van materialisme tot functionalisme. Vooraanstaande cybernetische denkers verlieten hun primaire vakgebied niet; ze bleven toegewijde wiskundigen, neurofysiologen, antropologen en biologen. Maar ze stelden nu cybernetische vragen en verrijkten hun begrip met deze nieuwe filosofische lens.
In eerste instantie bood cybernetica een manier om machines te gebruiken als modellen om menselijke intelligentie beter te begrijpen, niet om deze te repliceren. Deze benadering verschilde niet zoveel van economen die waterbouwkundige modellen gebruikten om inflatie of werkloosheid te bestuderen. Niemand beweerde dat deze modellen de echte economie waren, maar ze boden cruciale inzichten in belangrijke relaties.
De eisen van het leger
Toen kunstmatige intelligentie halverwege de jaren 50 haar intrede deed, wilde ze zich onderscheiden van cybernetica en een nieuwe grens verkennen en machines laten ‘denken’ als mensen. Maar de verdere zoektocht ging niet over het ontrafelen van de mysteries van menselijke cognitie. Het ging erom te voldoen aan de eisen van de belangrijkste opdrachtgever: het leger. Het doel was duidelijk en pragmatisch: machines bouwen die in staat zijn taken uit te voeren en problemen op te lossen die passen bij militaire strategieën en operaties. Vanaf het begin werd het AI-onderzoek gestuurd door de eisen van defensie. Die eisen zouden de verdere evolutie bepalen.
Zo werden sommige vroege projecten die geïnspireerd waren door de cybernetische filosofie – zoals het bouwen van kunstmatige neurale netwerken – al snel omgevormd voor militaire doeleinden. Ineens werden deze neurale netwerken niet langer gezien als een middel om de complexiteit van de menselijke cognitie te ontrafelen. In plaats daarvan werden ze – net als het paradigma van de human augmentation – krachtige hulpmiddelen om personeel te helpen bij het analyseren van luchtfoto’s van vijandelijke schepen of olietankers. De ambitieuze zoektocht om ‘kunstmatige’ intelligentie te creëren maskeerde alledaagse militaire contracten met een laagje wetenschappelijk prestige.
Vergeleken met de cybernetica was er weinig interdisciplinariteit in dit jonge veld. AI werd gedomineerd door briljante, ambitieuze jonge wiskundigen en computerwetenschappers, die cybernetica te abstract, filosofisch en potentieel subversief vonden. Norbert Wiener, de vader van cybernetica, had zich toen al aangesloten bij de vakbonden en bekritiseerde het leger, een houding die nauwelijks bevorderlijk was voor financiering door het Pentagon. Daarentegen had AI, met zijn verleidelijke belofte van autonome wapens, niet te maken met dergelijke imagoproblemen.
Vanaf het begin was AI een zeer eigenaardige wetenschappelijke discipline. In tegenstelling tot traditionele wetenschappen die de wereld proberen te begrijpen – soms aan de hand van modellen – probeerden AI-beoefenaars vereenvoudigde modellen te construeren van een echt fenomeen – intelligentie – en vervolgens alles in het werk te stellen om externe waarnemers ervan te overtuigen dat deze modellen niet te onderscheiden waren van wat ze modelleerden (een uiterst verwarrende operatie, die werd gelegitimeerd door de Turingtest). Het is alsof een groep afvallige geografen een nieuwe discipline ‘kunstmatig land’ heeft opgericht, in de hoop de rest van ons ervan te overtuigen dat er binnenkort geen functioneel verschil meer zal zijn tussen de kaart en het gebied: met de vooruitgang van de technologie zal de kaart uiteindelijk net zo goed worden als wat hij vertegenwoordigt.
In veel opzichten is de ontwikkeling van AI tijdens de koude oorlog, met name in de Verenigde Staten, een afspiegeling van de ontwikkeling van de economische wetenschap. De Amerikaanse economische wetenschap van voor de Koude Oorlog was een levendige, diverse discipline die zich intensief bezighield met de dynamiek van de echte wereld. Ze legde de nadruk op de rol van macht en instellingen, van vakbonden tot de Federal Reserve, bij het vormgeven van productie en economische groei.
Door de eisen van de Koude Oorlog werd de economische wetenschap echter weggeleid van de tastbare wereld. Het vakgebied raakte gefixeerd op abstracte modellen, waarbij de relevantie voor de echte wereld bijkomstig werd. Deze vreemde obsessie met optimalisatie, evenwicht, speltheorie en andere theoretische constructies leidde tot een discipline die steeds verder af kwam te staan van werkelijke instellingen en gedragingen.
Hoewel niet geheel nutteloos – een deel van dit wiskundige werk ligt ten grondslag aan de huidige digitale markten, van online advertenties tot ritdeeldiensten – is het incidentele nut van een gebrekkige onderzoeksbenadering geen vrijbrief. De invloed van de Koude Oorlog is een van de redenen waarom de moderne orthodoxe economische wetenschap weinig inzicht biedt in kwesties als ongelijkheid of klimaatverandering en vaak standaard kiest voor op de markt gebaseerde oplossingen.
Eufemisme voor kapitalisme
AI heeft een vergelijkbaar pad gevolgd. AI wordt gevierd als een technologische triomf, maar is vaak niet meer dan een eufemisme voor militarisme en kapitalisme. Net zoals zelfs de meest orthodoxe economen het eens kunnen zijn over enige marktregulering, erkennen de meest kritische AI-voorstanders de noodzaak om AI te reguleren en in te dammen. Ze hebben echter moeite om zich een toekomst voor te stellen waarin AI ons begrip van intelligentie niet domineert. Vanaf het begin was AI minder een wetenschap – waarbij de einddoelen open en onbekend zijn – en meer een religie (zij het met een technologische draai). Het doel was duidelijk: het creëren van een computersysteem met een algemeen doel dat elke taak kan uitvoeren zonder expliciete training. Deze visie, die nu bekend staat als Artificial General Intelligence (AGI), was het uiteindelijke doel.
Nog een andere parallel is dat de technologische verbeelding van de Koude Oorlog AGI zag zoals zijn economische tegenhanger de vrije markt zag: beide werden gezien als zelforganiserende, autonome krachten waaraan de mensheid zich moest aanpassen. Beide disciplines zagen ook de basiselementen over het hoofd die de zoektocht naar AGI en vrijemarktkapitalisme mogelijk maken. De economische wetenschap negeert gemakshalve de rol van koloniaal geweld, patriarchaat en racisme en stelt in plaats daarvan het kapitalisme voor als een natuurlijke uitbreiding van wat Adam Smith beschreef als de menselijke neiging tot ‘handelen, ruilen en uitwisselen’.
Ook het standaardverhaal over de oorsprong van AI schrijft AI toe aan natuurlijke ontwikkelingen in de cybernetica, wiskunde en logica, terwijl het niets zegt over de geopolitieke en historische context. Het is alsof je de opkomst van eugenetica en frenologie bespreekt als louter takken van biologie en genetica, terwijl je met geen woord rept over racisme. Zoals Yarden Katz benadrukt in zijn uitstekende boek uit 2020, Artificial Whiteness, zou de discipline van AI niet bestaan zonder het militarisme, corporatisme en chauvinisme van de Koude Oorlog. Kan zo’n corrupt concept ooit worden heroverd voor progressieve doeleinden? Of is dromen van een ‘communistische AI’ net zo vergeefs als dromen van humane sweatshops, aangename martelwerktuigen of speelse transportbanden?
Reflecterend op de ervaringen van Stafford Beer en Warren Brodey ben ik tot de overtuiging gekomen dat, in plaats van te fantaseren over een ‘socialistische AI’, we beter af zouden zijn als we dat concept helemaal laten vallen. Wat we moeten doen, is een socialistisch technologiebeleid ná AI formuleren, en niet proberen linkse toepassingen of eigendomsmodellen te vinden om de bestaande AI te humaniseren.
Het primaire doel van dit post-AI socialistische technologiebeleid zou zijn om individuen, ongeacht klasse, ras of geslacht, toegang te bieden tot instellingen, infrastructuren en technologieën die hun creatieve autonomie vergroten en hen in staat stellen hun capaciteiten ten volle te ontwikkelen. Met andere woorden, we moeten een omschakeling bewerkstelligen van human augmentation naar human enhancement.
Dit beleid zou voort moeten bouwen op aspecten van de welvaartsstaat – onderwijs en cultuur, de domeinen van openbare bibliotheken, universiteiten en omroepen – die het meest losstaan van het dienen van de meer conservatieve drijfveren (zoals het gesocialiseerde vangnet) van het kapitalistische systeem. In deze visie wordt een post-AI technologiebeleid een facilitator van socialistisch onderwijs- en cultuurbeleid, in plaats van een versneller van neoliberale economie, zoals tegenwoordig het geval is met AI-georiënteerd beleid.
Curieus genoeg begreep Brodey zelf uiteindelijk dat er geen socialistische AI kan bestaan zonder socialisme. Tegen het begin van de jaren 1970 erkende hij de nutteloosheid van het proberen te realiseren van zijn dromen van ‘menselijke verbetering’ en ‘ecologische technologie’ in het Amerika van de Koude Oorlog. Het hielp ook niet dat Brodey en zijn medewerkers principieel stelling namen tegen de Vietnamoorlog, door financiering van het Pentagon en zelfs van instellingen zoals MIT te weigeren.
Toen ik Nicholas Negroponte interviewde over zijn connecties met Brodey, vertelde hij dat zijn mentor elke gedachte aan een vaste positie aan MIT afwees. Comfort was niet zijn ding. In plaats daarvan koos Brodey ervoor om een eigenaardig huis te bouwen van schuim en ballonnen, diep in een bos in New Hampshire. Dit was zijn eigen responsieve, intelligente omgeving. Destijds was dit zelfs te veel voor bewonderaars zoals Negroponte (“Niet iedereen wil in een ballon wonen”, zei hij destijds).
Brodeys visie was doordrenkt van utopisme. Samen met zijn belangrijkste medewerker, Avery Johnson, hoopte hij dat het Amerikaanse bedrijfsleven hun visie op responsieve, interactieve producten zou omarmen, en die nieuwe smaken en interesses zouden bevorderen in plaats van consumentistische verlangens uit te buiten. Echter, bedrijven gaven de voorkeur aan Negropontes meer conservatieve, op consumptie gerichte versie, waarbij interactiviteit werd omgevormd tot een middel voor machines om onze angsten te leren kennen en ons meer spullen te verkopen.
Gedesillusioneerd verhuisde Brodey in 1973 naar Noorwegen, waar hij herrees als maoïst en zijn ideeën door een nieuwe politieke lens heroverwoog. Hij werd een actief lid van de Communistische Arbeiderspartij, een van de belangrijkste maoïstische bolwerken in Europa, en reisde zelfs naar China om zijn visie op ‘responsieve technologieën’ te delen met Chinese ingenieurs. Voor iemand die in de jaren zestig diep betrokken was bij militaire projecten uit het tijdperk van de Koude Oorlog, NASA en aan de CIA gerelateerde projecten, was dit een behoorlijke transformatie.
Na afgelopen decennium talloze uren met hem te hebben gesproken (hij woont nog steeds in Noorwegen), kan ik bevestigen dat Brodeys leven perfect de mogelijkheid van een open-einde belichaamt dat hij in de jaren zestig voorstond. Menselijke verbetering heeft voor hem zeker gewerkt, wat suggereert dat het misschien ook voor de rest van ons zou kunnen werken. Alles wat we nodig hebben zijn de juiste technologieën – en een flinke dosis scepsis over AI, communistisch of niet.
Evgeny Morozov is auteur, onderzoeker en de maker van ‘The Santiago Boys’, een podcast in negen afleveringen, gebaseerd op meer dan tweehonderd interviews. De podcast is geproduceerd door Chora Media en Post-Utopia.
Vertaling: Jos Baijens
- Daron Acemoglu, ‘Would AI-enabled communism work?’, Project Syndicate, 28 juni 2023, www.project-syndicate.org
- Stephen Morris en Madhumita Murgia, ‘Google’s AI search tool tells users to “eat rocks” for your health’, Financial Times, London, 24 mei 2024
- Luister naar Evgeny Morozovs, ‘The Santiago Boys’, podcast, 2003, the-santiago-boys.com
- Negroponte, een vroege investeerder in en columnist bij Wired magazine, schreef de bestseller die de toon zette van de meeste debatten over de digitale revolutie: Being Digital, Alfred A Knopf, New York, 1995, en.wikipedia.org/wiki/Being_Digital
- Brodeys eerste uiting van deze agenda is in zijn artikel uit 1967 (ook al was hij eerder, in 1964, bezig met het promoten ervan): Warren M Brodey en Nilo Lindgren, ‘Human enhancement through evolutionary technology’, IEEE Spectrum, vol. 4, no. 9, New York, september 1967, ieeexplore.ieee.org/document/5215586
- Dit is geen vertaling uit het Russisch. Een goede samenvatting van de kritiek van Ilyenkov is beschikbaar in het Engels op www.radicalphilosophy.com/article/the-philosophical-disability-of-reason
- De beste inleiding tot de opkomst ervan blijft Ronald R Kline, The Cybernetics Moment, Johns Hopkins University Press, 2017
- Yarden Katz, Artificial Whiteness: Politics and Ideology in Artificial Intelligence, Columbia University Press, New York, 2020
