Leren, beredeneren en beslissen: de toekomst van verantwoorde intelligente systemen

De ontwikkeling in kunstmatige intelligentie, versneld door de massale digitalisering en dataficatie van onze dagelijkse praktijken, in combinatie met de kracht van computers en innovatieve technieken, in het bijzonder deep learning, heeft recentelijk geleid tot de opkomst van intelligente systemen die tot voor kort moeilijk, zo niet onmogelijk, te realiseren waren. Deep learning-technieken hebben zich bewezen als zeer effectief en schaalbaar in het modelleren en uitvoeren van een breed scala aan complexe taken, variërend van zintuiglijke taken, zoals beeld- en spraakherkenning, tot het ondersteunen van besluitvorming in verschillende domeinen, het genereren van natuurlijke taalconversaties en het profileren van gebruikers van digitale media. Dankzij deze vooruitgangen in kunstmatige intelligentie zijn we nu getuige van nieuwe wetenschappelijke ontdekkingen, waarvan sommige zelfs bekroond zijn met een Nobelprijs, evenals alternatieve levensstijlen met diensten die onze dagelijkse activiteiten verrijken en verbeteren.

De in stroomversnelling geraakte kunstmatige intelligentie zorgt voor voortdurende en ingrijpende veranderingen van de wereld om ons heen. Het is dan ook begrijpelijk dat er een groeiende bezorgdheid bestaat over deze ontwikkelingen. De introductie van intelligente systemen heeft een onevenwichtige machtsverhouding gecreëerd tussen enerzijds de technologiebedrijven en anderzijds degenen die de gevolgen ondervinden van deze systemen. Bovendien hebben deze systemen al geleid tot fatale ongelukken en dragen ze ongewenste vooroordelen en discriminerende of onethische patronen met zich mee. Tot slot zijn ze een van de grootste bronnen van milieuvervuiling geworden, omdat de ontwikkeling en massale inzet van deze systemen een absurde hoeveelheid rekenkracht en dus energie vereisen.

Deze en andere ontwikkelingen roepen de noodzaak op voor oplossingen om de zorgwekkende aspecten van kunstmatige intelligentie te beheersen. Sommigen pleiten voor passende regelgeving en wetsvoorstellen om controle over de technologie te houden. Anderen benadrukken aspecten, zoals begrijpelijkheid, uitlegbaarheid, transparantie en traceerbaarheid van het gedrag van intelligente systemen. Wanner intelligente systemen deze eigenschappen bezitten, kunnen ze controleerbaar, veilig, betrouwbaar en duurzaam worden ingezet. De vraag is nu hoe we intelligente systemen kunnen ontwikkelen die deze deugdzame eigenschappen bezitten en welke technieken daarvoor ingezet kunnen worden.

Er zijn over het algemeen twee benaderingen voor het ontwerpen en ontwikkelen van intelligente systemen. De eerste benadering maakt gebruik van domeinkennis in combinatie met deliberatieve redeneerprocessen die voorschrijven hoe het te ontwikkelen intelligente systeem zich moet gedragen. Automatische redeneersystemen, verificatiemethoden en planningalgoritmen zijn voorbeelden van technieken die door deze benadering worden gebruikt. De tweede benadering bestaat uit het trainen van intelligente systemen op praktijkdata die het gewenste gedrag beschrijven. Deep learning, reinforcement learning en data mining-algoritmen zijn voorbeelden van technieken die bij deze benadering horen. Terwijl de eerste benadering zekerheid en prestatiegaranties kan bieden en doorgaans uitlegbare systemen oplevert, biedt de tweede benadering schaalbaarheid en generalisatie. De laatste kan systemen opleveren die met de eerste benadering moeilijk of bijna onmogelijk te realiseren zijn.

Mijn onderzoek richt zich op het combineren van beide benaderingen. Een dergelijke combinatie zou ervoor moeten zorgen dat de volledige kracht van machine learning-technieken wordt benut terwijl de ongewenste en mogelijk schadelijke gevolgen worden beperkt door gebruik te maken van expliciete kennis en deliberatieve redeneertechnieken. Generatieve AI heeft bijvoorbeeld laten zien dat het in staat is om oplossingen te genereren voor verschillende uitdagende problemen, zoals het verbeteren van bedrijfsprocessen, het ontwikkelen van nieuwe producten, het opstellen van plannen, het produceren van computerprogramma’s en het nemen van beslissingen. Deze methoden schieten echter tekort in het garanderen van oplossingen die voldoen aan coherentie-, consistentie- en veiligheidsvereisten. Het complementaire gebruik van op kennis gebaseerde redeneertechnieken om de coherentie, consistentie en veiligheid van de genereerde oplossingen te verifiëren, zou de weg vrij kunnen maken voor grootschalig gebruik van machine learning-technieken, vooral in veiligheidskritische domeinen.

Mijn droom is het ontwikkelen van een generiek raamwerk dat machine learning-technieken, domeinkennis en deliberatieve redeneerprocessen op een systematische en principiële manier integreert. Met zo’n raamwerk zouden we in staat zijn om intelligente systemen te ontwerpen en ontwikkelen die zelfstandig hun omgeving kunnen verkennen en waarnemen, en deze waarnemingen kunnen analyseren en relateren aan complexe begrippen en kennis. Hierdoor zouden ze in staat zijn om weloverwogen beslissingen te nemen door te redereneren over de beschikbaarheid van opties en de gevolgen van deze keuzes. Dit raamwerk zou geïnspireerd kunnen zijn door de ingenieuze manier waarop perceptie en cognitie hand in hand gaan in de menselijke intelligentie. Daarbij zou het essentieel zijn om kennis en inzichten uit andere wetenschappelijke disciplines te betrekken. Interdisciplinair onderzoek in de wetenschap is vaak de sleutel tot innovatieve en robuuste oplossingen – en dit geldt zeker voor kunstmatige intelligentie.