In gesprek met machines

Mijn ‘beste idee van 2014’ was software die zich kan aanpassen aan normen van mensen. Het doel was mensen ondersteuning te bieden in het dagelijks leven met respect voor hun waarden en die van hun naasten. Dit is belangrijk omdat digitale technologie steeds meer verweven raakt met ons dagelijks leven. Denk aan wearables, high-tech kleding, sociale robots, smartphones en ‘smart homes’. Omdat mensen en situaties verschillen, moet de technologie rekening kunnen houden met deze diversiteit.

Als mijn digitale ondersteuning bijvoorbeeld weet dat mijn gezondheid topprioriteit heeft, kan het adviseren in een te drukke week wat afspraken te verplaatsen. En als het regent, zal het niet adviseren buiten te gaan sporten als iemand vatbaar is voor verkoudheid. Aan iemand die slechtziend is en die onafhankelijkheid belangrijk vindt, kan het een route adviseren waar weinig extra hulp nodig is om de weg te vinden. Zo kunnen we ons leven met technologie vormgeven op een manier die bij ons past.

Software die normen en waarden snapt

Ik noemde dit kortweg ‘software die normen en waarden van mensen snapt’. Daarmee bedoelde ik dat de software in haar adviezen rekening houdt met persoonlijke normen en waarden. Maar betekent dat dan ook dat ze normen en waarden echt snapt?

In gesprekken merkte ik dat mensen daarbij een andere voorstelling hebben. Alsof software echt begrijpt wat het bijvoorbeeld betekent om ziek te zijn, of waarom een picnic met vrienden in een mooi groen park met een lekkere frisse salade en andere heerlijke hapjes zo ontspannend kan zijn. Met de modellen die wij ontwikkelen kun je weliswaar vastleggen dat ‘picnic’ bijvoorbeeld een positief effect heeft op waarden als vriendschap of geluk, maar hoe het daadwerkelijk voelt om op het gras te lopen of bij te praten met vrienden van vroeger, dat weet de software niet.

Machines kunnen dus niet alles snappen wat voor mensen belangrijk is. Dit kan ten dele worden ondervangen door uitgebreidere softwaremodellen voor normen en waarden te ontwikkelen. Zo hebben wij een model ontwikkeld waarmee digitale ondersteuning normen flexibel kan interpreteren: als je bijvoorbeeld vastlegt dat je drie keer per week wilt sporten, zal de digitale ondersteuning je er niet meteen op wijzen als dit een keertje niet lukt. Maar ik denk dat dit nooit voldoende zal zijn: betekenis geven is iets menselijks. Hoe kunnen we dan toch zorgen dat technologie ons op een goede manier ondersteunt?

Mens-machine dialoog

Ik denk dat we moeten zorgen dat mens en machine met elkaar in gesprek kunnen over wat voor iemand belangrijk is en hoe een situatie ingeschat moet worden. Op die manier kunnen de modellen van de machine steeds worden bijgesteld en aangepast aan een andere persoon of situatie. Daarvoor is het belangrijk dat de ontwikkelde softwaremodellen voor mensen betekenisvol zijn, en dat we dialoogmodellen ontwikkelen waarmee dit soort afstemming tussen mens en machine kan worden vormgegeven.

Als mijn digitale ondersteuning bijvoorbeeld ziet dat ik al een paar weken achter elkaar minder sport dan ik van plan was, kan het vragen wat er aan de hand is. Het kan zijn dat de machine mijn doelen verkeerd heeft vastgelegd, of dat ik vanwege overbelasting even wat rustiger aan moet doen. Zo zal de technologie niet zonder opkijken blijven motiveren om meer te sporten, maar kan de ondersteuning worden bijgesteld afhankelijk van wat ik op dat moment nodig heb.

Hiermee verschuiven we de aandacht van de ontwikkeling van zelfstandig functionerende machines naar technologie die in samenspraak met mensen opereert. Betekenis geven blijft iets menselijks, maar we kunnen machines ontwikkelen die hier ruimte voor laten. Daarmee dragen we bij aan een zorgzame en inspirerende digitale samenleving die ondersteunt waar nodig en verschillen omarmt.