Stuk op de site van Maastricht University naar aanleiding van de inaugurele rede van Prof. dr. Nava Tintarev:
“Hoe meer ik om me heen kijk, hoe meer ik besluitvorming door kunstmatige intelligentie zie. Het zit in predictive policing (het voorspellen van criminaliteit, red.), in de journalistiek, bij personeelszaken – in allerlei dingen die een cruciale rol spelen in ons dagelijks leven”, zegt ze. “We moeten kunnen beoordelen wat er uit die systemen komt. Als een vriend je advies geeft, denk je na over zijn kennis en ervaring. Aan de hand daarvan weeg je wat diegene zegt. Het verantwoordelijk gebruiken van AI-systemen werkt hetzelfde: soms moet je negeren wat ze je vertellen, omdat je vermoedt dat het niet klopt.” Om dat te kunnen doen, moeten we echter wel begrijpen wat er in zo’n AI-systeem omgaat. Daarom werkt Tintarev aan manieren waarop kunstmatig intelligente adviessystemen zich kunnen verklaren tegenover hun menselijke gebruikers.
In het lab bouwen Tintarev en haar collega’s voorspellende AI-modellen. Vervolgens bestuderen ze hoe verschillende soorten interfaces (het deel waarmee je informatie uitwisselt met een computersysteem, bijvoorbeeld door het invoeren van commando’s of het lezen van tekst op een scherm, red.), verklaringen en interacties kunnen bijdragen aan het menselijk begrip van wat er gebeurt.
