S05E06 - Waarom uitlegbaarheid van levensbelang is

In deze podcastaflevering van AIToday Live gaat Joop Snijder, CTO bij Aigency, in op het belang van interpreteerbare en uitlegbare AI. 

Hij stelt de vraag: wat is het nut van een machine learning model als je als ontvanger de uitleg niet kunt begrijpen en als het model niet transparant genoeg is om te laten zien hoe het tot de voorspelling is gekomen? 

Hij legt uit wat uitleg en interpreteerbaarheid betekenen in het kader van machine learning en bespreekt de verschillende vormen van uitleg die in machine learning modellen gebruikt kunnen worden. Snijder pleit voor een verantwoord gebruik van AI en machine learning en benadrukt het belang van transparantie, interpretatie en uitleg om het vertrouwen van de ontvangers van de voorspelling te winnen.

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

0:00

Voordat we beginnen wil ik je aandacht vragen voor het volgende. Ik ga je zo een vraag stellen en hoop dat je even een paar tellen wil nadenken. Je luistert naar een speciale aflevering van de AIToday Live podcast. Mijn naam is Joop Sneijder, CTO bij Aigency en deze aflevering ben ik alleen je host. Stel je het volgende eens voor. Je zit tegenover de dokter in het ziekenhuis. Er is bloedonderzoek bij je gedaan en de dokter geeft je de uitslag. Ze zegt "Ik heb vervelend nieuws voor je. Door je medicijngebruik zien we een risico op een ernstige bloeding in de aankomende 2 weken. En een ernstige bloeding kan zo ernstig zijn dat je risico hebt om te komen te overlijden. Jeemig, dat komt aan en je valt even stil. De dokter vervolgt, maar we hebben een nieuw machine learning model en daar komt deze voorspelling uit. We zijn daar heel blij mee met dit model, want het is super betrouwbaar. Het model geeft namelijk met 89,4% zekerheid aan dat je dit risico loopt. 89,4% dat is best wel veel. Toch? Nu wil ik jou vragen om even rustig na te denken wat je volgende vraag zou zijn aan je dokter. Je hebt te horen gekregen dat je de aankomende 2 weken kan komen te overlijden en dat is notabene voorspeld door een machine learning model. Dus wat is jouw volgende vraag aan de dokter? Dit is precies de vraag waarvoor ik je even een paar tellen wilde geven om over na te denken. Heb je een vraag in je hoofd? Dit dilemma heb ik vaker voorgelegd aan mensen als ik spreek over AI, machine learning en vooral natuurlijk explainable AI. En dan levert dit dilemma veel verschillende reacties op. Sommigen vragen dan aan de dokter van hoe nieuw is het machine learning model tot aan waar vind ik de dichtstbijzijnde kroeg als ik weet dat ik risico heb om te komen overlijden. Heel grappig natuurlijk. Zelf zou ik vragen wat kunnen we doen om het risico zo snel mogelijk te verlagen. Wat kan ik de aankomende tijd doen om een bloeding te voorkomen. Toch? Je wilde uiteindelijk dat je hier iets aan gaat doen. Dat je actie onderneemt. Waarbij de onderliggende vraag aan de dokter is op basis waarvan heeft het machine learning model voorspeld dat ik risico loop. En als daar geen antwoord op kan komen, wat heb ik dan aan de uitkomst van zo'n model als je niet weet wat de oorzaak is. Wat moet je dan? Dan is de vraag er wel, hoe waardevol is dan zo'n voorspelling? Dit is de reden waarom ik zo gepassioneerd ben over uitlegbare en interpreteerbare AI. Het kan het verschil maken tussen een waardevol en een waardeloos model. Om goed te begrijpen wat uitlegbare AI en interpreteerbare AI is, moeten we eerst even kijken naar wat uitleg en interpreteerbaarheid inhoudt in dit verband. Uitleg van een machine learning model is iets wat gegeven wordt aan jou als ontvanger. Dus in ons geval, dokter, patiënt, dan wordt het aan mij als patiënt gegeven. Dat is de uitleg die ik ontvang. En of de uitleg interpreteerbaar is, hangt af van mij als ontvanger. Kan ik het begrijpen? Want het hangt af van, kan ik de oorzaak van de beslissing begrijpen? Die begrijpelijkheid hangt af van de uitleg die je krijgt. Een uitleg uit machine learning modellen kan verschillende vormen hebben. Het kan bestaan uit tekst, plaatjes, grafieken, maar ook uit voorbeelden. Om even op dat laatste in te gaan. Misschien herken je het als je een eigen huis hebt en je krijgt jaarlijks de WOZ-waardebepaling. Wat ze dan gedaan hebben is dat die waarde wordt dan bepaald door je huis te vergelijken met enkele gelijksoortige huizen in de buurt. En dat is dan de uitleg van de uitkomst van het algoritme dat die waardebepaling doet. Maar goed, dat tezijde. Even terug naar uitleg en interpreterbaarheid. Wat betekent interpreterbaarheid voor machine learning modellen? We beschouwen een model intrinsiek interpreterbaar als een mens de interne werking van het model kan begrijpen. Het zei het model in een keer, het zei in ieder geval de delen van het model die belangrijk zijn voor een bepaalde voorspelling. En wat misschien nog wel belangrijker is, je kunt als ontvanger van de uitleg begrijpen wat de uitkomst van het model voor je betekent. Dus als we terug gaan naar de diagnose van de ernstige bloeding die we hebben gekregen van de dokter en we zouden de volgende uitleg hebben gekregen waarbij gezegd wordt, nou Maar de ernstige bloeding is voorspeld vanwege de dosering van medicijn X, die is zo hoog en de bloeddruk die je hebt is te hoog. Ja, als je dat krijgt, dan zijn er passendere maatregelen te nemen. Zowel de dokter als de patiënt kunnen de uitleg interpreteren en begrijpen wat de uitkomst van het model betekent. Er kan misschien iets worden gedaan aan de dosering van het medicijn, er kan misschien een behandeling gestart worden tegen de hoge bloeddruk. Het is in ieder geval duidelijk naar welke factoren het model heeft gekeken en hoe deze geredeneerd heeft. Met zo'n uitleg krijgt het machine learning model dus waarde. Van je loopt ernstig risico, maar we weten niet waarom, naar uitleg die helpt bij het bepalen van acties om het risico te verlagen. Ik wil nog een voorbeeld uit de praktijk behandelen om te zien hoe het ook kan. Dit is een voorbeeld dat gaat niet over levende dood, maar wel over een goed leven. Dit verhaal gaat over mijn moeder. Ze is doorgestuurd naar een specialist vanuit haar huishoud omdat haar cholesterol te hoog is. Daar is medicatie voor, die heeft ze al eerder gehad, maar ze reageert daar gewoon slecht op. Mijn moeder is een fitte 70er en de bijwerkingen van cholesterolverlagende medicatie belemmeren haar. Hierdoor zou ze minder kunnen bewegen en minder kwaliteit van leven hebben. En dat is natuurlijk heel vervelend, zeker op haar leeftijd. We zitten samen bij de specialist in het ziekenhuis en met een model van youprevent.nl laat die dokter zien welk risico ze inloopt. Een verhoogd cholesterol vergroot namelijk de kans op hart- en vaatziektes, wat best serieus is. Hij voert haar specifieke gegevens in, die over haar gaan, zoals haar LDL cholesterolgehalte, haar HDL waardes, leeftijd, maar ook waarden over bloeddruk en nog veel meer. Uit dit model kwam inderdaad een verhoogde kans op hart- en vaatziektes voordaan. Maar wat dit model juist zo prachtig deed, is het effect van de voorspelling geven. Zo geeft het een risicoindicatie over 5 jaar en over 10 jaar. Dus samen konden we ook het effect zien als mijn moeder wel met medicatie zou starten. Hoeveel minder risico loopt ze dan? In haar geval betekende dat ze binnen 10 jaar 0,8 jaar eerder risico liep op hart- en vaatziektes als ze geen medicatie neemt. Heel duidelijk inzicht. Op basis hiervan kon mijn moeder een heel afgewogen besluit nemen. Waarom vertel ik dit nu? Ik vertel dit verhaal omdat iedereen die te maken heeft met machine learning modellen een rol speelt bij de uitlegbaarheid van AI. Of je nu opdrachtgever bent, product owner, requirements analyst bent, misschien machine learning engineer, data scientist, AI expert, in welke vorm dan ook. Als professionals zijn we, vind ik, verplicht om zo waardevolle, zinvolle en duidelijke modellen te maken. In de volgende aflevering van deze serie over uitlegbaar AI leg ik uit wat uitleg en interpreterbaarheid te maken hebben met transparantie, welke soorten transparantie we hebben en waarom het belangrijk is om goede uitleg uit de machine learning te krijgen in iedere sector. We hebben nu voornamelijk gekeken naar voorbeelden uit de zorg, maar er zijn verschillende redenen waarom iedere sector hiermee te maken krijgt. Zorg dat je een seintje krijgt als de nieuwe aflevering voor je klaar staat en abonneer je via je favoriete podcast app. Luister je via Spotify? Steun ons met een positieve rating die je aan de show kan geven. Dankjewel![Muziek]