{"version":"1.0.0","segments":[{"startTime":0.0,"endTime":4.0,"body":"Voordat we beginnen wil ik je aandacht vragen voor het volgende."},{"startTime":4.0,"endTime":9.0,"body":"Ik ga je zo een vraag stellen en hoop dat je even een paar tellen wil nadenken."},{"startTime":9.0,"endTime":19.0,"body":"Je luistert naar een speciale aflevering van de AIToday Live podcast."},{"startTime":19.0,"endTime":25.0,"body":"Mijn naam is Joop Sneijder, CTO bij Aigency en deze aflevering ben ik alleen je host."},{"startTime":27.0,"endTime":32.2,"body":"Stel je het volgende eens voor. Je zit tegenover de dokter in het ziekenhuis."},{"startTime":32.2,"endTime":36.4,"body":"Er is bloedonderzoek bij je gedaan en de dokter geeft je de uitslag."},{"startTime":36.4,"endTime":43.0,"body":"Ze zegt \"Ik heb vervelend nieuws voor je. Door je medicijngebruik zien we een risico"},{"startTime":43.0,"endTime":49.44,"body":"op een ernstige bloeding in de aankomende 2 weken. En een ernstige bloeding kan zo ernstig"},{"startTime":49.44,"endTime":54.84,"body":"zijn dat je risico hebt om te komen te overlijden."},{"startTime":54.84,"endTime":59.36,"body":"Jeemig, dat komt aan en je valt even stil."},{"startTime":59.36,"endTime":66.62,"body":"De dokter vervolgt, maar we hebben een nieuw machine learning model en daar komt deze voorspelling"},{"startTime":66.62,"endTime":67.62,"body":"uit."},{"startTime":67.62,"endTime":71.08,"body":"We zijn daar heel blij mee met dit model, want het is super betrouwbaar."},{"startTime":71.08,"endTime":76.6,"body":"Het model geeft namelijk met 89,4% zekerheid aan dat je dit risico loopt."},{"startTime":76.6,"endTime":81.86,"body":"89,4% dat is best wel veel."},{"startTime":81.86,"endTime":82.86,"body":"Toch?"},{"startTime":82.86,"endTime":89.78,"body":"Nu wil ik jou vragen om even rustig na te denken wat je volgende vraag zou zijn aan"},{"startTime":89.78,"endTime":90.78,"body":"je dokter."},{"startTime":90.78,"endTime":95.7,"body":"Je hebt te horen gekregen dat je de aankomende 2 weken kan komen te overlijden en dat is"},{"startTime":95.7,"endTime":97.86,"body":"notabene voorspeld door een machine learning model."},{"startTime":97.86,"endTime":102.46,"body":"Dus wat is jouw volgende vraag aan de dokter?"},{"startTime":102.46,"endTime":107.62,"body":"Dit is precies de vraag waarvoor ik je even een paar tellen wilde geven om over na te denken."},{"startTime":107.62,"endTime":124.38,"body":"Heb je een vraag in je hoofd? Dit dilemma heb ik vaker voorgelegd aan mensen als ik spreek"},{"startTime":124.38,"endTime":132.14,"body":"over AI, machine learning en vooral natuurlijk explainable AI. En dan levert dit dilemma veel"},{"startTime":132.14,"endTime":137.86,"body":"verschillende reacties op. Sommigen vragen dan aan de dokter van hoe nieuw is het machine"},{"startTime":137.86,"endTime":144.58,"body":"learning model tot aan waar vind ik de dichtstbijzijnde kroeg als ik weet dat ik risico heb om te"},{"startTime":144.58,"endTime":151.98,"body":"komen overlijden. Heel grappig natuurlijk. Zelf zou ik vragen wat kunnen we doen om"},{"startTime":151.98,"endTime":157.62,"body":"het risico zo snel mogelijk te verlagen. Wat kan ik de aankomende tijd doen om een bloeding"},{"startTime":157.62,"endTime":164.22,"body":"te voorkomen. Toch? Je wilde uiteindelijk dat je hier iets aan gaat doen. Dat je actie"},{"startTime":164.22,"endTime":167.66,"body":"onderneemt. Waarbij de onderliggende vraag aan de dokter"},{"startTime":167.66,"endTime":173.46,"body":"is op basis waarvan heeft het machine learning model voorspeld dat ik risico loop. En als"},{"startTime":173.46,"endTime":178.62,"body":"daar geen antwoord op kan komen, wat heb ik dan aan de uitkomst van zo'n model als je"},{"startTime":178.62,"endTime":182.62,"body":"niet weet wat de oorzaak is. Wat moet je dan?"},{"startTime":182.62,"endTime":187.62,"body":"Dan is de vraag er wel, hoe waardevol is dan zo'n voorspelling?"},{"startTime":187.62,"endTime":194.78,"body":"Dit is de reden waarom ik zo gepassioneerd ben over uitlegbare en interpreteerbare AI."},{"startTime":194.78,"endTime":198.18,"body":"Het kan het verschil maken tussen een waardevol en een waardeloos model."},{"startTime":198.18,"endTime":205.34,"body":"Om goed te begrijpen wat uitlegbare AI en interpreteerbare AI is, moeten we eerst even"},{"startTime":205.34,"endTime":210.18,"body":"kijken naar wat uitleg en interpreteerbaarheid inhoudt in dit verband."},{"startTime":210.18,"endTime":217.18,"body":"Uitleg van een machine learning model is iets wat gegeven wordt aan jou als ontvanger."},{"startTime":217.18,"endTime":224.78,"body":"Dus in ons geval, dokter, patiënt, dan wordt het aan mij als patiënt gegeven."},{"startTime":224.78,"endTime":228.18,"body":"Dat is de uitleg die ik ontvang."},{"startTime":228.18,"endTime":231.98,"body":"En of de uitleg interpreteerbaar is, hangt af van mij als ontvanger."},{"startTime":231.98,"endTime":233.58,"body":"Kan ik het begrijpen?"},{"startTime":233.58,"endTime":238.94,"body":"Want het hangt af van, kan ik de oorzaak van de beslissing begrijpen?"},{"startTime":238.94,"endTime":242.94,"body":"Die begrijpelijkheid hangt af van de uitleg die je krijgt."},{"startTime":242.94,"endTime":245.94,"body":"Een uitleg uit machine learning modellen kan verschillende vormen hebben."},{"startTime":245.94,"endTime":252.94,"body":"Het kan bestaan uit tekst, plaatjes, grafieken, maar ook uit voorbeelden."},{"startTime":252.94,"endTime":255.94,"body":"Om even op dat laatste in te gaan."},{"startTime":255.94,"endTime":262.94,"body":"Misschien herken je het als je een eigen huis hebt en je krijgt jaarlijks de WOZ-waardebepaling."},{"startTime":262.94,"endTime":268.02,"body":"Wat ze dan gedaan hebben is dat die waarde wordt dan bepaald door je huis te vergelijken"},{"startTime":268.02,"endTime":270.22,"body":"met enkele gelijksoortige huizen in de buurt."},{"startTime":270.22,"endTime":277.02,"body":"En dat is dan de uitleg van de uitkomst van het algoritme dat die waardebepaling doet."},{"startTime":277.02,"endTime":278.9,"body":"Maar goed, dat tezijde."},{"startTime":278.9,"endTime":281.38,"body":"Even terug naar uitleg en interpreterbaarheid."},{"startTime":281.38,"endTime":285.46,"body":"Wat betekent interpreterbaarheid voor machine learning modellen?"},{"startTime":285.46,"endTime":291.9,"body":"We beschouwen een model intrinsiek interpreterbaar als een mens de interne werking van het model"},{"startTime":291.9,"endTime":298.9,"body":"kan begrijpen. Het zei het model in een keer, het zei in ieder geval de delen van het model"},{"startTime":298.9,"endTime":304.66,"body":"die belangrijk zijn voor een bepaalde voorspelling. En wat misschien nog wel belangrijker is,"},{"startTime":304.66,"endTime":309.34,"body":"je kunt als ontvanger van de uitleg begrijpen wat de uitkomst van het model voor je betekent."},{"startTime":309.34,"endTime":314.0,"body":"Dus als we terug gaan naar de diagnose van de ernstige bloeding die we hebben gekregen"},{"startTime":314.0,"endTime":319.3,"body":"van de dokter en we zouden de volgende uitleg hebben gekregen waarbij gezegd wordt, nou"},{"startTime":319.3,"endTime":326.32,"body":"Maar de ernstige bloeding is voorspeld vanwege de dosering van medicijn X, die is zo hoog"},{"startTime":326.32,"endTime":329.14,"body":"en de bloeddruk die je hebt is te hoog."},{"startTime":329.14,"endTime":332.94,"body":"Ja, als je dat krijgt, dan zijn er passendere maatregelen te nemen."},{"startTime":332.94,"endTime":338.98,"body":"Zowel de dokter als de patiënt kunnen de uitleg interpreteren en begrijpen wat de uitkomst"},{"startTime":338.98,"endTime":340.62,"body":"van het model betekent."},{"startTime":340.62,"endTime":344.7,"body":"Er kan misschien iets worden gedaan aan de dosering van het medicijn, er kan misschien"},{"startTime":344.7,"endTime":347.14,"body":"een behandeling gestart worden tegen de hoge bloeddruk."},{"startTime":347.14,"endTime":352.22,"body":"Het is in ieder geval duidelijk naar welke factoren het model heeft gekeken en hoe deze"},{"startTime":352.22,"endTime":353.22,"body":"geredeneerd heeft."},{"startTime":353.22,"endTime":358.34,"body":"Met zo'n uitleg krijgt het machine learning model dus waarde."},{"startTime":358.34,"endTime":363.82,"body":"Van je loopt ernstig risico, maar we weten niet waarom, naar uitleg die helpt bij het"},{"startTime":363.82,"endTime":366.18,"body":"bepalen van acties om het risico te verlagen."},{"startTime":366.18,"endTime":373.22,"body":"Ik wil nog een voorbeeld uit de praktijk behandelen om te zien hoe het ook kan."},{"startTime":373.22,"endTime":378.94,"body":"Dit is een voorbeeld dat gaat niet over levende dood, maar wel over een goed leven."},{"startTime":378.94,"endTime":381.1,"body":"Dit verhaal gaat over mijn moeder."},{"startTime":381.1,"endTime":388.22,"body":"Ze is doorgestuurd naar een specialist vanuit haar huishoud omdat haar cholesterol te hoog is."},{"startTime":388.22,"endTime":394.06,"body":"Daar is medicatie voor, die heeft ze al eerder gehad, maar ze reageert daar gewoon slecht op."},{"startTime":394.06,"endTime":401.06,"body":"Mijn moeder is een fitte 70er en de bijwerkingen van cholesterolverlagende medicatie belemmeren haar."},{"startTime":401.06,"endTime":404.92,"body":"Hierdoor zou ze minder kunnen bewegen en minder kwaliteit van leven hebben."},{"startTime":404.92,"endTime":408.46,"body":"En dat is natuurlijk heel vervelend, zeker op haar leeftijd."},{"startTime":408.46,"endTime":414.96,"body":"We zitten samen bij de specialist in het ziekenhuis en met een model van youprevent.nl"},{"startTime":414.96,"endTime":418.06,"body":"laat die dokter zien welk risico ze inloopt."},{"startTime":418.06,"endTime":424.56,"body":"Een verhoogd cholesterol vergroot namelijk de kans op hart- en vaatziektes, wat best serieus is."},{"startTime":424.56,"endTime":431.76,"body":"Hij voert haar specifieke gegevens in, die over haar gaan, zoals haar LDL cholesterolgehalte,"},{"startTime":431.76,"endTime":437.84,"body":"haar HDL waardes, leeftijd, maar ook waarden over bloeddruk en nog veel meer."},{"startTime":437.84,"endTime":442.08,"body":"Uit dit model kwam inderdaad een verhoogde kans op hart- en vaatziektes voordaan."},{"startTime":442.08,"endTime":448.44,"body":"Maar wat dit model juist zo prachtig deed, is het effect van de voorspelling geven."},{"startTime":448.44,"endTime":453.56,"body":"Zo geeft het een risicoindicatie over 5 jaar en over 10 jaar."},{"startTime":453.56,"endTime":458.96,"body":"Dus samen konden we ook het effect zien als mijn moeder wel met medicatie zou starten."},{"startTime":458.96,"endTime":461.32,"body":"Hoeveel minder risico loopt ze dan?"},{"startTime":461.32,"endTime":469.92,"body":"In haar geval betekende dat ze binnen 10 jaar 0,8 jaar eerder risico liep op hart- en vaatziektes"},{"startTime":469.92,"endTime":471.56,"body":"als ze geen medicatie neemt."},{"startTime":471.56,"endTime":474.72,"body":"Heel duidelijk inzicht."},{"startTime":474.72,"endTime":477.96,"body":"Op basis hiervan kon mijn moeder een heel afgewogen besluit nemen."},{"startTime":477.96,"endTime":480.64,"body":"Waarom vertel ik dit nu?"},{"startTime":480.64,"endTime":484.08,"body":"Ik vertel dit verhaal omdat iedereen die te maken heeft met machine learning modellen"},{"startTime":484.08,"endTime":486.48,"body":"een rol speelt bij de uitlegbaarheid van AI."},{"startTime":486.48,"endTime":493.44,"body":"Of je nu opdrachtgever bent, product owner, requirements analyst bent, misschien machine"},{"startTime":493.44,"endTime":499.72,"body":"learning engineer, data scientist, AI expert, in welke vorm dan ook."},{"startTime":499.72,"endTime":505.76,"body":"Als professionals zijn we, vind ik, verplicht om zo waardevolle, zinvolle en duidelijke modellen"},{"startTime":505.76,"endTime":506.76,"body":"te maken."},{"startTime":506.76,"endTime":515.0,"body":"In de volgende aflevering van deze serie over uitlegbaar AI leg ik uit wat uitleg en interpreterbaarheid"},{"startTime":515.0,"endTime":520.24,"body":"te maken hebben met transparantie, welke soorten transparantie we hebben en waarom het belangrijk"},{"startTime":520.24,"endTime":524.72,"body":"is om goede uitleg uit de machine learning te krijgen in iedere sector."},{"startTime":524.72,"endTime":531.42,"body":"We hebben nu voornamelijk gekeken naar voorbeelden uit de zorg, maar er zijn verschillende redenen"},{"startTime":531.42,"endTime":534.68,"body":"waarom iedere sector hiermee te maken krijgt."},{"startTime":534.68,"endTime":544.24,"body":"Zorg dat je een seintje krijgt als de nieuwe aflevering voor je klaar staat en abonneer"},{"startTime":544.24,"endTime":546.36,"body":"je via je favoriete podcast app."},{"startTime":546.36,"endTime":547.92,"body":"Luister je via Spotify?"},{"startTime":547.92,"endTime":551.2,"body":"Steun ons met een positieve rating die je aan de show kan geven."},{"startTime":551.2,"endTime":552.08,"body":"Dankjewel!"},{"startTime":552.08,"endTime":561.76,"body":"[Muziek]"}]}