{"version":"1.0.0","segments":[{"startTime":0.001,"endTime":7.0,"body":"Maar dat betekent dus dat je door middel van een nieuw algoritme, artificial intelligence,"},{"startTime":7.0,"endTime":11.56,"body":"ervoor zorgt dat die zoveel kunnen rekenen, dat ze uiteindelijk bij een antwoord komen"},{"startTime":11.56,"endTime":14.92,"body":"waar wij mensen waarschijnlijk veel langer over hadden gedaan als ze het al überhaupt"},{"startTime":14.92,"endTime":15.92,"body":"hadden gevonden."},{"startTime":15.92,"endTime":19.72,"body":"Dat gaat ons helpen om nog grotere problemen te gaan oplossen."},{"startTime":19.72,"endTime":24.04,"body":"Denk maar aan een computer die zelf kan leren."},{"startTime":24.04,"endTime":31.4,"body":"Waar ik aan denk bij kunstmatige intelligentie is dat het door de mens gecreëerd is, dus"},{"startTime":31.4,"endTime":33.0,"body":"het is door de mens bedacht."},{"startTime":33.0,"endTime":35.76,"body":"Bij kunstmatige intelligentie denk ik aan data."},{"startTime":35.76,"endTime":39.0,"body":"Zo, kunstmatige intelligentie."},{"startTime":39.0,"endTime":41.16,"body":"Eerlijk gezegd weet ik niet wat dat is."},{"startTime":41.16,"endTime":44.8,"body":"Hi, je luistert naar de podcast AIToday Live van Inversupport."},{"startTime":44.8,"endTime":50.96,"body":"Iedere aflevering kijken we naar wat is er in het nieuws over AI, AI in the enterprise"},{"startTime":50.96,"endTime":52.6,"body":"en AI in de praktijk."},{"startTime":52.6,"endTime":58.32,"body":"Welkom allemaal bij de tweede aflevering van de AIToday Live podcast."},{"startTime":58.32,"endTime":59.6,"body":"Leuk dat je luistert."},{"startTime":59.6,"endTime":63.64,"body":"We hebben vandaag een speciale gast, Eduard van Valkenburg van Microsoft."},{"startTime":63.64,"endTime":65.76,"body":"Eduard, leuk dat je meedoet vandaag."},{"startTime":65.76,"endTime":68.84,"body":"Zou je je misschien even willen voorstellen aan de luisteraars?"},{"startTime":68.84,"endTime":69.84,"body":"Ja, zeker."},{"startTime":69.84,"endTime":72.28,"body":"Leuk om hier te zijn al eerst."},{"startTime":72.28,"endTime":78.32,"body":"Ik ben Eduard van Valkenburg, ik ben Cloud Solution Architect in de partnergroep van"},{"startTime":78.32,"endTime":79.32,"body":"Microsoft."},{"startTime":79.32,"endTime":85.16,"body":"Ik werk met partners zoals Inversupport om te zorgen dat zij alles uit onze technologie"},{"startTime":85.16,"endTime":89.6,"body":"halen wat erin zit en daar uiteindelijk onze klanten mee helpen."},{"startTime":89.6,"endTime":91.6,"body":"Ja, leuk dat je mee wilt doen vandaag."},{"startTime":91.6,"endTime":94.4,"body":"Het thema is vandaag explainable AI."},{"startTime":94.4,"endTime":97.76,"body":"Het gaat over uitleg van AI modellen."},{"startTime":97.76,"endTime":103.68,"body":"Volgens mij weet je daar behoorlijk wat van en kan je daar straks ook vanuit de praktijk"},{"startTime":103.68,"endTime":104.68,"body":"dingen toevoegen."},{"startTime":104.68,"endTime":105.68,"body":"Dat is hartstikke leuk."},{"startTime":105.68,"endTime":108.44,"body":"We zitten samen ook met Niels."},{"startTime":108.44,"endTime":114.28,"body":"De vorige aflevering, Niels, we waren zo enthousiast dat we gewoon begonnen zijn."},{"startTime":114.28,"endTime":119.16,"body":"En eigenlijk heb jij ook nog een introductie gehad van wie je bent, wat je doet."},{"startTime":119.16,"endTime":121.32,"body":"Laten we dat even inhalen vandaag."},{"startTime":121.32,"endTime":122.32,"body":"Goed punt."},{"startTime":122.32,"endTime":123.32,"body":"Ik zat de tweets allemaal te doen."},{"startTime":123.32,"endTime":126.16,"body":"Nieuw format, nieuw gezicht, nou ja, eigenlijk nieuwe stemmen."},{"startTime":126.16,"endTime":129.16,"body":"Hadden we inderdaad mezelf even in vorm moeten stemmen."},{"startTime":129.16,"endTime":131.84,"body":"Dus bij deze inderdaad, ik ben Niels Neklee."},{"startTime":131.84,"endTime":137.24,"body":"Ik ben werkzaam bij Info Support, ben daar chapter lead data en AI en hou me eigenlijk"},{"startTime":137.24,"endTime":143.28,"body":"bezig van techniek tot inrichting bij klanten, processen, alles omtrendt data en AI en het"},{"startTime":143.28,"endTime":144.92,"body":"inzetten daarbij bij klanten."},{"startTime":144.92,"endTime":151.52,"body":"En gegevenaars ook training en allerlei andere zaken waar ik me mee bezig mag houden."},{"startTime":151.52,"endTime":152.52,"body":"Ja, precies."},{"startTime":152.52,"endTime":153.52,"body":"Vrij gevarieerd."},{"startTime":153.52,"endTime":154.52,"body":"Zeker."},{"startTime":154.52,"endTime":155.52,"body":"Leuk, leuk."},{"startTime":155.52,"endTime":161.8,"body":"We hebben altijd drie onderwerpen, tenminste drie brokken in de podcast zitten."},{"startTime":161.8,"endTime":164.96,"body":"En de eerste is AI in de Nieuws."},{"startTime":164.96,"endTime":167.92,"body":"Laten we eens even kijken van wat ons is opgevallen."},{"startTime":167.92,"endTime":173.4,"body":"En wie weet hebben we misschien zelfs wel ergens een link met het thema vandaag."},{"startTime":173.4,"endTime":179.04,"body":"Dus laten we starten met AI in de Nieuws."},{"startTime":179.04,"endTime":187.36,"body":"Niels, wil jij misschien eens beginnen met wat jou opgevallen is?"},{"startTime":187.36,"endTime":188.36,"body":"Ja, zeker."},{"startTime":188.36,"endTime":192.64,"body":"En heb je dat gevoel wel eens dat als je aan het zoeken bent, dat je in een bubbel belandt?"},{"startTime":192.64,"endTime":193.64,"body":"Zeker."},{"startTime":193.64,"endTime":195.32,"body":"Ja, nou, dat had ik dus ook."},{"startTime":195.32,"endTime":199.2,"body":"Het onderwerp is Explainable AI, dus dan ga je nog wat extra artikels lezen en je gaat"},{"startTime":199.2,"endTime":200.6,"body":"er nog even verder induiken."},{"startTime":200.6,"endTime":206.76,"body":"En toen ik op zoek ging naar nieuws, interessante nieuwstopics van wat is me nou eigenlijk opgevallen,"},{"startTime":206.76,"endTime":212.76,"body":"kwam ik eigenlijk allemaal weer op Explainable AI, vertrouwen in modellen en dat soort zaken"},{"startTime":212.76,"endTime":213.76,"body":"tegen."},{"startTime":213.76,"endTime":216.68,"body":"Maar er is eigenlijk één die ik er toch even uit wil halen."},{"startTime":216.68,"endTime":217.68,"body":"Hij bestaat al een tijdje."},{"startTime":217.68,"endTime":220.36,"body":"Hij is op Netflix, Coded Bias."},{"startTime":220.36,"endTime":222.6,"body":"Veel mensen hebben ervan gehoord."},{"startTime":222.6,"endTime":225.92,"body":"Ik hoor veel collega's erover, van ja, ja, heb ik al van gehoord, maar heb ik hem nog"},{"startTime":225.92,"endTime":226.92,"body":"niet gezien."},{"startTime":226.92,"endTime":228.6,"body":"Ik weet niet, hebben jullie hem al gezien?"},{"startTime":228.6,"endTime":231.04,"body":"Hebben jullie hem al een keer gehoord van Coded Bias?"},{"startTime":231.04,"endTime":232.04,"body":"Ja, zeker."},{"startTime":232.04,"endTime":236.2,"body":"Ik had hem ook vandaag als topic eigenlijk voor AI in de Nieuws."},{"startTime":236.2,"endTime":237.2,"body":"Ja, cool."},{"startTime":237.2,"endTime":239.52,"body":"Ja, nee, het is echt een echte aanrader."},{"startTime":239.52,"endTime":243.64,"body":"Ik had hem, ik denk een paar maandjes geleden kwam ik hem met Netflix tegen."},{"startTime":243.64,"endTime":246.28,"body":"Dat is wel hartstikke slecht weer in Nederland, regen."},{"startTime":246.28,"endTime":248.92,"body":"Ik ga hem toch eens kijken, zondat je hem mislist."},{"startTime":248.92,"endTime":252.56,"body":"Maar het is eigenlijk met dit onderwerp echt een must see."},{"startTime":252.56,"endTime":258.76,"body":"Er wordt zo mooi aangestipt van wat eigenlijk de zwarte zijde kan zijn van Artificial Intelligence"},{"startTime":258.76,"endTime":260.36,"body":"als je er niet goed bij stilstaat."},{"startTime":260.36,"endTime":264.96,"body":"Dus voor iedereen die er wel eens van gehoord heeft, maar nog niet gekeken heeft, ga hem"},{"startTime":264.96,"endTime":271.52,"body":"alsjeblieft kijken, want het is echt een hele mooie weergave van wat er ook kan gebeuren."},{"startTime":271.52,"endTime":273.8,"body":"Ja, helemaal mee eens."},{"startTime":273.8,"endTime":279.8,"body":"Wat ik daar zelf mooi aan vond, of mooi eigenlijk, niks is ongeveer mooi in de documentaire."},{"startTime":279.8,"endTime":281.4,"body":"Dat maakt het wel."},{"startTime":281.4,"endTime":283.56,"body":"Je krijgt er wel de kriebels van."},{"startTime":283.56,"endTime":291.96,"body":"Laat ik het zo zeggen, wat voor mij een soort van toch wel eye-opener was, want uiteindelijk"},{"startTime":291.96,"endTime":298.32,"body":"is er niks nieuws aan wat er mis kan gaan, is dat het best wel in eerste instantie ver"},{"startTime":298.32,"endTime":299.72,"body":"van een bad show leek."},{"startTime":299.72,"endTime":303.92,"body":"Dat is typisch iets voor de Amerikaanse samenleving en in China."},{"startTime":303.92,"endTime":309.2,"body":"Maar dat is ook heel mooi om te laten zien hoe het mis ging in Londen met gezichtsherkenning."},{"startTime":309.2,"endTime":313.68,"body":"Dat een jongen van 15 wordt aangehouden met zijn vrienden omdat hij gewoon herkend wordt"},{"startTime":313.68,"endTime":318.88,"body":"op straat en dat hij wordt aangemerkt als, ja, wat zal het zijn, mogelijk crimineel,"},{"startTime":318.88,"endTime":319.88,"body":"mogelijk terrorist."},{"startTime":319.88,"endTime":324.0,"body":"En wat een invloed en impact dat heeft op zo'n jonge jongen."},{"startTime":324.0,"endTime":327.16,"body":"Dat was echt verschrikkelijk eigenlijk om te zien."},{"startTime":327.16,"endTime":332.24,"body":"En dat ze dan ook lieten zien dat er geen wettelijke grondslag lag om die gezichtsherkenning"},{"startTime":332.24,"endTime":333.24,"body":"in te zetten."},{"startTime":333.24,"endTime":339.2,"body":"En waarbij ook de vraag was van, ja, maar hoe accuraat, hoe nauwkeurig is het en hoe is"},{"startTime":339.2,"endTime":340.2,"body":"dat getest?"},{"startTime":340.2,"endTime":341.2,"body":"Ja, bijzonder inderdaad."},{"startTime":341.2,"endTime":346.36,"body":"En ze werden er ook op aangesproken, de politie in Londen."},{"startTime":346.36,"endTime":349.6,"body":"En ze stapten gewoon eroverheen van het wordt wel of niet toepast."},{"startTime":349.6,"endTime":350.6,"body":"Nee, we doen het."},{"startTime":350.6,"endTime":351.92,"body":"En je houdt je er maar gewoon aan."},{"startTime":351.92,"endTime":356.0,"body":"Wij gaan nu, we mogen gewoon aan jou vragen om inderdaad te fouilleren en te onderzoeken"},{"startTime":356.0,"endTime":360.04,"body":"en gaan eigenlijk op dat recht springen ze naar binnen en hebben het eigenlijk helemaal"},{"startTime":360.04,"endTime":361.04,"body":"niet meer over het AIO-model."},{"startTime":361.04,"endTime":362.04,"body":"Ja, echt confronterend inderdaad."},{"startTime":362.04,"endTime":373.16,"body":"Ja, en wat eruit gekomen was dat IBM in ieder geval voorlopig voor dit soort projecten"},{"startTime":373.16,"endTime":376.2,"body":"gezichtsherkenning niet meer inzet."},{"startTime":376.2,"endTime":380.76,"body":"Misschien meteen een vrij impertinente vraag aan jou, Eddie White, maar weet je eigenlijk"},{"startTime":380.76,"endTime":383.6,"body":"wat de stelling van Microsoft hierin is?"},{"startTime":383.6,"endTime":388.72,"body":"Ik weet het niet precies, maar ik weet wel dat al dit soort trajecten worden in ieder"},{"startTime":388.72,"endTime":395.12,"body":"geval, wordt door een board binnen Microsoft doorgelicht om te kijken van, moeten dit willen,"},{"startTime":395.12,"endTime":396.12,"body":"zeg maar."},{"startTime":396.12,"endTime":401.6,"body":"En er zijn natuurlijk ook prima redenen om te zeggen, we doen het wel."},{"startTime":401.6,"endTime":407.0,"body":"Maar er wordt wel eerst goed over nagedacht, goed risico's in kaart gebracht en echt gekeken."},{"startTime":407.0,"endTime":411.8,"body":"Dit zijn onze guidelines, dit zijn onze criteria voor wanneer we wel of niet iets doen."},{"startTime":411.8,"endTime":412.8,"body":"Valt het naar binnen of niet?"},{"startTime":412.8,"endTime":413.8,"body":"En dan beslissen we."},{"startTime":413.8,"endTime":421.48,"body":"Ja, wat ik vooral ook mooi vind bij Microsoft is dat je nu van die datasheets en factsheets"},{"startTime":421.48,"endTime":428.04,"body":"hebt voor een hele hoop modellen waarbij ook risico's en use cases eigenlijk wordt aangegeven"},{"startTime":428.04,"endTime":432.32,"body":"van hier is het goed bruikbaar voor en let op."},{"startTime":432.32,"endTime":435.08,"body":"Kan je daar nog iets mee over vertellen?"},{"startTime":435.08,"endTime":442.44,"body":"Nou ja, dus we kijken eigenlijk heel erg vanuit een veel groter perspectief naar iets als"},{"startTime":442.44,"endTime":447.76,"body":"explainable AI, wat uiteindelijk een doel is in je toolbox om op een goede manier AI te"},{"startTime":447.76,"endTime":448.76,"body":"doen."},{"startTime":448.76,"endTime":451.52,"body":"Dus wij noemen dat responsible AI vaak."},{"startTime":451.52,"endTime":453.48,"body":"Dat is meer hoe we daar naar kijken."},{"startTime":453.48,"endTime":461.76,"body":"Want heel veel dingen rondom de AI gaat gewoon om de mensen en om de processen en om op de"},{"startTime":461.76,"endTime":467.8,"body":"juiste manier het inzetten, de juiste manier bouwen en nadenken over oké wat doen we nou"},{"startTime":467.8,"endTime":473.16,"body":"als er een false positive is of juist wat doen we als er een false negative is."},{"startTime":473.16,"endTime":479.36,"body":"Al dat soort dingen proberen we van tevoren over na te denken, zodat je niet achteraf"},{"startTime":479.36,"endTime":484.0,"body":"achterkomt, shit dit hadden we eigenlijk gewoon niet moeten doen."},{"startTime":484.0,"endTime":488.6,"body":"Of dat je achteraf in een keer terug moet gaan krabbelen en zeg van ah ja ja eigenlijk hadden"},{"startTime":488.6,"endTime":489.6,"body":"we het hiervoor niet moeten inzetten."},{"startTime":489.6,"endTime":495.96,"body":"Dus juist ook oké wat is de bias van het model en van de data die erin gaat."},{"startTime":495.96,"endTime":499.48,"body":"Soms is die bias er en kun je daar eigenlijk ook niks aan doen."},{"startTime":499.48,"endTime":504.36,"body":"Dus dan moet je in ieder geval transparant zijn over oké dit is de bias en dit betekent"},{"startTime":504.36,"endTime":507.76,"body":"dat je het onder deze omstandigheden eigenlijk niet moet gebruiken."},{"startTime":507.76,"endTime":513.04,"body":"Ja ik vind het wel mooi dat dat nu echt helder gedocumenteerd wordt."},{"startTime":513.04,"endTime":516.08,"body":"Ja dus daar wordt heel hard aan gewerkt nu."},{"startTime":516.08,"endTime":521.28,"body":"Dus binnen alle AI teams zitten nu mensen echt specifiek op die documentatie op het"},{"startTime":521.28,"endTime":527.08,"body":"echt heel erg duidelijk neerzetten van oké dit zijn de voorwaarden, dat antwoord voor"},{"startTime":527.08,"endTime":528.08,"body":"het gebruik van dit model."},{"startTime":528.08,"endTime":537.52,"body":"Dus we hebben ook nu een custom text to speech service, die met deep learning super goed"},{"startTime":537.52,"endTime":538.68,"body":"iemand stem kan nadoen."},{"startTime":538.68,"endTime":543.88,"body":"Nou die kan je als klant ook al zou het technisch wel kunnen, die kan je als klant niet zomaar"},{"startTime":543.88,"endTime":544.88,"body":"inzetten."},{"startTime":544.88,"endTime":552.12,"body":"Wij willen contractueel van degene van wie de stem is een handtekening zien dat die daar"},{"startTime":552.12,"endTime":553.12,"body":"toestemming voor heeft gegeven."},{"startTime":553.12,"endTime":554.12,"body":"Ja precies."},{"startTime":554.12,"endTime":558.72,"body":"Dus ik weet op een gegeven moment dat er een bedrijf was, ik weet de naam even niet meer"},{"startTime":558.72,"endTime":564.24,"body":"precies maar een modebedrijf, die wou de stem van hun founder die inmiddels overleden is,"},{"startTime":564.24,"endTime":573.44,"body":"wouden ze gebruiken daarmee om in reclames en op de website of een chatbot of zoiets"},{"startTime":573.44,"endTime":575.36,"body":"met stem van de founder te maken."},{"startTime":575.36,"endTime":583.0,"body":"Maar toen zeiden we ja dat doen we niet, want die founder die kan niet consent geven hierop,"},{"startTime":583.0,"endTime":584.0,"body":"dus helaas."},{"startTime":584.0,"endTime":589.6,"body":"En nou daar zie je wel echt een shift, want het was natuurlijk altijd het kan dus we doen"},{"startTime":589.6,"endTime":597.04,"body":"het omdat het kan en nu gaan we echt van tevoren gaan we hard zeggen, nee ja soms kan het niet."},{"startTime":597.04,"endTime":599.4,"body":"Dat besef komt er steeds meer he?"},{"startTime":599.4,"endTime":600.4,"body":"Oh sorry."},{"startTime":600.4,"endTime":603.72,"body":"Ja mooi om te zien, want dit is niet iets wat er in het begin al was."},{"startTime":603.72,"endTime":608.08,"body":"Want ik heb toen het net uit was de service, ik heb er naar gekeken en ik ben nog steeds"},{"startTime":608.08,"endTime":613.76,"body":"van plan om de nieuwsbotten verder af te gaan bouwen, zodat voice voor mij als antwoord"},{"startTime":613.76,"endTime":614.76,"body":"gegeven kan worden."},{"startTime":614.76,"endTime":617.68,"body":"Gelukkig kan dat nog wel als ik zelf consent geef, maar het is goed dat er over nagedacht"},{"startTime":617.68,"endTime":622.84,"body":"wordt, want je kan het voor zoveel andere doeleinden inzetten voor scams, maar ook gewoon voor"},{"startTime":622.84,"endTime":623.84,"body":"publicaties."},{"startTime":623.84,"endTime":626.84,"body":"Ja, we kijken de hele ziekte wereld."},{"startTime":626.84,"endTime":631.92,"body":"Dus het is wel mooi om dat te zien dat die ownership eigenlijk gewoon gepakt wordt vanuit"},{"startTime":631.92,"endTime":632.92,"body":"Microsoft."},{"startTime":632.92,"endTime":634.52,"body":"Hopelijk doen de andere partijen dat ook."},{"startTime":634.52,"endTime":638.28,"body":"Ja en wat ik net wilde zeggen van gelukkig komt er steeds meer besef dat dit soort dingen"},{"startTime":638.28,"endTime":639.28,"body":"ook nodig zijn."},{"startTime":639.28,"endTime":643.4,"body":"Dat niet inderdaad alleen maar de technologie leidend is, maar dat we ook gaan nadenken"},{"startTime":643.4,"endTime":648.52,"body":"over welke gevolgen heeft, wat voor consequenties kan het hebben en willen we dat en hoe gaan"},{"startTime":648.52,"endTime":649.52,"body":"we dat dan afdekken."},{"startTime":649.52,"endTime":656.72,"body":"En soms kan dat zijn dat je het, net wat jij zegt Eduard, dat je dat contractueel bepaalt."},{"startTime":656.72,"endTime":664.32,"body":"Misschien zeg je op sommige delen zelfs dat je dat via de wetgeving wil afdekken."},{"startTime":664.32,"endTime":667.68,"body":"Dat je zegt, dit staan we maar gewoon hier toe, hier trekken we een grens."},{"startTime":667.68,"endTime":670.16,"body":"Maar dat er in ieder geval over nagedacht wordt."},{"startTime":670.16,"endTime":672.96,"body":"Daar ben ik blij om dat dat steeds meer gebeurt."},{"startTime":672.96,"endTime":678.92,"body":"Nee, dus wij zijn ook zowel in Europa als in Amerika heel hard aan het pushen op wetgeving"},{"startTime":678.92,"endTime":679.92,"body":"rondom facial recognition."},{"startTime":679.92,"endTime":686.16,"body":"Dus juist zo'n case als in Londen, met gewoon op straat dat je eruit gepikt wordt omdat"},{"startTime":686.16,"endTime":689.6,"body":"jouw gezicht met 80% accuracy matcht."},{"startTime":689.6,"endTime":692.36,"body":"Ja, moet je dat willen als samenleving?"},{"startTime":692.36,"endTime":697.72,"body":"En ja, dat zou gewoon de overheid moeten zijn die dat neerzet."},{"startTime":697.72,"endTime":704.08,"body":"En onder deze voorwaarden of in deze situatie of gewoon niet."},{"startTime":704.08,"endTime":708.96,"body":"Ja, en wat ook in die documentaire zat, want dat was hetzelfde in Londen."},{"startTime":708.96,"endTime":716.16,"body":"Want ze hadden dan mensen van, ik weet eigenlijk niet meer hoe die organisatie heette, maar"},{"startTime":716.16,"endTime":717.68,"body":"die streden hier tegen."},{"startTime":717.68,"endTime":720.56,"body":"In ieder geval zeg maar tegen de inbreuk in de privacy."},{"startTime":720.56,"endTime":726.24,"body":"Dus ze spraken mensen op straat ook aan van, ja weet dat die bus die daar staat, daar staan"},{"startTime":726.24,"endTime":729.32,"body":"camera's op, dus je wordt herkend."},{"startTime":729.32,"endTime":732.68,"body":"En een man had echt zoiets van, ja maar daar heb ik helemaal geen zin in."},{"startTime":732.68,"endTime":734.72,"body":"Dus die deed, wat deed hij?"},{"startTime":734.72,"endTime":736.72,"body":"Hij zette zijn shirt omhoog."},{"startTime":736.72,"endTime":738.92,"body":"Ja, oh ja, z'n shirt gewoon omhoog, ja."},{"startTime":738.92,"endTime":739.92,"body":"Meer deed hij niet."},{"startTime":739.92,"endTime":745.32,"body":"Alleen op basis daarvan werd hij aangehouden, omdat daarom de gezichtsherkenningssoftware"},{"startTime":745.32,"endTime":747.24,"body":"hem niet kon identificeren."},{"startTime":747.24,"endTime":749.84,"body":"En er was genoeg om hem aan te houden, weet je."},{"startTime":749.84,"endTime":752.6,"body":"Dan denk je echt, oeh, want het gaat echt wel ver."},{"startTime":752.6,"endTime":753.88,"body":"En dat is gewoon hier in Europa."},{"startTime":753.88,"endTime":756.48,"body":"Ja, bizar is dat."},{"startTime":756.48,"endTime":759.48,"body":"Ja, daar willen we echt niet naar toe."},{"startTime":759.48,"endTime":762.48,"body":"Wel echt enge dingen om over na te denken."},{"startTime":762.48,"endTime":763.48,"body":"Ja."},{"startTime":763.48,"endTime":769.88,"body":"Dat het gewoon 20%-er getrackt kan worden en dat ze gewoon, en je kan nu al, je zou"},{"startTime":769.88,"endTime":775.48,"body":"nu al kunnen bouwen dat jij op straat loopt, naar een winkel kijkt en gaat lachen of gaat"},{"startTime":775.48,"endTime":778.48,"body":"flonzen en dat je op basis daarvan reclame krijgt."},{"startTime":778.48,"endTime":779.48,"body":"Ja."},{"startTime":779.48,"endTime":780.48,"body":"Is er."},{"startTime":780.48,"endTime":781.48,"body":"Ja."},{"startTime":781.48,"endTime":782.48,"body":"Wil je dat?"},{"startTime":782.48,"endTime":783.48,"body":"Ja, ik wil het inderdaad."},{"startTime":783.48,"endTime":785.36,"body":"En dat zijn de goede vragen die gesteld moeten worden."},{"startTime":785.36,"endTime":788.4,"body":"Ja, want het kan, is niet meer een reden om het te doen."},{"startTime":788.4,"endTime":789.4,"body":"Je moet erover nadenken."},{"startTime":789.4,"endTime":790.4,"body":"Je moet het willen, inderdaad."},{"startTime":790.4,"endTime":791.4,"body":"Ja."},{"startTime":792.4,"endTime":793.4,"body":"We kunnen nu zoveel."},{"startTime":793.4,"endTime":797.04,"body":"Ja, ja, dat is echt, echt niet meer de bottleneck."},{"startTime":797.04,"endTime":798.04,"body":"Nee."},{"startTime":798.04,"endTime":803.24,"body":"Zijn er, Joop, nog andere zaken die bij jou zijn opgevallen in de, in het nieuws?"},{"startTime":803.24,"endTime":806.28,"body":"Nee, ik had echt precies hetzelfde met Code Barriers."},{"startTime":806.28,"endTime":809.48,"body":"Dus ik weet niet of, ik bedoel, bij Eduard vallen we er zo in."},{"startTime":809.48,"endTime":812.84,"body":"Of jij iets hebt waarvan je zegt van, hé, maar dit is echt me de afgelopen maand een"},{"startTime":812.84,"endTime":813.84,"body":"beetje opgevallen."},{"startTime":813.84,"endTime":818.92,"body":"Hoeft verder niks met Explainable AI te maken te hebben, maar iets waarvan je zegt van,"},{"startTime":818.92,"endTime":821.28,"body":"ja, dat wil ik wel, dat wil ik wel inbrengen."},{"startTime":821.28,"endTime":825.68,"body":"Nou ja, echt niet, niet iets specifieks."},{"startTime":825.68,"endTime":829.84,"body":"Ik had ook niet deze vraag voorbereid."},{"startTime":829.84,"endTime":830.84,"body":"Nee, nee, sorry."},{"startTime":830.84,"endTime":832.84,"body":"Sorry, daar overvallen we je ook mee."},{"startTime":832.84,"endTime":835.84,"body":"Laten we gewoon naar het hoofdthema gaan, Explainable AI."},{"startTime":835.84,"endTime":840.84,"body":"Dus we kijken wat, nou, wat het is en wat we daarmee kunnen."},{"startTime":840.84,"endTime":853.28,"body":"Ja, laten we eens beginnen met, wat is Explainable AI?"},{"startTime":853.28,"endTime":858.16,"body":"Misschien dat jij zou kunnen vertellen wat dat voor jou is."},{"startTime":858.16,"endTime":862.68,"body":"Nou ja, dat, laten we dat eerst eens even uitdiepen."},{"startTime":862.68,"endTime":865.68,"body":"Wat is Explainable AI eigenlijk, voor de luisteraar?"},{"startTime":865.68,"endTime":866.68,"body":"Misschien voor jou Eduard?"},{"startTime":866.68,"endTime":867.68,"body":"Eduard, ja."},{"startTime":867.68,"endTime":868.68,"body":"Oh ja, sorry."},{"startTime":868.68,"endTime":879.64,"body":"Ja, Explainable AI is eigenlijk een set aan technologieën om met name de inmiddels heel"},{"startTime":879.64,"endTime":885.92,"body":"veel gebruikte deep learning modellen meer inzicht te laten geven in waarom ze tot een"},{"startTime":885.92,"endTime":887.84,"body":"bepaalde voorspelling zijn gekomen."},{"startTime":887.84,"endTime":894.52,"body":"Even heel plat gezegd, een machine leert van de data die je erin stopt en vervolgens krijgt"},{"startTime":894.52,"endTime":901.56,"body":"die een enkele record over een persoon of over een situatie of waar dan het model ook"},{"startTime":901.56,"endTime":902.56,"body":"voor is."},{"startTime":902.56,"endTime":905.56,"body":"Dat krijgt hij binnen en dan doet hij voorspelling."},{"startTime":905.56,"endTime":911.72,"body":"En die voorspelling, om daar meer context bij te geven, kun je dus Explainable AI technologieën"},{"startTime":911.72,"endTime":917.56,"body":"gebruiken om eigenlijk te kunnen zeggen van nou, zowel welke factoren van al die input"},{"startTime":917.56,"endTime":921.0,"body":"die je geeft, heeft het meeste invloed op deze voorspelling."},{"startTime":921.0,"endTime":924.04,"body":"Maar bijvoorbeeld ook, wat is de sensitivity?"},{"startTime":924.04,"endTime":928.8,"body":"Dus als jij een van die waardes een heel klein beetje omhoog of een heel klein beetje omlaag"},{"startTime":928.8,"endTime":934.0,"body":"doet, krijg je dan een andere voorspelling of krijg je dan eigenlijk hetzelfde nog eruit."},{"startTime":934.0,"endTime":937.92,"body":"Dus allemaal dat soort inzichten in wat er nou eigenlijk gebeurt binnen dat soort hele"},{"startTime":937.92,"endTime":943.56,"body":"complexe, de 10, 20, 100 lage, diepe neural networks."},{"startTime":943.56,"endTime":948.12,"body":"Dat is waar we het meest over hebben als het over Explainable AI hebben."},{"startTime":948.12,"endTime":955.16,"body":"En dat zijn eigenlijk wat wij dan noemen de black box modellen die je gaat doorlichten."},{"startTime":955.16,"endTime":959.68,"body":"Dan heb je aan de andere kant van het spectrum, heb je ook wat we dan noemen glass box modellen."},{"startTime":959.68,"endTime":965.56,"body":"En dat zijn dus modellen waar in de rente al veel makkelijker te zien is wat er nou eigenlijk"},{"startTime":965.56,"endTime":966.56,"body":"gebeurt."},{"startTime":966.56,"endTime":970.6,"body":"Dus we nemen de decision tree, die kan je bij wijze van spreken uitprinten en op een muur"},{"startTime":970.6,"endTime":971.6,"body":"hangen."},{"startTime":971.6,"endTime":975.12,"body":"En dan kun je gewoon er doorheen lopen en zeggen oké, dit is waarom we hier eindigen."},{"startTime":975.12,"endTime":976.96,"body":"Ja, we zijn echt interpreteerbaar."},{"startTime":976.96,"endTime":986.4,"body":"Ja, dan meen je natuurlijk nog steeds niet waarom die de grens nou net op 5,5325, weet"},{"startTime":986.4,"endTime":991.68,"body":"ik veel hoeveel cijfers achterkomen, want dat is wat machine learning natuurlijk wel"},{"startTime":991.68,"endTime":992.68,"body":"daaruit trekt."},{"startTime":992.68,"endTime":994.84,"body":"En waarom die op dat getal is uitgekomen."},{"startTime":994.84,"endTime":1001.24,"body":"Maar dan in ieder geval dat je weet oké, dit is hoe we bij dit antwoord zijn gekomen."},{"startTime":1001.24,"endTime":1003.24,"body":"Ja, duidelijk."},{"startTime":1003.24,"endTime":1011.68,"body":"Hoe betrouwbaar is dan die uitleg die eruit komt?"},{"startTime":1011.68,"endTime":1018.24,"body":"Ja, dat is een hele goede vraag."},{"startTime":1018.24,"endTime":1024.68,"body":"En die is denk ik direct gerelateerd aan hoe betrouwbaar het model is."},{"startTime":1024.68,"endTime":1028.44,"body":"Uiteindelijk heeft de machine learning model altijd een bepaalde betrouwbaarheid."},{"startTime":1028.44,"endTime":1031.04,"body":"Die is nooit 100%."},{"startTime":1031.04,"endTime":1038.72,"body":"Die zeldzaam case dat het wel zo is, even bij de beschouwing laten."},{"startTime":1038.72,"endTime":1043.68,"body":"Eigenlijk zou die niet moeten bestaan, want er zijn geen machine learning gebruiken."},{"startTime":1043.68,"endTime":1044.68,"body":"Precies."},{"startTime":1044.68,"endTime":1046.84,"body":"Dus er zit altijd onzekerheid in."},{"startTime":1046.84,"endTime":1056.52,"body":"En dus ook in de data die je krijgt uit zo'n analyse, uit zo'n explainable AI analyse,"},{"startTime":1056.52,"endTime":1057.84,"body":"daar zit dus ook onbetrouwbaarheid in."},{"startTime":1057.84,"endTime":1063.04,"body":"Ik weet niet of je die een op een aan elkaar kan matchen, maar ik vermoed dat dat dicht"},{"startTime":1063.04,"endTime":1064.04,"body":"bij elkaar in de buurt zal zitten."},{"startTime":1064.04,"endTime":1069.04,"body":"Want dat lijkt mij logisch op de een of andere manier."},{"startTime":1069.04,"endTime":1071.56,"body":"Ja, maar ik denk dat dat wel goed is om aan te stippen."},{"startTime":1071.56,"endTime":1077.44,"body":"Dat dat hetzelfde is als die, nou ja, het is niet regelgebaseerd."},{"startTime":1077.44,"endTime":1079.32,"body":"Dus je hebt geen inderdaad 100% ja/nee."},{"startTime":1079.32,"endTime":1082.48,"body":"En dat geldt voor die uitleg denk ik precies hetzelfde."},{"startTime":1082.48,"endTime":1086.48,"body":"Het heeft een bepaalde mate van betrouwbaarheid."},{"startTime":1086.48,"endTime":1088.48,"body":"Ja."},{"startTime":1088.48,"endTime":1101.48,"body":"En hoe belangrijk is explainable AI in het algemeen, vind jij?"},{"startTime":1101.48,"endTime":1108.08,"body":"Ja, ik zou bijna zeggen dat je tegenwoordig, als je nu een nieuw model gaat bouwen voor"},{"startTime":1108.08,"endTime":1111.48,"body":"iets, dat je niet meer kan zeggen we gaan dat niet meenemen."},{"startTime":1111.48,"endTime":1117.84,"body":"Ook de technologie is inmiddels dusdanig makkelijk dat je eigenlijk gewoon niet kan"},{"startTime":1117.84,"endTime":1121.64,"body":"verantwoorden dat je zegt nee we gaan dat vinkje niet aanzetten in de tool die we gebruiken."},{"startTime":1121.64,"endTime":1123.28,"body":"Want inmiddels is het op dat niveau."},{"startTime":1123.28,"endTime":1127.88,"body":"Het is een kwestie van een vinkje aanzetten en een klein beetje compute en dan heeft ie"},{"startTime":1127.88,"endTime":1128.88,"body":"een resultaat."},{"startTime":1128.88,"endTime":1136.92,"body":"Dan is eigenlijk nog de veel belangrijke vraag, gebruiken mensen het ook nog nadat ze het"},{"startTime":1136.92,"endTime":1137.92,"body":"model getraind hebben?"},{"startTime":1137.92,"endTime":1141.92,"body":"Dus blijven ze erbij houden en blijven ze er ook naar refereren?"},{"startTime":1141.92,"endTime":1146.56,"body":"Is het echt onderdeel van het proces van de lifecycle van zo'n model over de tijd?"},{"startTime":1146.56,"endTime":1150.08,"body":"In plaats van alleen maar iets wat je één keer bekijkt nadat je model goed genoemd"},{"startTime":1150.08,"endTime":1151.08,"body":"is."},{"startTime":1151.08,"endTime":1152.08,"body":"Heel mooi punt."},{"startTime":1152.08,"endTime":1154.08,"body":"Dat vind ik zelf wel een hele belangrijke inderdaad."},{"startTime":1154.08,"endTime":1155.96,"body":"Leuk dat we een bepaald test gebruiken."},{"startTime":1155.96,"endTime":1159.64,"body":"Ik hoop dat we daar al heel veel andere zaken gebruiken om onze modellen te testen."},{"startTime":1159.64,"endTime":1165.56,"body":"En dat dit eigenlijk een addition is die we erbij krijgen en moeten gebruiken tegenwoordig."},{"startTime":1165.56,"endTime":1170.0,"body":"Maar dit is iets wat je eigenlijk continu moet blijven monitoren en kijken of ook daar"},{"startTime":1170.0,"endTime":1171.92,"body":"geen hele grote verschillen in gaan ontstaan."},{"startTime":1171.92,"endTime":1176.32,"body":"En dat is eigenlijk weer een middel om ook in productie wat mij betreft in controle te"},{"startTime":1176.32,"endTime":1180.12,"body":"blijven van het model en de explainability daarvan."},{"startTime":1180.12,"endTime":1185.12,"body":"Ja, daar ga ik aan meneer."},{"startTime":1185.12,"endTime":1191.88,"body":"Ja, en ik denk dat het belangrijk is dat je goed van tevoren nadenkt voor wie je ook"},{"startTime":1191.88,"endTime":1193.28,"body":"de uitleg nodig hebt."},{"startTime":1193.28,"endTime":1196.12,"body":"Want je hebt natuurlijk op verschillende niveaus heb je uitleg nodig."},{"startTime":1196.12,"endTime":1201.88,"body":"Dus als je het hebt over gedurende de modelontwikkeling is typisch natuurlijk de data scientist of"},{"startTime":1201.88,"endTime":1205.32,"body":"de machine learning engineer die het nodig heeft."},{"startTime":1205.32,"endTime":1210.32,"body":"Maar we hebben natuurlijk ook te maken met eventueel een domein expert die moet snappen"},{"startTime":1210.32,"endTime":1211.32,"body":"wat het is."},{"startTime":1211.32,"endTime":1214.0,"body":"Een eindgebruiker die moet misschien vertrouwen krijgen in het model."},{"startTime":1214.0,"endTime":1220.24,"body":"Die heeft weer ander type uitleg nodig voor juridische zaken of voor wetgeving."},{"startTime":1220.24,"endTime":1223.08,"body":"Heb je misschien weer andere explainers nodig."},{"startTime":1223.08,"endTime":1225.8,"body":"Dus daar moet je wel van tevoren denk ik heel goed over nadenken."},{"startTime":1225.8,"endTime":1228.56,"body":"En ik ben het helemaal met jou eens Eduard."},{"startTime":1228.56,"endTime":1233.12,"body":"Je kan geen model eigenlijk bijna meer maken zonder dat je dit gebruikt."},{"startTime":1233.12,"endTime":1234.6,"body":"Zonder dat je nadenkt."},{"startTime":1234.6,"endTime":1235.84,"body":"Waar heb je dit voor nodig."},{"startTime":1235.84,"endTime":1240.52,"body":"Dat je het heel vroeg in je design proces meeneemt."},{"startTime":1240.52,"endTime":1244.16,"body":"Maar dat ook in je standaard workflow eigenlijk blijft herhalen."},{"startTime":1244.16,"endTime":1250.08,"body":"Ja, het is wat mij betreft inmiddels echt op het niveau van dat je een applicatie continu"},{"startTime":1250.08,"endTime":1253.16,"body":"test bij elke update en bij alles wat er gebeurt."},{"startTime":1253.16,"endTime":1255.68,"body":"Met een continuous integration achtige manier van denken."},{"startTime":1255.68,"endTime":1257.8,"body":"Daar zou dit eigenlijk ook in moeten zitten."},{"startTime":1257.8,"endTime":1262.76,"body":"Inclusief van rapportages, automatisch naar de juiste stakeholders."},{"startTime":1262.76,"endTime":1265.52,"body":"Om te zorgen dat er ook echt mee gebeurt."},{"startTime":1265.52,"endTime":1267.0,"body":"Want het inzicht hebben ze één."},{"startTime":1267.0,"endTime":1269.4,"body":"Acteren erop is natuurlijk nog een tweede."},{"startTime":1269.4,"endTime":1270.4,"body":"Ja, precies."},{"startTime":1270.4,"endTime":1276.28,"body":"En hoe zie jij dit thema zich ontwikkelen de aankomende jaren."},{"startTime":1276.28,"endTime":1277.28,"body":"Daar ben ik wel benieuwd naar."},{"startTime":1277.28,"endTime":1287.32,"body":"Nou, ik heb daar wel vertrouwen in dat dat echt nog meer standaard wordt."},{"startTime":1287.32,"endTime":1288.32,"body":"Ook in alle tools."},{"startTime":1288.32,"endTime":1294.32,"body":"En ook dat juist gericht op die verschillende soorten gebruikers hiervan."},{"startTime":1294.32,"endTime":1297.72,"body":"Daar ook steeds meer variaties binnen die tools komen."},{"startTime":1297.72,"endTime":1300.72,"body":"Dat je kan zeggen, nou echt voor de data scientist."},{"startTime":1300.72,"endTime":1303.8,"body":"En voor hele specifieke dingen die je wil weten."},{"startTime":1303.8,"endTime":1305.92,"body":"Zoals bias en dat soort dingen."},{"startTime":1305.92,"endTime":1309.4,"body":"Dat daarvoor gewoon een variant van die tool ontstaat."},{"startTime":1309.4,"endTime":1315.56,"body":"Die gewoon alleen maar dat en heel duidelijk in hele makkelijke taal of visuals of wat dan"},{"startTime":1315.56,"endTime":1316.56,"body":"ook weergeeft."},{"startTime":1316.56,"endTime":1319.16,"body":"En hetzelfde voor een business gebruiker."},{"startTime":1319.16,"endTime":1320.76,"body":"En hetzelfde voor een eindgebruiker."},{"startTime":1320.76,"endTime":1326.84,"body":"Ik kan me zo voorstellen dat je steeds meer ook in apps die een algoritme gebruiken."},{"startTime":1326.84,"endTime":1328.76,"body":"Dat je daar ook gewoon in gaat laten zien."},{"startTime":1328.76,"endTime":1331.64,"body":"Dit is hoe zeker we zijn van deze voorspelling."},{"startTime":1331.64,"endTime":1339.28,"body":"Of deze vijf dingen wogen het zwaarste bij het komen tot deze voorspelling of zoiets."},{"startTime":1339.28,"endTime":1342.6,"body":"Dat dat steeds meer de norm gaat worden."},{"startTime":1342.6,"endTime":1347.36,"body":"En ik hoop vooral dat overheden daar echt op gaan inzetten."},{"startTime":1347.36,"endTime":1351.56,"body":"Want als er één domein is waar ze het heel goed kunnen gebruiken om veel meer modellen"},{"startTime":1351.56,"endTime":1352.56,"body":"te gebruiken."},{"startTime":1352.56,"endTime":1355.92,"body":"Maar het nog belangrijker is dat het op de goede manier gebeurt."},{"startTime":1355.92,"endTime":1356.92,"body":"Dan is het in de overheid."},{"startTime":1356.92,"endTime":1358.8,"body":"Ja, helemaal met je eens."},{"startTime":1358.8,"endTime":1362.16,"body":"Dat zou heel mooi zijn voor ons allemaal."},{"startTime":1362.16,"endTime":1364.36,"body":"Want volgens mij zit daar echt heel veel waarde in."},{"startTime":1364.36,"endTime":1367.96,"body":"Maar ze moeten het wel echt op de hele goede manier doen."},{"startTime":1367.96,"endTime":1368.96,"body":"Ja."},{"startTime":1368.96,"endTime":1371.64,"body":"Er zijn natuurlijk ook veel meer mensen die daar juist op letten."},{"startTime":1371.64,"endTime":1374.12,"body":"Omdat het de individu en de burger ook echt raakt."},{"startTime":1374.12,"endTime":1376.04,"body":"Dus ze zitten in het gevoelige gebied."},{"startTime":1376.04,"endTime":1379.08,"body":"Dus het goede voorbeeld geven is daar nog belangrijker."},{"startTime":1379.08,"endTime":1384.04,"body":"En als je kijkt naar de partners met wie je samenwerkt."},{"startTime":1384.04,"endTime":1386.24,"body":"En dat zou ook bij veel omgevingen komen."},{"startTime":1386.24,"endTime":1388.84,"body":"Zie je daar ook al echt de awareness?"},{"startTime":1388.84,"endTime":1391.0,"body":"En de mensen die er echt veel mee aan de slag gaan?"},{"startTime":1391.0,"endTime":1393.28,"body":"Of is het meer van, nee, we zijn er nu over aan het praten."},{"startTime":1393.28,"endTime":1396.04,"body":"Of zien het ook al vaak toegepast worden?"},{"startTime":1396.04,"endTime":1401.08,"body":"Nee, ik zie de meeste partners die echt serieus met machinelearning bezig zijn."},{"startTime":1401.08,"endTime":1403.52,"body":"Dat echt naar productie brengen."},{"startTime":1403.52,"endTime":1409.48,"body":"En echt een standaard methodes hebben om de hele ML op zin te richten."},{"startTime":1409.48,"endTime":1410.48,"body":"En al dat zingen."},{"startTime":1410.48,"endTime":1413.88,"body":"Dat die ook eigenlijk allemaal dit wel aan het meedoen zijn."},{"startTime":1413.88,"endTime":1416.24,"body":"Dus ze mogen er best wat meer over praten."},{"startTime":1416.24,"endTime":1420.24,"body":"Dus ik ben ook heel blij dat jullie zowel in Pabedaar een paar weken geleden."},{"startTime":1420.24,"endTime":1423.92,"body":"Als hier het zo expliciet op de kaart zetten."},{"startTime":1423.92,"endTime":1426.32,"body":"Dat kan nooit gehaald worden."},{"startTime":1426.32,"endTime":1428.32,"body":"Mooi om te horen."},{"startTime":1428.32,"endTime":1431.32,"body":"Ja, wat ik zelf zie is op het gebied van research."},{"startTime":1431.32,"endTime":1435.12,"body":"Zit er echt wel nu een zwaartepunt ook op Explainable AI."},{"startTime":1435.12,"endTime":1437.12,"body":"We hebben in onze research center ook."},{"startTime":1437.12,"endTime":1442.6,"body":"Is dat ook een van de drie main topics waar we research op legen."},{"startTime":1442.6,"endTime":1445.08,"body":"Maar ik zie dat dat echt wereldwijd gebeurt."},{"startTime":1445.08,"endTime":1447.36,"body":"En dat geeft mij ook wel het idee."},{"startTime":1447.36,"endTime":1451.56,"body":"Daar gaan natuurlijk ook steeds meer nieuwe ontwikkelingen uitkomen."},{"startTime":1451.56,"endTime":1459.24,"body":"Nu is het toch wel vaak dat de uitkomsten van Explainable AI."},{"startTime":1459.24,"endTime":1462.88,"body":"Toch wel voor experts interpreterbaar zijn."},{"startTime":1462.88,"endTime":1465.6,"body":"Dat je echt wel moet snappen wat eruit komt."},{"startTime":1465.6,"endTime":1467.96,"body":"En de volgende stap wordt natuurlijk echt van."},{"startTime":1467.96,"endTime":1475.36,"body":"Hoe maak je dat voor veel grotere doelgroepen inzichtelijk en begrijpelijk."},{"startTime":1475.36,"endTime":1479.92,"body":"Zo zitten wij zelf samen met de universiteit onder andere van Twente."},{"startTime":1479.92,"endTime":1482.8,"body":"In een Europees project met allerlei."},{"startTime":1482.8,"endTime":1486.72,"body":"Ik geloof dat het iets van 11 andere universiteiten zijn."},{"startTime":1486.72,"endTime":1488.32,"body":"En andere business partners."},{"startTime":1488.32,"endTime":1489.92,"body":"Waar gekeken wordt van."},{"startTime":1489.92,"endTime":1493.72,"body":"Hoe zou je nou een natuurlijke taalgeneratie daar aan kunnen koppelen."},{"startTime":1493.72,"endTime":1498.08,"body":"Zodanig zelfs dat het gekoppeld is aan jouw profiel."},{"startTime":1498.08,"endTime":1502.2,"body":"En dan moet je echt denken bijvoorbeeld in de gezondheidszorg."},{"startTime":1502.2,"endTime":1506.28,"body":"Waar een arts uitleg geeft aan jou."},{"startTime":1506.28,"endTime":1509.68,"body":"Maar als het goed is dat ook een beetje op jou afstemt."},{"startTime":1509.68,"endTime":1513.72,"body":"Wat de uitleg is van de onderzoeken die gedaan zijn."},{"startTime":1513.72,"endTime":1515.72,"body":"Want dat is uiteindelijk voor mij natuurlijk ook een black box."},{"startTime":1515.72,"endTime":1518.0,"body":"Als ik bijvoorbeeld in een MRI heb gelegen ofzo."},{"startTime":1518.0,"endTime":1520.48,"body":"Dan kan hij mij de foto's laten zien."},{"startTime":1520.48,"endTime":1521.8,"body":"Of nog erg een rundige foto."},{"startTime":1521.8,"endTime":1523.8,"body":"Want voor mij zijn dat alleen maar zwart witte vlekken."},{"startTime":1523.8,"endTime":1526.12,"body":"En dan zeggen ze kijk hier zie je dat."},{"startTime":1526.12,"endTime":1527.56,"body":"En dan gaat hij uitleg geven."},{"startTime":1527.56,"endTime":1529.76,"body":"En dan zie ik dat nog steeds niet op die rundige foto."},{"startTime":1529.76,"endTime":1534.12,"body":"Maar door zijn uitleg begrijp ik in ieder geval wat er aan de hand is."},{"startTime":1534.12,"endTime":1536.12,"body":"En als het goed is schat hij dan een beetje in."},{"startTime":1536.12,"endTime":1539.72,"body":"Hoeveel uitleg of hoe diep ik dat wil hebben."},{"startTime":1539.72,"endTime":1543.72,"body":"Nou zoiets wil je eigenlijk ook met X-Flame in de Boljaar."},{"startTime":1543.72,"endTime":1545.52,"body":"Ja dat is ook wel een mooie analogie."},{"startTime":1545.52,"endTime":1551.32,"body":"Dat je zegt nou een dokter die naar een X-ray."},{"startTime":1551.32,"endTime":1552.32,"body":"Of een MRI of iets kijkt."},{"startTime":1552.32,"endTime":1556.32,"body":"En zegt hier zit net een verschil ten opzichte van normaal."},{"startTime":1556.32,"endTime":1560.32,"body":"Dat verschil highlighten en laten zien en teruggeven."},{"startTime":1560.32,"endTime":1562.32,"body":"Dat is een feit dat je met X-Flame in de Boljaar ook wil doen."},{"startTime":1562.32,"endTime":1567.32,"body":"Dat je niet alleen zegt oké dit is hier een plaatje."},{"startTime":1567.32,"endTime":1571.32,"body":"Maar je ook zegt nou hier zit een verschil van dit plaatje."},{"startTime":1571.32,"endTime":1572.32,"body":"Versus het standaard plaatje."},{"startTime":1572.32,"endTime":1573.32,"body":"Of versus."},{"startTime":1573.32,"endTime":1575.32,"body":"Ja en dat betekent."},{"startTime":1575.32,"endTime":1577.32,"body":"En dat betekent ja."},{"startTime":1577.32,"endTime":1582.32,"body":"Dus dat er zoveel onderzoek nu wordt gedaan."},{"startTime":1582.32,"endTime":1584.32,"body":"Geeft mij ook wel een gevoel."},{"startTime":1584.32,"endTime":1588.32,"body":"We hebben volgens mij nu een eerste fundament."},{"startTime":1588.32,"endTime":1591.32,"body":"Maar dat daar echt op doorgebouwd gaat worden."},{"startTime":1591.32,"endTime":1594.32,"body":"En dat dit in de aankomende jaren ook verbeterd en uitgebreid gaat worden."},{"startTime":1594.32,"endTime":1597.32,"body":"Ja ik heb er ook heel veel vertrouwen in."},{"startTime":1597.32,"endTime":1601.32,"body":"Mooi."},{"startTime":1601.32,"endTime":1604.32,"body":"Even kijken hoor."},{"startTime":1604.32,"endTime":1606.32,"body":"Dit waren denk ik wel een beetje mijn vragen."},{"startTime":1606.32,"endTime":1608.32,"body":"Niels had jij nog specifieke vragen?"},{"startTime":1608.32,"endTime":1611.32,"body":"Nou wat ik nog gewoon nieuwsgierig naar was."},{"startTime":1611.32,"endTime":1614.32,"body":"We zijn nu bezig in Europa natuurlijk met wetgeving."},{"startTime":1614.32,"endTime":1616.32,"body":"Op AI vlak."},{"startTime":1616.32,"endTime":1618.32,"body":"Het is een hele grote paper geworden."},{"startTime":1618.32,"endTime":1621.32,"body":"Het ligt nog allemaal ter discussie natuurlijk."},{"startTime":1621.32,"endTime":1625.32,"body":"Maar wat ik me afvraag is hoe gaat dat dadelijk met Microsoft en andere grote partijen."},{"startTime":1625.32,"endTime":1628.32,"body":"Dat als er in de EU bepaalde wetgeving gaat plaatsvinden."},{"startTime":1628.32,"endTime":1633.32,"body":"Wat gaat dat doen met de diensten die wereldwijd worden aangepoden?"},{"startTime":1633.32,"endTime":1638.32,"body":"Ja dat is voor ons heel simpel."},{"startTime":1638.32,"endTime":1640.32,"body":"Wij gaan aan de wet voldoen."},{"startTime":1640.32,"endTime":1643.32,"body":"Dat is flink heel makkelijk."},{"startTime":1643.32,"endTime":1645.32,"body":"Maar zo simpel is het uiteindelijk wel."},{"startTime":1645.32,"endTime":1647.32,"body":"Want wij gaan natuurlijk niet zeggen."},{"startTime":1647.32,"endTime":1650.32,"body":"Oh we mogen geen feestje werken in de zomer."},{"startTime":1650.32,"endTime":1652.32,"body":"Nou dan doen we dat heel lekker anders."},{"startTime":1652.32,"endTime":1656.32,"body":"Dus dan zullen we zeker onze diensten daarop moeten aanpassen."},{"startTime":1656.32,"endTime":1660.32,"body":"Nou zijn we sowieso al heel erg hard bezig."},{"startTime":1660.32,"endTime":1664.32,"body":"Om te zorgen dat we alles wat we aan Europese planten aanbieden."},{"startTime":1664.32,"endTime":1666.32,"body":"Vanuit Europese datacenters doen."},{"startTime":1666.32,"endTime":1669.32,"body":"Met alle GDPR guidelines."},{"startTime":1669.32,"endTime":1671.32,"body":"En allemaal dat soort dingen."},{"startTime":1671.32,"endTime":1679.32,"body":"Dus inmiddels zijn we geen vreemden meer in hoe we daarmee om moeten gaan over de hele wereld."},{"startTime":1679.32,"endTime":1681.32,"body":"En meestal wat we bijvoorbeeld met privacy doen."},{"startTime":1681.32,"endTime":1683.32,"body":"Is dat we gauw gezegd hebben."},{"startTime":1683.32,"endTime":1685.32,"body":"We pakken de strengste wetgeving."},{"startTime":1685.32,"endTime":1689.32,"body":"Dat is op dit moment GDPR en een beetje Californië."},{"startTime":1689.32,"endTime":1693.32,"body":"En dat maken we gewoon voor onszelf wereldwijd standaard."},{"startTime":1693.32,"endTime":1697.32,"body":"En dan hebben we nog maar een ding te doen."},{"startTime":1697.32,"endTime":1699.32,"body":"En dan zitten we goed zeg maar."},{"startTime":1699.32,"endTime":1701.32,"body":"Tot er weer een strengere komt."},{"startTime":1701.32,"endTime":1703.32,"body":"Dus dat moeten we weer aanpassen."},{"startTime":1703.32,"endTime":1705.32,"body":"Maar dat hoort erbij."},{"startTime":1705.32,"endTime":1708.32,"body":"Dus het zou me niks verbazen dat we op een gegeven moment hetzelfde zeggen voor dit."},{"startTime":1708.32,"endTime":1711.32,"body":"Als er inderdaad in Europa een strenge wetgeving komt."},{"startTime":1711.32,"endTime":1718.32,"body":"Rondom noem maar facial recognition of speech generation."},{"startTime":1718.32,"endTime":1720.32,"body":"Dat we ook zeggen."},{"startTime":1720.32,"endTime":1724.32,"body":"Dan nemen we vanaf nu dat als markt voor de hele wereld."},{"startTime":1724.32,"endTime":1729.32,"body":"Ik denk een hele mooie transparante aanpak daarin ook."},{"startTime":1729.32,"endTime":1733.32,"body":"Een andere vraag die bij mij nog leeft is van explainable AI."},{"startTime":1733.32,"endTime":1735.32,"body":"Is een ding."},{"startTime":1735.32,"endTime":1738.32,"body":"Maar volgens mij is het maar één onderdeel in het grotere plaatje."},{"startTime":1738.32,"endTime":1742.32,"body":"Daar moet ik het over vertellen."},{"startTime":1742.32,"endTime":1748.32,"body":"Dat is ook iets wat ik erg belangrijk vind."},{"startTime":1748.32,"endTime":1750.32,"body":"Dat mensen daar ook over nagenikt."},{"startTime":1750.32,"endTime":1755.32,"body":"Want uiteindelijk is explainable AI een tool om die modellen die je hebt gebouwd."},{"startTime":1755.32,"endTime":1759.32,"body":"Om die meer inzichtelijk te maken."},{"startTime":1759.32,"endTime":1762.32,"body":"Maar waarom doe je dat?"},{"startTime":1762.32,"endTime":1764.32,"body":"Dat doe je niet om het inzichtelijk te maken."},{"startTime":1764.32,"endTime":1769.32,"body":"Dat doe je uiteindelijk omdat je daar iets mee wil bereiken."},{"startTime":1769.32,"endTime":1773.32,"body":"De manier waarop wij dat zelf binnen Microsoft gedaan hebben."},{"startTime":1773.32,"endTime":1777.32,"body":"Is dat we zijn we echt even terug gegaan en achteruit gestapt."},{"startTime":1777.32,"endTime":1781.32,"body":"En gekeken wat zijn onze principes voor hoe we AI willen gebruiken."},{"startTime":1781.32,"endTime":1784.32,"body":"Dat heeft dus helemaal niks met technologie te maken."},{"startTime":1784.32,"endTime":1787.32,"body":"Die principes zijn fairness."},{"startTime":1787.32,"endTime":1791.32,"body":"Is het eerlijk het model?"},{"startTime":1791.32,"endTime":1794.32,"body":"Dus het discrimineert het niet?"},{"startTime":1794.32,"endTime":1799.32,"body":"We hebben heel veel documentatie over wat precies fairness is."},{"startTime":1799.32,"endTime":1802.32,"body":"Maar dat is de eerste."},{"startTime":1802.32,"endTime":1804.32,"body":"Accountability."},{"startTime":1804.32,"endTime":1807.32,"body":"Kun je daadwerkelijk degene die het gebouwd heeft."},{"startTime":1807.32,"endTime":1810.32,"body":"Kan die laten zien hoe hij het gebouwd heeft."},{"startTime":1810.32,"endTime":1814.32,"body":"Kun je daar als eindgebruiker als jij het door geraakt wordt."},{"startTime":1814.32,"endTime":1817.32,"body":"Kun je dan je gram halen?"},{"startTime":1817.32,"endTime":1819.32,"body":"Om het maar heel wat beter te zeggen."},{"startTime":1819.32,"endTime":1821.32,"body":"Transparantie."},{"startTime":1821.32,"endTime":1824.32,"body":"Dat zit in dingen als de datasheets."},{"startTime":1824.32,"endTime":1826.32,"body":"Waar we het over gehad hebben."},{"startTime":1826.32,"endTime":1828.32,"body":"Dus echt expliciet laten zien."},{"startTime":1828.32,"endTime":1830.32,"body":"Dit is de dataset die we gebruikt hebben."},{"startTime":1830.32,"endTime":1831.32,"body":"Dit zijn de algoritmes."},{"startTime":1831.32,"endTime":1832.32,"body":"Dit zijn de parameters."},{"startTime":1832.32,"endTime":1835.32,"body":"Al dat soort dingen dat je daar zoveel mogelijk van documenteert."},{"startTime":1835.32,"endTime":1838.32,"body":"En vastlegt en kan overleggen."},{"startTime":1838.32,"endTime":1840.32,"body":"Inclusiveness."},{"startTime":1840.32,"endTime":1843.32,"body":"Dus dat gaat heel erg om discriminatie."},{"startTime":1843.32,"endTime":1847.32,"body":"En echt de nog wat naardere kant van fairness."},{"startTime":1847.32,"endTime":1853.32,"body":"En dan eigenlijk de twee soorten van verdraging die eronder moeten zitten."},{"startTime":1853.32,"endTime":1855.32,"body":"Reliability en safety."},{"startTime":1855.32,"endTime":1859.32,"body":"Dus gebruik je het op een manier."},{"startTime":1859.32,"endTime":1862.32,"body":"Als het in een cruciaal proces zit."},{"startTime":1862.32,"endTime":1866.32,"body":"Wat gebeurt er dan als het model in een keer wegvalt?"},{"startTime":1866.32,"endTime":1867.32,"body":"Of dat soort dingen."},{"startTime":1867.32,"endTime":1869.32,"body":"Dus dat je daar ook over nadenkt."},{"startTime":1869.32,"endTime":1871.32,"body":"En dan privacy en security."},{"startTime":1871.32,"endTime":1874.32,"body":"Dus kan het model niet geabused worden."},{"startTime":1874.32,"endTime":1877.32,"body":"Doordat mensen gaan spammen."},{"startTime":1877.32,"endTime":1880.32,"body":"Hoe zit het met de privacy van de dataset die je gebruikt hebt."},{"startTime":1880.32,"endTime":1884.32,"body":"Van jou als jij in een app zit en daar een call naar doet."},{"startTime":1884.32,"endTime":1887.32,"body":"Dus heel veel van dat soort echt IT-achtige dingen."},{"startTime":1887.32,"endTime":1889.32,"body":"Dat die ook geregeld zijn."},{"startTime":1889.32,"endTime":1894.32,"body":"Nou en eigenlijk hebben we dan binnen Microsoft nog een team."},{"startTime":1894.32,"endTime":1898.32,"body":"Die principles neemt en daar dan echt guidelines over schrijft."},{"startTime":1898.32,"endTime":1900.32,"body":"Dat zijn echt handboeken van."},{"startTime":1900.32,"endTime":1905.32,"body":"Oké ik ga nu als team een model bouwen voor mijn app."},{"startTime":1905.32,"endTime":1907.32,"body":"Wat moet ik doen?"},{"startTime":1907.32,"endTime":1909.32,"body":"Nou en dan heb je."},{"startTime":1909.32,"endTime":1911.32,"body":"Dus we hebben er bijvoorbeeld eentje die het zelf erg goed vindt."},{"startTime":1911.32,"endTime":1914.32,"body":"Die staat publiek gedocumenteerd."},{"startTime":1914.32,"endTime":1918.32,"body":"Dat is onze guidelines for human AI interactions."},{"startTime":1918.32,"endTime":1923.32,"body":"Dus voor alle cases waarbij een persoon met een AI in aanraking komt."},{"startTime":1923.32,"endTime":1925.32,"body":"Dat kan zijn in een chatbot."},{"startTime":1925.32,"endTime":1928.32,"body":"Dat kan zijn in zo'n speech-to-text service."},{"startTime":1928.32,"endTime":1931.32,"body":"Dat kan zijn in een app die een algorithma gebruikt."},{"startTime":1931.32,"endTime":1937.32,"body":"En daar zitten 18 blokken in waar je over moet nadenken."},{"startTime":1937.32,"endTime":1943.32,"body":"Dus dat zijn oké hoe maak je duidelijk aan de gebruiker wat het systeem doet."},{"startTime":1943.32,"endTime":1946.32,"body":"Als je nadenkt over Google."},{"startTime":1946.32,"endTime":1949.32,"body":"Hoe stelt Google die ranking samen?"},{"startTime":1949.32,"endTime":1952.32,"body":"Nou dat kan je niet uitgelegd krijgen."},{"startTime":1952.32,"endTime":1954.32,"body":"Dus daar gaat het wel mis zeg maar."},{"startTime":1954.32,"endTime":1960.32,"body":"'Make clear how well the system can do what it can do.'"},{"startTime":1960.32,"endTime":1963.32,"body":"Dus hoe goed is het systeem in wat hij zegt dat hij doet."},{"startTime":1963.32,"endTime":1966.32,"body":"Dus daar kom je bij de reliability van je model."},{"startTime":1966.32,"endTime":1967.32,"body":"Bij de accuracy."},{"startTime":1967.32,"endTime":1969.32,"body":"Allemaal dat soort metrics."},{"startTime":1969.32,"endTime":1971.32,"body":"En hoe geef je dat ook aan de gebruiker."},{"startTime":1971.32,"endTime":1973.32,"body":"Dat die daarmee een beslissing kan nemen over."},{"startTime":1973.32,"endTime":1977.32,"body":"Oké ik kan dit vertrouwen of ik zeg ik wil het überhaupt niet."},{"startTime":1977.32,"endTime":1979.32,"body":"Nou dan tijdens de interactie."},{"startTime":1979.32,"endTime":1984.32,"body":"Nou daar zit ook een aantal dingen in."},{"startTime":1984.32,"endTime":1990.32,"body":"Er zit bijvoorbeeld dat je relevante informatie vanuit de context laat zien."},{"startTime":1990.32,"endTime":1995.32,"body":"Dus als jij naast, als jij voor een of ander image recognition ding."},{"startTime":1995.32,"endTime":1999.32,"body":"Naast de foto die je uploadt ook vijf andere foto's gaat meenemen."},{"startTime":1999.32,"endTime":2001.32,"body":"Nou dan moet je dat laten zien."},{"startTime":2001.32,"endTime":2006.32,"body":"Als jij zegt we gaan ook je gps locatie gebruiken."},{"startTime":2006.32,"endTime":2007.32,"body":"Moet je laten zien."},{"startTime":2007.32,"endTime":2010.32,"body":"Dat moet natuurlijk sowieso bij gps locatie."},{"startTime":2010.32,"endTime":2012.32,"body":"Maar juist dat je ook duidelijk maakt."},{"startTime":2012.32,"endTime":2016.32,"body":"Dit is wat we allemaal gebruiken voor jouw ding."},{"startTime":2016.32,"endTime":2021.32,"body":"Nou dan een heel aantal over wat doen we als we het fout hebben."},{"startTime":2021.32,"endTime":2026.32,"body":"Dus kun je dan als gebruiker in beroep gaan."},{"startTime":2026.32,"endTime":2032.32,"body":"Kun je uitleggen waarom het systeem gedaan heeft wat het heeft gedaan."},{"startTime":2032.32,"endTime":2036.32,"body":"Kan de gebruiker een verbetering doorvoeren."},{"startTime":2036.32,"endTime":2039.32,"body":"Of het negeren."},{"startTime":2039.32,"endTime":2041.32,"body":"Dus allemaal dat soort dingen."},{"startTime":2041.32,"endTime":2043.32,"body":"En dan het laatste paar zijn over."},{"startTime":2043.32,"endTime":2046.32,"body":"Wat gebeurt er nou over de tijd heen met dat model."},{"startTime":2046.32,"endTime":2051.32,"body":"Dus leert ie van de gebruikers in het verleden."},{"startTime":2051.32,"endTime":2054.32,"body":"Dus eigenlijk doe je retraining."},{"startTime":2054.32,"endTime":2056.32,"body":"Dus eigenlijk doe je mhops."},{"startTime":2056.32,"endTime":2059.32,"body":"En niet alleen maar model en de wereld in en negeren."},{"startTime":2059.32,"endTime":2063.32,"body":"Gebruik je feedback van gebruikers."},{"startTime":2063.32,"endTime":2070.32,"body":"Laat je ook weten aan de gebruiker als jij zijn feedback verwerkt hebt."},{"startTime":2070.32,"endTime":2072.32,"body":"En er is een nieuwe versie."},{"startTime":2072.32,"endTime":2076.32,"body":"Allemaal dat soort dingen zitten erin."},{"startTime":2076.32,"endTime":2080.32,"body":"En deze guidelines."},{"startTime":2080.32,"endTime":2083.32,"body":"Die worden nu gewoon verwacht dat elk team in Microsoft."},{"startTime":2083.32,"endTime":2086.32,"body":"Die iets met een AI-model gaat bouwen."},{"startTime":2086.32,"endTime":2089.32,"body":"Dat ze deze buckets allemaal langs haalt."},{"startTime":2089.32,"endTime":2094.32,"body":"En allemaal documenteren hoe gaan we om met dit blokje."},{"startTime":2094.32,"endTime":2096.32,"body":"Hoe gaan we om met dit blokje."},{"startTime":2096.32,"endTime":2100.32,"body":"Dus dat is echt het niveau van die principes pakken."},{"startTime":2100.32,"endTime":2105.32,"body":"En een handboek geven waar iedereen die hiermee aan het werk is."},{"startTime":2105.32,"endTime":2113.32,"body":"Een goede manier kan zorgen dat ie op een nette manier dat model opbouwt."},{"startTime":2113.32,"endTime":2116.32,"body":"Zo hebben we daar ook nog een aantal andere."},{"startTime":2116.32,"endTime":2119.32,"body":"Bijvoorbeeld eentje specifiek voor chatbots."},{"startTime":2119.32,"endTime":2122.32,"body":"Want dat is nog een heel ander interactiemodel."},{"startTime":2122.32,"endTime":2125.32,"body":"Dus daar moet je ook op een andere interactie."},{"startTime":2125.32,"endTime":2127.32,"body":"Dus daar zitten bijvoorbeeld dingen in."},{"startTime":2127.32,"endTime":2132.32,"body":"Hoe makkelijk is het om uiteindelijk een human operator aan de lijn te krijgen."},{"startTime":2132.32,"endTime":2134.32,"body":"Moet je dan duizend keer vragen."},{"startTime":2134.32,"endTime":2137.32,"body":"Send me to a human, send me to a human, send me to a human."},{"startTime":2137.32,"endTime":2141.32,"body":"Of als je ook maar één keer zegt ik snap niet wat je bedoelt."},{"startTime":2141.32,"endTime":2144.32,"body":"Dat je dan gelijk al netjes wordt overgebracht."},{"startTime":2144.32,"endTime":2146.32,"body":"Dat ding zit er daar in."},{"startTime":2146.32,"endTime":2148.32,"body":"En dan moet je er ook transparant mee over."},{"startTime":2148.32,"endTime":2150.32,"body":"Nou dan ook die datasheets."},{"startTime":2150.32,"endTime":2156.32,"body":"Dus documenteren van dit is de data, dit is hoe we daar aan gekomen zijn."},{"startTime":2156.32,"endTime":2160.32,"body":"Nou dan zit er een heleboel tooling."},{"startTime":2160.32,"endTime":2167.32,"body":"Dus over zowel dingen als explainable AI en Fairlearn en allemaal dat soort pakketten."},{"startTime":2167.32,"endTime":2169.32,"body":"Maar ook alles rondom."},{"startTime":2169.32,"endTime":2175.32,"body":"De standaard IT tooling van zit je API netjes met HTTPS en certificaten."},{"startTime":2175.32,"endTime":2178.32,"body":"Al dat soort standaard hoop je."},{"startTime":2178.32,"endTime":2180.32,"body":"Maar jammer genoeg niet altijd standaard."},{"startTime":2180.32,"endTime":2182.32,"body":"Ik denk dat dat aangenemmer is."},{"startTime":2182.32,"endTime":2184.32,"body":"Ja precies."},{"startTime":2184.32,"endTime":2186.32,"body":"En dan ook controle."},{"startTime":2186.32,"endTime":2190.32,"body":"Dus monitoren van welke calls gaan naar jouw model."},{"startTime":2190.32,"endTime":2192.32,"body":"Wat is daar de voorspelling van."},{"startTime":2192.32,"endTime":2194.32,"body":"Log je dat weer."},{"startTime":2194.32,"endTime":2197.32,"body":"Kun je dat weer hergebruiken bij het checken van je model."},{"startTime":2197.32,"endTime":2201.32,"body":"En bijvoorbeeld ook iets als data drift detection."},{"startTime":2201.32,"endTime":2208.32,"body":"Allemaal dat soort tools om tijdens de lifecycle goed te kunnen snappen wat er gebeurt met je model."},{"startTime":2208.32,"endTime":2211.32,"body":"En dan als laatste hebben we dan echt governance."},{"startTime":2211.32,"endTime":2216.32,"body":"Dus echt gewoon, oké hoe organiseer je nou jezelf om op een goede manier hiermee om te gaan."},{"startTime":2216.32,"endTime":2221.32,"body":"Dus wij hebben zelf in de Microsoft een chief responsible AI officer."},{"startTime":2221.32,"endTime":2226.32,"body":"Die niks anders doet dan rapporteren over en die guidelines schrijven."},{"startTime":2226.32,"endTime":2229.32,"body":"Dus het team daaronder die bouwt die guidelines."},{"startTime":2229.32,"endTime":2234.32,"body":"Om uiteindelijk te zorgen dat als iemand vraagt oké hoe doet Microsoft responsible AI."},{"startTime":2234.32,"endTime":2237.32,"body":"Nou dit is dit is het team die dat helemaal kan uitleggen."},{"startTime":2237.32,"endTime":2239.32,"body":"Die je er helemaal doorheen kan nemen."},{"startTime":2239.32,"endTime":2242.32,"body":"En die ook dus toezicht houden op alle teams die dingen aan het bouwen zijn."},{"startTime":2242.32,"endTime":2245.32,"body":"Hebben jullie daadwerkelijk die guidelines gebruikt."},{"startTime":2245.32,"endTime":2248.32,"body":"Hoe heb je je fairness getackled."},{"startTime":2248.32,"endTime":2250.32,"body":"Hoe heb je dit gedaan. Hoe heb je dat gedaan."},{"startTime":2250.32,"endTime":2258.32,"body":"Dat is de buitste schil van het hele verhaal over oké."},{"startTime":2258.32,"endTime":2263.32,"body":"Dit is hoe we op een goede manier als organisatie AI bouwen."},{"startTime":2263.32,"endTime":2267.32,"body":"Want die 18 blokken waar je het over had."},{"startTime":2267.32,"endTime":2271.32,"body":"Die zijn inderdaad open te krijgen."},{"startTime":2271.32,"endTime":2275.32,"body":"Die kunnen we ook wel een linkje delen in de beschrijving van de podcast."},{"startTime":2275.32,"endTime":2278.32,"body":"Want die zijn echt wel heel nuttig om door te nemen."},{"startTime":2278.32,"endTime":2281.32,"body":"Voor ieder die bezig is met het maken van AI modellen."},{"startTime":2281.32,"endTime":2284.32,"body":"Want er zitten echt hele goede vragen tussen."},{"startTime":2284.32,"endTime":2287.32,"body":"Dus het is niet alleen maar de vragen. Het is echt uitgediept."},{"startTime":2287.32,"endTime":2292.32,"body":"Ik vind het echt een heel mooi systeem. Ik heb dat zelf ook gebruikt."},{"startTime":2292.32,"endTime":2294.32,"body":"Dus dat is echt van toegevoegde waarde."},{"startTime":2294.32,"endTime":2297.32,"body":"Hoe zit dat met die andere wat je had over die governance."},{"startTime":2297.32,"endTime":2300.32,"body":"Is dat ook vrij in te zoeken."},{"startTime":2300.32,"endTime":2304.32,"body":"We hebben het meeste hiervan hebben allemaal gedocumenteerd."},{"startTime":2304.32,"endTime":2309.32,"body":"Dus we kunnen de link daarna even in de show notes stoppen."},{"startTime":2309.32,"endTime":2318.32,"body":"Want we zijn hier ook heel transparant over hoe wij dit zelf hebben aangepakt."},{"startTime":2318.32,"endTime":2321.32,"body":"Zodat andere bedrijven daarvan kunnen leren."},{"startTime":2321.32,"endTime":2325.32,"body":"Dus we willen ook juist dat het gebruikt wordt."},{"startTime":2325.32,"endTime":2329.32,"body":"Ja dat is heel duidelijk. En dat is ook heel fijn dat je op deze manier..."},{"startTime":2329.32,"endTime":2332.32,"body":"...kennis met elkaar gewoon hergebruiken."},{"startTime":2332.32,"endTime":2335.32,"body":"En dat we er met z'n allen beter van worden."},{"startTime":2335.32,"endTime":2337.32,"body":"Dat is echt een mooie initiatief."},{"startTime":2337.32,"endTime":2340.32,"body":"Het belang voor allemaal inderdaad staat boven."},{"startTime":2340.32,"endTime":2345.32,"body":"Dat vind ik mooi om te zien. Dat we dat bij elkaar kunnen delen en leren van elkaar."},{"startTime":2345.32,"endTime":2348.32,"body":"En wat ik ook mooi vond. Een paar kerndingen die ik eruit vond."},{"startTime":2348.32,"endTime":2350.32,"body":"Dat was een heel mooi uitleg."},{"startTime":2350.32,"endTime":2353.32,"body":"Maar volgens mij is het documentatie en transparantie."},{"startTime":2353.32,"endTime":2357.32,"body":"Is echt gewoon key. Wat ik er in ieder geval uit wil uitleggen."},{"startTime":2357.32,"endTime":2360.32,"body":"Uit de mooie voorbeelden die je net noemde."},{"startTime":2360.32,"endTime":2364.32,"body":"Ja en dat is ook..."},{"startTime":2364.32,"endTime":2367.32,"body":"Ik zou bijna zeggen het makkelijkste."},{"startTime":2367.32,"endTime":2370.32,"body":"Ja, daarom is het mooi dat er over gepraat wordt."},{"startTime":2370.32,"endTime":2373.32,"body":"Want het is het makkelijkste. Het is gewoon documenteren wat we gebouwd hebben."},{"startTime":2373.32,"endTime":2375.32,"body":"Waarom we het gebouwd hebben. Hoe we het gebouwd hebben."},{"startTime":2375.32,"endTime":2379.32,"body":"Dat is een kwestie van doen. En als we er nu genoeg rugbereid en weerbaarheid aan geven."},{"startTime":2379.32,"endTime":2382.32,"body":"Dat we het met elkaar hierover hebben. Dat we het belangrijk vinden."},{"startTime":2382.32,"endTime":2385.32,"body":"Dat we daar helpen met handboeken. Dan gaat dat ook gebeuren."},{"startTime":2385.32,"endTime":2388.32,"body":"En dan gaan we er allemaal profijt van hebben inderdaad."},{"startTime":2388.32,"endTime":2390.32,"body":"Want het hoeft dus niet moeilijk te zijn."},{"startTime":2390.32,"endTime":2393.32,"body":"Daarom wil ik nog even een vraag. Ik had hem voor Joop al even gesteld."},{"startTime":2393.32,"endTime":2395.32,"body":"Maar we blijven allemaal even kijken hoe we er tegenaan komen."},{"startTime":2395.32,"endTime":2397.32,"body":"Hoe ga je hier nou mee starten? Want het klinkt veel."},{"startTime":2397.32,"endTime":2399.32,"body":"Het klinkt governance. Heel veel documentatie."},{"startTime":2399.32,"endTime":2403.32,"body":"Maar volgens mij is het iets wat we eigenlijk morgen al met elkaar moeten gaan starten."},{"startTime":2403.32,"endTime":2406.32,"body":"Gewoon met kleine stapjes. Als je nog niet begonnen bent."},{"startTime":2406.32,"endTime":2408.32,"body":"Dus laat me even beginnen. Joop, wil je beginnen?"},{"startTime":2408.32,"endTime":2410.32,"body":"Waar start je?"},{"startTime":2410.32,"endTime":2414.32,"body":"Zullen we dat meenemen in de praktijk?"},{"startTime":2414.32,"endTime":2417.32,"body":"Nog mooier. Als we dat in de praktijk aankoppelen. Helemaal mooi."},{"startTime":2417.32,"endTime":2429.32,"body":"Ja, dus Niels. Je vroeg van hoe start je hier nu mee?"},{"startTime":2429.32,"endTime":2432.32,"body":"Nou, het belangrijkste is dat je het..."},{"startTime":2432.32,"endTime":2435.32,"body":"Ik had het net ook al een beetje aangestipt eerder met Oker."},{"startTime":2435.32,"endTime":2440.32,"body":"Is dat je namelijk gewoon vroeg in je traject neem je dit mee."},{"startTime":2440.32,"endTime":2445.32,"body":"Dus het mooiste is als je het in je standaard workflow hebt."},{"startTime":2445.32,"endTime":2452.32,"body":"Dat als je na je exploratory data analysis daar al begint."},{"startTime":2452.32,"endTime":2456.32,"body":"Na te denken van wat hebben we nodig."},{"startTime":2456.32,"endTime":2458.32,"body":"Dus welke tooling heb je nodig."},{"startTime":2458.32,"endTime":2460.32,"body":"Maar liever nog."},{"startTime":2460.32,"endTime":2463.32,"body":"Wie krijgt de uitleg?"},{"startTime":2463.32,"endTime":2465.32,"body":"Waarvoor doe je dit?"},{"startTime":2465.32,"endTime":2467.32,"body":"Is het voor dat juridisch wetgevend?"},{"startTime":2467.32,"endTime":2470.32,"body":"Is het om te kunnen debuggen, testen?"},{"startTime":2470.32,"endTime":2473.32,"body":"Allemaal dat soort dingen ga je vast bedenken."},{"startTime":2473.32,"endTime":2478.32,"body":"En je zorgt dat je het in iedere cycle van trainen dat je het meeneemt."},{"startTime":2478.32,"endTime":2479.32,"body":"Dat je kijkt."},{"startTime":2479.32,"endTime":2484.32,"body":"Zeker als je bijvoorbeeld op Microsoft Azure je trainingen doet."},{"startTime":2484.32,"endTime":2489.32,"body":"Dan krijg je standaard grafieken erbij."},{"startTime":2489.32,"endTime":2491.32,"body":"Krijg je inzicht."},{"startTime":2491.32,"endTime":2500.32,"body":"Dat je kijkt hoe gedraagt het model zich."},{"startTime":2500.32,"endTime":2503.32,"body":"Het is een kwestie van."},{"startTime":2503.32,"endTime":2505.32,"body":"Het klinkt heel flauw."},{"startTime":2505.32,"endTime":2507.32,"body":"Maar waar start je?"},{"startTime":2507.32,"endTime":2508.32,"body":"Door te beginnen."},{"startTime":2508.32,"endTime":2510.32,"body":"Het is niet zo moeilijk."},{"startTime":2510.32,"endTime":2513.32,"body":"Goede afspraken maken."},{"startTime":2513.32,"endTime":2518.32,"body":"Wij kennen ons eigen guidance framework."},{"startTime":2518.32,"endTime":2521.32,"body":"Daar staat in op een aantal punten."},{"startTime":2521.32,"endTime":2523.32,"body":"Hier en hier en hier."},{"startTime":2523.32,"endTime":2526.32,"body":"Let je op de privacy, op bias."},{"startTime":2526.32,"endTime":2528.32,"body":"Op al dat soort zaken."},{"startTime":2528.32,"endTime":2529.32,"body":"Fairness."},{"startTime":2529.32,"endTime":2532.32,"body":"En wat je daarvoor gebruikt."},{"startTime":2532.32,"endTime":2535.32,"body":"Er is nu zoveel tooling."},{"startTime":2535.32,"endTime":2542.32,"body":"Dat je niet meer kan zeggen waarom je het niet zou doen."},{"startTime":2542.32,"endTime":2544.32,"body":"Ben je het daarmee eens Edward?"},{"startTime":2544.32,"endTime":2546.32,"body":"Zeker."},{"startTime":2546.32,"endTime":2548.32,"body":"Ik heb een toevoeging."},{"startTime":2548.32,"endTime":2550.32,"body":"Dit is bottom-up."},{"startTime":2550.32,"endTime":2553.32,"body":"Elke data scientist zou dit moeten doen."},{"startTime":2553.32,"endTime":2559.32,"body":"Ik vind het belangrijk dat ook vanaf boven."},{"startTime":2559.32,"endTime":2562.32,"body":"Bedrijven op C-level dit gaan bespreken."},{"startTime":2562.32,"endTime":2566.32,"body":"En gaan kenbaar maken dat ze dit belangrijk vinden."},{"startTime":2566.32,"endTime":2572.32,"body":"Als je in de stress zit van een project dat af moet."},{"startTime":2572.32,"endTime":2574.32,"body":"Dan kan het makkelijk zijn."},{"startTime":2574.32,"endTime":2577.32,"body":"Dat zie je ook met documentatie."},{"startTime":2577.32,"endTime":2581.32,"body":"Het kan makkelijk zijn om het aan de zijkant te zetten."},{"startTime":2581.32,"endTime":2583.32,"body":"En dat doen we later wel."},{"startTime":2583.32,"endTime":2586.32,"body":"Dus het van bovenaf aangeven."},{"startTime":2586.32,"endTime":2588.32,"body":"Dit moet gecoverd zijn."},{"startTime":2588.32,"endTime":2591.32,"body":"Anders mag je niet naar productie."},{"startTime":2591.32,"endTime":2594.32,"body":"Dat is een belangrijk component."},{"startTime":2594.32,"endTime":2597.32,"body":"Van beide kanten het goed krijgen."},{"startTime":2597.32,"endTime":2599.32,"body":"Helemaal mee eens."},{"startTime":2599.32,"endTime":2603.32,"body":"Dat zorgt er ook voor dat je een mindset hebt."},{"startTime":2603.32,"endTime":2606.32,"body":"Dat je niet denkt dat je het gaat doen."},{"startTime":2606.32,"endTime":2608.32,"body":"Dat je het niet doet."},{"startTime":2610.32,"endTime":2613.32,"body":"Het is net zo goed als te zeggen."},{"startTime":2613.32,"endTime":2617.32,"body":"We gaan geen ongeteste software in productie brengen."},{"startTime":2617.32,"endTime":2620.32,"body":"Dat dat zo geïnternaliseerd wordt."},{"startTime":2620.32,"endTime":2623.32,"body":"Als iemand daar maar over begint."},{"startTime":2623.32,"endTime":2625.32,"body":"Dat iedereen gaat stijgen."},{"startTime":2625.32,"endTime":2628.32,"body":"Dit gaat gewoon niet gebeuren."},{"startTime":2628.32,"endTime":2632.32,"body":"Dat zou hetzelfde moeten met explainable AI."},{"startTime":2632.32,"endTime":2634.32,"body":"Dat is een goede."},{"startTime":2634.32,"endTime":2637.32,"body":"Wat kan ik hier nog aan toevoegen."},{"startTime":2637.32,"endTime":2639.32,"body":"Bottom-up en top-down."},{"startTime":2639.32,"endTime":2642.32,"body":"Als ik er nog eentje van de zijkant noem."},{"startTime":2642.32,"endTime":2645.32,"body":"Je moet hier met elkaar over praten."},{"startTime":2645.32,"endTime":2648.32,"body":"Als je ziet dat het niet gebeurt."},{"startTime":2648.32,"endTime":2650.32,"body":"En met elkaar over praten."},{"startTime":2650.32,"endTime":2654.32,"body":"Dat moet in de fibers van het organisatie zitten."},{"startTime":2654.32,"endTime":2656.32,"body":"Dat dit van belang is."},{"startTime":2656.32,"endTime":2659.32,"body":"Dit geldt niet alleen voor AI."},{"startTime":2659.32,"endTime":2661.32,"body":"Dit gaat over software."},{"startTime":2661.32,"endTime":2663.32,"body":"Documentatie."},{"startTime":2663.32,"endTime":2666.32,"body":"Je moet het er met elkaar over hebben."},{"startTime":2666.32,"endTime":2668.32,"body":"En elkaar op aanspreken."},{"startTime":2668.32,"endTime":2670.32,"body":"De accountability."},{"startTime":2670.32,"endTime":2672.32,"body":"Dat is een belangrijk punt."},{"startTime":2672.32,"endTime":2675.32,"body":"De accountability van het team."},{"startTime":2675.32,"endTime":2677.32,"body":"De product-owner."},{"startTime":2677.32,"endTime":2680.32,"body":"Je moet elkaar erop aanspreken."},{"startTime":2680.32,"endTime":2682.32,"body":"Als iets niet gebeurt."},{"startTime":2682.32,"endTime":2686.32,"body":"Dat werkt alleen met top-down en bottom-up."},{"startTime":2686.32,"endTime":2689.32,"body":"Eduard, heb jij een voorbeeld."},{"startTime":2689.32,"endTime":2693.32,"body":"Waarbij de explainable AI verschil heeft gemaakt."},{"startTime":2693.32,"endTime":2697.32,"body":"Dat kan positief of negatief zijn."},{"startTime":2697.32,"endTime":2703.32,"body":"Niet zo op de top van mijn head."},{"startTime":2703.32,"endTime":2711.32,"body":"Ik hoorde in de webinar die we hebben gehad."},{"startTime":2711.32,"endTime":2713.32,"body":"Met Sarah Bird."},{"startTime":2713.32,"endTime":2716.32,"body":"Ze had een mooi voorbeeld."},{"startTime":2716.32,"endTime":2719.32,"body":"Dat er een model was ontwikkeld."},{"startTime":2719.32,"endTime":2723.32,"body":"Om risico's te classificeren."},{"startTime":2723.32,"endTime":2728.32,"body":"Of mensen grotere kans hadden op longontsteking."},{"startTime":2728.32,"endTime":2731.32,"body":"Of patiënten longontsteking hadden."},{"startTime":2731.32,"endTime":2733.32,"body":"Waar zij mee kwam."},{"startTime":2733.32,"endTime":2736.32,"body":"Dat model deed het heel goed."},{"startTime":2736.32,"endTime":2740.32,"body":"Maar toen ze de explainable AI op los lieten."},{"startTime":2740.32,"endTime":2744.32,"body":"Dat was een van de regels die ze ontdekten."},{"startTime":2744.32,"endTime":2749.32,"body":"Dat astma-patiënten als laag risicopatiënten werden gezien."},{"startTime":2749.32,"endTime":2751.32,"body":"Op longontsteking."},{"startTime":2751.32,"endTime":2755.32,"body":"Het probleem was dat die astma-patiënten."},{"startTime":2755.32,"endTime":2758.32,"body":"Juist heel risicovol zijn."},{"startTime":2758.32,"endTime":2762.32,"body":"We hebben veel risico op longontsteking."},{"startTime":2762.32,"endTime":2766.32,"body":"Maar omdat die al goed in de gaten worden gehouden."},{"startTime":2766.32,"endTime":2768.32,"body":"Door artsen."},{"startTime":2768.32,"endTime":2771.32,"body":"Omdat die data er niet in zit."},{"startTime":2771.32,"endTime":2775.32,"body":"Werden ze geclassificeerd als laag risico."},{"startTime":2775.32,"endTime":2778.32,"body":"Door explainable AI toe te passen."},{"startTime":2778.32,"endTime":2781.32,"body":"Dat is data die we niet meenemen."},{"startTime":2781.32,"endTime":2786.32,"body":"Daarom moeten we het model goed in de gaten houden."},{"startTime":2786.32,"endTime":2791.32,"body":"Waar zitten nog andere van dit soort gevallen in."},{"startTime":2791.32,"endTime":2794.32,"body":"Dan kun je ook zeggen."},{"startTime":2794.32,"endTime":2798.32,"body":"Dat je een apart model moet maken."},{"startTime":2798.32,"endTime":2801.32,"body":"Voor niet-astma-patiënten."},{"startTime":2801.32,"endTime":2805.32,"body":"En een eigen model voor astma-patiënten."},{"startTime":2805.32,"endTime":2808.32,"body":"Dat is iets wat uit je analyse komt."},{"startTime":2808.32,"endTime":2811.32,"body":"En hoe gaan we er dan mee om."},{"startTime":2811.32,"endTime":2814.32,"body":"Ik weet er zelf nog een."},{"startTime":2814.32,"endTime":2818.32,"body":"Ik kan explainen sowieso geen kwaad."},{"startTime":2818.32,"endTime":2821.32,"body":"Je wordt er altijd bij zijn."},{"startTime":2821.32,"endTime":2825.32,"body":"Maar we worden er met z'n allen beter van."},{"startTime":2825.32,"endTime":2828.32,"body":"Dat moet je niet vergeten."},{"startTime":2828.32,"endTime":2831.32,"body":"Bijvoorbeeld tijdens de show."},{"startTime":2831.32,"endTime":2835.32,"body":"We hadden Bas al over de blauwe overhemd."},{"startTime":2835.32,"endTime":2838.32,"body":"Het persoon herkennen."},{"startTime":2838.32,"endTime":2842.32,"body":"Ik had er zelf een prototype voor gemaakt."},{"startTime":2842.32,"endTime":2845.32,"body":"Er zijn veel varianten."},{"startTime":2845.32,"endTime":2848.32,"body":"Zo snel kan het fout gaan."},{"startTime":2848.32,"endTime":2851.32,"body":"Als je het niet goed doet."},{"startTime":2851.32,"endTime":2854.32,"body":"Dan gaat het mis."},{"startTime":2854.32,"endTime":2857.32,"body":"Je wordt er altijd beter van."},{"startTime":2857.32,"endTime":2861.32,"body":"Het is niet alleen over het goed of fout."},{"startTime":2861.32,"endTime":2865.32,"body":"Het kan je ook helpen met kostbesparing."},{"startTime":2865.32,"endTime":2869.32,"body":"Er zijn modellen ontwikkeld voor grote vervoerder."},{"startTime":2869.32,"endTime":2872.32,"body":"Waarbij gekeken kan worden."},{"startTime":2872.32,"endTime":2875.32,"body":"Of de energie bespaard kan worden."},{"startTime":2875.32,"endTime":2878.32,"body":"Met treinen."},{"startTime":2878.32,"endTime":2881.32,"body":"Als je die laat uitrollen."},{"startTime":2881.32,"endTime":2884.32,"body":"In plaats van dat je gaat remmen."},{"startTime":2884.32,"endTime":2887.32,"body":"Dat een machinist een seintje kan krijgen."},{"startTime":2887.32,"endTime":2890.32,"body":"Nu kan je het gas loslaten."},{"startTime":2890.32,"endTime":2893.32,"body":"En kom je op de juiste plek aan."},{"startTime":2893.32,"endTime":2896.32,"body":"Dat kan veel energie besparen."},{"startTime":2896.32,"endTime":2899.32,"body":"Door explainers in te zetten."},{"startTime":2899.32,"endTime":2902.32,"body":"Konden ze in een vroegtijdig stadium."},{"startTime":2902.32,"endTime":2905.32,"body":"Uit het model filteren."},{"startTime":2905.32,"endTime":2908.32,"body":"Het moest ook getest worden in de praktijk."},{"startTime":2908.32,"endTime":2911.32,"body":"Dat zijn dure testen."},{"startTime":2911.32,"endTime":2914.32,"body":"Dan moeten er machinisten met treinen rijden."},{"startTime":2914.32,"endTime":2917.32,"body":"De explainers kunnen je enorm helpen."},{"startTime":2917.32,"endTime":2920.32,"body":"Om die kosten naar beneden te krijgen."},{"startTime":2920.32,"endTime":2923.32,"body":"Het gaat om het ontwerpen van het model."},{"startTime":2923.32,"endTime":2926.32,"body":"In plaats van waar zitten we mis."},{"startTime":2926.32,"endTime":2929.32,"body":"Het is een wat grotere vraag."},{"startTime":2929.32,"endTime":2932.32,"body":"Het is een andere insteek."},{"startTime":2932.32,"endTime":2935.32,"body":"Ondersteuning bij je development en design."},{"startTime":2935.32,"endTime":2938.32,"body":"Ja, zeker."},{"startTime":2938.32,"endTime":2941.32,"body":"Het is ook wel interessant."},{"startTime":2941.32,"endTime":2944.32,"body":"Je kan op basis daarvan kijken."},{"startTime":2944.32,"endTime":2947.32,"body":"Waar moeten we nog extra data gaan verzamelen."},{"startTime":2947.32,"endTime":2950.32,"body":"Dat verzamelen is vaak het duurste."},{"startTime":2950.32,"endTime":2953.32,"body":"Dat je dat kan targeten."},{"startTime":2953.32,"endTime":2956.32,"body":"We zien dat we hier een grote klasse."},{"startTime":2956.32,"endTime":2959.32,"body":"We moeten meer data hebben."},{"startTime":2959.32,"endTime":2962.32,"body":"In plaats van dat je bulk meer data gaat verzamelen."},{"startTime":2962.32,"endTime":2965.32,"body":"We gaan gericht extra data verzamelen."},{"startTime":2965.32,"endTime":2968.32,"body":"Om te zorgen dat we een betere set hebben."},{"startTime":2968.32,"endTime":2971.32,"body":"Helemaal mee eens."},{"startTime":2971.32,"endTime":2974.32,"body":"Daar zit het probleem."},{"startTime":2974.32,"endTime":2977.32,"body":"De data verzameling."},{"startTime":2977.32,"endTime":2980.32,"body":"Meestal is dat het grootste component."},{"startTime":2980.32,"endTime":2983.32,"body":"Er zit 70 tot 80 procent van je klasse."},{"startTime":2983.32,"endTime":2986.32,"body":"En de tijd en energie erin zit."},{"startTime":2986.32,"endTime":2989.32,"body":"Een voorbeeld die ik zelf nog niet ben tegengekomen."},{"startTime":2989.32,"endTime":2992.32,"body":"Maar wel over gelezen heb."},{"startTime":2992.32,"endTime":2995.32,"body":"Waar het ook gebruikt wordt."},{"startTime":2995.32,"endTime":2998.32,"body":"Zeker bij de deep learning modellen."},{"startTime":2998.32,"endTime":3001.32,"body":"Om te kijken welke onbekende patronen er geleerd zijn."},{"startTime":3001.32,"endTime":3004.32,"body":"Omdat je met zoveel data bezig bent."},{"startTime":3004.32,"endTime":3007.32,"body":"Dat er dusdanig veel data in zit."},{"startTime":3007.32,"endTime":3010.32,"body":"Dat je het niet kunt verzamelen."},{"startTime":3010.32,"endTime":3013.32,"body":"Dat er dusdanige verrassingen uitkomen."},{"startTime":3013.32,"endTime":3016.32,"body":"Die zo niet intuïtief zijn."},{"startTime":3016.32,"endTime":3019.32,"body":"Waardoor je daadwerkelijk ontdekkingen doet."},{"startTime":3019.32,"endTime":3022.32,"body":"Dat vond ik ook een hele mooie case."},{"startTime":3022.32,"endTime":3025.32,"body":"Dat is de belofte van de hele AI wereld."},{"startTime":3025.32,"endTime":3028.32,"body":"Dat je door zoveel data te processen."},{"startTime":3028.32,"endTime":3031.32,"body":"Patronen ontdekt in die data."},{"startTime":3031.32,"endTime":3034.32,"body":"Die je mensen niet kan voorstellen."},{"startTime":3034.32,"endTime":3037.32,"body":"En dat je dat niet kunt veranderen."},{"startTime":3037.32,"endTime":3040.32,"body":"Dat je dat niet kunt bevroeden."},{"startTime":3040.32,"endTime":3043.32,"body":"En dat je dat niet kunt vinden."},{"startTime":3043.32,"endTime":3046.32,"body":"Een manier om dat eruit te krijgen."},{"startTime":3046.32,"endTime":3049.32,"body":"Is precies dezelfde technologie."},{"startTime":3049.32,"endTime":3052.32,"body":"Als wat je nodig hebt om te snappen waarom die tot een beslissing komt."},{"startTime":3052.32,"endTime":3055.32,"body":"En dan krijg je er ook uit."},{"startTime":3055.32,"endTime":3058.32,"body":"Welk patroon heeft die gevonden."},{"startTime":3058.32,"endTime":3061.32,"body":"Wat we nog niet kennen."},{"startTime":3061.32,"endTime":3064.32,"body":"Ja, leuk."},{"startTime":3064.32,"endTime":3067.32,"body":"Ik denk dat we er wel doorheen zijn."},{"startTime":3067.32,"endTime":3070.32,"body":"Al is het maar vanwege de tijd."},{"startTime":3070.32,"endTime":3073.32,"body":"Edewaard, ik wil jou echt hartelijk danken."},{"startTime":3073.32,"endTime":3076.32,"body":"Voor je deelname."},{"startTime":3076.32,"endTime":3079.32,"body":"Ik denk dat je mooi inzicht hebt gegeven."},{"startTime":3079.32,"endTime":3082.32,"body":"Ook vanuit jezelf."},{"startTime":3082.32,"endTime":3085.32,"body":"En hoe Microsoft tegen Explainable AI aankijkt."},{"startTime":3085.32,"endTime":3088.32,"body":"En waar het naartoe gaat."},{"startTime":3088.32,"endTime":3091.32,"body":"Hartelijk dank voor je deelname."},{"startTime":3091.32,"endTime":3094.32,"body":"En voor ons een bijzondere podcast."},{"startTime":3094.32,"endTime":3097.32,"body":"Want voor ons was je ook de eerste gast."},{"startTime":3097.32,"endTime":3100.32,"body":"Het is erg leuk dat je mee wilde doen."},{"startTime":3100.32,"endTime":3103.32,"body":"Niels, heb jij nog afsluitende woorden?"},{"startTime":3103.32,"endTime":3106.32,"body":"Hartelijk bedankt dat je aan wil haken."},{"startTime":3106.32,"endTime":3109.32,"body":"Ik hoop dat je het leuk vond."},{"startTime":3109.32,"endTime":3112.32,"body":"Ik hoop dat de luisteraars het leuk vonden."},{"startTime":3112.32,"endTime":3115.32,"body":"Ik sta altijd open voor tips."},{"startTime":3115.32,"endTime":3118.32,"body":"Voor collega's of mensen die in je kring zitten."},{"startTime":3118.32,"endTime":3121.32,"body":"Een leuke gast om bij de podcast te hebben."},{"startTime":3121.32,"endTime":3124.32,"body":"Tip hem en geef hem door."},{"startTime":3124.32,"endTime":3127.32,"body":"Of voor de luisteraars."},{"startTime":3127.32,"endTime":3130.32,"body":"Laat het bij ons achter."},{"startTime":3130.32,"endTime":3133.32,"body":"We zijn makkelijk te vinden op social media."},{"startTime":3133.32,"endTime":3136.32,"body":"Op naar de volgende."},{"startTime":3136.32,"endTime":3139.32,"body":"***"},{"startTime":3139.32,"endTime":3144.32,"body":"Leuk dat je luisterde naar de AIToday Live Podcast."},{"startTime":3144.32,"endTime":3149.32,"body":"Abonneer je nu op Spotify of andere streamingdiensten om ons te volgen."},{"startTime":3149.32,"endTime":3156.32,"body":"En kijk voor meer informatie over kunstmatig intelligentie op AIToday.ai"},{"startTime":3156.32,"endTime":3159.32,"body":"Dank je wel voor het luisteren. Tot de volgende keer."},{"startTime":3160.32,"endTime":3161.32,"body":"***"}]}