S04E06 - Hoe je je voorbereidt op nieuwe Europese wetgeving

Christian Verhagen, Senior consultant data & analytics en Lead data maturity bij VKA/DAMA, praat ons bij over nieuwe Europese wetgeving die er aan komt voor Data & AI. Belangrijk is dat je als organisatie je nu al voorbereidt.

Links

• Europa’s digitaal decennium: doelstellingen voor 2030

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

Copy Transcript Copied

0:00

Ja. Hoi, we zijn vandaag de gast bij Dutch Data Forum, georganiseerd door HeliView. Diverse experts en ervaringsdeskundigen komen langs in onze pop-up studio van AIToday Live in Den Bosch. Mijn naam is Joop Snijder, CTO bij Aigency. En mijn naam is Niels Naglé, Chapter Lead Data & AI bij Info Support. En Niels haakt online aan, dus het geluid is ietsje minder dan gewenst. Maar dat zorgt in ieder geval voor dat hij erbij kan zijn. Te gast hebben we Christian Verhagen. Welkom Christian. - Dankjewel. Voordat we beginnen, zou je jezelf eerst even willen voorstellen aan de luisteraars? Ja, zeker, zeker. Ik ben Christian Verhagen. Ik ben dagelijkseleven management consultant. Ik werk voor Verdonck, Klooster & Associates, VK advieskantoor. Werk in de hoedanigheid veel met name voor overheden op het vlak van data, datagelijkse werken op allerlei hoedanigheden, met name rondom data governance. En daarnaast ben ik lead data governance at a maturity bij DAMA Nederland. Dat is een stichting wereldwijd actief op het gebied van data management. Oké, een hoop verschillende dingen. Ja, ja, data is al een beetje het rode draad. En je hebt net een presentatie gehouden. Zou je kunnen vertellen waar dat over ging? Ja, dat komt eigenlijk ook weer even uit de praktijk. Ik ben zelf dagelijks gewoon bezig met allerlei vraagstukken rondom grote opgave. En hoe gaan we data daarop inzetten? Nou, daar zien we eigenlijk de opkomst. Opkomst is misschien een beetje niet het goede woord, maar de impact van Europa zien we die daar steeds groter wordt. En Europa zit natuurlijk, denk we vaak aan Brussel, maar Europa zijn er zelf ook. En mijn presentatie juist ging over wat betekent Europa nou eigenlijk voor ons, voor Nederland en met name op het gebied van data? Ja, want er komt sowieso een nieuwe wetgeving aan, de AI Act. Er komen 19 nieuwe wetten aan. 19? Oké, oh, dat wist ik niet. Zo, dat is een hoop. Kun je daar iets over vertellen? Ja, je noemde net al een hele grote, denk ik, de AI Act. Nou, die past natuurlijk ook mooi bij de titel van deze podcast. Maar als je kijkt naar de wetgevingstekte die aangaan komen, die vallen allemaal samen ook met de ambities die de Europese Commissie en de Europese Unie hebben op het gebied van data, op het gebied van data en digitalisering. Die ambities zijn gigantisch. Dat zingt totdat ongeëvenaard is. Ook als je kijkt naar de snelheid, dat wil eigenlijk zeggen, de ambities die de Europese Commissie heeft om te realiseren tot aan 2030, dat zit op zoveel aspecten. Het gaat over zorgen dat we als medewerkers, als Nederlander, ook digitaal waardig zijn. Dat we een goede infrastructuur hebben. Dat zit op hoe we de digitale transformatie vormgeven. Maar ook hoe doen we dat in een kader wat aansluit bij de waarden, zoals wij die in Europa en ook in Nederland hebben. Dus hoe doen we dat op een manier waar we ook transparant zijn, waar we ook mensen centraal stellen? Ja, dat is heel anders dan bijvoorbeeld de Amerikaanse wetgeving, die laat staan de Chinezen. Ja, dat is natuurlijk inderdaad, je noemt gelijk de twee mooie blokken, zeg maar, waar het vaak tegenover opgezet wordt. Natuurlijk speelt dat de medewerkers achter rond. En ik denk, dat is ook natuurlijk de insteken ook vanuit Europa, is dat we echt wel een andere, op een andere manier naar digitalisering, op een andere manier data kijken, waar de mens centraal staat. Maar ja, dat klinkt heel mooi, maar dat betekent uurlijk ook, hoe gaan we dat nou uiteindelijk handen en voeten geven? Hoe gaan we dat regelen? En dat betekent, ja, daar heb je ook gewoon wetgeving voor nodig. Daar heb je ook beleid voor nodig. En dat zit dus in die 19 pakketten die aangaan komen. Je noemt net al de AI Act, maar ook de Data Covenants Act, de Data Act. Op het gebied van cybersecurity, op het gebied van delen van data, de infrastructuur die daarvoor nodig is, komen ontwikkelingen op ons af vanuit Europa. Ja, dat is waar ik net ook over verteld heb. En niet zozeer om te vertellen, wat betekent al die wetgeving tot in detail is, want dat is voor een deel ook nog gewoon in de onderhandeling. Maar vooral om te zorgen tot Europa iets meer op het netvlies komt van partijen die zich eigenlijk hiermee bezig zouden moeten houden. En als je dat concreet zou moeten maken, waar zou een bedrijf moeten beginnen of een organisatie? Het begint eigenlijk helemaal met nadenken over wat speelt er nou eigenlijk in Europa? Want je noemt net de AI Act, maar ik zeg ja, het zijn nog veel meer pakketten die op ons afkomen. En dat betekent echt niet dat ze allemaal even groot zijn als de AVG, maar sommigen wel. En dat gaat dus echt effect hebben. Ik denk dat de AVG een hele mooie leerschool geweest is. Maar die is in 2018 van kracht geworden, dat is vier jaar geleden. Als we kijken naar de pakketten, de wetgevingstrekken die op ons afkomen, onder die AI Act, die komen ongeveer in 2026. Dat is over vier jaar, dus dat zit er nu mooi in het midden. Als je die lessen trekt van wat we dan eigenlijk misschien anders moeten doen vier jaar geleden, is dat we misschien veel proactiever moeten zijn om eens na te denken over wat komt er op ons af en wat gaat dat voor ons betekenen? Ja, die AI Act. Zullen we eens beginnen met die AI Act. Wat vind jij daar het belangrijkste uit waarbij, als je nu bezig bent met AI machine learning of je wil aan de slag, wat zou het eerste zijn waar je op moet letten? Nou, de AI Act gaat uit van een soort risico benadering. Dus je kijkt naar AI systemen, die classificeert die via classificaties, te beginnen met onaanvaardbaar. Daar zit gewoon een lijstje bij, even in de veroordeling, zoals die nu ook gepubliceerd is. Wat echt nog een onderhandeling is, dus dat gaat nog wijzigen. Ook met een hele brede definitie overigens over wat AI is. Dus daar valt heel veel onder. Een aantal dingen die gewoon niet mogen. Dus je noemde net even China als voorbeeld. Als je denkt over, dat denken we heel snel aan, sociale traditie systemen, et cetera. Dat willen we in Europa niet. Die zijn, worden dus ook dadelijk gewoon verboden. Ja, en die staan er ook echt letterlijk in zo. Die staan er ook letterlijk zo in, inderdaad. Of biometrie, et cetera. Je hebt een aantal hoog risico AI systemen. En dan gaat het bijvoorbeeld over het gebruik maken van algoritme bij sollicitaties. Dat gebeurt op een aantal plekken, gebeurt dat nu al. En daar moet je gewoon gaan voordoen aan allerlei eisen. En die eisen zijn bijvoorbeeld, als het gaat over transparantie. Hoe zorg je nou dat je duidelijk maakt met iedereen, en kunt gepubliceren van welke afwegingen maak je nou in, welke data gebruik je. Nou, daar zijn we denk ik in Nederland ook redelijk op aan het anticiperen, met algoritme registers bijvoorbeeld. Maar het betekent ook dat je duidelijk moet hebben, waar komen die data vandaan? Wat is de geleidbaarheid? Wat is de kwaliteit van de data? Wie is eigenaar bij ons? Hoe hebben wij intern die governance georganiseerd? En dat zijn denk ik, cruciale aspecten die uiteindelijk meekomen met zo'n wetgevingstraject, waarvan het nu al belangrijk is, dus ook vier jaar voor je data, nu al belangrijk is om mee te gaan beginnen. Precies. Er zit ook een vorm van uitlegbaarheid wordt geëist in die RE-AI-act. Hoe kijk jij daar tegenaan? Ja, die gaat denk ik verder dan wat we... Dat is allemaal nog in wording, dus daar wordt nog druk onderhandeld, en liggen allerlei moties nog om dat verder vorm te geven, ook als het gaat over de scope en de definitie en noem maar op. Maar die uitlegbaarheid is natuurlijk wel een cruciale. Ook gewoon een belangrijke waarde, een belangrijke Europese, belangrijke Nederlandse waarde waar we aan moeten voldoen. En dat is iets waar we natuurlijk... Ik werk zelf veel voor, met name overheidspartijen. Je ziet dat daar al behoorlijk op geanticipeerd wordt, op die wetgeving, maar natuurlijk ook gedreven door allerlei maatschappelijke discussies, zoals het gaat over het gebruik maken van algoritme, waar het dan vaak over gaat. Dus ik noem net al zo'n algoritme-register. Dat zie je nu op een aantal plekken al terugkomen. Als je daar naar kijkt, een aantal grote gemeenten, een aantal overheidsorganisaties, die hebben al zo'n register. Daar kun je naar kijken en dan kun je lezen wat er voor algoritme's te gebruik worden. Maar dat is nu nog soms nog maar redelijk oppervlakkig. Ik denk dat we dadelijk de grote uitdaging die daar zit, niet alleen dat je kunt beschrijven wat het doel is van zo'n algoritme, maar ook dat je kunt beschrijven, oké, welke data gebruik je? Waar komen die data vandaan? Wie is eigenaar daarvan? Hoe heb je geborgen tot de kwaliteit voldoende is? Dus tot de data niet van drie jaar geleden zijn bijvoorbeeld, of dat er allerlei fouten in zitten. Wie is eigenaar? Eigenaarschap is dan ook een hele uitdaging, ook juridisch gezien. Wat als je vindt dat je benadeeld bent, denk ik, door het algoritme? Exact, en dat hebben we natuurlijk ook in het verleden gezien met allerlei misstanden die er geweest zijn rondom algoritmegebruik. Waarbij natuurlijk dingen fout gaan, maar waarbij misschien het meest in het oog springend was het feit dat mensen ook geen plek haalden om aan te kloppen. Of althans, er werd niet open gedaan. Dus zeker, dat soort dingen zullen ook allemaal geregeld moeten worden. Als dat in 2026 dadelijk van kracht gaat worden, en dan zal er echt nog wel een tijd nodig zijn om dat vorm te geven, en in te vullen, et cetera. Dat betekent wel dat je er nu al over moet gaan nadenken wat dat betekent. Ja, en dan zou je het ook denk ik gewoon nu al meenemen in je ontwerp, en je beslissingen die je daarbij neemt. Absoluut, zeker. En dat begint uiteindelijk ook gewoon bij je stoepbewustwording. Dat met zoveel dingen, zoals ook met de AVG destijds rolt, en nog steeds overigens voor een deel. Dat begint ook gewoon met bewustwording. Het feit dat mensen weten dat dit op je afkomt. We zijn vandaag op de Staravoorde. Ik mocht net een verhaal vertellen, en ik had denk ik ongeveer 50 mensen in de zaal zitten. Mijn eerste vraag was wie is er bezig met Europa? En er waren drie mensen die hun hand opstaken. Ik zei ook net, mijn ambitie is eigenlijk niet om jullie te vertellen wat er allemaal komt, en wat de inhoud daarvan is. Alleen maar zorgen dat aan het einde van de sessie, tot minimaal de helft zijn hand opsteekt, als het gaat over wie zou er bezig moeten zijn met Europa. En wat heb je ze meegegeven dan? Hoe begin je dan met die bewustwording? Dat begint eigenlijk met, zoals ik net ook aangeaf, dus AIX is er eentje, die komt op meerdere plekken terug vandaag. Maar dat is niet alles. Het zijn er 19. Als je zegt, orde omvang 4 tot 5 keer AVG, dan gaan de meeste mensen wel luisteren. Want AVG hebben we nog redelijk vest in het geheugen zitten. Sterker nog, de meeste organisaties zijn stiekem toch nog steeds bezig met een goede manier implementeren daarvan. En dat loont niet altijd even makkelijk, denk ik allemaal uit ervaring. Maar ja, als we dan dadelijk over nog een keertje 4 jaar, het is nu 4 jaar geleden dat er een AVG verkracht geworden is, we zijn nog steeds niet klaar daarmee. Als we nu over nog een keer 4 jaar vooruit kijken, en er komen er nog 4 tot 5 aan, ja dan hoop ik dat mensen daar in ieder geval door getriggert worden. Ja, ik hoor ook wel eens dat mensen dan zeggen, ja dat soort wetgeving, dat zorgt ervoor dat innovatie niet gestimuleerd wordt. Er zit een rem op de innovatie. Hoe zit jij daar? Hoe kijk jij daar tegenaan? Ik denk dat dat niet zo is of hoeft te zijn. Ik denk dat heel veel innovatie nu ook nogal gestrend wordt, omdat het soms ook gewoon niet duidelijk is. Wat mag wel en wat mag niet. En je kunt beter helderheid scheppen. Ik maak altijd het voorbeeld van kinderen op een schoolplein. Op en dat je een hek daar omheen zet, dan gaan de kinderen allemaal uitwaaieren over het hele schoolplein. Zet je er geen hek omheen, dan zie je dat die kinderen op een klusje blijven staan. En op en dat je duidelijk maakt waar zitten de regels, wat mag wel en wat mag niet, dat ook goed op papier zit, dan hou je ook dat grijze gebied weg. En dan hou ik die risicomijnendheid, die je op sommige plekken nog wel ziet, weg. En dan maak je het ook veel makkelijker om te kunnen gaan innoveren. Ja, dat denk ik ook hoor. We hebben het in de podcast ook wat vaker gehad over ethische kwesties en dat soort zaken. En de wetgeving kan in ieder geval helpen om daar ook een grens in te trekken. Dus die onaanvaardbare categorie die in de AI-Act staat, dat is eigenlijk daarvan wordt gewoon gezegd, ja ethisch vinden wij dat niet verantwoord. Dus daar wordt inderdaad zo'n hek gezet waar je zegt, dan daar ga je niet overheen. Exact. Ja, dat geeft alleen maar duidelijkheid. Klopt. En dat is nu net waar je de discussie vaak ziet. Dus waar je ook inderdaad de terughoudendheid ziet. En dat is op zich logisch, want we zien ook allerlei dingen fout gaan. Zo simpel is het. Waar geïnnoveerd wordt, gaan ook dingen fout. Daar moet je van leren. Maar je moet ook duidelijk maken, ja wat willen we dan wel en wat willen we dan niet. Dus wat zijn nou eigenlijk de waarden? Dat is de terminologie zoals die ook in Europa gebezigd wordt. Ook hier in Nederland in de Tweede Kamer. Wat zijn eigenlijk de publieke waarden die we terug willen zien als het gaat over het gebruikmaken van AI, als het gaat over het gebruikmaken van data? Ja. Oh, ik dacht dat jij je vraag wilde stellen misschien Niels. Nee, ik zit met aandacht te luisteren inderdaad. Ah, oké. Ja, ik ben ook wel benieuwd wat jij zegt. Je zit vooral aan de overheidskant. Hoe kijkt de overheid hier na als ze nu nieuwe systemen moeten implementeren? Ik kan me voorstellen, natuurlijk doen ze mee zeg maar in de discussie van waar moet de wetgeving naartoe. Maar we hebben ook wel gezien dat overheidsinstellingen soms moeite hebben om zich aan de eigen opgelegde wetten te houden. Dan zeg ik dat heel netjes. Ja, ik denk dat dat voor iedereen geldt. De AVG is ook een heel mooi voorbeeld. Vier jaar geleden, je ziet nog steeds en dat zie je ook in een aantal kamerstukken van begin september, dat het voor gemeenten best moeilijk is om te voldoen aan al die eisen uit de AVG. Hetzelfde geldt natuurlijk voor het bedrijfsleven. Dus in die zin worden ze allemaal daardoor geraakt. Dat gaat eigenlijk ook gelden als het gaat over bijvoorbeeld die AI-act die er pas afkomt. Dus dat zie je daar natuurlijk ook. Ik denk dat er wel misschien nog een groter bewustzijn zit aan de overheidskant. Zeker als je kijkt naar allerlei misstanden die hebben plaatsgevonden. Dus toeslagofferen en dat soort aspecten. Er zit echt wel een groot stuk bewustwording als het gaat over wat vinden we eigenlijk verantwoord. Wat vinden we nou verantwoord uit dategebruik? Maar ook daar zit nog wel een uitdaging. Want je kunt de top of mind hebben en het belangrijk vinden. Maar wat betekent dat dan eigenlijk? We willen transparant zijn. We willen open zijn ook naar de burger toe. Wat betekent dat dan? En ik denk dat de invloed daarvan, die zit dus voor een deel ook in die wetgeving die hier is en aan gaat komen. Ja, precies. En het is wel, laat ik het zo zeggen, met de AVG was wel redelijk dat het multi-interpreteerbaar van wat past er wel, wat past er niet. Wordt deze wetgeving wat duidelijker meer richtinggevend? Of zullen we daar ook zonzelf de worsteling krijgen of kijken van waar liggen de grenzen dat het straks meer zeg maar door... Nee, laat ik het anders zeggen. Wie gaat eigenlijk dit handhaven, deze wetten? Goede vraag. Om te beginnen even qua richtingen. Ja, hij gaat richting geven, maar zoals het vaak gaat, met wetgevingsdirectie zitten allerlei open normen in. Dat zie je ook bij de AVG en die moeten uiteindelijk invulling krijgen. En dat zal ongetwijfeld nog plaatsvinden met rechtszaken en met aanvullende veroordelingen et cetera. Maar die kwestie van ja, wat heb je nou uiteindelijk ook aan een veroordeling, wat heb je uiteindelijk aan een wet die niet gehandhaafd wordt, dat is niet zo veel. Dat zie je ook wel met de AVG. Als het gaat over hoe druk maken we onze on-privacy op het moment dat er geen handhaving is, dan wordt het heel makkelijk om te zeggen, we vinden het belangrijk, maar misschien niet zo belangrijk. De vraag wie gaat uiteindelijk ook toezicht houden? Daar wordt wel een voorzien. Dus ook vanuit de AI-act wordt wel gewezen op, er moet uiteindelijk wel een soort toezichthouder komen ook die toe gaat zien op naleving van die AI-wetgeving. In Nederland lopen we daar misschien al een beetje op voorop. In Nederland komt er een toezichthouder, die komt onder de autoriteitspersoonsgegevens, die komt volgend jaar al. En die moet gaan toezien op het gebruik van algoritme, toezien op het gebruik van kunstmatige intelligentie. Dat is best wel lastig denk ik. Want we hebben het net over die uitlegbaarheid gehad. Dat is natuurlijk al vaak een probleem. Hoe zie je dat voor je, dat die handhaving, hoe kan zo'n instituut uiteindelijk bepalen of dingen bijvoorbeeld eerlijk zijn of op de juiste manier geïmplementeerd zijn volgens de bedachte wet? Datzelfde gaat nu natuurlijk ook over voor de AVG, waar het ook heel moeilijk is. Nog los van allerlei kapiteitsproblemen, om goed toezicht te kunnen houden. Maar dat betekent ook dat je invulling moet geven en concretisering moet geven aan die wat meer abstracte normen als het gaat over transparantie. Want transparantie vinden we over het algemeen in Nederland belangrijk. Dat geldt voor de overheid, dat geldt voor het bedrijfsleven. Dat zie je ook met mooie initiatieven als het gaat over, we willen graag transparant zijn, we gaan met registres, we gaan publiceren wat we aan het doen zijn. Wat moet er nou concreet in komen? Dat zijn nou net de dingen waarvan ik hoop ook, want dat is echt nog niet duidelijk, maar ik hoop ook dat die AI voor een deel invulling gaat geven en ook andere wetgevingstractorien eraan gaan komen. En op basis daarvan moet je ook gewoon duidelijk maken van waar word je nou uiteindelijk ook op beoordeeld. Dat is nu dus niet het geval. Nu zie je ook dat partijen ook eigenlijk achteraf de maat genomen kunnen worden en gesteld gaan worden. Ja, je hebt het eigenlijk niet goed gedaan, zonder dat aan de voorkant heel duidelijk te worden van wat zijn er eigenlijk de criteria waardegen ik dadelijk getoetst word. Dat is wel lastig. Dat is lastig en daar is die wetgeving zo belangrijk voor. Heb je misschien, misschien is de vraag waar je geen antwoord op hebt, maar is er al een voorbeeld in de publieke sector of misschien zelfs in de private markt waarvan je zegt ja daar gaat het eigenlijk heel goed op dit gebied? Ja die zijn er zeker. Het feit dat ik er over nadenk is misschien ook al tekend. Maar ik denk wat er heel erg goed gaat, dat is, en daar begint het uiteindelijk ook bij, het is de bewustwording. Hoe die discussie die speelt. Even Europa daar gelaten. De Europese ontwikkelingen die moeten echt meer op netlist komen. Als je kijkt in Nederland hebben we echt wel een goede discussie, ook binnen de politiek. We hebben een tegenwoordig vaste kamer commissie die zich bezig gaat met digitalisering. We hebben aandacht voor dit soort onderwerpen. Nou dat zie je vandaag ook op dit mooie congres met de opkomst hier. Dus die aandacht die is er. En dat gaat denk ik heel goed. En dat klinkt heel triviaal, maar uiteindelijk is dat wel nodig om dat werk te laten komen tot verandering. Je gaat het niet veranderen. Je gaat niet borgen tot je op een goede en veilige manier omgaat met AI door alleen een checklist te publiceren of alleen een wet te publiceren. Het gaat ook over wat zit er tussen de oren. Hoe gaan we op de werkvloer om met dit soort ontwikkelingen. En die discussie, ik denk die wordt nu volop gevoerd. En ik denk dat de Europese ontwikkelingen, waaronder wetgeving, maar ook gewoon de discussie die daar plaatsvindt daar een enorme stimulans voor zijn. Ja, je bent helemaal met je eens hoor. Ik denk dat ik dat ook wel in de praktijk zie dat als wij bezig zijn met het ontwerpen van nieuwe machine learning modellen is privacy. Ja, dat is een no-brainer zeg maar. Die moet behandeld worden van behandelen persoonsgegevens. Welke data raken we? We krijgen ook steeds wel wat meer ethiek erbij. Dus een soort van ethics by design van willen we dit? Kunnen we dit verantwoorden? En welke effecten bewerkstellig je? Dus met die bewustwording zou dat eigenlijk mee moeten gaan inderdaad van passen die wetgevingen. Je hebt het over die 19. Ik hou de zaken, dacht ik, best wel goed bij. Maar ik wist bijvoorbeeld niet dat er 19 bij kwamen. Jij Niels? Nee, ik heb ze ook even gelijk opgesloten. Dat is het voordeel van thuis zitten en gelijk toch nog even de laptop erbij te hebben inderdaad. Je had ze in mooie notities van je sessie erbij gezet, Christian. Maar nee, er zaten er zeker bij waarvan ik dacht van dat had ik nog niet eerder van gehoord. En zeker de moeite om te gaan bekijken. Hoe kan ik als? Ik heb niets van de Data Governance Act, maar van data ethiek bijvoorbeeld. Kan je wat over die data ethiek meer vertellen? De data ethiek bedoel je? Ja, de data ethiek. Digital skills en data ethiek had je in je omschrijving opgenomen. Die ethiek zit dus voor een deel in die AI Act. Maar je noemt ook de Data Governance Act, de Data Act, daar kwamen ontwikkelingen aan. Die Europese ontwikkelingen laten zich samenvatten op de ontwikkelingen die de Europese Commissie heeft binnen de digital decade met een aantal grote stevige ambities. En die ambities zijn ook heel smart gemaakt. Die zitten bijvoorbeeld ook op hoe zorgen we ervoor dat we digitale vaardigheden beter gaan ontwikkelen. Dus het zit niet alleen maar op hoe gaan we AI ontwikkelen, maar ook hoe gaan we als Europa en dus ook als Nederland omdadelijk met de uitdagingen en ook de kansen die data en AI ons biedt. En dat zit ook in zorgen dat we vaardigheden ontwikkelen. Dat zit ook op zorgen dat we een goede infrastructuur hebben. Om dat nog wat concreter te maken is in 2020 heeft de Europese Commissie een data strategie ook en een AI strategie ook gepubliceerd. Een white paper op AI. Waar een aantal van die aspecten nog verder toegelicht zijn. En daar zit nog heel veel open eindjes in. Dat gaat de komende jaren nog verder invulling krijgen. Maar vind ik eigenlijk het overzicht, dat is een vraag die ik net ook in de zaal kreeg. Dat was een hele terechte vraag. Eigenlijk een vraag waarvan ik denk dat overzicht gewoon openbaar is. Want als je gewoon gaat naar de website, ik zeg gewoon, dat is best nogal even een uitdaging om daar te komen. Als je gaat zoeken op Digital Decade en je gaat naar de Europese site en je gaat zoeken naar wat er aan de hoek afkomt. Dan vind je eigenlijk alle informatie. Ook in het Nederlands beschikbaar. Dus al die wetten, dus die presentatie ook waar al die wetten in staan. Die kun je gewoon nalezen. Soms zijn dat nog verorderingen die in woordingen rustig zijn. Concept teksten waar nog allerlei aanpassingen op komen. Maar dat kun je als organisatie alvast gaan kijken. Dan zullen wij in ieder geval in de description van de aflevering die link even gaan opnemen. Ja super. Want ik zeg, dat is ook het doel geweest van mijn presentatie zojuist. Om eigenlijk mensen aan te zetten, ga daar nou gewoon actief naar op zoek. Ga nou eens kijken naar wat betekent het nou eigenlijk. Want we hebben het er vaak over. Ik zat ook bij een aantal andere presentaties vandaag. Daar kwam Europa ook wel weer even in de zijlijn en weer terug. Maar wat betekent dat nou? En heel veel informatie is voorhanden, heel veel informatie ook nog niet. Maar überhaupt, als het op een netvlies komt en mensen gaan op zoek naar wat staat er nou eigenlijk op die wetgevingscalender. Wat betekent dat? Moet ik daar iets mee of niet? Nou die AI, ik denk dat het een heel mooi voorbeeld is die redelijk in het oog springt. Dat betekent onder andere dat je om te beginnen eens een keer een goed overzicht moet maken. Wat heb ik eigenlijk in mijn organisatie aan AI? Wat is AI eigenlijk? Ik bedoel dat dat soort hele triviale vragen, door die te beantwoorden, dan ben je al een heel eind op weg. Ja, nou en zeker van wat is AI? Gelukkig zeg maar in die wetgeving is het breed genomen. En ik denk dat dat ook terecht is. En ik denk dat veel organisaties zich daar niet bewust van zijn. Dus dat een algoritme gewoon een eenvoudige beslisboom kan zijn. Dat die dan zo direct ook onder die wetgeving gaat vallen. Mits je nog aan een aantal andere voorwaarden voldoet. Maar in ieder geval binnen de definitie van AI gaat dat vallen toch? Klopt. In de huidige definitie wel. Daar zijn nog een hoop gesprekken en onderhandelingen gaande. Ook over die definitie. Want die bepaalt natuurlijk voor een heel groot deel ook de impact daarvan. Dat is, zoals je daadrecht zegt, nu een hele brede definitie. Waarbij het dus niet alleen maar gaat om waar we vaak aan denken. Over complexe blackbox-achtige zaken. Nee, het gaat ook om gewoon regelgestuurde systemen. Dus om gewoon beslisbomen in principe. Dat betekent nogal wat. Dus die impact is daarmee ook behoorlijk groot. En dat wordt denk ik heel erg onderschat. Dat wordt enorm onderschat. Zeker. Dat durf ik wel te stellen. Daarom zeg ik, ga eens in je organisatie kijken en probeer eens een overzicht te maken van op welke plekken gebruiken wij nu eigenlijk AI conform de huidige definitie. Dus inderdaad inclusief die regelsystemen, statistische systemen. Precies. Heel veel. Heel veel systemen die daar onder vallen. En als er nog wat je gebruikt, maar ook nog eens kijk eens even naar je leveranciers. Wat koop je nou eigenlijk in? Heb je daar zicht op? En welke afspraken heb je daar nou eigenlijk over gemaakt? Heb je daar überhaupt afspraken over gemaakt? Over bijvoorbeeld wie is nou uiteindelijk eigenaar van zo'n algoritme? Of waar komen die data vandaan? Of als je het hebt over, we maken gebruik van een bepaald algoritme binnen onze organisatie. Kun je nou eigenlijk makkelijk uitleggen waar die data vandaan komen? Wat de kwaliteit is? En hoe borg je dat binnen je eigen organisatie? Dat zullen best hele stevige vragen zijn die niet zomaar beantwoord gaan worden, denk ik. Dat zou je eigenlijk nu al moeten kunnen beantwoorden. Helemaal mee. Als je kijkt naar de huidige wetgevingen. We hebben het over Europa. Natuurlijk dat komt op ons af. We hebben het nog steeds. We zijn zelf ook Europa. Dus we praten ook gewoon mee in Rusland wat dat betreft. Maar ook als je kijkt naar de huidige wetgevingen. Je moet het eigenlijk al lang op orde hebben. Ja, de AVG staat ook dat als je een besluit neemt, geautomatiseerd besluit, die je inbreukt, nee niet inbreukt, die een effect heeft op iemand zijn levenssfeer. Dat moet je eigenlijk al kunnen uitleggen. Moet je helemaal terug kunnen gaan op basis van waarvan dat besluit genomen is. En dat wordt ook heel vaak vergeten. Klopt. Maar dat betekent ook dat je daar ook een governance op heen moet zetten. Dat je op het geval van data management, dat je een data kwaliteitenapport moet maken. Dat je moet gaan nadenken over eigenaarschap, stewardship, etc. Dat zijn allemaal dingen die eigenlijk nu ook al nodig zijn. Precies. Ja, duidelijk. Een vrouwtje met jouw ervaring in de praktijk. Als ik wel nieuwsgierig ben, hoe zie jij die ontwikkeling in BV Nederland op het stukje governance? Ik denk dat daar de komende jaren heel veel aandacht voor gaat komen. Dat zaadje is natuurlijk geplant. Europa geeft dat zaadje water en gaat er nog wat harder van groeien. Maar je ziet ook in ons omringende landen, maar ook internationaal, als je kijkt naar landen die succesvol zijn op het gebied van AI. Die hebben een aantal dingen gemeen. Die hebben een goede strategie, die hebben voor ogen wat we daarmee willen doen. Dan kijken we natuurlijk naar landen in Europa, maar ook naar landen zoals Singapore, die misschien wat minder te vergelijken zijn met Nederland, maar wel op een aantal punten heel succesvol zijn over hoe zij AI inzetten. Die hebben een hele duidelijke strategie. Maar daar is ook governance. Dat is Sjef Zagge in Goed Nederland. Die kijken echt naar verantwoordelijkheden. Dat is natuurlijk cruciaal. Dat zit op al die aspecten, op al die wetgevingstrekken die op ons afkomen. Ook rondom ethiek, waar we het eerder over gehad hebben. We hebben in Nederland, in Europa nog meer, maar in Nederland hebben we ook al gigantisch veel kaders, richtlijnen, checklijst, etc. Waar je aan moet voldoen. Die hebben we wel. Die zijn allemaal stuk voor stuk over het algemeen goed en te gebruiken. Maar wat we niet hebben, of onvoldoende hebben, is wie zit er uiteindelijk aan die grote rode knop. Dus wie maakt uiteindelijk ook de beslissing? Wie is uiteindelijk ook accountable? Wie is verantwoordelijk voor hoe we die data gaan gebruiken? Wie is verantwoordelijk ook voor die data die daarvan aankomen? Dat hebben we niet. Je moet dat inregelen om uiteindelijk niet alleen compliant te zijn met al die wetgevingstrekken die eraan komen, maar het heb je ook nodig om op een goede verantwoorde manier uit te kunnen leggen wat je aan het doen bent. Dus ik verwacht dat de komende jaren een enorme vlucht gaat krijgen. Dat lijkt me een hele mooie om daar ook mee af te sluiten. Dank je wel dat je te gast wilde zijn en ons in ieder geval een hoop weer hebt laten leren. Die 19 die eraan zitten te komen, die ga ik ook maar eens rustig doorlezen. Dank je wel. Ja Niels, jij misschien nog even? Ja, dank je wel. Die 19 die gaan zeker op de agenda komen. We zullen hem ook in de notities meenemen, dus ook aan alle luisteraars. Het is voor sommigen pas over vier jaar, maar als je nu niet start, dan ben je dus te laat. Dus begin vandaag met het inlezen en ga mee aan de slag. Dank jullie wel. Graag gedaan. Dank je wel. Leuk dat je weer luisterde naar een aflevering van AIToday Live. Mis geen aflevering, zorg dat je ons volgt op Spotify, Apple Podcasts, Google Podcasts of ieder andere favoriete podcast app die je hebt.