S08E49 - AI governance bij kritieke infrastructuur: wat komt er bij kijken?

Menno van de Lagemaat, AI Governance Officer bij Alliander, beoordeelt dagelijks AI-systemen die de elektriciteitsinfrastructuur van miljoenen Nederlanders raken. Als een AI-systeem netcongestie verkeerd voorspelt, brandt een kabel door en valt de stroom uit. Hij laat zien hoe je Responsible Artificial Intelligence in de praktijk toepast: van risicoclassificatie tot het structureren van ethische gesprekken met drie vaste vragen.

Hij heeft zelf een systeem tegengehouden, en legt uit hoe de AI Act hem daarin concreet helpt, ook als ethische argumenten niet landen.

Morgen kun je beginnen met één stap: maak een lijst van AI-systemen in je organisatie en stel per systeem de vraag of het überhaupt AI is in de zin van de wet.

Onderwerpen

• AI-risicoclassificatie volgens de AI Act bij kritieke infrastructuur
• Ethische vraagstukken en waarden bij AI-implementatie in de praktijk
• AI governance bij netbeheerder Alliander
• Nee zeggen tegen AI-systemen vanuit governance-rol

Links

• Podcast: AIToday Live
• Wetgeving: Verordening - EU - 2024/1689 - EN - EUR-Lex
• Assessment tool: IAMA - Impact Assessment Mensenrechten en Algoritmes
• Organisatie: Alliander - Ontwikkelt en beheert energienetten
• Toezichthouder: Home | Autoriteit Persoonsgegevens
• Toezichthouder: Home | Rijksinspectie Digitale Infrastructuur (RDI)
• Kaartspel: AI Game Changer - Generative AI editie

Genoemde entiteiten: Alliander - AI Act

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Outvie
Outvie verbindt professionals met events en opleidingen rond actualiteit en strategie.

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,000 --> 00:00:06,000
Nu spreken met Menno van de Lagemaat, AI Governance Officer bij Alliander.

2
00:00:06,000 --> 00:00:13,000
Alliander beheert het elektriciteitsnetwerk waarover het licht bij miljoenen Nederlanders thuis brandt.

3
00:00:13,000 --> 00:00:19,000
Dat maakt de vraag hoe je AI daar verantwoord inzet, alles behalve theoretisch.

4
00:00:19,000 --> 00:00:24,000
Want als een AI-systeem netcongestie voorspelt en de kabel dreigt door te branden,

5
00:00:24,000 --> 00:00:29,000
val je onder de hoogste risico-categorie van de AI Act.

6
00:00:30,000 --> 00:00:35,000
Menno werkt dagelijks aan risico-classificatie, impact assessments

7
00:00:35,000 --> 00:00:39,000
en de praktische vertaling van de AI Act.

8
00:00:39,000 --> 00:00:44,000
En hij heeft zelf een systeem tegengehouden dat ethisch niet deugde.

9
00:00:44,000 --> 00:00:48,000
Hoe doe je dat als je zelf uit de engineering komt?

10
00:00:50,960 --> 00:00:54,480
Joop: Leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live.

11
00:00:54,480 --> 00:01:00,240
Joop: en we zijn bij het AI Governance congres van Alliander moet ik zeggen.

12
00:01:00,240 --> 00:01:05,519
Joop: En we hebben de gast, dat is wel echt heel erg leuk, een van de sprekers, namelijk Menno van de Lagemaat.

13
00:01:05,519 --> 00:01:11,279
Joop: En Menno is AI Governance Officer bij Alliander, een van de grootste netbeheerders van Nederland.

14
00:01:11,279 --> 00:01:15,839
Joop: En Alliander beheert de infrastructuur, waarover het licht bij miljoenen Nederlanders thuis brandt.

15
00:01:15,839 --> 00:01:17,120
Joop: Dat is wel fijn, toch.

16
00:01:17,359 --> 00:01:23,200
Joop: Maar dat maakt wel de vraag hoe je AI daar binnen verantwoord inzet, alles behalve theoretisch.

17
00:01:23,200 --> 00:01:30,080
Joop: En ja, Menno werkt aan de praktische kant, risico classificatie, impact assessment en de AI Act.

18
00:01:30,480 --> 00:01:31,760
Joop: Dat is zijn dagelijks werk.

19
00:01:31,760 --> 00:01:34,879
Joop: Dus we zijn echt super benieuwd naar zijn inzichten.

20
00:01:36,159 --> 00:01:51,200
Niels: Dankjewel, Menno, dat je bij ons te gast wilde zijn, kan je ons meenemen een concreet moment bij Alliander, waarop je voor het eerst echt voelde hoe AI governance anders geïmplementeerd werd en vooral voor de kritische informatie en huishouding.

21
00:01:51,840 --> 00:02:02,959
Niels: Dus hoe bij Alliander specifiek het anders wordt ingezet op andere, vooral de kritische infrastructuur gedeelte, wat natuurlijk van essentieel belang is, stroom leveren aan iedereen in Nederland.

22
00:02:03,039 --> 00:02:03,839
Menno: Ja, precies.

23
00:02:04,399 --> 00:02:11,038
Menno: Wat wel uniek is inderdaad in Alliander, is dat voor de luisteraars die het misschien niet uit hun hoofd weten.

24
00:02:11,039 --> 00:02:14,879
Menno: De AI Act, die heeft concreet te eisen wat onder hoge risico valt.

25
00:02:14,880 --> 00:02:20,640
Menno: En eentje gaat over veiligheidscomponenten van kritieke infrastructuur.

26
00:02:20,639 --> 00:02:24,719
Menno: Dus niet kritieke infrastructuur aan zich, maar echt als veiligheidscomponent stukje.

27
00:02:24,719 --> 00:02:28,239
Menno: En dat is iets wat ik zou zeggen wel uniek is aan al die anderen, inderdaad.

28
00:02:28,239 --> 00:02:43,280
Menno: Er is bijvoorbeeld een voorbeeldje dat we iets doen van kijken, kunnen we bijvoorbeeld zien over hoeveel tijd ervoor netcongestie is, voor je dat niet weten, netcongestie betekent even heel plat dat de kabel door gaat branden als het te lang stroom staat.

29
00:02:43,280 --> 00:02:47,520
Menno: En bij een AI Act, stel, je hebt een AI-systeem, dat kan daar dan wat mee.

30
00:02:47,519 --> 00:02:53,359
Menno: De details sla ik even dan moet je daar wel rekening mee houden qua AI Act.

31
00:02:54,560 --> 00:03:00,000
Menno: Ik zou zeggen dat dat wel een uniek voorbeeld is aan Alliander, maar eigenlijk ook aan heel netbeheer in Nederland.

32
00:03:01,680 --> 00:03:03,280
Niels: Wat maakt het dan anders?

33
00:03:03,280 --> 00:03:06,000
Menno: Dan andere risico.

34
00:03:06,480 --> 00:03:09,359
Menno: Ik denk dat de nadruk ergens anders op ligt.

35
00:03:09,359 --> 00:03:17,199
Menno: Kijk, stel, je hebt bewijs van een hoog risico systeem dat gaat over iets met gewoon even los uit mijn hoofd.

36
00:03:17,360 --> 00:03:19,680
Menno: Je gaat bijvoorbeeld CV's en vacatures matchen.

37
00:03:19,680 --> 00:03:23,759
Menno: Dat is heel erg spannend, omdat het invloed heeft op of mensen een baan krijgen of niet.

38
00:03:23,759 --> 00:03:36,319
Menno: Maar wat ik net noem over die kritieke infrastructuur heeft invloed misschien op of mensen toegang tot elektriciteit kunnen krijgen, dat is nogal wat is nogal wat inderdaad, dus daarom moet het allemaal goed op orde hebben.

39
00:03:36,880 --> 00:03:47,360
Menno: Dus de vragen waar je daarmee te maken krijgt, die zijn daardoor anders dan bijvoorbeeld met zo'n HR-toepassing als ik als voorbeeldje gebruik.

40
00:03:47,360 --> 00:03:51,680
Menno: Ik ben veel meer bezig in termen van veiligheid.

41
00:03:51,679 --> 00:03:55,120
Menno: En ook wel als het gaat om bias.

42
00:03:57,039 --> 00:04:00,240
Menno: Bewijs van ook even gewoon los uit mijn hoofd hoor.

43
00:04:00,639 --> 00:04:07,680
Menno: Stel, je zou op een bepaalde manier een AI systeem hebben dat dus rekening houdt met verschillende type wijken.

44
00:04:08,000 --> 00:04:15,039
Menno: Dan wil je de scherp op zijn dat je bijvoorbeeld niet een wijk die qua elektriciteit al voorloopt op andere wijken.

45
00:04:15,040 --> 00:04:18,959
Menno: Bijvoorbeeld er staan er allemaal laadpalen, want er zijn mensen die relatief rijk zijn die daar wonen.

46
00:04:18,959 --> 00:04:24,880
Menno: Je wil niet dat die in zo'n systeem in theorie voorgetrokken zouden worden, ten opzichte van wijken waar dat niet zo is.

47
00:04:24,879 --> 00:04:27,039
Menno: Dus daar wil je rekening mee houden.

48
00:04:27,039 --> 00:04:37,120
Menno: En ik zeg niet dat Alliander zo'n systeem heeft hoor, maar dit zijn wel de scenario's die we gaan bespreken met z'n allen als we kijken naar de AI Act en jongens, hoe houden we hier allemaal rekening mee.

49
00:04:37,120 --> 00:04:39,439
Niels: En je zegt dat gaan we bespreken, dat ben ik benieuwd.

50
00:04:39,759 --> 00:04:44,239
Niels: Wie bespreek je dat dan binnen binnen Alliander of binnen de organisatie of misschien wel breder?

51
00:04:44,560 --> 00:04:46,159
Menno: Verschilt wel echt bij casus.

52
00:04:46,159 --> 00:04:50,320
Menno: Je gaat hier toe naar het toepassen van de IAMA.

53
00:04:50,319 --> 00:04:54,239
Menno: Dus IAMA is impact assessment mensenrechten en algoritmes.

54
00:04:54,719 --> 00:04:59,519
Menno: Wat je daar nu doet, is je gaat precies dit soort spannende vragen rondom met name ethiek.

55
00:04:59,520 --> 00:05:01,360
Menno: Die ga je onder loop nemen met z'n allen.

56
00:05:01,599 --> 00:05:05,360
Menno: Wie erover spreekt, is één de business, noem ik het even.

57
00:05:05,360 --> 00:05:10,560
Menno: De mensen die willen wat en die zien AI als een middel om dat wat te bereiken.

58
00:05:10,879 --> 00:05:20,879
Menno: Dus dit kan zijn mensen die een beetje technische kennis hebben, het kan een teamleider zijn, een manager of de specifieke medewerker die bijvoorbeeld verantwoordelijk is voor naar een proces verbeteren of zo.

59
00:05:20,879 --> 00:05:23,279
Menno: Dus één, je hebt de business moet je erbij hebben.

60
00:05:23,599 --> 00:05:30,560
Menno: Twee, je hebt mensen nodig die op technisch vlak goed onderlegd zijn, die echt goed kunnen uitleggen hoe het systeem werkt.

61
00:05:30,560 --> 00:05:34,560
Menno: Je hebt ook iemand nodig die op ethisch vlak weet de juiste de vraag te stellen.

62
00:05:34,560 --> 00:05:35,439
Menno: En dat is dan.

63
00:05:35,439 --> 00:05:42,480
Menno: Het is tegenwoordig nog wat zeldzamere skill om te hebben, het komt een beetje uit de filosofiehoek.

64
00:05:42,800 --> 00:06:02,439
Menno: Maar in dit soort gesprekken heb je juist iemand nodig die weet je wat de prik op de juiste momenten die af en toe net een beetje vervelend door weten te vragen en zo zit van hé jongens, maar zetten we dit nou echt in om de kwaliteit met z'n allen te verbeteren of zetten we dit eigenlijk in om vooral efficiëntie te behalen, tijd winst enzovoort en zo.

65
00:06:02,680 --> 00:06:08,920
Menno: Dus de business heb je nodig, je hebt de technische mensen nodig, maar je hebt ook mensen die op ethiek er scherp op kunnen zijn.

66
00:06:08,920 --> 00:06:12,040
Menno: Maar ook op juridisch vlak omdat mensen rechten ook daar een rol spelen.

67
00:06:12,439 --> 00:06:14,439
Niels: Wat is jouw rol daarin?

68
00:06:14,439 --> 00:06:15,879
Menno: Een beetje van allemaal.

69
00:06:15,879 --> 00:06:18,040
Menno: Dat hou ik me werk heel leuk.

70
00:06:18,039 --> 00:06:21,960
Menno: Mijn rol in zo'n gesprek is vooral het gesprek leiden.

71
00:06:22,279 --> 00:06:30,439
Menno: Wat ik meestal doe met mijn collega, is dat dan een van ons het gesprek leidt en de andere dan de aantekening maakt, raad ik ook aan als mensen dit ooit zouden doen.

72
00:06:30,439 --> 00:06:40,680
Menno: Want als je allebei gaat doen, dan zit je te veel in je hoofd met netjes opschrijven wat die ene persoon zei in plaats van heel scherp op de specifieke woorden letten die iemand gebruikt.

73
00:06:42,600 --> 00:06:46,839
Menno: Mijn rol is een combinatie van zorgen dat het gesprek qua tempo ook een beetje blijft lopen.

74
00:06:46,840 --> 00:06:50,040
Menno: Het gaat veel te veel uitweiden als je daar niet scherp op de tijd bent.

75
00:06:50,039 --> 00:06:56,120
Menno: Je wil ook een beetje rekening houden met dat het niet acht uur gaat duren met z'n allen, maar soms heb je gewoon die tijd simpelweg nodig.

76
00:06:57,720 --> 00:07:00,199
Menno: Ik zou zeggen dat het voornaamste ding is.

77
00:07:00,199 --> 00:07:07,000
Menno: Bijvoorbeeld de ethische vragen laat ik als bijvoorbeeld een ethicus erbij zit het liefst oppakken, omdat hij gewoon heel specifiek daarop kan focussen.

78
00:07:08,279 --> 00:07:17,479
Joop: Per 2 augustus 2026 dit jaar gaat het alles rondom hoog risico wordt geactiveerd van de AI Act.

79
00:07:17,480 --> 00:07:19,240
Joop: Zo moet ik het gezegd geloof ik.

80
00:07:19,720 --> 00:07:25,159
Joop: Hoe bepalen jullie of een systeem hoog risico is, kan je iets over dat proces vertellen?

81
00:07:25,480 --> 00:07:27,399
Menno: Proces kan ik prima vertellen.

82
00:07:27,879 --> 00:07:36,120
Menno: Dus wat je voor moet stellen is, kijk, uiteindelijk is de kernvraag, je pakt de AI Act erbij, je kijkt wat de AI Act zegt over wanneer iets hoge risico is.

83
00:07:36,120 --> 00:07:40,680
Menno: En dan ga je dan je specifieke casus ga je daar langsleggen.

84
00:07:42,439 --> 00:07:47,079
Menno: Specifics rond welke tool we het hebben opgesteld en zo mag ik helaas niet vertellen.

85
00:07:47,079 --> 00:07:50,040
Menno: Maar een beetje hoog over kan ik een beeld geven.

86
00:07:51,000 --> 00:07:56,680
Menno: Je wil gewoon van alles weten aan AI binnen je organisatie.

87
00:07:56,919 --> 00:08:02,759
Menno: Eén, is het überhaupt AI, je zou verrast zijn hoe vaak dat niet het geval is dat het gewoon uiteindelijk wiskunde is.

88
00:08:02,759 --> 00:08:04,680
Menno: Als tweede wil je gaan checken.

89
00:08:04,680 --> 00:08:07,400
Menno: Dus welk risico is volgens de AI Act.

90
00:08:07,399 --> 00:08:10,599
Menno: Dus dat kan alles zijn van simpelweg vragen.

91
00:08:11,399 --> 00:08:15,240
Menno: Raak dit systeem bijvoorbeeld het taken toewijzen aan mensen.

92
00:08:15,240 --> 00:08:18,360
Menno: Die staat gewoon heel expliciet in de act als is hoge risico.

93
00:08:18,360 --> 00:08:24,439
Menno: Maar je kan ook iets bredere vragen stellen over worden de bepaalde ethische waarde geraakt.

94
00:08:25,800 --> 00:08:30,439
Menno: Volgens de letter van de wet zijn er concrete voorbeelden die je gewoon kan toetsen.

95
00:08:30,439 --> 00:08:32,679
Menno: Maar het liefst wil je ook wat verder kijken dan dat.

96
00:08:32,679 --> 00:08:39,480
Menno: Want als je een beetje grensgevalletjes hebt, dan wil je wel rekening mee houden van ja, het is misschien niet formeel hoog risico.

97
00:08:39,480 --> 00:08:45,160
Menno: Maar als we dit met z'n allen niet goed inrichten, dan is het bijvoorbeeld qua ik weet niet gelijkheid of iets dergelijks.

98
00:08:45,160 --> 00:08:48,280
Menno: Is het allemaal niet zo fijn, die wil je alsnog uitweten te pikken.

99
00:08:48,439 --> 00:08:58,680
Menno: Dus je wil het liefst iets van een tool hebben dat zowel de letter van de wet oppakt, als ook dat bredere verhaal van los van die letter van de wet vinden we dit een spannend systeem.

100
00:08:58,680 --> 00:09:04,119
Joop: Ja, benader je 'm dan als hoog risico systeem.

101
00:09:04,120 --> 00:09:05,959
Joop: Is dat dan het idee?

102
00:09:06,600 --> 00:09:10,920
Menno: Het idee is dat daar inderdaad een classificatie uitkomt.

103
00:09:10,920 --> 00:09:15,959
Menno: Dus als we van een specifiek systeem zeggen, er is minimaal risico of hoog of onacceptabel.

104
00:09:15,959 --> 00:09:17,879
Menno: En dat je dan de juiste acties dan neemt.

105
00:09:17,879 --> 00:09:20,520
Menno: Dus bijvoorbeeld stel je zegt iets is hoger risico.

106
00:09:20,519 --> 00:09:24,920
Menno: Dan ga je de AI erbij pakken en kijken wat nodig is vanuit de AI Act.

107
00:09:25,559 --> 00:09:31,800
Niels: En leg je dat dan vast in een algoritme register, zoals bij de overheid ook van toepassing is, hoe doen jullie dat?

108
00:09:31,799 --> 00:09:37,480
Menno: Het ligt inderdaad allemaal vast in één centraal register, systeem, hoe je het ook kan noemen.

109
00:09:39,399 --> 00:09:44,120
Menno: Als je dat bijvoorbeeld nog niet hebt als organisatie, zou ik zeggen, gewoon simpel beginnen.

110
00:09:44,600 --> 00:09:53,639
Menno: Ik weet dat helemaal in IT-land niemand houdt van spreadsheet en dergelijke, soms heb je ze gewoon even nodig als een soort van tussenoplossing.

111
00:09:53,639 --> 00:09:56,919
Menno: We hebben het bij ons wel wat uitgebreider aangepakt dan dat.

112
00:09:56,920 --> 00:09:58,600
Menno: Maar je moet ergens beginnen.

113
00:09:59,079 --> 00:10:01,960
Menno: Je wil wel het gewoon allemaal geregistreerd hebben.

114
00:10:02,200 --> 00:10:12,360
Niels: En allemaal wat zijn de belangrijkste zaken die je echt vanuit jouw ervaring vast moet leggen van de risicoanalyse die we gedaan hebben.

115
00:10:12,680 --> 00:10:15,080
Niels: Heb je daar een beeld voor?

116
00:10:15,799 --> 00:10:17,080
Niels: Ja wat leg je dan vast?

117
00:10:17,240 --> 00:10:18,680
Niels: Wat zet je daarin?

118
00:10:22,360 --> 00:10:24,480
Menno: Eén gewoon de naam van het systeem aan zich.

119
00:10:24,480 --> 00:10:25,319
Menno: Het team.

120
00:10:25,319 --> 00:10:30,360
Menno: Welke afdeling hoort erbij, zodat je een beetje beeld hebt bij de verantwoordelijkheden.

121
00:10:30,360 --> 00:10:31,639
Menno: Wat is je conclusie?

122
00:10:31,639 --> 00:10:35,360
Menno: Minimaal hoog, onacceptabel of überhaupt geen AI.

123
00:10:32,920 --> 00:10:36,639
Menno: Dat is ook wel goede check.

124
00:10:39,519 --> 00:10:43,039
Menno: En verder is ligt een beetje aan de organisatie.

125
00:10:43,039 --> 00:10:44,879
Menno: Je kan bijvoorbeeld ervoor om te denken.

126
00:10:44,960 --> 00:10:48,320
Menno: we gaan elke één à twee jaar even opnieuw kijken of dit nog steeds klopt.

127
00:10:48,320 --> 00:10:52,400
Menno: Als ik bijvoorbeeld grote ontwikkelingen zijn geweest, dan kan in twee jaar best wel een heleboel veranderen.

128
00:10:52,399 --> 00:10:55,199
Menno: Misschien wordt een bepaalde casus toch een stuk spannender.

129
00:10:55,200 --> 00:11:03,360
Menno: Dus dan kun je bijvoorbeeld registreren van hé, we hebben het op deze datum afgenomen en dat gaan we nu nog een keertje doen bijvoorbeeld één à twee jaar later.

130
00:11:03,360 --> 00:11:05,600
Menno: Dit soort zaken zeggen.

131
00:11:07,039 --> 00:11:15,519
Joop: Hoe krijg je nou mensen mee rondom het belang van governance zonder dat je in angstcommunicatie vervalt.

132
00:11:15,519 --> 00:11:19,920
Menno: Oeh, kijk, daar raak ik een kern op waar mijn job interessant is.

133
00:11:20,399 --> 00:11:29,360
Menno: Hoe je mensen daarin meeneemt, is door mijn persoonlijke mening, het spanningsveld vooral te accepteren en daarin te gaan bewegen.

134
00:11:29,360 --> 00:11:32,079
Menno: Kijk, compliance kost tijd.

135
00:11:32,080 --> 00:11:39,279
Menno: En ik kom uit een engineering achtergrond, als die voor data analist en ik heb een jaartje bij NS gewerkt op een best wel harde IT-functie.

136
00:11:39,279 --> 00:11:45,680
Menno: En wat ik daar heel erg leren is dat de meeste IT'ers niet zo blij worden van heel lang wachten op dingen.

137
00:11:46,159 --> 00:11:49,680
Menno: Ik denk dat jullie dat misschien kunnen bevestigen uit jullie achtergrond.

138
00:11:49,679 --> 00:11:51,519
Menno: Maar sommige dingen moeten gewoon.

139
00:11:51,519 --> 00:11:54,399
Menno: En dat is precies dat spanningsveld.

140
00:11:54,399 --> 00:11:58,240
Menno: Sommige dingen moeten, maar aan de engineering kant willen mensen niet altijd.

141
00:11:58,240 --> 00:12:13,039
Menno: Het belangrijkste voor mij werkt en wat ik zoveel mogelijk probeer te doen, is om die grens te zoeken van oké, hier moet het gewoon en moeten we gewoon wachten punt, dat is wat het is.

142
00:12:13,039 --> 00:12:24,960
Menno: Maar als ik bijvoorbeeld hier en daar net door het ene mailtje wat sneller te sturen, of mensen toch nog even een keertje uit te leggen van de reden dat jullie moeten wachten, is omdat het gewoon zo staat in de wet.

143
00:12:25,120 --> 00:12:40,560
Menno: En waarom staat het zo in de wet nou, omdat we bijvoorbeeld willen dat stel, je hebt een casus over taaktoewijzing, engineers, je hebt het allemaal hartstikke goed ingericht en dergelijke, maar jullie moeten wel realiseren dat hoe taken worden toegewezen aan mensen dat kan raken.

144
00:12:41,840 --> 00:12:44,639
Menno: Wat voor ervaringsopdoen in hun werk.

145
00:12:44,639 --> 00:12:49,600
Menno: En wat voor ervaringsopdoen in hun werk kan een keer naar wat voor toekomstig baan perspectief te hebben.

146
00:12:49,600 --> 00:12:57,920
Menno: Want dan kunnen ze sommige dingen wel of niet op hun cv zetten als de taaktoewijzing ergens dan bij wijzen van op basis van iets van een persoonlijk iets van jou is.

147
00:12:58,399 --> 00:13:00,000
Menno: Dit is ook de logica van de AI-Act.

148
00:13:00,000 --> 00:13:03,760
Menno: En als ik mensen daarin meeneem, dan vind ik wel heel mooi bij al die anderen.

149
00:13:03,759 --> 00:13:07,120
Menno: Je merkt wel dat er heel veel mensen zijn die houden van de techniek.

150
00:13:07,120 --> 00:13:09,120
Menno: Maar als je dit aan ze uitleggen, dan zit ze van.

151
00:13:09,120 --> 00:13:11,840
Menno: Ja, oké, maar je hebt eigenlijk gewoon hartstikke puntje of gelijk.

152
00:13:12,720 --> 00:13:19,840
Menno: Dat is vooral het stukje goed uitleggen helpt vaak een heleboel bij mensen, maar ook soms een strakke lijn moeten zeggen van nee jongens, zo moet het helaas.

153
00:13:20,240 --> 00:13:26,800
Joop: En is er wel eens iets dat je hebt tegengehouden, waarbij je achteraf ook gelijk had.

154
00:13:29,039 --> 00:13:35,440
Menno: Ja, er is één voorbeeldje details moet ik even laten voor wat het is, helaas.

155
00:13:35,440 --> 00:13:42,159
Menno: Maar het is wel een casus die wel echt hoog risico duidelijk was, volgens de AI-Act.

156
00:13:42,159 --> 00:13:48,799
Menno: En dan moet je heel erg gaan kijken van oké, er zijn dus mensen die dit systeem wilden.

157
00:13:48,799 --> 00:13:57,519
Menno: En aan zich is die noodzaak niet erg, denk ik in het kader van tijdsefficiëntie en dat soort zaken.

158
00:13:57,519 --> 00:14:04,719
Menno: Maar het werd dus daar nog spannend op ethisch vlak na een tijd dat we ons echt gingen afvragen, ben je van oké, ethisch is het best wel spannend.

159
00:14:04,720 --> 00:14:07,440
Menno: Deze mensen lijken het niet helemaal door te hebben.

160
00:14:10,160 --> 00:14:15,280
Menno: Leverancier was ook een beetje op technisch vlak was ook alles niet helemaal lekker.

161
00:14:15,839 --> 00:14:18,960
Menno: Het voelde aan een aantal verschillende kanten gewoon niet helemaal lekker.

162
00:14:18,960 --> 00:14:22,559
Menno: Dus zulke spannen gevallen komen wel eens voor, inderdaad.

163
00:14:22,559 --> 00:14:25,760
Joop: En hoe groot is dan de weerstand die je krijgt.

164
00:14:25,759 --> 00:14:27,920
Menno: Oh, dat is extreem persoonlijksafhankelijk.

165
00:14:28,000 --> 00:14:30,080
Menno: Houd het ook wel interessant.

166
00:14:30,720 --> 00:14:42,959
Menno: Het liefst heb je gewoon dat iedereen allemaal net zoals bijvoorbeeld ik erin staat, ik ben best wel veel bezig met een soort van huis en keuken filosofie en vrije tijd.

167
00:14:42,960 --> 00:14:46,239
Menno: Dan denk ik bij van nou jongens, wat is nou goed om te doen?

168
00:14:46,240 --> 00:14:48,080
Menno: En heel veel mensen hebben dat gewoon niet.

169
00:14:48,079 --> 00:14:50,720
Menno: Degen die dat wel hebben, die gaan vaak wel met me mee.

170
00:14:50,720 --> 00:14:53,919
Menno: Als ik ze uitleg, hé, jongens, het is best wel ontspannen casus.

171
00:14:53,919 --> 00:14:58,000
Menno: Maar je hebt ook mensen die zijn een stuk meer van praktisch concreet.

172
00:14:58,000 --> 00:15:02,240
Menno: Het is gewoon van joh, ik heb gewoon een baan om dit en dit gedaan te krijgen, een job.

173
00:15:02,240 --> 00:15:04,399
Menno: En AI kan hierin versnellen.

174
00:15:04,399 --> 00:15:08,080
Menno: En nu wordt het allemaal tegenhouden, terwijl ik ook gewoon iets goeds probeert te doen.

175
00:15:08,079 --> 00:15:11,199
Menno: Ja, dan krijg je inderdaad wel eens weerstand toe, inderdaad.

176
00:15:11,200 --> 00:15:17,120
Menno: En dat is tricky, want dan moet je denk ik leren diegene zijn taal een beetje te spreken.

177
00:15:17,120 --> 00:15:20,759
Menno: Ik kan een heel betoog houden over filosofie en dat soort dingen en zo.

178
00:15:17,920 --> 00:15:23,159
Menno: Maar als het gewoon niet landt bij die persoon dat gewoon niet.

179
00:15:23,399 --> 00:15:29,879
Menno: Dus dan moet je gaan kijken, oké, nou, je wil dus en zo doel bereiken met jezelf.

180
00:15:30,039 --> 00:15:34,200
Menno: Of in ieder geval met je team, met je afdeling, daar voor je verantwoordelijkheid voor.

181
00:15:35,639 --> 00:15:43,640
Menno: Heb je ook door dat bewijs van je hebben ze een heel spannend systeem, dat dit en dit ook de gevolg zijn.

182
00:15:44,519 --> 00:15:50,200
Joop: Is het voor jou dan persoonlijk moeilijk om die stap te nemen om nee te zeggen.

183
00:15:50,759 --> 00:15:51,719
Menno: Soms wel.

184
00:15:52,279 --> 00:15:55,720
Menno: Dat is ook iets waar ik zelf heel graag in wil groeien.

185
00:15:56,120 --> 00:16:07,959
Menno: Ik zijn net al, omdat ik uit een achtergrond kom waar ik vooral heb geleerd dat aan de technische kant het heel frustrerend kan zijn om je project of je feature vertraagd zien.

186
00:16:08,279 --> 00:16:12,120
Menno: Dan moet ik heel bewust eigenlijk ingaan tegen wat ik daar heb geleerd.
187
00:16:12,279 --> 00:16:17,879
Menno: Want ja, soms moet ik gewoon aan bewijs van joop als jij een engineer was bij Alliander tegen jou zeggen, ja, sorry.
 187
00:16:17,879 --> 00:16:21,240
Menno: Dat wordt toch twee maanden ben ik bang.
 188
00:16:21,240 --> 00:16:25,240
Menno: En dat is persoonlijk nog wel eens pittig inderdaad, ja.
 189
00:16:25,240 --> 00:16:30,920
Menno: Want ik kan aan de ene kant graag rekening houden met andere mensen en daar ook redelijk in blijven.
 190
00:16:33,159 --> 00:16:40,840
Menno: Als het gaat om dingen als rechtsvaardigheid en gelijkheid.
 191
00:16:40,840 --> 00:16:50,759
Menno: Dat je echt voor wil zorgen dat mensen bij wijzen van de baan krijgen die ze verdienen te krijgen.
 192
00:16:50,759 --> 00:16:59,879
Menno: En waar een AI-systeem als het bewijs van een beetje spannend is en niet helemaal netjes vacatures en cv's zou matchen in theorie.
 193
00:17:00,519 --> 00:17:03,960
Menno: Dan moet je wel echt die harde lijnen gaan trekken.
 194
00:17:03,960 --> 00:17:05,159
Menno: En dat is best wel spannend.
 195
00:17:06,119 --> 00:17:07,800
Joop: Dat snap ik helemaal.
 196
00:17:08,359 --> 00:17:19,319
Niels: Ik ben wel benieuwd inderdaad, wat heb je de afgelopen tijd dan wel al geleerd voor jezelf om toch zo'n misschien voor mezelf zie ik zo'n mental voice dan af overkomen die dan tegen je zeggen van hé, maar bekijk het ook van dit perspectief.
 197
00:17:19,319 --> 00:17:25,638
Niels: Wat voor middelen heb je voor jezelf ingezet om vanuit die techniekkant toch die andere perspectieven mee te kunnen nemen.
 198
00:17:25,638 --> 00:17:30,680
Niels: Misschien hebben de luisteraars daar ook inderdaad een beeld bij hoe kunnen ze zelf daar stappen in maken.
 199
00:17:30,759 --> 00:17:41,480
Menno: Ja, dus als ik zo Niels dus leer je verder kijken dan die techniek, om toch, hoe zou ik even noemen van die kracht tot vuur naar boven te halen om toch af en toe te zeggen nee.
 200
00:17:42,120 --> 00:17:43,239
Menno: Is zit er nog middenin?
 201
00:17:43,240 --> 00:17:46,840
Menno: Dus ik was het al delen wat ik kan in ieder geval.
 202
00:17:47,480 --> 00:17:56,519
Menno: Wat het belangrijkste voor mij daarin is, is iets wat je wel vaker hoort in dit soort dingen, gewoon dat andere perspectief leren te begrijpen.
 203
00:17:56,519 --> 00:17:59,080
Menno: Bijvoorbeeld, kijk, is het nu een andere functie dan engineering.
 204
00:17:59,160 --> 00:18:03,559
Menno: En jou governance officer is meer een compliance functie dan dat het een technische functie is.
 205
00:18:03,559 --> 00:18:05,720
Menno: Ook al heb ik technische kennissen nodig.
 206
00:18:05,720 --> 00:18:13,160
Joop: Maar het klinkt wel dat die achtergrondje helpt, in ieder geval dat je in de schoenen van de ander kan gaan staan.
 207
00:18:13,159 --> 00:18:14,199
Menno: Honderd procent inderdaad.
 208
00:18:14,440 --> 00:18:24,359
Menno: Als ik alleen maar filosofie achtergrond had, dan kon ik een dondersgoed ethisch gesprek voeren, maar had ik geen idee wat mensen zouden zeggen als ja, we hebben een neuraal netwerk getraind met dit en dit en zo.
 209
00:18:24,519 --> 00:18:31,000
Menno: En als ik nou een tijd ook van wat ja, we hebben backpropagation algoritme, dan houdt het snel op als je de kennis niet hebt.
 210
00:18:31,160 --> 00:18:38,920
Menno: Even niets terug naar je vraag van hoe neem je hoe haal je dat vuur in je naar boven als je verder moet kijken dan de techniek.
 211
00:18:39,160 --> 00:18:44,599
Menno: Eén is echt heel scherp voor je houden van waar doe ik dit nou echt voor.
 212
00:18:44,599 --> 00:18:52,920
Menno: Bij mij van nature moet ik wat leren om dat vuur wat meer ruimte bij me te geven.
 213
00:18:54,039 --> 00:18:59,000
Menno: En denk dat ik er specifiek doe, is collega van mij, daar kan ik het heel goed mee vinden.
 214
00:18:59,000 --> 00:19:01,960
Menno: En dan bespreken ik dus ook onderling mee van oké.
 215
00:19:03,159 --> 00:19:06,119
Menno: Lizzy, ik word niet zo snel boos.
 216
00:19:06,119 --> 00:19:10,039
Menno: Maar ik heb dat wel soms zo denk ik nodig om dat vuur te vinden.
 217
00:19:10,039 --> 00:19:14,759
Menno: Dus kun je met mij een soort oefening doen om te kijken van waar word ik nou boos.
 218
00:19:15,880 --> 00:19:18,920
Menno: En dat is soort van misschien een beetje een aparte manier om het te benaderen.
 219
00:19:18,920 --> 00:19:28,119
Menno: Maar ik denk dat iets als woede is aan de ene kant denk ik gevaarlijk als je het te veel de overhand laat nemen.
 220
00:19:28,440 --> 00:19:33,160
Menno: Maar woede kan wel de eerste vonk zijn om verandering door te brengen.
 221
00:19:33,159 --> 00:19:43,479
Menno: Dus stel, ik heb een casus die heel spannend is en ik heb allemaal engineers die bewijzen van het allemaal niet zo uitmaakt hoe dat zit met die ethiek en die willen gewoon door, omdat ze ja, ik weet niet.
 222
00:19:43,960 --> 00:19:48,920
Menno: Of als ik een beetje pessimistisch ben, gewoon willen scoren bij hun manager.
 223
00:19:49,159 --> 00:19:56,599
Menno: Of die wel betrokken zijn, maar zit ze hey, we hebben met z'n allen een energietransitie te fixen.
 224
00:19:56,599 --> 00:19:59,399
Menno: We moeten gewoon door, snap ik ook wel.
 225
00:19:59,400 --> 00:20:06,319
Menno: Dan moet ik toch een soort van die aanhalingstekens woede naar boven zien te halen, omdat dat weer een bron is van dat vuur.
 226
00:20:06,720 --> 00:20:12,240
Menno: En als ik dat helemaal heb, dan heb ik de stevigheid om te zeggen van nee jongens, zo ga dit gewoon niet doen.
 227
00:20:14,079 --> 00:20:18,560
Niels: Ja, zeker, mooi inderdaad, dat je ook de conversatie met je collega's en hierover hebt.
 228
00:20:18,559 --> 00:20:23,359
Niels: Want dat is echt wel de menselijke kant van hoe gaan we dit soort technologie inzetten.
 229
00:20:23,359 --> 00:20:25,039
Niels: Dus dankjewel voor het delen inderdaad.
 230
00:20:25,839 --> 00:20:36,879
Joop: En denk je dan, stel dat er nou geen AI-act geweest zou zijn, had je dan nog genoeg tools in handen om nee te kunnen zeggen.
 231
00:20:38,240 --> 00:20:41,200
Menno: Dan zou mijn werk doen, dat is veel moeilijker worden.
 232
00:20:41,759 --> 00:20:55,040
Menno: Het ding met de AI-act dat ik echt heel erg fijn vind, is dat het, het komt echt toch wel neer op de wet is gewoon de wet.
 233
00:20:55,279 --> 00:21:01,440
Menno: We hebben met z'n allen maatschappij, kijk, even los van hoe iedereen individueel politiek in staat.
 234
00:21:01,440 --> 00:21:04,080
Menno: Op dit moment hebben we een Europese Unie.
 235
00:21:04,079 --> 00:21:13,199
Menno: En daar worden gewoon dit soort beslissingen genomen, dan kun je het natuurlijk mee eens oneens zijn, op zich in een democratie, dus dat debat is denk ik prima.
 236
00:21:13,519 --> 00:21:18,159
Menno: Maar als het nu het helemaal de wet is, kan ik gewoon tegen mensen zeggen.
 237
00:21:18,160 --> 00:21:20,560
Menno: Nee, jongens, sorry, dit staat gewoon in de weg.
 238
00:21:20,559 --> 00:21:31,440
Menno: En als we de wet niet aanhouden, dan komt er een autoriteit persoonsgegevens of een rijksinspectie digitale infrastructuur langs die gaat zeggen: jongens, dit is de wet waarom hebben jullie dit niet op orde.
240
00:21:31,599 --> 00:21:38,240
Menno: Dus dat helpt mij gewoon heel erg om eigenlijk heel makkelijk wat urgentie bij mensen naar boven te halen.

239
00:21:38,240 --> 00:21:43,200
Menno: Stel de AI-act er wat niet, dan wordt het een heel stuk ingewikkelder.

240
00:21:43,599 --> 00:21:49,519
Menno: Een onderwerp als ethiek, dat wordt heel snel gezien als iets dat een beetje extra erbij is.

241
00:21:49,519 --> 00:21:55,200
Menno: Weet je wel, van je bent een organisatie, je hebt in de basis een bepaald doel of het nou commercieel is of niet.

242
00:21:55,200 --> 00:22:03,519
Menno: Je hebt bijvoorbeeld bewijs van stel je zou een commerciële organisatie pakken, je hebt gewoon een product te leveren of je hebt een dienst te leveren, dat is uiteindelijk de kern.

243
00:22:03,680 --> 00:22:12,399
Menno: En ethiek, dat kan helemaal op het hoge niveau heb ik wel eens gehoord, merk ik ook soms, maar bij al die anderen valt best wel mee vind ik.

244
00:22:13,039 --> 00:22:17,039
Menno: Merk je soms dat die urgentie gewoon minder wordt gevoeld.

245
00:22:17,920 --> 00:22:22,240
Menno: Ethiek is leuk en wel interessant en zo, maar dat levert niet echt waarde op, weet je wel.

246
00:22:22,240 --> 00:22:26,560
Joop: Ik heb wel eens iemand in mijn omgeving gehad, professioneel.

247
00:22:26,559 --> 00:22:29,039
Joop: En die zei ik geloof niet in ethiek.

248
00:22:30,000 --> 00:22:32,799
Joop: En dan ben ik heel benieuwd hoe die zijn hele leven over.

249
00:22:33,599 --> 00:22:35,519
Joop: Maar dat geeft wel iets van een mindset aan.

250
00:22:35,680 --> 00:22:36,159
Joop: Nee, precies.

251
00:22:36,160 --> 00:22:46,640
Menno: Kijk, als je gewoon een heel hardstevig iemand bent of hebt in je organisatie, die zit gewoon een beetje van hé jongens, sorry, maar gewoon, wij zijn een bedrijf, wij leveren dit gewoon punt en ethiek en zo, dat zal allemaal wel.

252
00:22:46,640 --> 00:22:56,319
Menno: Maar gewoon een beetje optimistisch van, ik heb gewoon zoveel medewerkers waar ik voor moet zorgen en gewoon waarde die moet geleverd worden, we moeten gewoon geld verdienen.

253
00:22:56,559 --> 00:22:58,240
Menno: Zo werkt het nou eenmaal.

254
00:22:58,240 --> 00:23:06,960
Menno: Die ga je niet kunnen overtuigen door een heel mooi ethisch verhaal eraan te hangen van ja, maar bewijs van stel de directeur heet Jan Jan.

255
00:23:07,920 --> 00:23:12,879
Menno: Denk niet naar over hoe het gelijkheid en zo raakt dan ga je iemand echt niet mee bereiken.

256
00:23:13,039 --> 00:23:20,000
Menno: En zo'n AI Act is fijn om die urgentie ook voor dat soort mensen gewoon heel duidelijk te hebben van nee, zo is het nou helemaal gewoon.

257
00:23:20,000 --> 00:23:24,079
Menno: Want zonder wordt zo'n verhaal een heel stuk moeilijker.

258
00:23:24,079 --> 00:23:33,680
Menno: Dan moet je echt ethiek gaan inzetten als meer een middel om problemen op te lossen, om dan toch diegene aan te kunnen spreken op wat wel uitmaakt voor een directeur.

259
00:23:33,680 --> 00:23:46,000
Joop: Heb je misschien een voorbeeld van waar je vanuit de governance gestuurd hebt en dat dat ook een succes is geworden juist waardoor het echt veel beter is geworden.

260
00:23:46,880 --> 00:23:49,839
Menno: Succesverhaal, ja, ik zou zeggen.

261
00:23:50,160 --> 00:24:05,759
Menno: Er is één casus waar ik mee bezig ben waar toen ik helemaal zo'n gesprek had gedaan over ethiek, mensen ook achteraf wel zeiden van ondanks dat het best wel veel tijd kost, men nou bedankt.

262
00:24:05,759 --> 00:24:10,559
Menno: We hadden zelf nog niet zo nagedacht, eigenlijk over deze vragen.

263
00:24:10,559 --> 00:24:20,319
Menno: Dus zo'n simpele vraag als mensen zijn niet gewend wat ik allemaal snap om in termen van waarden te denken, dat leer je eigenlijk alleen maar doen als je filosofie studeert.

264
00:24:22,880 --> 00:24:24,159
Menno: Nederland of zo.

265
00:24:24,480 --> 00:24:29,759
Menno: Dus als je dat doet, dan activeert dat kan het mensen wel snel activeren.

266
00:24:29,759 --> 00:24:35,600
Menno: En dan gaan ze inderdaad zeggen van weet je maar, dat is gewoon wat we allemaal bespraken en zo, dan vind ik eigenlijk hele goede vragen.

267
00:24:35,599 --> 00:24:36,799
Menno: Laat u wel het mee doen.

268
00:24:36,799 --> 00:24:39,519
Menno: En dan ga ik kijkt, perfect, want nu heb ik mensen aangewakkert.

269
00:24:39,680 --> 00:24:47,119
Menno: En nu gaan we inderdaad, is het traject rondom dit systeem al niet naar product brengen, verandert daardoor.

270
00:24:47,119 --> 00:24:53,000
Menno: Ze wilden snel door gewoon even feature aanzetten en knallen, maar met deze vragen erbij werd ineens heel duidelijk oké.

271
00:24:53,640 --> 00:25:00,679
Joop: Hier moeten we goed mee omgaan, zou je een soort van drie openingsvragen kunnen geven voor mensen die dit gesprek willen gaan voeren.

272
00:25:01,319 --> 00:25:03,559
Menno: Of zien drie openingsvragen.

273
00:25:03,559 --> 00:25:09,879
Menno: Oké, ik zal niet flauw doen en zeggen, oh, lees de AI-act vraag.

274
00:25:11,880 --> 00:25:15,720
Joop: Om even over die AI Act, want die AI Act is echt wel heel groot.

275
00:25:16,839 --> 00:25:22,360
Joop: Dus het is wel om het gesprek te openen, zou het wel handig zijn om ook daar klein te beginnen.

276
00:25:22,359 --> 00:25:24,679
Joop: Je zeiden straks ook klein beginnen.

277
00:25:25,720 --> 00:25:28,919
Joop: Ik denk dat het beginnen van een gesprek het belangrijkste is.

278
00:25:31,079 --> 00:25:33,079
Joop: Jazeker, heel graag zelfs.

279
00:25:33,319 --> 00:25:35,240
Menno: Ik hou mij dan hou ik hem even heel simpel.

280
00:25:35,240 --> 00:25:46,440
Menno: Als je gewoon echt een beginner beginner bent hierin en je denkt ik wil spannende vragen rondom AI aangaankaarten, dan zou ik zeggen, hou aan allereerst noodzaak middeldoel.

281
00:25:46,440 --> 00:25:51,559
Menno: Eén, wat is de noodzaak dat we dit AI-systeem in willen zetten.

282
00:25:52,039 --> 00:25:55,400
Menno: Twee, wat weten we over het middel om dit in te zetten?

283
00:25:55,400 --> 00:25:57,480
Menno: En dat is eigenlijk gewoon het technische gedeelte.

284
00:25:57,480 --> 00:26:00,600
Menno: En drie, wat is het doel dat we hiermee willen bereiken?

285
00:26:00,599 --> 00:26:02,599
Menno: Dus je begint met die drie.

286
00:26:02,599 --> 00:26:07,559
Menno: Wat noodzaak je geeft, is iemands onderliggende intentie.

287
00:26:07,559 --> 00:26:16,200
Menno: En dat zegt, dat kan bijvoorbeeld aangeven, doe je dit vanwege besparingen waar je iets mee wil doen, gaat het over kwaliteitsverbetering enzovoort.

288
00:26:16,680 --> 00:26:25,319
Menno: Middel geef je een beeld bij gewoon technisch, snappen we echt goed hoe dit systeem werkt, of weten we het een beetje.

289
00:26:25,639 --> 00:26:34,679
Menno: En doel geeft aan wat is echt het ding dat we willen bereiken, waarvan we denken dat AI het juiste middel kan zijn.

290
00:26:35,160 --> 00:26:43,960
Menno: En dan de vierde die ik nog had beloofd, dat is kun je gewoon heel plat zeggen van, ik heb hier een lijstje met waarden.

291
00:26:43,960 --> 00:26:48,200
Menno: En misschien is het een beetje ongewoon om hierover in gesprek te gaan, maar denk ik wel belangrijk.

292
00:26:48,200 --> 00:26:49,879
Menno: Raakt dit een van deze waarden.

293
00:26:49,880 --> 00:26:56,759
Menno: En dan moet je gewoon je kan gewoon letterlijk googlen op waarden, gelijkheid, rechtvaardigheid, heerlijkheid enzovoort.

294
00:26:56,759 --> 00:27:00,759
Menno: En daar kun je het over hebben van speelt dat een rol hier ergens.
297
00:27:02,039 --> 00:27:09,720
Niels: Wat mij in één keer doet, inderdaad, is die eerste drie, die raken echt de oplossing en hoe je daar naartoe gaat wat je wil bereiken.

295
00:27:09,720 --> 00:27:17,799
Niels: En voor mij was de vierde een hele mooie toevoeging, als ik hem voor mezelf zie, is eigenlijk dat je weer de helikopterview pakt van hé, maar buiten de oplossing raakt het nog andere zaken.

296
00:27:17,799 --> 00:27:20,279
Niels: Dus hoe pak je hem breder?

297
00:27:20,279 --> 00:27:23,079
Unknown: Precies mooi.

298
00:27:23,960 --> 00:27:30,599
Joop: Wat zou het meest concrete advies zijn dat je mee zou willen geven aan een startende AI governance officer?

299
00:27:31,880 --> 00:27:34,039
Menno: AI governance officer.

300
00:27:34,920 --> 00:27:40,120
Menno: Ja, kijk, mijn werk raakt iets van 5, 6 onderwerpen, dus om het om eens te scopen, nadenken.

301
00:27:40,360 --> 00:27:43,079
Joop: Mogen er meer zijn, net als dat je dat net hebt gedaan.

302
00:27:43,079 --> 00:27:45,319
Menno: Precies dankje.

303
00:27:48,519 --> 00:27:57,000
Menno: Als ik toch een nummer één zou moeten geven.

304
00:27:59,480 --> 00:28:01,960
Menno: Stel, je bent beginnend AI governance officer.

305
00:28:02,200 --> 00:28:13,240
Menno: Dan zou ik toch even het plaats beginnen bij de wet, ondanks dat ethiek echt net zo belangrijk is als de wet als je toch ergens moet beginnen.

306
00:28:13,240 --> 00:28:25,720
Menno: De AI-act is genoeg houvast voor je om het even goed door te nemen en te denken oké, dit is wanneer een systeem hoog risico of onacceptabel risico is, daar moet je gewoon beginnen.

307
00:28:27,559 --> 00:28:35,079
Menno: Ik zou zelfs nog kunnen zeggen van oké, stap 0 is welke AI heb je überhaupt als organisatie, want als je dat niet hebt, dan gaat het sowieso niet lukken.

308
00:28:35,079 --> 00:28:38,599
Menno: En als dat je stap 0 is, dan is je stap 1.

309
00:28:38,599 --> 00:28:41,320
Menno: Is dit minimaal hoog of onacceptabel risico?

310
00:28:41,319 --> 00:28:42,759
Menno: Ja, dan moet je gewoon echt vanuit beginnen.

311
00:28:42,759 --> 00:28:45,960
Joop: Je hebt nu al een paar keer aangestipt van is het wel AI.

312
00:28:46,279 --> 00:28:53,399
Joop: Ik denk dat dat best wel een hele belangrijke is, zou je zou je kunnen aangeven waar dat verschil zit.

313
00:28:53,720 --> 00:28:55,399
Niels: En waarom het belangrijk is.

314
00:28:55,639 --> 00:28:58,599
Menno: Ja, dit is wel een leuke.

315
00:28:59,400 --> 00:29:01,319
Menno: We hebben een plaat gemaakt bij Alliander.

316
00:29:01,319 --> 00:29:05,000
Menno: Ik weet hem even niet uit mijn hoofd helaas, anders dan zou het misschien wel leuk geweest zijn.

317
00:29:05,000 --> 00:29:10,600
Menno: Waarom het belangrijk is, is dat je soms heel grensgevallen hebt.

318
00:29:10,599 --> 00:29:13,799
Menno: Bijvoorbeeld, stel, je hebt een team dat is gewoon qua in ieder geval bij al die anderen.

319
00:29:13,960 --> 00:29:17,960
Menno: Bijvoorbeeld qua natuurkunde ijzersterk, hartstikke ingewikkelde modellen.

320
00:29:17,960 --> 00:29:21,799
Menno: En zit je zo te kijken van zo, dit is zo ingewikkeld, dit zou wel AI moeten zijn.

321
00:29:21,799 --> 00:29:25,000
Menno: Alleen dan ga je met je in gesprek, hier heb je dus die technische kennis voor nodig.

322
00:29:25,000 --> 00:29:36,720
Menno: En dan komt het eigenlijk kijken van ja, ze hebben wel een soort van een statistisch model, maar het is niet machine learning of zo, er gaat niet data in waarop wordt getraind.

323
00:29:36,960 --> 00:29:40,960
Menno: Uiteindelijk komt het vooral neer op natuurkundige formules.

324
00:29:40,960 --> 00:29:44,480
Menno: En dat wordt dan een model genoemd, dus ik heb een spraakverwarring van.

325
00:29:44,480 --> 00:29:48,720
Menno: Dus je moet technisch een beetje weten van eigenlijk plaat, is het machine learning of niet.

326
00:29:48,720 --> 00:29:52,319
Menno: En wordt er iets gedaan met training op basis van data?

327
00:29:52,319 --> 00:29:59,840
Menno: Of is het zo dat als je bijvoorbeeld één input geeft er altijd dezelfde output uitkomt, omdat het gewoon wiskundige regels zijn.

328
00:30:00,079 --> 00:30:02,000
Menno: En soms krijgen van het teams zitten.

329
00:30:02,240 --> 00:30:03,519
Menno: Maar dit is toch helemaal geen AI.

330
00:30:03,519 --> 00:30:08,080
Menno: Waarom worden wij benaderd over de AI-act en hebben het erover en dan zitten we.

331
00:30:08,400 --> 00:30:12,400
Menno: Oh, ja, jullie hebben gelijk inderdaad, het is al geen AI.

332
00:30:12,400 --> 00:30:17,840
Menno: Want dan kom je uit bij de AI-act houdt een definitie aan van AI en daar hangt alles dan aan vast.

333
00:30:17,839 --> 00:30:21,840
Menno: Maar soms kom je erachter van het is heel cool en ingewikkeld, maar het is geen AI.

334
00:30:21,839 --> 00:30:23,359
Menno: Dus dan is het allemaal niet relevant.

335
00:30:23,359 --> 00:30:24,319
Joop: Precies.

336
00:30:24,319 --> 00:30:28,960
Joop: Maar zijn dan de governance vraagstukken nog wel relevant?

337
00:30:29,039 --> 00:30:31,679
Menno: Die zou ik zeggen nog van wel, ja.

338
00:30:31,680 --> 00:30:36,480
Menno: Dus we hebben ook wel eens teams die dan aangeven.

339
00:30:36,480 --> 00:30:41,679
Menno: Het is misschien geen AI, maar dit is wel een dusdanig bedrijfs...

340
00:30:42,400 --> 00:30:48,240
Menno: Ik weet even niet een voorbeeldje uit mijn hoofd, maar daar nog belangrijk systeem.

341
00:30:48,240 --> 00:30:50,720
Menno: Dat we wel de juiste maatregelen op moeten voeren.

342
00:30:50,720 --> 00:30:54,560
Menno: En dan kom je echt uit bij het duidelijke rollenverantwoordelijkheden onderscheid.

343
00:30:54,559 --> 00:31:00,799
Menno: Want als ik dit zelf zou gaan oppakken, dan ga ik dingen doen die niet AI zijn, terwijl ik AI governance officer ben.

344
00:31:00,799 --> 00:31:03,440
Menno: Dan kun je wel kijken of je bijvoorbeeld nog contacten hebt.

345
00:31:03,920 --> 00:31:05,919
Menno: Binnen Alliander is er een EX office.

346
00:31:05,920 --> 00:31:09,759
Menno: We kunnen kijken, zijn er mensen daar die eventueel nog kunnen aansluiten of helpen.

347
00:31:09,759 --> 00:31:10,879
Niels: EX office.

348
00:31:10,880 --> 00:31:16,000
Menno: Ja, dat is een soort van aparte groep die dan zich met ethische vraag bezig in al die andere.

349
00:31:16,079 --> 00:31:26,240
Menno: Ik ga ervan uit dat de gemiddelde MKB'er dat misschien niet heeft, maar in ons geval dan is het echt kijken: zijn er collega's die dit dan kunnen oppakken, ondanks dat het geen AI is.

350
00:31:26,240 --> 00:31:28,080
Menno: Daar probeer je ze ook behulpstaan mogelijk in te zijn.

351
00:31:28,079 --> 00:31:30,879
Niels: En FX staat dan voor, anders dan kan ik niet slapen vannacht.

352
00:31:32,000 --> 00:31:34,000
Niels: Oh FX.

353
00:31:34,799 --> 00:31:36,399
Menno: Nee, je hebt de ethiek.

354
00:31:36,400 --> 00:31:38,000
Menno: En in het Engels is dat ethics.

355
00:31:38,319 --> 00:31:40,000
Joop: Oh ethics, sorry.

356
00:31:42,400 --> 00:31:44,879
Joop: Even wekker.

357
00:31:45,839 --> 00:31:47,039
Joop: Super bedankt.

358
00:31:47,119 --> 00:31:54,720
Joop: Hoe zou jij dit vakgebied zien zich ontwikkelen de aankomende jaren om daarmee af te sluiten?

359
00:31:54,720 --> 00:31:56,960
Menno: Als in het vakgebied AI governance.

360
00:31:57,200 --> 00:32:02,000
Menno: Dat is een vraag waar mijn collega en ik ons best wel vaak mee bezighouden, nog namelijk.

361
00:32:02,000 --> 00:32:08,399
Menno: Want stel, het lukt alles om alles AI-act compliance te krijgen, wat natuurlijk de bedoeling is.

362
00:32:08,400 --> 00:32:10,159
Menno: Waar gaat je werk dan heen?

363
00:32:10,319 --> 00:32:17,759
Menno: Want stel dat proces loopt allemaal lekker, iedereen zijn rollen en verantwoordelijkheden zijn, duidelijk, waar gaat de functie dan heen.

364
00:32:18,079 --> 00:32:22,079
Menno: Dat is eerlijk gezegd een vraag waar we zelf nog wel mee bezig zijn.

365
00:32:22,400 --> 00:32:27,039
Menno: Het kan de kant op gaan dat omdat agents steeds meer een ding worden, dat je dan een stuk meer daarmee bezig bent.

366
00:32:27,119 --> 00:32:33,839
Menno: Dus als je kijkt van oké, elke agent die iemand zou opspinnen of uit zou zetten.

367
00:32:33,839 --> 00:32:39,360
Menno: Hoe zorgen ervoor dat die automatisch compliant zijn met alles qua AI-acten en dergelijke.

368
00:32:39,359 --> 00:32:42,400
Menno: Dus dan wordt je werk een stuk meer kijken naar dat gedeelte.

369
00:32:42,639 --> 00:32:48,959
Menno: Die zijn ook technischer, waar kun je bijvoorbeeld in de pipeline standaard inbouwen dat bepaalde checks zijn gedaan.

370
00:32:48,960 --> 00:32:58,879
Menno: Dus het kan een stuk meer naar die agent kant aangaan, er kan over een half jaar weer een van de big tech bedrijven zijn die weer iets helemaal nieuws aankondigen waar je wat mee moet.

371
00:32:59,359 --> 00:33:04,159
Menno: Het is eerlijk gezegd best onvoorspelbaar om te weten waar de functie precies heen gaat.

372
00:33:04,160 --> 00:33:07,519
Menno: Voor nu is het AI echt compliance en BSM met ethiek.

373
00:33:07,519 --> 00:33:13,360
Menno: Stel AI is compliance dat lukt, dan is het kijken, gaat het misschien de agent kant op.

374
00:33:13,360 --> 00:33:19,840
Menno: Het kan zo zijn dat over twee jaar ik me afvraag van volgens mij heb ik mijn bijdrage wel geleverd.

375
00:33:19,839 --> 00:33:23,200
Menno: Maar het kan ook zijn dat het we zitten in één keer met een team van vijf.

376
00:33:23,200 --> 00:33:25,920
Menno: Want er zijn allemaal spannende ontwikkelingen geweest.

377
00:33:26,559 --> 00:33:27,599
Joop: Mooie afsluiting.

378
00:33:27,599 --> 00:33:30,240
Joop: En dankjewel voor dit openhartig gesprek.

379
00:33:30,240 --> 00:33:33,279
Joop: En ik denk dat we een heel mooi kijkje in de keuken hebben gekregen.

380
00:33:33,279 --> 00:33:34,080
Joop: Super bedankt.

381
00:33:34,400 --> 00:33:35,200
Menno: Bedankt hier.

382
00:33:36,799 --> 00:33:40,080
Joop: Leuk dat je weer luisterde naar deze aflevering van AIToday Live.

383
00:33:40,079 --> 00:33:42,560
Joop: Vergeet je niet te abonneren via je favoriete podcast-app.

384
00:33:42,559 --> 00:33:43,839
Joop: Dan mis je geen aflevering.

385
00:33:43,839 --> 00:33:46,399
Joop: Tot de volgende keer tot de volgende keer.