S05E41 - 5 Pijlers van Transparantie in Kunstmatige Intelligentie

In deze aflevering duiken we in de wereld van artificial intelligence (AI) en bespreken we het belang van transparantie.

We gaan dieper in op de vijf vormen van transparantie - datatransparantie, algoritmetransparantie, outputtransparantie, ethische transparantie en procestransparantie - en leggen uit waarom ze cruciaal zijn voor een effectief, efficiënt en ethisch verantwoord AI-systeem.

Ontdek hoe een sterk transparantiebeleid bijdraagt aan het vertrouwen in AI-systemen en hoe bedrijven hun beleid regelmatig kunnen evalueren en verbeteren.

Links

• Coded Bias: documentaire over gezichtsherkenning en bias in AI (https://www.netflix.com/title/81328723)

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,000 --> 00:00:04,000
[Muziek]

2
00:00:04,000 --> 00:00:08,000
Hoi, leuk dat je weer luistert naar een nieuwe aflevering van de AIToday Live.

3
00:00:08,000 --> 00:00:11,000
Mijn naam is Joop Snijder, CTO bij Aigency.

4
00:00:11,000 --> 00:00:14,000
Mijn naam Niels Naglé, chapter lead Data & AI bij Info Support.

5
00:00:14,000 --> 00:00:18,000
En we gaan het vandaag hebben over transparantie Niels.

6
00:00:18,000 --> 00:00:23,000
In aflevering 6 hebben we een aflevering gemaakt over uitlegbaarheid.

7
00:00:23,000 --> 00:00:30,160
En in het kort gaat het vooral over interpreteerbare modellen, uitlegbare modellen.

8
00:00:30,160 --> 00:00:32,800
Nou daar hebben we het wel vaker over in deze podcast.

9
00:00:32,800 --> 00:00:38,160
En als vervolg op die aflevering wil ik het heel graag hebben over vijf vormen van transparantie.

10
00:00:38,160 --> 00:00:43,120
Vooral omdat dat heel vaak bij elkaar wordt genomen.

11
00:00:43,120 --> 00:00:48,480
Bij transparantie wordt heel snel gedacht aan uitlegbaar en interpreteerbaar.

12
00:00:48,480 --> 00:00:55,080
Maar transparantie is best wel op heel veel verschillende plekken te zien...

13
00:00:55,080 --> 00:00:57,260
binnen de kunstmatige intelligentie.

14
00:00:57,260 --> 00:00:59,960
En om daar eens duidelijkheid in te scherpen...

15
00:00:59,960 --> 00:01:02,460
wil ik dat eens even met je doornemen.

16
00:01:02,460 --> 00:01:05,660
En ik hoop dat dat voor onze luisteraars ook helpt...

17
00:01:05,660 --> 00:01:07,660
dat je af en toe eens kan vragen...

18
00:01:07,660 --> 00:01:11,580
Hoe zit het bij ons op dit aspect van transparantie?

19
00:01:11,580 --> 00:01:13,380
Ja, want er wordt heel snel gezegd van...

20
00:01:13,380 --> 00:01:17,460
ja, weet je, we willen een transparant AI-systeem.

21
00:01:17,480 --> 00:01:19,800
Daar wil ik het dan ook over hebben.

22
00:01:19,800 --> 00:01:21,400
Dan kan je gaan vragen stellen van...

23
00:01:21,400 --> 00:01:24,280
"Oh ja, en transparantie hierop, daarop, daarop."

24
00:01:24,280 --> 00:01:28,760
Nou, er zijn er vijf die ik vandaag wil behandelen.

25
00:01:28,760 --> 00:01:33,080
Ik wil niet zeggen dat dat volledig is, maar ik denk dat dit vijf hele belangrijke zijn.

26
00:01:33,080 --> 00:01:38,080
Dat is namelijk de transparantie van de input van je data.

27
00:01:38,080 --> 00:01:42,920
Nummer twee wordt zo direct de transparantie van je algoritme.

28
00:01:42,920 --> 00:01:46,400
Drie is de output transparantie.

29
00:01:46,400 --> 00:01:48,560
Dus een model die geeft uiteindelijk een uitkomst.

30
00:01:48,560 --> 00:01:50,580
Hoe transparant is die?

31
00:01:50,580 --> 00:01:54,000
Vier is je ethische transparantie.

32
00:01:54,000 --> 00:01:57,540
En nummer vijf is je proces transparantie.

33
00:01:57,540 --> 00:01:59,560
En wat dat allemaal is.

34
00:01:59,560 --> 00:02:01,580
Je voelt al van...

35
00:02:01,580 --> 00:02:03,600
Er is van alles over te zeggen.

36
00:02:03,600 --> 00:02:08,560
Dus even data, algoritme, output, ethiek.

37
00:02:08,560 --> 00:02:10,580
En de vijfde? - Proces.

38
00:02:10,580 --> 00:02:13,400
Proces, oké. Nou, dan gaan we beginnen bovenaan.

39
00:02:13,400 --> 00:02:15,420
Data transparantie.

40
00:02:15,440 --> 00:02:21,440
Dat is AI wordt getraind op data en dat is echt de input van je algoritme.

41
00:02:21,440 --> 00:02:27,040
Datatransparantie of inputtransparantie worden vaak door elkaar gebruikt.

42
00:02:27,040 --> 00:02:31,240
Je geeft een mate van inzicht in de gebruikte data.

43
00:02:31,240 --> 00:02:33,240
En dat kan tweeledig zijn.

44
00:02:33,240 --> 00:02:37,240
Dus aan de ene kant kan je denken aan de begrijpelijkheid van de data.

45
00:02:37,240 --> 00:02:39,640
En hoe transparant is dat?

46
00:02:39,640 --> 00:02:43,240
Dan kan je bijvoorbeeld denken aan audits en dat soort zaken.

47
00:02:43,240 --> 00:02:46,600
En dan gaat het er vooral over de beschrijving van de data.

48
00:02:46,600 --> 00:02:50,080
Dus welk veldje wordt gebruikt?

49
00:02:50,080 --> 00:02:52,560
Waar komt het vandaan? Wat voor type?

50
00:02:52,560 --> 00:02:53,760
Ja, precies.

51
00:02:53,760 --> 00:02:56,960
Dan is er zelfs nog herkomst.

52
00:02:56,960 --> 00:03:02,960
Maar je hebt natuurlijk ook, als we bijvoorbeeld OpenAI als voorbeeld geven voor ChatGPT,

53
00:03:02,960 --> 00:03:06,560
die zeggen waar ze op trainen.

54
00:03:06,560 --> 00:03:11,360
En ze zeggen van, nou, zoveel procent van de data bestond uit boeken, zoveel procent uit internet.

55
00:03:11,360 --> 00:03:17,860
Maar dat zegt helemaal niets. Dat is geen inputtransparantie, want je hebt helemaal geen idee welke data...

56
00:03:17,860 --> 00:03:23,400
Welke boeken, wat van het internet, wat wel, wat niet en hoe ga je daar dan mee om?

57
00:03:23,400 --> 00:03:27,140
Dus daar zit echt wel een enorm verschil in.

58
00:03:27,140 --> 00:03:34,900
En dat maakt het dus ook, is het dan wel of niet duidelijk wat ermee gedaan wordt?

59
00:03:34,900 --> 00:03:37,900
Eigenlijk hoe ver transparant ben je dan? - Ja.

60
00:03:37,900 --> 00:03:46,900
En als je dat zou plotten op een organisatie, wat zou jouw beeld dan zijn wat een organisatie toch minimaal wel moet beschrijven voor zichzelf?

61
00:03:46,900 --> 00:03:53,900
Hoever ze dat dan naar buiten openzetten qua transparantie is even een tweede, maar wat zou ze dan minimaal wel vast moeten leggen om die transparantie mogelijk te maken?

62
00:03:53,900 --> 00:03:58,900
Nou, ik denk dat je voor jezelf inderdaad heel duidelijk moet hebben, wat zijn je traininggegevens?

63
00:03:58,900 --> 00:04:06,900
Dat je echt vastlegt dan, oh ja, maar als ik afbeeldingen binnenhaal, dat je weet waar komen die vandaan?

64
00:04:06,900 --> 00:04:09,680
Maar ook, wat gebruik je dan van die afbeeldingen?

65
00:04:09,680 --> 00:04:12,820
Dus gebruik je dingen als geslacht, leeftijd,

66
00:04:12,820 --> 00:04:17,540
die je bijvoorbeeld uit zo'n afbeelding probeert te halen?

67
00:04:17,540 --> 00:04:19,200
Wat voor kenmerken?

68
00:04:19,200 --> 00:04:23,380
Dus dat je dat allemaal in ieder geval voor jezelf duidelijk hebt,

69
00:04:23,380 --> 00:04:27,380
waar komt de data vandaan en wat gebruik je van de data?

70
00:04:27,380 --> 00:04:28,400
Ja.

71
00:04:28,400 --> 00:04:31,260
Ja, want je kan meer data erin hebben zitten,

72
00:04:31,260 --> 00:04:35,800
maar niet alle karakteristieken van de data gebruiken voor het model of voor je oplossing.

73
00:04:35,820 --> 00:04:36,820
Ja, precies.

74
00:04:36,820 --> 00:04:42,120
Dus ik denk dat dat een beetje beeld geeft van...

75
00:04:42,120 --> 00:04:46,760
Ja, ik denk dat het ook direct alweer een ander stukje transparantie raakt.

76
00:04:46,760 --> 00:04:50,120
Of in ieder geval een brugje is ook naar het stukje algoritme transparantie.

77
00:04:50,120 --> 00:04:52,320
Want we hebben het al over welke data gebruik je dan.

78
00:04:52,320 --> 00:04:54,520
In het model ga je ook data gebruiken.

79
00:04:54,520 --> 00:04:57,800
Maar ik denk dat daar ook juist verwarring in de markt vandaan komt.

80
00:04:57,800 --> 00:05:01,040
Wat is nu transparantie en op welke vlakken en welke perspectieven heb je?

81
00:05:01,040 --> 00:05:02,560
Dus... - Precies.

82
00:05:04,240 --> 00:05:08,480
Ja, en ik had nog een voorbeeld.

83
00:05:08,480 --> 00:05:14,080
Want waarom het zo belangrijk is, dat je deze datatransparantie hebt,

84
00:05:14,080 --> 00:05:18,480
niet alleen voor jezelf, maar ook voor mensen om het te kunnen controleren.

85
00:05:18,480 --> 00:05:23,680
Een van de problemen is, we hebben het wel eens gehad over Coded Bias.

86
00:05:23,680 --> 00:05:25,400
Dat is een hele goede documentaire op Netflix.

87
00:05:25,400 --> 00:05:27,720
Als mensen dat nog niet gezien hebben, doe dat.

88
00:05:27,720 --> 00:05:39,640
Daar was het probleem namelijk dat de vrouw die de grondlegger is, waar deze documentaire ook over gemaakt is,

89
00:05:39,640 --> 00:05:43,280
die wilde inloggen aan de hand van gezichtsherkenning.

90
00:05:43,280 --> 00:05:45,280
Ik zat even te zoeken naar de term.

91
00:05:45,280 --> 00:05:50,800
En wat bleek is dat zij niet herkend werd. Haar gezicht werd niet herkend.

92
00:05:50,800 --> 00:05:55,040
Pas toen zij een wit masker op zette, werd ze herkend.

93
00:05:55,040 --> 00:06:04,440
Wat zij voor elkaar gekregen heeft trouwens is dat Microsoft, Amazon, al dat soort grote giganten...

94
00:06:04,440 --> 00:06:13,280
hebben uiteindelijk hun data aangepast om ervoor te zorgen dat die modellen beter gingen presteren.

95
00:06:13,280 --> 00:06:21,080
Maar er was dus geen datatransparantie over hoeveel foto's van vrouwen zijn er gebruikt.

96
00:06:21,080 --> 00:06:24,280
Hoeveel foto's van mensen van kleur zijn er gebruikt.

97
00:06:24,280 --> 00:06:32,580
Ja interessant, moet ik gelijk terugdenken aan een eerdere opname die we ook hebben gemaakt over het beschrijven van bias die je misschien zelf niet door hebt,

98
00:06:32,580 --> 00:06:39,920
maar door de beredenering duidelijk te maken, dus uitleggen van het model, komt die bias pas naar boven.

99
00:06:39,920 --> 00:06:45,800
Dus het logisch is dat je misschien in het begin niet beschrijft, maar eigenlijk is het iets dat je continu moet aanvullen,

100
00:06:45,800 --> 00:06:48,800
Naarmate je ook leert van het model en hoe je het gebruikt.

101
00:06:48,800 --> 00:06:54,000
Dat er dus inderdaad maar zo'n procent bijvoorbeeld gekleurde mensen waren...

102
00:06:54,000 --> 00:06:57,200
of bepaalde andere karakteristieken die je zelf niet doorhad.

103
00:06:57,200 --> 00:06:59,600
Als je het nou juist wel van tevoren beschrijft...

104
00:06:59,600 --> 00:07:02,000
Ja, maar daar hebben we het probleempje met bias natuurlijk.

105
00:07:02,000 --> 00:07:04,600
Dat je niet altijd door hebt dat je daar niet op let.

106
00:07:04,600 --> 00:07:07,000
Ja. -Dat maakt wel een dilemma.

107
00:07:07,000 --> 00:07:09,800
Ja, dat is waar.

108
00:07:09,800 --> 00:07:12,000
Maar ook als je daar dan transparant over bent...

109
00:07:12,000 --> 00:07:14,600
dan is het ook veel makkelijker om uiteindelijk die fouten te vinden.

110
00:07:14,600 --> 00:07:18,100
Dan heb je nog algoritme transparantie.

111
00:07:18,100 --> 00:07:25,600
En dan denk ik natuurlijk meteen aan de afleveringen die we gehad hebben over het algoritme register van de digitale overheid.

112
00:07:25,600 --> 00:07:31,600
En daar kun je beschrijven met je algoritme transparantie.

113
00:07:31,600 --> 00:07:35,600
Zeg je van, oh ja, we gebruiken dit type algoritme.

114
00:07:35,600 --> 00:07:37,600
Deze data gebruiken we.

115
00:07:37,600 --> 00:07:39,600
Voor dit doel.

116
00:07:39,600 --> 00:07:43,600
Voor dit doel. Daar leg je dat in vast.

117
00:07:43,600 --> 00:07:47,360
Dan weet je in ieder geval meer.

118
00:07:47,360 --> 00:07:51,380
Want je weet inderdaad de velden...

119
00:07:51,380 --> 00:07:55,560
en ook wat voor soorten algoritmes er worden gebruikt.

120
00:07:55,560 --> 00:07:58,540
Het is dus een ander type van transparantie...

121
00:07:58,540 --> 00:08:02,780
dan dat je exact weet wat de trainingsset geweest is, bijvoorbeeld.

122
00:08:02,780 --> 00:08:05,640
Ja, en ik sta er echt achter.

123
00:08:05,640 --> 00:08:09,200
Ik hoop echt dat heel veel organisaties ook beginnen aan hun eigen algoritmeregister...

124
00:08:09,200 --> 00:08:11,300
om gewoon het besef te hebben waar zetten we het in.

125
00:08:11,320 --> 00:08:16,040
en willen we het daarvoor inzetten en weten we genoeg van wat we gebruiken en hoe we het inzetten.

126
00:08:16,040 --> 00:08:17,040
Precies.

127
00:08:17,040 --> 00:08:20,920
Dus ik denk dat het heel belangrijk is.

128
00:08:20,920 --> 00:08:24,880
We zien het natuurlijk ook steeds meer ontstaan in de maatschappij en vragen ernaar.

129
00:08:24,880 --> 00:08:33,840
Maar wat jij zegt, bedrijven, weet je, er staat niets in de weg om juist je eigen algoritmeregister alvast aan te leggen.

130
00:08:33,840 --> 00:08:34,840
Ja, zeker.

131
00:08:34,840 --> 00:08:36,200
Heel belangrijk.

132
00:08:36,200 --> 00:08:39,800
Nummer drie was outputtransparantie.

133
00:08:39,800 --> 00:08:42,800
Een uittrans... Moeilijk woord zeg.

134
00:08:42,800 --> 00:08:48,000
Outputtransparantie in AI verwijst naar de mate waarin de output of beslissingen van een AI-systeem...

135
00:08:48,000 --> 00:08:51,520
begrijpelijk en interpreteerbaar zijn voor mensen, waar we het zo vaak over hebben.

136
00:08:51,520 --> 00:08:58,640
Dus dat omvat de uitleg over hoe het systeem tot zijn voorspellingen of beslissingen is gekomen.

137
00:08:58,640 --> 00:09:05,720
Zodanig dat wij die redenering achter de uitkomst...

138
00:09:05,720 --> 00:09:09,520
dat we die echt ook daadwerkelijk kunnen begrijpen, dus uit de output.

139
00:09:09,520 --> 00:09:17,520
Kijk, wij hebben het hier natuurlijk zo vaak over gehad, maar toch nog even een voorbeeld.

140
00:09:17,520 --> 00:09:25,520
Stel, je hebt een AI-systeem die wordt gebruikt om fraudeleuze transacties op te sporen.

141
00:09:25,520 --> 00:09:34,520
Het systeem kan dan transactiegegevens analyseren, genereert dan een lijst met transacties die het als risicovol beschouwt.

142
00:09:34,520 --> 00:09:44,320
Maar je moet dat natuurlijk dan transparant maken, zodat je uiteindelijk ook kan beoordelen van, is het ook fraudeleus ja of nee?

143
00:09:44,320 --> 00:09:46,320
Het betekent nogal wat.

144
00:09:46,320 --> 00:09:49,520
En hoe kom je daar toe, zodat je daar ook weer van kunt leren?

145
00:09:49,520 --> 00:09:51,520
Precies.

146
00:09:51,520 --> 00:09:56,680
En dan heb je nog de ethische transparantie.

147
00:09:56,680 --> 00:10:03,840
En de ethische transparantie gaat erom dat je laten weten dat je AI gebruikt.

148
00:10:03,840 --> 00:10:14,840
Er is bij, als je een customer support ding opent, dat er wordt gezegd van je praat met een chatbot.

149
00:10:14,840 --> 00:10:16,840
Dat zijn een van de dingen die we al zien.

150
00:10:16,840 --> 00:10:21,840
Daar wil je niet zelf achter komen, want huidige chatbots kom je dat heel snel achter.

151
00:10:21,840 --> 00:10:28,840
Maar je wil wel inderdaad weten dat je geholpen wordt door een bot in plaats van door een mens.

152
00:10:28,840 --> 00:10:30,840
En dat is dan bij iets...

153
00:10:30,840 --> 00:10:32,840
De Hollands on...

154
00:10:32,840 --> 00:10:35,840
Hoe zeg je dat eigenlijk in het Nederlands?

155
00:10:35,840 --> 00:10:37,840
Customers support, weet je?

156
00:10:37,840 --> 00:10:39,840
Nou ja, weet je, dat valt misschien nog mee.

157
00:10:39,840 --> 00:10:42,840
Maar er zijn natuurlijk, als jij onderwerp bent...

158
00:10:42,840 --> 00:10:44,840
waar een model voor wordt gebruikt...

159
00:10:44,840 --> 00:10:46,840
dat zou ook kunnen zijn in het opsporen...

160
00:10:46,840 --> 00:10:50,840
in bijstandsefraude van de overheid, dat soort zaken.

161
00:10:50,840 --> 00:10:53,840
Wil je echt wel weten dat je onderwerp bent...

162
00:10:53,840 --> 00:10:56,840
van een EHI-systeem.

163
00:10:56,840 --> 00:11:02,240
Dat is ethische transparantie. Dat je heel duidelijk aan degene die daar aan wordt onderworpen...

164
00:11:02,240 --> 00:11:07,200
dat je daar duidelijk over bent, dat je onderdeel bent van zo'n model.

165
00:11:07,200 --> 00:11:10,200
Ja, ik denk nog wel meer dan onderdeel bent van.

166
00:11:10,200 --> 00:11:12,520
Want dat is maar denk ik een klein deel van de ethische vraagstukken.

167
00:11:12,520 --> 00:11:16,840
Dat is ook maar waarom je dit doet, waarom je dat op deze manier doet.

168
00:11:16,840 --> 00:11:21,480
Dus ik denk dat er wel meer bij komt kijken over ethische transparantie...

169
00:11:21,480 --> 00:11:25,760
dan alleen je bent onderdeel van het systeem en het systeem is een AI-model.

170
00:11:25,760 --> 00:11:29,440
Ik denk dat daar wel een brede vraagstuk ligt over waar je transparant over kan zijn.

171
00:11:29,440 --> 00:11:31,640
Je intent, noem het dan maar op.

172
00:11:31,640 --> 00:11:32,840
Precies. - Dus je bedoeling, ja.

173
00:11:32,840 --> 00:11:37,000
Ja, dus die doel waar je het al eerder over had, dat gaat hier natuurlijk ook over.

174
00:11:37,000 --> 00:11:41,680
En in een dusdanige manier beschreven dat je dat ook zelf begrijpt.

175
00:11:41,680 --> 00:11:44,120
Ja. - Als je daar deel van bent.

176
00:11:44,120 --> 00:11:47,600
Ja, zonder begrip geen vertrouwen.

177
00:11:47,600 --> 00:11:48,840
Nee, precies. Ja.

178
00:11:48,840 --> 00:11:51,920
Dus dat is een hele belangrijke manier van transparantie.

179
00:11:51,920 --> 00:11:55,920
En de laatste is procestransparantie.

180
00:11:55,920 --> 00:12:00,920
En dat gaat erover hoe je data verzamelt.

181
00:12:00,920 --> 00:12:03,920
Eigenlijk van voor tot achter, hoe ziet dat eruit.

182
00:12:03,920 --> 00:12:10,920
Maar ook, hoe ziet het proces eruit van, kan jij bijvoorbeeld uit de data gehaald worden?

183
00:12:10,920 --> 00:12:14,920
Welke rechten heb je daartoe? Hoe ben je erin gekomen?

184
00:12:14,920 --> 00:12:18,920
Waar kan ik bezwaar aantekenen? Waar kan ik meer informatie krijgen?

185
00:12:18,920 --> 00:12:23,040
Al dat soort zaken, dan hebben we het over procestransparantie.

186
00:12:23,040 --> 00:12:27,760
Dus het is niet zo dat als we het hebben over het begrip transparantie,

187
00:12:27,760 --> 00:12:31,520
dat we daarmee alles hebben afgedekt.

188
00:12:31,520 --> 00:12:35,760
Er wordt heel snel gesproken, waar ik al de podcast over begon,

189
00:12:35,760 --> 00:12:39,040
iets moet transparant zijn, wat houdt dat dan in?

190
00:12:39,040 --> 00:12:41,440
Voor welke ga je?

191
00:12:41,440 --> 00:12:46,320
En het heeft ook impact, want soms wil je misschien niet transparant zijn,

192
00:12:46,320 --> 00:12:49,000
Maar dan kan je die keuze bewust maken.

193
00:12:49,000 --> 00:12:58,040
Creditcard maatschappijen zullen niet heel erg transparant zijn in hoe ze de fraude voor jou opsporen.

194
00:12:58,040 --> 00:13:05,040
Met een reden, want hun intent is dan hopelijk zodat ze niet de fraudeurs zorgen dat ze begrijpen om dat weer te kunnen omzeilen.

195
00:13:05,040 --> 00:13:07,040
Precies. - Dat is dan weer de intent.

196
00:13:07,040 --> 00:13:14,480
Maar ik denk dat voor heel veel organisaties het belangrijk is om zo transparant mogelijk te zijn.

197
00:13:14,480 --> 00:13:18,080
en dat je in ieder geval deze vijf afloopt en gaat bedenken van...

198
00:13:18,080 --> 00:13:21,360
ja, weet je, wat doen we ermee? Welke keuze maken we?

199
00:13:21,360 --> 00:13:22,880
Hoe leggen we het vast?

200
00:13:22,880 --> 00:13:28,360
En ja, weet je, hoe ontwikkel je je hier vooral op?

201
00:13:28,360 --> 00:13:31,560
Ja, dit is niet iets wat je achteraf moet doen natuurlijk.

202
00:13:31,560 --> 00:13:36,840
Dit is iets wat je in design, in wat voor oplossing moeten we eigenlijk gaan ontwikkelen, neerzetten.

203
00:13:36,840 --> 00:13:40,360
Zijn dit al vraagstukken die je daarin meeneemt bij je design?

204
00:13:40,380 --> 00:13:45,420
Precies. Ik hoop dat het een heel stuk duidelijker is geworden.

205
00:13:45,420 --> 00:13:48,020
Transparantie, het ligt wat...

206
00:13:48,020 --> 00:13:57,220
Het is niet complex, het is breder dan het weten wat voor model er gebruikt wordt.

207
00:13:57,220 --> 00:13:58,240
Ja.

208
00:13:58,240 --> 00:14:01,540
Misschien moet ik dat nog even aan toevoegen.

209
00:14:01,540 --> 00:14:04,380
Ik heb training gehad.

210
00:14:04,400 --> 00:14:10,900
En bij die training zaten ook heel veel mensen uit de omgeving van AI.

211
00:14:10,900 --> 00:14:17,300
Transparantie betekent bijvoorbeeld ook dat we de code in moeten kunnen zien van het model.

212
00:14:17,300 --> 00:14:22,800
En iets wat nou typisch namelijk totaal oninteressant is,

213
00:14:22,800 --> 00:14:28,700
is die code, want dat zijn vaak maar 100, 200 regels code om uiteindelijk een machine learning model te maken.

214
00:14:28,700 --> 00:14:30,100
Daar zit het probleem niet in.

215
00:14:30,100 --> 00:14:36,100
En de transparantie zit dus niet in de code, maar zit in die vijf elementen waar we het net over hebben gehad.

216
00:14:36,100 --> 00:14:37,100
Ja.

217
00:14:37,100 --> 00:14:46,100
Ja, ik denk voor sommige add-its nog wel interessant om toch naar de code te gaan, maar dat is dan met een bepaald doel om validatie te doen.

218
00:14:46,100 --> 00:14:49,100
Ja, maar dat is meer of je model goed in elkaar zit.

219
00:14:49,100 --> 00:14:52,100
Ja, het zegt niet iets over die transparantie.

220
00:14:52,100 --> 00:14:54,100
Het zegt helemaal niets over transparantie.

221
00:14:54,100 --> 00:14:57,100
Over die paarregels code, daar kan je echt helemaal niks mee.

222
00:14:57,100 --> 00:15:00,100
Dat ziet er vaak ook zelfs hetzelfde uit.

223
00:15:00,100 --> 00:15:03,240
Op dezelfde manier is dat opgebouwd.

224
00:15:03,240 --> 00:15:04,960
Het is de data... - Zou fijn zijn wel, ja.

225
00:15:04,960 --> 00:15:07,980
Dat is nog niet altijd het geval, maar het zal wel steeds meer gaan gebeuren.

226
00:15:07,980 --> 00:15:11,080
We zijn natuurlijk bezig met patronen vinden in data...

227
00:15:11,080 --> 00:15:12,080
en daar doe je wat mee.

228
00:15:12,080 --> 00:15:14,720
En dus, ja, dat stukje code...

229
00:15:14,720 --> 00:15:17,520
dat is wel bezig met het vinden van de patronen.

230
00:15:17,520 --> 00:15:20,960
Maar die data, dat is waar het allemaal over gaat.

231
00:15:20,960 --> 00:15:23,920
Dat hoor ik graag, de data. Dat is wel waar het om gaat.

232
00:15:23,920 --> 00:15:25,360
Ja, toch?

233
00:15:25,380 --> 00:15:34,020
Nou, ik hoop dat het duidelijk was en dat je dus met deze vijf datatransparantie,

234
00:15:34,020 --> 00:15:40,660
algoritmetransparantie, outputtransparantie, ethische transparantie,

235
00:15:40,660 --> 00:15:43,300
procestransparantie aan de gang gaat.

236
00:15:43,300 --> 00:15:44,740
Dank je wel weer voor het luisteren.

237
00:15:44,740 --> 00:15:50,740
Dank je wel weer voor het luisteren naar deze aflevering van EYTD Live.

238
00:15:50,740 --> 00:15:52,260
Mis geen aflevering.

239
00:15:52,780 --> 00:15:57,660
Vind je deze aflevering nou leuk? Beveel dus een collega, vrienden, familie.

240
00:15:57,660 --> 00:16:02,580
Of wie je dit dan ook gunt om naar ons te luisteren.

241
00:16:02,580 --> 00:16:05,780
Vergeet je niet te abonneren in je favoriete podcast app.

242
00:16:05,780 --> 00:16:08,060
En hopelijk tot de volgende keer.

243
00:16:08,060 --> 00:16:10,060
Tot de volgende keer.