S08E69 - Datacenters en schaarste: wie krijgt de rekenkracht?

Fieke Jansen, onderzoeker aan de Universiteit van Amsterdam en leider van het Critical Infrastructure Lab, brengt de volledige materiële keten achter Artificial Intelligence in kaart: van kobaltmijnen in Congo tot e-waste in Ghana. Het probleem is dat de discussie over AI-infrastructuur vrijwel altijd gaat over groei, terwijl de vragen over verdeling, toegang en publieke belangen nauwelijks worden gesteld. Ze laat zien waarom efficiëntie het probleem niet oplost — meer efficiëntie leidt tot meer gebruik, niet minder — en waarom AI als klimaatoplossing vaak een manier is om structurele verandering uit te stellen.

In Noord-Holland verbruikt één hyperscaler evenveel energie als alle Amsterdamse huishoudens samen, terwijl gemeentes geen wegingskader hebben om te sturen op gebruik. Morgen kun je beginnen met drie vragen bij elk AI-gebruik: staat dit gehost bij een Europese partij, is generatieve Artificial Intelligence hier echt nodig of volstaat een kleiner model, en wat is de netto milieuimpact inclusief het energieverbruik van de AI zelf?

Onderwerpen

• De materiële keten van AI: van mijnbouw in Congo tot e-waste in Ghana, inclusief waterverbruik bij chipproductie en energieverbruik van datacenters
• Schaarste en toegang tot rekenkracht: wie krijgt toegang tot datacapaciteit, de opkoopkracht van grote techbedrijven versus kleinere partijen, en juridische gevechten over netaansluitingen
• Predatory delay: hoe AI wordt gepresenteerd als klimaatoplossing terwijl het vooral gaat om adaptatie in plaats van structurele aanpak
• Governance en beleid: het ontbreken van wegingskaders voor datacentervergunningen en de noodzaak van een moratorium om publieke belangen te beschermen

Links

• Onderzoeksinstituut: critical infrastructure lab
• Kaartspel: AI Game Changer - Generative AI editie

Genoemde entiteiten: Universiteit van Amsterdam - Critical Infrastructure Lab - TSMC - TenneT - SIDN - Amazon - SurfNet

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,000 --> 00:00:07,240
Elke keer als je AI gebruikt draait er ergens een datacenter op volle toeren, maar wat kost dat eigenlijk echt?

2
00:00:08,240 --> 00:00:17,679
Fieke Jansen is onderzoeker aan de University of Amsterdam en leidt het Critical Infrastructure Lab, waar ze de milieu impact van datacenters onder de loop neemt.

3
00:00:18,199 --> 00:00:24,160
Ze onderzocht de volledige keten achter AI en stelt een vraag die in de techindustrie nauwelijks wordt gesteld.

4
00:00:24,679 --> 00:00:27,800
Wat als we stoppen met bouwen en beginnen met verdelen?

5
00:00:27,960 --> 00:00:30,120
Joop: Luister naar een nieuwe aflevering van AIToday Live.

6
00:00:30,120 --> 00:00:32,360
Joop: Mijn naam, Joop Snijder, Head of AI bij Info Support

7
00:00:32,598 --> 00:00:35,319
Niels: Naam is jullie deed ik niet uit bij Info Support.

8
00:00:35,319 --> 00:00:37,960
Joop: En ja vandaag in de studio, Fieke Jansen.

9
00:00:37,960 --> 00:00:41,640
Joop: Fieke, zou je jezelf eerst even willen voorstellen aan de luisteraar.

10
00:00:41,639 --> 00:00:42,120
Fieke: Zeker.

11
00:00:42,120 --> 00:00:43,479
Fieke: Hoi, ik ben Fieke.

12
00:00:43,479 --> 00:00:47,080
Fieke: En ik werk bij de Universiteit van Amsterdam.

13
00:00:47,080 --> 00:00:56,440
Fieke: En daar run ik samen met Niels en Oever en Maxigas het Critical Infrastructure Lab, waar ik onderzoek doe naar internet en telecommunicatie infrastructuur.

14
00:00:56,440 --> 00:00:59,400
Joop: Ja, en wij zitten in een AI-podcast.

15
00:00:59,400 --> 00:01:01,400
Joop: Hoe verhoudt zich dat tot elkaar?

16
00:01:01,400 --> 00:01:03,959
Fieke: Nou, AI kan niet bestaan zonder infrastructuur.

17
00:01:03,960 --> 00:01:06,599
Fieke: En dan moeten we vooral denken aan datacenters.

18
00:01:06,599 --> 00:01:15,639
Fieke: Dus waar we bij het internet vooral dachten over transport, dus hoe het van de ene plek naar de andere plek komt, zit AI vooral op computerkracht.

19
00:01:15,639 --> 00:01:18,119
Fieke: En dat zit in datacenters.

20
00:01:18,120 --> 00:01:19,080
Joop: Ja, zeker.

21
00:01:19,080 --> 00:01:21,800
Joop: En wat behelst dan het onderzoek?

22
00:01:21,800 --> 00:01:24,999
Fieke: Nou, ik ben vooral geïnteresseerd naar de milieuimpact.

23
00:01:24,999 --> 00:01:31,400
Fieke: Dus wat ruilen we uit voor het bouwen van alle datacenters die we nodig hebben voor AI.

24
00:01:31,400 --> 00:01:33,159
Fieke: En hoe besluiten we daar eigenlijk over?

25
00:01:33,159 --> 00:01:38,519
Fieke: Dus ik zie het vooral als een governance vraagstuk, wat ruilen we uit.

26
00:01:38,519 --> 00:01:40,440
Fieke: Dus je kan bijvoorbeeld denken aan.

27
00:01:40,440 --> 00:01:48,519
Fieke: Er is best wel wat ophef geweest over de datacentrum, de hyperscaler die in Amsterdam wordt gebruikt, die ze nu langzaam aan het bouwen zijn.

28
00:01:48,839 --> 00:01:54,599
Fieke: En dat wordt een enorm bakbeest met drie hoge torens van 85 meter hoog.

29
00:01:54,759 --> 00:01:58,199
Fieke: Als je Amsterdam kent, dan weet je wel dat het redelijk hoog is.

30
00:01:58,519 --> 00:02:03,159
Fieke: En die gaat even energie opsnoepen als alle huishoudens van Amsterdam.

31
00:02:03,159 --> 00:02:11,879
Fieke: Dus dat is een redelijk uitruil op zeker in een context waar we in een netcongestie zitten, dus waar er gewoon schaarste op de energiemarkt zit.

32
00:02:11,879 --> 00:02:14,759
Fieke: En dat betekent dat andere dingen dus niet kunnen.

33
00:02:15,879 --> 00:02:18,039
Niels: En hoe kijk je daar dan naar met het verbruik?

34
00:02:18,039 --> 00:02:19,639
Niels: Want de datacentrum is één.

35
00:02:19,639 --> 00:02:23,799
Niels: Maar hoe breed is het spectrum naar wat de impact is op het milieu.

36
00:02:24,680 --> 00:02:26,680
Fieke: De impact op het milieu is veel breder.

37
00:02:26,679 --> 00:02:32,920
Fieke: Dus je kan ook kijken naar, er zit een hele supply chain of violence, dus een gewelddadige supply chain kan je het noemen in het Nederlands.

38
00:02:33,159 --> 00:02:35,399
Fieke: En dan moet je denken over.

39
00:02:35,879 --> 00:02:39,720
Fieke: Er kan geen datacenter bestaan zonder dat we niet mijnen in Congo.

40
00:02:39,720 --> 00:02:45,800
Fieke: dat er geen in de litiumdriehoek in Zuid-Amerika bijvoorbeeld, waar we lithium zoutvlaktes hebben.

41
00:02:46,440 --> 00:02:48,839
Joop: Die mijnen in Congo, die hebben we nog niet.

42
00:02:48,839 --> 00:02:51,239
Joop: Hoe verhoudt zich dat tot dat datacentrum?

43
00:02:51,239 --> 00:02:54,600
Fieke: Nou, in dat datacentrum zitten allemaal servers.

44
00:02:54,600 --> 00:03:00,040
Fieke: En die servers hebben dat heet critical raw materials, dus ruwe aardmetalen nodig.

45
00:03:00,040 --> 00:03:01,959
Fieke: Die zitten in dat moederbord.

46
00:03:01,959 --> 00:03:14,599
Fieke: En zonder de mijnen in Congo, waar bijvoorbeeld verschillende ruwe aardmetalen worden gewonnen, kunnen wij eigenlijk onze service niet bouwen waar al die AI-capaciteit op draait.

47
00:03:14,920 --> 00:03:19,560
Fieke: En als je kijkt naar de geschiedenis van Congo, zijn die mijnen al heel lang gemeend.

48
00:03:19,559 --> 00:03:25,640
Fieke: En heeft dat ook geleid tot heel veel geweld, vervuiling, armoede.

49
00:03:25,639 --> 00:03:32,760
Fieke: Want het is niet dat de mensen in Congo er heel veel aan verdienen aan het mijnen van deze ruwe aardmetalen.

50
00:03:32,999 --> 00:03:40,439
Fieke: Dan wordt het vaak naar een processing facility gestuurd, dus een plek waar ze die ruwe aardmetalen omzetten naar wat wij dan kunnen gebruiken.

51
00:03:40,600 --> 00:03:47,800
Fieke: Da komt vaak ook heel veel chemicaliën aan te pas, wordt heel veel water gebruikt, allemaal ook vaak op plekken waar er niet heel veel water is.

52
00:03:49,000 --> 00:03:52,440
Fieke: Veel van dat eigenlijk verwerken vindt plaats in China.

53
00:03:52,439 --> 00:03:56,360
Fieke: Dus je moet bedenken, dan gaat het op een containerboot naar China.

54
00:03:56,680 --> 00:03:58,679
Fieke: En dan worden er chips gemaakt.

55
00:03:58,679 --> 00:04:00,920
Fieke: Nou, daar komt ook heel veel vervuiling uit de pas.

56
00:04:00,999 --> 00:04:04,760
Fieke: Dus je kan aan de TSMC in Taiwan denken bijvoorbeeld.

57
00:04:05,639 --> 00:04:06,760
Fieke: De chipmaker.

58
00:04:07,160 --> 00:04:09,239
Fieke: Daar worden heel veel chips gemaakt.

59
00:04:09,239 --> 00:04:15,559
Fieke: En je hebt gewoon heel schoon drinkwater nodig om die chips te produceren.

60
00:04:15,559 --> 00:04:21,480
Fieke: Dus er wordt een enorme claim gelegd op het drinkwater, wat niet dan naar huishoudens of andere industrieën kan.

61
00:04:21,478 --> 00:04:25,800
Fieke: En er worden heel veel chemicaliën gebruikt om ervoor te zorgen dat die chips gebruikt kunnen.

62
00:04:25,800 --> 00:04:27,960
Fieke: Dus die moeten ook ergens heen.

63
00:04:28,599 --> 00:04:33,959
Fieke: Dan komt het uiteindelijk op een plek terecht, bijvoorbeeld in Nederland komen ze straks in Sloterdijk te staan.

64
00:04:33,959 --> 00:04:37,640
Fieke: En daar vraagt het heel veel water en energie.

65
00:04:37,879 --> 00:04:41,239
Fieke: En dan als we ermee klaar zijn, dan dumpen we ze in Ghana.

66
00:04:42,119 --> 00:04:46,040
Fieke: Dus dat kan je een beetje bedenken als een hele vervuilende supply chain.

67
00:04:46,040 --> 00:04:49,720
Fieke: En dan hebben we het nog niet eens over wat voor AI erop wordt gebruikt.

68
00:04:49,720 --> 00:04:52,999
Fieke: Dus dan hebben we het alleen nog maar over de materiële kant van AI.

69
00:04:56,520 --> 00:04:58,360
Joop: Zo dan komt er slecht uit.

70
00:04:59,079 --> 00:05:00,280
Joop: Wat.

71
00:05:00,839 --> 00:05:02,440
Joop: Wat behelst dan het onderzoek?

72
00:05:02,439 --> 00:05:03,800
Joop: Waar doe jij onderzoek naar?

73
00:05:03,800 --> 00:05:06,440
Fieke: Nou, ik kijk specifiek naar datacenters.

74
00:05:06,439 --> 00:05:08,679
Fieke: Dus hoe beheren we de datacenterindustrie.

75
00:05:08,679 --> 00:05:11,079
Fieke: En dat heeft eigenlijk verschillende vlakken.

76
00:05:11,079 --> 00:05:15,000
Fieke: Dus er is net de digitaliteit.

77
00:05:14,999 --> 00:05:19,960
Fieke: De digitale soevereiniteitspakket van de Europese Commissie, is net uitgekomen, bijvoorbeeld.

78
00:05:20,280 --> 00:05:28,960
Fieke: En daarin hebben ze al twee jaar geleden gezegd dat ze de hoeveelheid datacenters op Europees grondgebied willen verdrievoudigen in vijf jaar.

79
00:05:29,920 --> 00:05:35,839
Fieke: En daar hebben ze konden allemaal mensen op reageren, suggesties geven, wat is er belangrijk voor.

80
00:05:35,840 --> 00:05:41,519
Fieke: En dan kijk ik naar welke interesses stellen eigenlijk mee in het beleid van de Europese commissies.

81
00:05:41,520 --> 00:05:42,640
Fieke: Dus wie doet er mee?

82
00:05:42,639 --> 00:05:46,399
Fieke: Wat voor voorstellen doen ze denken ze aan sustainability.

83
00:05:46,879 --> 00:05:48,480
Fieke: Wat behelst dat dan?

84
00:05:49,439 --> 00:05:52,079
Fieke: Hoe definiëren ze dat dan bijvoorbeeld?

86
00:06:05,759 --> 00:06:10,079
Fieke: Met het idee van hoe zien zij naar de milieu impact van datacenters.

87
00:06:10,079 --> 00:06:11,519
Fieke: Dat was het begin.

88
00:06:11,520 --> 00:06:14,399
Fieke: En dan zie je energieverbruik, waterverbruik.

89
00:06:14,559 --> 00:06:18,319
Fieke: De supply chain komt er niet in voor, dus het gaat vooral over lokaal.

90
00:06:19,199 --> 00:06:24,559
Fieke: De oplossingen lagen bij de markt, het moet allemaal efficiënter op moeten optimaliseren.

91
00:06:24,879 --> 00:06:27,920
Fieke: En de marktpartijen zijn leidend hier in.

92
00:06:28,400 --> 00:06:36,480
Fieke: Wat we weten sinds de eerste industriële revolutie, is dat efficiëntie niet leidt tot minder consumptie, maar tot meer consumptie, dat is de Jevons paradox.

93
00:06:36,800 --> 00:06:40,720
Fieke: Dus halverwege vroeg ik of ze vanuit een andere bril ernaar konden kijken.

94
00:06:40,720 --> 00:06:44,160
Fieke: Dus als we zeggen vanuit een idee van schaarste.

95
00:06:44,160 --> 00:06:48,080
Fieke: Dus als we niet exponentieel meer gaan bouwen.

96
00:06:48,079 --> 00:06:49,999
Fieke: Hoe we dan beheersen?

97
00:06:49,999 --> 00:06:53,039
Fieke: En toen kwamen iedereen opeens met allemaal andere oplossingen.

98
00:06:53,040 --> 00:06:54,719
Fieke: En toen ging het echt over herverdeling.

99
00:06:54,720 --> 00:06:58,320
Fieke: Van dan moeten we echt gaan kijken wie krijgt er eigenlijk toegang tot die computingkracht.

100
00:06:58,319 --> 00:07:01,200
Fieke: En voor wat gaan we dat gebruiken en wie beslist dat dan?

101
00:07:01,199 --> 00:07:03,360
Fieke: En opeens werd de markt helemaal niet meer leidend.

102
00:07:03,360 --> 00:07:09,840
Fieke: En moest we een sterke overheid hebben die daarin meer zeggenschap zou hebben.

103
00:07:10,319 --> 00:07:11,360
Fieke: En ik denk.

104
00:07:11,679 --> 00:07:13,519
Fieke: Dus ik vond het ook wel een beetje spannend.

105
00:07:13,520 --> 00:07:18,559
Fieke: Want ik dacht, oké, schaarste, dat is echt een term die niet in de tech-industrie gebruikt worden.

106
00:07:18,559 --> 00:07:20,640
Fieke: Want het gaat eigenlijk alleen maar over groei.

107
00:07:20,640 --> 00:07:25,600
Fieke: En het is we presenteren de cloud of AI altijd ontastbaar en helemaal niet als fysiek.

108
00:07:25,599 --> 00:07:28,480
Fieke: En dat daar ook schaarste op kan treden.

109
00:07:28,480 --> 00:07:31,600
Fieke: En toen ging ik ook vragen van wat vinden jullie nou van die term schaarste?

110
00:07:31,600 --> 00:07:34,319
Fieke: Want ik was ook wel benieuwd hoe ze daar dan mee omgingen.

111
00:07:34,319 --> 00:07:36,799
Fieke: En eigenlijk was heel grappig.

112
00:07:36,800 --> 00:07:39,679
Fieke: Want heel van de datacenterbedrijven, die kleineren, die zeiden ook.

113
00:07:39,679 --> 00:07:44,159
Fieke: Ja, maar we hebben er nooit over nagedacht, maar we leven al op een markt van schaarste.

114
00:07:44,319 --> 00:07:46,640
Fieke: Want de grote spelers kopen alles op.

115
00:07:46,640 --> 00:07:55,439
Fieke: En wij moeten op een andere manier gaan nadenken over hoe we nog toegang krijgen tot chips, hoe we nog toegang krijgen tot land, hoe we nog toegang krijgen tot elektriciteitsnetwerken.

116
00:07:55,759 --> 00:08:00,400
Fieke: Dus er is al schaarste, alleen wordt het in het metadebat nooit zo gevoerd.

117
00:08:00,480 --> 00:08:04,320
Niels: Wat kunnen we dan al van leren van die partijen die met schaarste nu al om moeten gaan.

118
00:08:04,319 --> 00:08:05,920
Niels: Waar zitten dus ook lessen?

119
00:08:06,239 --> 00:08:09,119
Fieke: Ja, ik denk er zitten zeker lessen.

120
00:08:09,120 --> 00:08:19,280
Fieke: Ik denk dat wat ik eigenlijk wat me het meest opviel, was dat de kleinere partijen ook al echt vonden dat de overheid er niet voor hun was, maar eigenlijk vooral voor de grote techbedrijven er was.

121
00:08:19,280 --> 00:08:21,680
Fieke: En ik denk dat dat echt onwenselijk is.

122
00:08:21,679 --> 00:08:26,400
Fieke: Willen we een heel land vol zetten met Microsoft datacenters of Google datacenters.

123
00:08:26,400 --> 00:08:36,720
Fieke: Of willen we juist ook een lokale kenniseconomie stimuleren, waar we ook gewoon lokale ondernemers stimuleren en toegang geven tot dingen.

124
00:08:37,520 --> 00:08:43,759
Fieke: En als je kijkt naar de Nederlandse staten of naar het Europees beleid, hebben ze dat nog niet helemaal door.

125
00:08:44,239 --> 00:08:49,200
Fieke: Want daar is alles vooral op geënt op groter sneller, meer, meer meer.

126
00:08:49,199 --> 00:08:53,919
Fieke: Maar er zit er geen randvoorwaarden aan van wie krijgt wie is eigenlijk.

127
00:08:54,319 --> 00:09:03,199
Joop: Is dat ook niet onder druk van het hele idee van we moeten als Europa moeten we een beentje bijtrekken, want Amerika, China gaan veel harder.

128
00:09:03,439 --> 00:09:06,240
Joop: En je wordt een bepalende technologie.

129
00:09:06,240 --> 00:09:08,640
Joop: Dus dan wordt even alles aan de kant geschoven.

130
00:09:09,040 --> 00:09:10,800
Joop: We moeten nu vooruit.

131
00:09:11,040 --> 00:09:12,160
Fieke: Zeker.

132
00:09:13,040 --> 00:09:18,480
Fieke: Dat is zeker de AI-race, waar we in zitten, of waar de onze politieke leiders in zitten.

133
00:09:18,480 --> 00:09:23,439
Fieke: Maar wat ik daar echt wel in zie, is dat angst is echt een slechte raadgever.

134
00:09:24,000 --> 00:09:26,080
Fieke: Een hele slechte raadgever.

135
00:09:26,559 --> 00:09:44,640
Fieke: De mensen die eigenlijk ook de organisaties die ook de commissie beïnvloeden zitten heel erg vanuit het grote datacenternarratief aan praten en praten eigenlijk helemaal niet over hoe kunnen we ervoor zorgen dat dit ook belangrijk is voor de Europese spelers.

136
00:09:46,880 --> 00:09:53,840
Fieke: Mijn angst is eigenlijk dat als we dus inzetten op groei zonder daar randvoorwaarden aan te koppelen.

137
00:09:53,839 --> 00:09:57,840
Fieke: Dan zitten we straks aan nog meer afhankelijkheden vast van niet-Europese spelers.

138
00:09:57,839 --> 00:10:02,000
Fieke: En dan hebben we nog steeds een infrastructuur die niet in handen is van lokale clubs.

139
00:10:02,000 --> 00:10:12,079
Fieke: Want je moet toch wel iets zeggen over hebben we dan ideeën over wie wordt er dan een eigenaar van, of wie gebruikt die computingkracht eigenlijk.

140
00:10:12,079 --> 00:10:16,280
Fieke: En ik denk dat het Sloterdijkverhaal een heel goed voorbeeld is van hoe dat werkt.

141
00:10:16,280 --> 00:10:22,359
Fieke: Want in 2016 is dat stukje land verkocht aan een projectontwikkelaar.

142
00:10:22,359 --> 00:10:25,240
Fieke: En die wilde daar eerst een congrescentrum op bouwen.

143
00:10:25,719 --> 00:10:31,640
Fieke: En toen ze de gemeente, nou, we hebben al de rij, dat hoeft niet, laten we er een datacenter op bouwen.

144
00:10:31,640 --> 00:10:36,520
Fieke: W in 2016 was nog iedereen hooi komen allemaal hier met die datacenters.

145
00:10:36,839 --> 00:10:47,960
Fieke: En sinds 2016 is dat stukje land vier keer verkocht, is 370 keer waard geworden, het gaat echt om heel veel kapitaal.

146
00:10:48,280 --> 00:10:50,839
Fieke: En nu is het in handen van Pure Datacenter.

147
00:10:50,839 --> 00:10:56,520
Fieke: Die heeft een lening van 1,2 miljard afgesloten om deze toren te bouwen.

148
00:10:56,520 --> 00:10:59,960
Fieke: En het wordt voor vijftien tot twintig jaar verhuurd aan Microsoft.

149
00:11:00,439 --> 00:11:05,960
Fieke: En het is een Japanse investeringsmaatschappij met eerst constructie.

150
00:11:05,959 --> 00:11:08,760
Fieke: Dus eerst mensen die het gaan bouwen.

151
00:11:09,719 --> 00:11:14,600
Fieke: En ik zie niet in hoe kleinere Europese datacenters op deze markt nog kunnen opereren.
152
00:11:14,599 --> 00:11:18,280
Fieke: Want die hebben gewoon niet toegang tot dit vorm van kapitaal.
 152
00:11:18,280 --> 00:11:23,960
Joop: Maar stel, want dit had misschien ook dan een lokale datacenter kunnen zijn.
 153
00:11:24,439 --> 00:11:28,600
Joop: Maar als wij er zelf met diezelfde omvang er iets neer hadden gezet.
 154
00:11:31,480 --> 00:11:34,840
Joop: Dat had niet zomaar meer duurzaamheid opgeleverd.
 155
00:11:35,319 --> 00:11:41,959
Joop: Het is niet zo dat Europese bedrijven beter zijn dan Amerikaanse bedrijven.
 156
00:11:41,959 --> 00:11:45,479
Fieke: Nee, maar de vraag is, hebben Europese bedrijven deze schaal nodig?
 157
00:11:45,480 --> 00:11:47,239
Fieke: En dan is het antwoord waarschijnlijk nee.
 158
00:11:47,240 --> 00:11:53,160
Fieke: Want je hoort steeds meer kritiek op het plan om de AI gigafabrieken te bouwen.
 159
00:11:53,479 --> 00:11:58,119
Fieke: Dat het eigenlijk dat er geen Europese spelers zijn die zoveel computerkracht nodig hebben.
 160
00:11:58,119 --> 00:12:01,079
Fieke: Dus dat we eigenlijk gewoon kleiner kunnen bouwen.
 161
00:12:01,079 --> 00:12:12,280
Fieke: Of kan er ook van uitgaan, dat we misschien al genoeg computerkracht op Europees grondgebied hebben, maar dat het over herverdeling gaat: over wie gebruikt eigenlijk die computingkracht en voor welke doeleinden.
 162
00:12:13,079 --> 00:12:15,720
Joop: Wie zou je daarvan willen afsluiten dan?
 163
00:12:16,199 --> 00:12:29,400
Fieke: Nou, je kan ook zeggen, de lege gebieden die nog leegstaan, want je hebt ook heel veel datacenters die niet tot helemaal gevuld zijn, kunnen we zeggen, daar moeten gewoon andere publieke interesse gaan dienen of er moeten andere richtlijnen aan gaan.
 164
00:12:29,480 --> 00:12:34,359
Fieke: Want op dit moment kunnen we in Nederland alleen maar zeggen we willen een hyperscaler of niet.
 165
00:12:34,359 --> 00:12:35,240
Fieke: En dat is het.
 166
00:12:35,240 --> 00:12:41,240
Fieke: Dus we hebben geen andere handvat om te zeggen, nee, we willen dat het vooral voor medische doeleinden wordt gebruikt.
 167
00:12:41,240 --> 00:12:49,079
Fieke: Of en ik denk dat we dus eigenlijk eerst even een pauze moeten inlassen en moeten zeggen hoe wat vinden we nou belangrijk.
 168
00:12:49,079 --> 00:12:52,840
Fieke: Want het is wel zo dat als je kijkt naar weer Sloterdijk.
 169
00:12:53,079 --> 00:12:57,959
Fieke: Dat dat gewoon de hoeveelheid stroom die dat vraagt, dat kan op dit moment gewoon niet.
 170
00:12:57,959 --> 00:13:02,920
Fieke: En het is ook niet alsof al die internationale spelers het beste voor ogen hebben voor Nederland.
 171
00:13:02,920 --> 00:13:09,959
Fieke: En dat zagen we eigenlijk op een andere plek, waar ten het naar vijf datacenters een brief heeft geschreven.
 172
00:13:10,199 --> 00:13:10,999
Fieke: En gezegd.
 173
00:13:11,000 --> 00:13:14,679
Fieke: Hey, we gaan jullie later aansluiten op het elektriciteitsnetwerk.
 174
00:13:14,679 --> 00:13:20,040
Fieke: Omdat we de stabiliteit van het elektrische netwerk niet kunnen garanderen.
 175
00:13:20,520 --> 00:13:32,280
Fieke: En toen heeft een Australisch datacenterbedrijf, een van die vijf, ten het voor het kort geding gesleept, en gezegd, als jullie me niet per 1 juli een aansluiting geven, eis ik een half miljoen schade voor groei per dag.
 176
00:13:35,000 --> 00:13:39,160
Joop: Want de stabiliteit van het net gaat over onze stroom in onze huizen.
 177
00:13:40,280 --> 00:13:41,240
Fieke: En ook andere interpretaties.
 178
00:13:43,559 --> 00:13:45,319
Joop: Om het heel dicht bij huis te brengen.
 179
00:13:46,359 --> 00:13:47,480
Fieke: Stoplichten.
 180
00:13:47,879 --> 00:13:52,360
Fieke: Leefbaarheid van Nederland hangt ervan af, of in ieder geval van die regio.
 181
00:13:52,839 --> 00:13:59,160
Fieke: En toen de rechter heeft uiteindelijk ook voor ten het uitgesproken.
 182
00:13:59,480 --> 00:14:02,359
Fieke: Maar het idee, dan betalen we dubbel.
 183
00:14:02,439 --> 00:14:08,359
Fieke: Of het elektriciteitsnetwerk stort in, of we moeten dat bedrijf een half miljoen per dag betalen.
 184
00:14:08,839 --> 00:14:10,199
Fieke: Want het is gewoon een publiek bedrijf.
 185
00:14:10,280 --> 00:14:12,280
Fieke: Dus dat betalen we met z'n allen.
 186
00:14:12,839 --> 00:14:15,640
Fieke: Terwijl je ook zou kunnen denken als bedrijf.
 187
00:14:16,199 --> 00:14:20,679
Fieke: Misschien is het stabiliteit van de energienetwerk best wel belangrijk voor een land.
 188
00:14:20,679 --> 00:14:23,560
Niels: Maar je gaf aan dat het met name een governance vraagstuk is.
 189
00:14:23,639 --> 00:14:30,760
Niels: Wat voor middelen in de governance structuren zie je dan waar we wat kunnen bijdragen om dit debat te voeren.
 190
00:14:31,000 --> 00:14:42,679
Fieke: Ik denk dat we veel beter moeten luisteren naar de gemeentes en de provincies, die al, en met nutsbedrijven, eigenlijk die heel erg geconfronteerd worden met problemen rondom datacenteruitbreiding.
 191
00:14:43,639 --> 00:14:52,120
Fieke: Want je ziet gewoon dat zeker in Noord-Holland, Amsterdam, maar je ziet ook andere locaties dat er gewoon dat het knelt, en dat het ook publiek knelt.
 192
00:14:52,119 --> 00:14:53,719
Fieke: Want het publiek wil het ook niet meer.
 193
00:14:53,719 --> 00:14:59,360
Fieke: Dus er worden ook heel erg gecontesteerde, controversiële infrastructuur.
 194
00:14:59,839 --> 00:15:06,960
Fieke: En we zien gewoon dat op de landelijke politiek en de Europese politiek wordt er gewoon niet geluisterd naar de gemeentes en de nutsbedrijven.
 195
00:15:06,959 --> 00:15:11,839
Fieke: Die zeggen, die zijn gewoon in de AI-race en moeten we alles opgeven.
 196
00:15:11,839 --> 00:15:14,160
Fieke: En ik denk dat dat echt gewoon andersom moet gaan.
 197
00:15:14,160 --> 00:15:19,040
Fieke: We moeten stoppen luisteren naar de datacenterlobby en beginnen te luisteren naar de gemeentes en de provincies.
 198
00:15:19,040 --> 00:15:20,800
Niels: Hoe kunnen we die beweging maken?
 199
00:15:20,800 --> 00:15:25,120
Niels: Want we kunnen dit uitspreken, maar hoe krijg je dan dat meegenomen wordt?
 200
00:15:25,120 --> 00:15:29,280
Fieke: Ja, dat is wel echt onwijs lastig kan ik je vertellen.
 201
00:15:32,640 --> 00:15:41,199
Fieke: Omdat het dus knelt, niet alleen in Nederland of in Amsterdam, maar het knelt ook heel erg in Ierland, waar datacenters al 25% van het energienetwerk opslurpen.
 202
00:15:41,199 --> 00:15:44,080
Fieke: Het knelt in Engeland, het knelt in Spanje.
 203
00:15:46,079 --> 00:15:47,920
Fieke: Door heel Europa beginnen te knellen.
 204
00:15:47,920 --> 00:15:53,519
Fieke: Dus je ziet nu steeds meer maatschappelijke groepen ook opstaan en zeggen, we willen een moratorium.
 205
00:15:53,520 --> 00:15:55,360
Fieke: Dus het is een tijdelijke pauze.
 206
00:15:55,359 --> 00:16:00,639
Fieke: Totdat we kunnen zien hoe we dus die datacenters voor het publieke doel kunnen gaan beheren.
 207
00:16:00,640 --> 00:16:03,040
Fieke: Dus dat het een wegingskader wordt.
 208
00:16:03,040 --> 00:16:09,199
Fieke: Op dit moment is het gewoon in heel veel Europese landen zo wie het eerst een aanvraag in die krijgt eerst de elektriciteit.
 209
00:16:09,199 --> 00:16:14,800
Fieke: Nou, dat is met grote verbruikers natuurlijk redelijk problematisch, want die leggen meteen een enorme claim op het netwerk.
 210
00:16:14,800 --> 00:16:17,520
Fieke: En ik denk dat zo'n pauze helemaal geen gek idee is.
 211
00:16:17,520 --> 00:16:23,679
Fieke: Want we lopen, we laten ons nu heel erg regeren vanuit angst en het faciliteren van groei.
 212
00:16:23,679 --> 00:16:29,360
Fieke: Terwijl we misschien heel even moeten nadenken van hoe zien we dat in met onze andere industrieën.
 213
00:16:29,359 --> 00:16:32,800
Fieke: Want het is niet dat datacenters heel veel werkgelegenheid brengen.
 214
00:16:32,800 --> 00:16:37,120
Fieke: Misschien zou je juist wel willen dat er andere dingen worden gekoppeld aan het energienetwerk.
 215
00:16:37,120 --> 00:16:40,080
Fieke: En op dit moment kan je die kan je die afweging niet zo maken.
 216
00:16:40,079 --> 00:16:46,800
Joop: Maar denk je dat die druk te weerstaan is, het gebruik van AI wordt alleen maar groter.
 217
00:16:47,439 --> 00:16:51,040
Joop: De modellen worden groter, zwaarder.
 218
00:16:51,599 --> 00:17:01,280
Joop: Er is steeds meer druk vanuit de markt, wordt ook tegen iedereen gezegd in je werk, weet je, ga het gebruiken, doe het.
 219
00:17:02,480 --> 00:17:07,839
Joop: En als je daarnaast zegt van ja, maar wat er voor nodig is, daar zetten we even een rem op.
 220
00:17:08,319 --> 00:17:12,240
Joop: Ik denk zeg maar dat de markt niet staat te klappen voor dat verhaal.
 221
00:17:13,118 --> 00:17:16,720
Fieke: Ik vraag het me ook wel af, want ik vraag, weet je, want de vraag is.
 222
00:17:16,719 --> 00:17:23,920
Fieke: Het is net alsof als we alles bijbouwen, alsof dat dan nu ten goede aan bedrijven komt, of andere bedrijven of de markt.
 223
00:17:25,280 --> 00:17:33,999
Fieke: Ik denk dat we misschien, we zitten in een geopolitieke race om AI, maar ik denk dat we ook in een geopolitieke context zitten die er ook druk op legt.
 224
00:17:34,000 --> 00:17:39,840
Fieke: Want vorige week was volgens mij dat Trump zei dat sommige AI-modellen niet meer door niet-Amerikanen mogen worden gebruikt.
 225
00:17:40,160 --> 00:17:45,280
Fieke: Wat dus betekent dat als je daar heel erg afhankelijk van bent, dat je dan daar ook in de problemen komt.
 226
00:17:45,280 --> 00:17:52,240
Fieke: En ik zou het liever willen dat geld dat we dan nu gaan investeren in al die AI gigafabrieken.
 227
00:17:52,480 --> 00:17:57,360
Fieke: samen met de markt en misschien een universiteit, dat we zelf modellen gaan bouwen.
 228
00:17:57,359 --> 00:18:00,719
Fieke: En dat we misschien weggaan van het idee dat groot is beter.
 229
00:18:00,720 --> 00:18:03,760
Fieke: Want machine learning hoeft helemaal niet alleen maar groot is beter te zijn.
 230
00:18:03,760 --> 00:18:05,840
Fieke: Dat kan ook heel specifiek en nauw zijn.
 231
00:18:06,559 --> 00:18:13,439
Fieke: En daar hebben we echt niet deze hyperscalers van drie torens van 85 meter hoog voor nodig.
 232
00:18:13,439 --> 00:18:16,559
Fieke: Dus het is ook gewoon over.
 233
00:18:16,720 --> 00:18:18,000
Fieke: We zitten gewoon in een.
 234
00:18:18,000 --> 00:18:26,000
Fieke: we lopen tegen onze planetaire grens aan, maar ook tegen de sociale grenzen van datacenters op dit moment, want er komt steeds meer onvrede over.
 235
00:18:26,000 --> 00:18:34,959
Fieke: En in plaats van het soort van uitbesteden, zou het misschien interessant zijn van kunnen we niet gezamenlijk kijken van wel waar ligt nou onze kracht.
 236
00:18:34,960 --> 00:18:42,000
Fieke: En ik denk dat de kracht van Europa ligt in publieke instituties en in entrepreneurship of innovatie.
 237
00:18:42,000 --> 00:18:47,359
Fieke: En als we die bij elkaar komen, hebben we misschien helemaal niet de hyperscalers nodig of de AI gigafabrieken.
 238
00:18:48,160 --> 00:18:53,199
Joop: Want je noemt net zelf de grenzen van onze planetaire stelsel.
 239
00:18:54,000 --> 00:18:58,480
Joop: Nou is Elon Musk heeft bedacht van ja, maar daar gaan we daar buiten.
 240
00:18:59,439 --> 00:19:00,879
Joop: Ik zie je al lachen.
 241
00:19:01,200 --> 00:19:06,960
Joop: Vanuit jouw blik, jouw jouw expertise, jouw visie, hoe kijk jij tegen dat soort ontwikkelingen aan.
 242
00:19:06,960 --> 00:19:18,879
Fieke: Nou, ik speel ook wel eens het spelletje met vrienden dat ik zeg, ik zie je liever het einde van de wereld met een goed glas wijn, of ga je dat spaces met in Mars en niemand kiest voor het laatste.
 243
00:19:19,200 --> 00:19:25,759
Joop: Maar ik bedoel nog niet eens weet je dat wij naar Mars gaan, maar hij wil bijvoorbeeld datacenters nu in de ruimte gaan plaatsen.
 244
00:19:26,079 --> 00:19:36,040
Joop: Waardoor je dus geen koeling meer nodig hebt, in de ruimte ruimte in ruimte.
 245
00:19:35,919 --> 00:19:39,399
Fieke: Ja, nou ja, ik bedoel.
 246
00:19:41,760 --> 00:19:45,559
Fieke: Ze hebben ook het kapitaal om hij heeft enorm veel kapitaal.
 247
00:19:42,720 --> 00:19:48,840
Fieke: Ik denk dat we ook wel moeten bedenken van wat zit hier dan achter.
 248
00:19:49,079 --> 00:19:51,800
Fieke: Eén is ook dominantie in Space in low orbit.
 249
00:19:52,200 --> 00:19:55,559
Fieke: Da heeft hij met SpaceX natuurlijk al heel veel satellieten staan.
 250
00:19:55,559 --> 00:20:05,559
Fieke: Het andere is dat mensen ook aan het praten zijn over dat om de AI race sustainable te maken, maar dan vanuit een bedrijfs één bedrijf hebben.
 251
00:20:05,559 --> 00:20:11,639
Fieke: Moeten we misschien op andere plekken gaan kijken waar we grondstoffen kunnen gaan winnen, zoals op de maan bijvoorbeeld.
 252
00:20:11,639 --> 00:20:15,720
Fieke: En ik denk dat daarvoor zijn die datacenters in de ruimte nodig.
 253
00:20:15,720 --> 00:20:23,000
Fieke: Maar vooralsnog zijn het vooral tekeningen en is er nog weinig, wordt er nog weinig echt gebeurd.
 254
00:20:23,000 --> 00:20:27,079
Fieke: Ik vraag me ook af hoe goed deze datacenters werken met de stralingen die in de ruimte zijn.
 255
00:20:27,079 --> 00:20:33,639
Fieke: Want als je kijkt naar wat NASA, de oude apparaten die NASA gebruikt, dat zijn echt nog van twintig jaar geleden.
 256
00:20:33,639 --> 00:20:36,599
Fieke: En ze willen wel upgraden blijkbaar last in een krantenartikel.
 257
00:20:36,760 --> 00:20:41,400
Fieke: Maar ze weten niet of al die nieuwe chips al tegen die bestand zijn tegen de straling in de ruimte.
 258
00:20:41,399 --> 00:20:52,679
Fieke: Dus het is nog wel vooral een pipe dream waar ze ook waar ze wel aantonen dat ze vooral bezig zijn met uitbreiding en kolonisatie van de ruimte.
 259
00:20:53,000 --> 00:20:55,800
Joop: We hebben denk ik het probleem gevat.
 260
00:20:55,800 --> 00:20:58,040
Joop: Dus ik denk dat de luisteraar nu het probleem snapt.
 261
00:20:58,440 --> 00:21:02,439
Joop: Wat komt er, zijn er al eerste resultaten uit je onderzoek?
 262
00:21:03,079 --> 00:21:11,479
Fieke: Nou, wat soort van, ik ben een sociale wetenschapper, dus we leveren vooral veel kritiek laten we daar bij houden.
 263
00:21:12,760 --> 00:21:23,079
Fieke: Maar een van de resultaten die eruit komt, is dat we eigenlijk echt toe moeten naar een andere vorm van governance, waar we vooral ook de mens en de milieu centraal stellen.
 264
00:21:23,079 --> 00:21:36,919
Fieke: En dat is niet antimarkt, maar dat is gewoon kijken van hoe kunnen we met marktpartijen, die ook gewoon belang hebben dat Nederland, dat België, dat Frankrijk leefbaar blijven, omdat ze hier gevestigd zijn.
 265
00:21:37,480 --> 00:21:40,040
Fieke: Samen kunnen kijken van hoe kunnen we nou innoveren.
 266
00:21:40,040 --> 00:21:41,479
Fieke: En wat kunnen we nou wel doen.
 267
00:21:41,480 --> 00:21:45,159
Fieke: En waar is AI een meerwaarde, wat is belangrijk, hoe kunnen we dit doen.
 268
00:21:45,160 --> 00:21:50,119
Fieke: Maar misschien kunnen we ook naar andere constructies kijken.
 269
00:21:50,760 --> 00:21:56,119
Fieke: Dus één is een governance vraagstuk en daar is denk ik heel erg dat we gewoon echt moeten gaan nadenken.
 270
00:21:56,280 --> 00:21:57,879
Fieke: Wat vinden we nou belangrijk.
 271
00:21:59,399 --> 00:22:01,960
Fieke: hoe kunnen we die industrie nou wat beter sturen.
 272
00:22:01,960 --> 00:22:05,879
Fieke: En daar moeten we erg nadenken over wie is er eigenaar van datacenters.
 273
00:22:05,879 --> 00:22:10,040
Fieke: Wie huurt het, omdat je steeds meer ziet dat er tussen partijen komen.
 274
00:22:10,359 --> 00:22:19,559
Fieke: En wat gebeurt er nou precies op waar offeren we nou al deze hele pressure stroom en onze elektriciteit netwerken voor op.
276
00:22:19,879 --> 00:22:29,559
Fieke: Maar wat is er ook nodig vanuit en dat is eigenlijk de volgende stap in het onderzoek, wat er eigenlijk nodig vanuit gemeentes, nutsbedrijven, maar ook vanuit lokale partijen.

275
00:22:29,559 --> 00:22:35,079
Fieke: Wat hebben die nou nodig van onze overheid en van de Europese Commissie?

276
00:22:35,079 --> 00:22:36,359
Joop: En wat komt daaruit?

277
00:22:36,680 --> 00:22:38,680
Fieke: Dat tweede stuk, daar zijn we nog mee bezig.

278
00:22:38,919 --> 00:22:43,240
Fieke: Maar wat ze eigenlijk willen, is dat er gewoon een andere vorm van prioritering komt.

279
00:22:43,240 --> 00:22:46,520
Fieke: Dat er een wegingskader komt waarop je kan zeggen.

280
00:22:46,520 --> 00:23:02,920
Fieke: Nee, we willen eigenlijk nu sinds vorige zomer is er al op ons energienetwerk een prioriteringskader, dat je kan zeggen, huizen of scholen hebben voorrang als op industrie bijvoorbeeld, dus huisbouw, nieuwe scholen, uitbreiding, dat is redelijk marginaal.

281
00:23:02,919 --> 00:23:11,720
Fieke: En je zou ook willen kunnen zeggen in een vergunningstraject van nee, we gaan geen vergunningen geven die voor deze gigafabrieken.

282
00:23:11,720 --> 00:23:21,720
Fieke: Maar eigenlijk willen we met de lokale groepen om de tafel zitten en zeggen van wat heb je nou nodig en kunnen we niet gezamenlijk een soort datacentrum bouwen die verschillende partijen dient.

283
00:23:21,720 --> 00:23:24,599
Fieke: Want op dit moment wordt gebeurt dat niet.

284
00:23:26,040 --> 00:23:40,839
Niels: Zit er ook op een ander vlak innovatie, of zie je in de in de markt van datacenters en wat er voor nodig is, ook andere innovatie, dus nieuwe technologieën die ontstaan, volgens mij Microsoft zelf was ook bezig met onderwater, maar zijn er ook andere materialen die onderzocht worden.

285
00:23:41,399 --> 00:23:45,079
Fieke: Nou, vanuit de grootspelers, ja, je hebt dan de onderwater.

286
00:23:45,079 --> 00:23:55,639
Fieke: Want dan is het makkelijk om te koelen en dan hoef je geen water te gebruiken, maar dan verander je natuurlijk ook de warmte van de lokaal van de zee, dat heeft ook enorme impact opleven.

287
00:23:55,959 --> 00:23:59,800
Fieke: Ik heb eigenlijk dat project niet heel veel verder zien gaan dan een paar proefballonetjes.

288
00:23:59,800 --> 00:24:01,719
Fieke: Dus in Schotland was er iets.

289
00:24:02,680 --> 00:24:08,359
Fieke: Je hebt de open compute project van Facebook, onder andere van Meta.

290
00:24:08,359 --> 00:24:12,839
Fieke: En die zijn eigenlijk de servers hebben ze veranderd.

291
00:24:12,839 --> 00:24:14,040
Fieke: Dus ze zijn groter.

292
00:24:14,040 --> 00:24:16,199
Fieke: Er kan meer compute op een kleine oppervlakte.

293
00:24:16,200 --> 00:24:23,480
Fieke: En dat is eigenlijk de eerste soort van innovatie die is geweest in hoe die serverrekken eruit zien qua dimensies, zwaarte, alles.

294
00:24:23,959 --> 00:24:28,079
Fieke: Wat grappig daar is in, is dat ze hebben geïnnoveerd op meer compute.

295
00:24:27,640 --> 00:24:31,920
Fieke: Maar dus alles is ook weer kleiner geworden en niet op bijvoorbeeld recyclability.

296
00:24:32,000 --> 00:24:35,680
Fieke: Of dat je dus circulaire economie wordt helemaal niet meegenomen.

297
00:24:35,680 --> 00:24:53,040
Fieke: En ik denk juist dat zeker voor kleinere spelers nu er schaars op die chipmarkt is, dat het eigenlijk ook veel belangrijker wordt om te gaan nadenken over circulaire economie, kunnen we niet bepaalde dingen van servers hergebruiken op een nieuwe manier inzetten en daar hoor ik wel mensen over.

298
00:24:53,359 --> 00:24:56,479
Fieke: Maar ik heb nog niet dat is gewoon, dat zijn voornamelijk nog ideeën.

299
00:24:56,480 --> 00:25:01,040
Fieke: Maar ik denk dat dat wel steeds meer ook vanuit de markt gaat komen omdat er gewoon schaars is op de chipmarkt.

300
00:25:01,119 --> 00:25:12,079
Fieke: En omdat ook die grotere partijen die willen nu zo snel bijbouwen dat ze ook die oude kasten niet meer of in gaan dumpen of op de markt zetten.

301
00:25:12,079 --> 00:25:15,359
Fieke: Maar ze verschillende gradaties van datacenters hebben.

302
00:25:15,359 --> 00:25:24,000
Fieke: Dus één die voor AI wordt gebruikt, één die waarvoor meer wat traditionele computing dingen wordt gebruikt en daar kan je die oude kasten dan voor gebruiken.

303
00:25:24,559 --> 00:25:32,239
Fieke: Wat wel interessant was dat sommige van die kleinere partijen die dus zelf kasten draaien of zelf datacenters draaien.

304
00:25:32,240 --> 00:25:36,480
Fieke: Dan kan je denken aan universiteiten of banken die draaien hun eigen clusters.

305
00:25:36,800 --> 00:25:41,359
Fieke: Is dat je daar ook op een andere manier kan gaan nadenken als je alles zelf in handen hebt.

306
00:25:41,359 --> 00:25:51,520
Fieke: Dus ik heb al wel mensen gehoord die ook aan het experimenteren zijn met om computerprocessen te labelen met A tot G, een soort van die energielabels.

307
00:25:51,680 --> 00:25:58,240
Fieke: En dan A is kritiek, wat 24 uur per dag moet aanstaan en G kan gewoon 's avonds en in het weekend uit.

308
00:25:58,480 --> 00:26:00,879
Fieke: Dat komt onder andere omdat de energieprijzen zijn gestegen.

309
00:26:00,879 --> 00:26:04,159
Fieke: Dus je moet ook creatiever zijn met hoe je je energie gebruikt.

310
00:26:04,159 --> 00:26:12,399
Fieke: Maar wat daar interessant aan is, is dat als je dus je datacenter zo inricht, tussen kritiek moet altijd aanstaan en daarna maakt het wat minder uit.

311
00:26:12,399 --> 00:26:15,359
Fieke: is dat je dan eventueel ook van je dieselgeneratoren af kan.

312
00:26:15,359 --> 00:26:20,720
Fieke: Dus dat je het alleen maar kan opvangen met batterijen, voor het geval als het elektriciteitsnetwerk wegvalt.

313
00:26:20,720 --> 00:26:25,040
Fieke: En als het in heel Europa elektriciteitsnetwerk wegvalt, dan heb je sowieso niks meer.

314
00:26:27,680 --> 00:26:37,760
Fieke: En ik denk dat dat best wel interessant eigenlijk low hanging fruit is, eigenlijk dat je echt kan denken, kunnen we die datacenters niet zo op een andere manier inrichten, dat niet alles de hele tijd hoeft aan te staan.

315
00:26:37,760 --> 00:26:47,920
Fieke: Want je hebt natuurlijk ook best wel veel dingen die of kunnen draaien op piekmomenten als er veel renewable energie is, of die gewoon uit kunnen staan, omdat ook niemand op kantoor zit.

316
00:26:47,919 --> 00:26:51,040
Niels: Ja, dat voelt nog wel als veel bij de datacenters ligt.

317
00:26:51,119 --> 00:26:53,439
Niels: Wat kunnen bedrijven hier zelf aan doen?

318
00:26:53,919 --> 00:26:57,839
Fieke: Ja, de vraag is een beetje of het op een gegeven moment ook niet een financiële kwestie is.

319
00:26:57,839 --> 00:27:04,319
Fieke: Als je gewoon heel veel moet gaan betalen voor het gebruik van AI-modellen, ga je sowieso er wat voorzichtiger mee om, denk ik.

320
00:27:04,960 --> 00:27:05,839
Joop: Die prijs gaat stijgen.

321
00:27:06,079 --> 00:27:08,640
Fieke: Ja, die prijs gaat stijgen, dat gaat sowieso gebeuren.

322
00:27:09,599 --> 00:27:13,280
Fieke: Ik denk dat mensen dan sowieso op een andere manier gaan nadenken over het gebruik.

323
00:27:13,280 --> 00:27:17,599
Fieke: Niet meer laat ik het mailtje even in een large language model gooien.

324
00:27:17,599 --> 00:27:22,399
Fieke: Deze kan ik ook best wel zelf weer typen omdat je anders al je tokens verspeelt.

325
00:27:24,319 --> 00:27:34,639
Fieke: En ja, ik zou het ook gewoon aanraden voor mensen om gewoon weer te insourcen of samenwerken met kleinere bedrijven die gespecialiseerd zijn op AI.
328
00:27:34,879 --> 00:27:42,640
Fieke: Wat we hadden gezien is best wel wat controversie geweest, het gaat dan niet over AI-modellen.

326
00:27:42,640 --> 00:27:47,119
Fieke: Maar toen SIDN, dus de domeinnaamhoster van punt.nl.

327
00:27:47,119 --> 00:27:50,319
Fieke: Toen zij zeiden dat ze gedeelte gingen outsourcen naar Amazon.

328
00:27:50,319 --> 00:27:53,520
Fieke: Toen kwam technisch Nederland een beetje in opstand.

329
00:27:54,240 --> 00:27:58,400
Fieke: Ik denk dat jullie dat ook wel hebben gelezen en bij betrokken zijn geweest.

330
00:27:58,720 --> 00:28:04,399
Fieke: Eén is natuurlijk gaat over autonomie, van gaan we het outsourcen naar een Amerikaans bedrijf.

331
00:28:04,399 --> 00:28:07,119
Fieke: wat zijn daar de voordelen en nadelen van.

332
00:28:07,119 --> 00:28:14,960
Fieke: Maar ook wat verlies je eigenlijk in een bedrijf zelf, qua kennis en kunde als je dus alles gaat als je dus bepaalde functies outsourct.

333
00:28:14,960 --> 00:28:18,879
Fieke: En ik denk dat we heel lang in een periode van outsourcen hebben gezeten.

334
00:28:18,879 --> 00:28:21,679
Fieke: En dat het eigenlijk nu ook weer interessant wordt om te insourcen.

335
00:28:21,680 --> 00:28:24,639
Fieke: En dat kan natuurlijk ook niet elk bedrijf is een AI-bedrijf.

336
00:28:24,639 --> 00:28:32,000
Fieke: Maar je kan natuurlijk ook gewoon met AI-bedrijven of met universiteiten of hogescholen samenwerken om te kijken van wat hebben wij nu echt nodig.

337
00:28:32,000 --> 00:28:38,879
Joop: En waar denk je daar dan aan van als eerste drie elementen of zo die je zou gaan insourcen.

338
00:28:39,439 --> 00:28:41,280
Fieke: Ja, dat is een goede vraag.

339
00:28:41,280 --> 00:28:49,280
Fieke: Nou, ik zou het graag zien dat sowieso dat bij grotere publieke instituties zoals universiteiten dat ze weer hun eigen dingen gaan draaien.

340
00:28:49,280 --> 00:28:56,559
Fieke: Dus dat ze hun eigen datacenters hebben, maar dat ze ook weggaan van Microsoft Teams en gewoon weer hun eigen e-mailservice gaan draaien.

341
00:28:56,879 --> 00:29:03,520
Fieke: Omdat je dan ook kennis en kunde binnen een instituut weer opbouwt, gewoon ook op basale digitale functies.

342
00:29:04,399 --> 00:29:16,679
Fieke: En ik denk dat het heel interessant zou kunnen zijn om bijvoorbeeld een elektriciteitsbedrijf, die gaan nu bijvoorbeeld de elektriciteitssector gaat nu ook steeds meer experimenteren met AI.

343
00:29:12,720 --> 00:29:18,280
Fieke: Dus ook op verschillende dingen.

344
00:29:18,359 --> 00:29:21,800
Fieke: Want je hebt een clientkant, maar je hebt ook hoe run je die infrastructuur.

345
00:29:21,960 --> 00:29:29,079
Fieke: Nou, dat kan je doen met misschien een model die van de plan komt, software as a service, wat de Zeda geursus het noemt.

346
00:29:29,240 --> 00:29:38,599
Fieke: Maar je zou ook met een of een AI-bedrijf in Nederland of met een universiteit kunnen samenwerken en kunnen zeggen, hey, kunnen we dit niet zelf ontwikkelen, gezamenlijk ontwikkelen.

347
00:29:38,599 --> 00:29:46,040
Fieke: En niet misschien als één elektriciteit bedrijf, maar er zijn er meerdere hier, en kunnen we niet samen dat samen bij elkaar brengen.

348
00:29:46,040 --> 00:29:48,919
Fieke: En dat zie je bijvoorbeeld bij de universiteiten ook met SurfNet.

349
00:29:48,919 --> 00:29:55,719
Fieke: Dus dat bepaalde functies niet voor één universiteit worden gebouwd, maar door SurfNet voor de koepelvereniging van de universiteiten worden gebruikt.

350
00:29:55,879 --> 00:29:56,760
Joop: Wat ook veel slimmer is.

351
00:29:56,760 --> 00:29:59,319
Fieke: Ja, waar je slimmer, want je hebt allemaal dezelfde behoeften.

352
00:29:59,399 --> 00:30:00,359
Fieke: En er zit schaal in.

353
00:30:00,359 --> 00:30:01,239
Fieke: Dus je kan ook meteen.

354
00:30:01,399 --> 00:30:02,439
Joop: En geen concurrentie.

355
00:30:03,800 --> 00:30:05,400
Joop: Wat houd je tegen, zou je zeggen.

356
00:30:05,399 --> 00:30:18,599
Fieke: Ja, en dat zou je natuurlijk ook kunnen doen met waterbedrijven elektriciteitsbedrijven, eigenlijk met vooral ook nutbedrijven, maar ook op andere waarschijnlijk ook met medische gegevens, maar dat is niet mijn veld van expertise, dus daar weet ik niet zoveel over te zeggen.

357
00:30:19,399 --> 00:30:21,960
Joop: Ik zit bij ons in het AI governance board.

358
00:30:22,359 --> 00:30:28,119
Joop: Wat raad je mij aan dat ik meeneem naar dat board toe.

359
00:30:29,559 --> 00:30:31,319
Fieke: Ik weet niet zoveel van jullie businessactiviteiten.

360
00:30:32,200 --> 00:30:35,639
Fieke: Ik ben heel ingewikkeld om dit te zeggen.

361
00:30:35,960 --> 00:30:53,559
Fieke: Maar één ding kan zijn van waar hosten we eigenlijk al de data aan de computermodellen waar we opbouwen, willen we daar geen andere afwegingen maken, willen we niet onze vrienden hiernaast steunen, in plaats van dat we het op Amazon Cloud services doen bijvoorbeeld.

362
00:30:53,559 --> 00:30:56,120
Fieke: De tweede is denk ik een hele belangrijke vraag.

363
00:30:56,520 --> 00:31:01,159
Fieke: Hebben we hier eigenlijk wel AI voor nodig en zo ja, onder welke categorie valt het dan.

364
00:31:01,559 --> 00:31:16,839
Fieke: We waren net aan het kletsen, zeiden we, het is een soort van synoniem geworden dat het groot moet zijn en dat het generative AI moet zijn, terwijl je ook gewoon eigenlijk waarschijnlijk voor heel veel doeleinden gewoon gericht in kleine machine learning veel handiger is en veel belangrijker is.

365
00:31:18,520 --> 00:31:22,679
Fieke: Ja, kijken van wat hoe.

366
00:31:23,480 --> 00:31:24,360
Fieke: Een van de dingen.

367
00:31:24,359 --> 00:31:31,639
Fieke: Ik ben benieuwd hoe dat met AI is eigenlijk een vraag aan jullie, maar waar ik ook met heel veel met data over naast te denken, is dat we heel veel data aan het verzamelen zijn.

368
00:31:31,639 --> 00:31:34,360
Fieke: We hebben slimme dijken zijn continu data aan het opslaan.

369
00:31:34,359 --> 00:31:37,480
Fieke: Maar we hebben eigenlijk nooit plannen over wanneer we die data nou eigenlijk weggooien.

370
00:31:37,480 --> 00:31:41,479
Fieke: Dus die datacenters staan vol met stilstaande data.

371
00:31:42,119 --> 00:31:44,439
Fieke: Dus je moet ook een soort van end of life bedenken.

372
00:31:44,440 --> 00:31:48,760
Fieke: Van wanneer gaat iets nou, wordt nou iets weggegooid of hebben we iets niet meer nodig.

373
00:31:48,760 --> 00:31:56,040
Fieke: En op dit moment is het nog goedkoper om extra serverruimte bij te kopen dan om na te denken over wanneer iets end of life heeft bereikt.

374
00:31:56,359 --> 00:32:04,520
Joop: En ik denk, als je het over data als water en stilstaand water gaat stinken, dat geldt voor data ook.

375
00:32:04,599 --> 00:32:10,040
Niels: Kijk, er kunnen best wel oude trends uitgehaald worden, maar zijn die trends nog van toepassing en we blijven het maar bewaren.

376
00:32:10,040 --> 00:32:14,760
Niels: En gelukkig bij data waar meer AVG data in zit, hebben we dit soort processen.

377
00:32:14,919 --> 00:32:18,919
Niels: We hebben ook al gewoon mechanismen om dit soort zaken op te schonen.

378
00:32:18,919 --> 00:32:27,800
Niels: Hygiëne over het water uit te spreiden om te kijken van waar is het nog waardevol en waar moet het inderdaad reinigen of inderdaad gewoon cleansen en opruimen.

379
00:32:28,119 --> 00:32:30,280
Niels: Maar dat wordt nog niet heel vaak toegepast.

380
00:32:30,439 --> 00:32:44,199
Niels: Het is met name inderdaad, al zijn wetgeving op is van je mag het niet langer vasthouden dan gaan we het opschonen, maar ja, zeker inderdaad het advies om daar naar te gaan kijken, ook voor heel veel oude data is dat nog van toepassing, of is het juist misschien wel verstorend.
384
00:32:44,200 --> 00:32:54,520
Niels: Ik kan dat zelfs als de context zoveel veranderd is, dat het een slechte voorspeller kan zijn dan recente actuele data waar je je goede huishouding op doet.

381
00:32:54,599 --> 00:33:03,399
Fieke: Ja, maar het is ook van, maar daar zit er dus een financieel aspect aan en niemand vind het leuk, want wanneer heeft iemand nou zijn harddisk opgeruimd.

382
00:33:03,399 --> 00:33:10,280
Fieke: Ik bedoel, laten we nou eerlijk kan er zelf ook heel eerlijk over zijn dat er ook een paar in mijn huis liggen.

383
00:33:11,399 --> 00:33:14,439
Fieke: Dus het is ook niet het allerleukste klusje ter wereld.

384
00:33:14,439 --> 00:33:15,879
Fieke: We denken er niet over na.

385
00:33:15,879 --> 00:33:21,880
Fieke: Dus het is altijd iets wat we achteraf moeten doen, waardoor het extra veel personeelsuren kost, eigenlijk om dat te doen.

386
00:33:21,879 --> 00:33:24,439
Fieke: En er zit geen externe prikkel dat het moet.

387
00:33:24,439 --> 00:33:27,800
Fieke: Want het is eigenlijk goedkoper om bij te kopen dan om het op te ruimen.

388
00:33:27,800 --> 00:33:31,159
Niels: Ja, totdat het een verstorend effect heeft, maar dat merk je pas te laat.

389
00:33:31,160 --> 00:33:33,160
Niels: Dus laten we dat in het design meenemen.

390
00:33:33,160 --> 00:33:34,280
Niels: Van hoe gaan we ermee om?

391
00:33:34,280 --> 00:33:37,079
Niels: Wanneer blijft het waardevol en wanneer is het ook niet meer waardevol?

392
00:33:37,079 --> 00:33:43,159
Niels: En dat in het design meenemen, want anders ga je er niet meer over nadenken, zoals je aangeeft en dan nog blijft het lastig onder bij stil te staan.

393
00:33:43,319 --> 00:33:52,439
Joop: En ik denk dat de stap, zeg maar, waar je wel of geen AI gebruikt, ongeacht of je die data nou wel of niet hebt, dat dat in ieder geval een grote impact heeft.

394
00:33:52,599 --> 00:33:57,439
Joop: Want dat is vaak gewoon heel erg energieverslindend.

395
00:33:57,000 --> 00:34:00,399
Joop: De opslag valt in die zin nog mee.

396
00:34:00,639 --> 00:34:08,319
Joop: Dus als je grote stappen wil maken, zou ik eerst beginnen met waar je goede keuzes maakt, van wat je wel doet wat je niet doet.

397
00:34:08,319 --> 00:34:11,359
Joop: waar je misschien überhaupt geen technologie nodig hebt.

398
00:34:11,520 --> 00:34:15,119
Joop: We zijn natuurlijk heel erg in technologie aan het denken.

399
00:34:15,918 --> 00:34:20,239
Niels: Moet het technologisch wel opgelost worden of kunnen we ook iets stoppen of een andere keuze maken.

400
00:34:20,239 --> 00:34:30,000
Joop: En dat brengt mij bij de vraag van ik hoor ook best wel heel veel in de markt dat AI de oplossing gaat zijn, juist voor klimaatproblemen.

401
00:34:30,239 --> 00:34:31,599
Joop: Hoe kijk jij daarna?

402
00:34:32,239 --> 00:34:35,760
Joop: Probeer het zonder de lachen project die vraag te stellen.

403
00:34:36,560 --> 00:34:40,639
Fieke: Ja, dat is een hele interessante vraag, dat hoor ik ook heel erg uit vanuit de markt.

404
00:34:40,639 --> 00:34:47,039
Fieke: Dat hoor ik vooral heel erg vanuit ook de grote techbedrijven en vanuit de politiek.

405
00:34:47,039 --> 00:34:51,119
Fieke: Want we willen allemaal een geitenpaadje hebben om het klimaatprobleem op te lossen.

406
00:34:51,120 --> 00:34:59,439
Fieke: En dit is weer een typisch geitenpaatje die eigenlijk dat een klimaatactivist noemde dit predatory delay.

407
00:34:59,999 --> 00:35:03,679
Fieke: Ik weet niet hoe ik deze moet vertalen.

408
00:35:04,479 --> 00:35:12,960
Fieke: Dus je kan dus vroeger zag je dus dat grote bedrijven zeiden de klimaatproblematiek is niet echt gewoon onzin.

409
00:35:12,959 --> 00:35:16,479
Fieke: Daar hoeven we ons niet mee te bemoeien, want dit is gewoon een verzinsel van iemand.

410
00:35:16,479 --> 00:35:22,079
Fieke: Zodat zij gewoon konden doorgaan met geld verdienen zonder zich druk te maken over klimaatverandering.

411
00:35:22,319 --> 00:35:28,000
Fieke: Nu zien we eigenlijk dat je dat de grote bedrijven zeggen, ja, het is wel echt.

412
00:35:27,999 --> 00:35:30,559
Fieke: Maar in de toekomst komt er een oplossing voor.

413
00:35:30,560 --> 00:35:32,560
Fieke: Dus we hoeven nu nog niet te veranderen.

414
00:35:32,959 --> 00:35:37,680
Fieke: En dit is heel erg het spelletje met AI voor de klimaatverandering.

415
00:35:38,640 --> 00:35:45,519
Fieke: Waar het misschien de eerste generatie discussie over AI voor klimaatverandering, was heel interessant, zat ik ook in panels met mensen.

416
00:35:45,760 --> 00:35:54,160
Fieke: En zeiden ze, ja, maar het gaat landbouw duurzamer maken bijvoorbeeld, dat is een heel goed voorbeeld, wat altijd terugkomt, want AI gaat het allemaal oplossen.

417
00:35:54,160 --> 00:35:56,479
Fieke: En dan zei ik altijd, geef me één voorbeeld.

418
00:35:56,479 --> 00:35:57,999
Fieke: Ja, AI en landbouw.

419
00:35:57,999 --> 00:36:02,560
Fieke: Want we gaan ervoor zorgen dat we dan efficiënter pesticiden kunnen bescheiden.

420
00:36:03,039 --> 00:36:05,519
Fieke: En denk ik, oké, dit is je grote oplossing.

421
00:36:05,519 --> 00:36:11,280
Fieke: Terwijl je misschien zou moeten denken dat we landbouw moeten hervormen, dat we anders moeten naar gaan nadenken over landbouw.

422
00:36:11,280 --> 00:36:13,039
Fieke: Nee, maar het gaat alleen over efficiëntie.

423
00:36:13,039 --> 00:36:18,160
Fieke: Dus dit is echt de grote belofte van je, dat we efficiënter pesticiden kunnen verspreiden.

424
00:36:18,479 --> 00:36:23,680
Fieke: Nu ben ik bezig met de onderzoeksprojecten en kijken we naar consultancyreports van de grote consultancybedrijven.

425
00:36:23,680 --> 00:36:33,599
Fieke: En over hoe die AI voor sustainability, dus eigenlijk AI tegen klimaatverandering verkopen, verkopen het als oplossing.

426
00:36:33,600 --> 00:36:39,119
Fieke: En daar zie je eigenlijk dat het voor het gaat ook over decarbonisatie.

427
00:36:39,120 --> 00:36:44,720
Fieke: Dus dan zeggen ze als jij spullen in de cloud zet, dan ga je minder energie verbruiken op je lokale premers.

428
00:36:44,720 --> 00:36:47,440
Fieke: Dus dat is bij definitie duurzamer.

429
00:36:47,439 --> 00:36:57,279
Fieke: Of dan gaan we ervoor zorgen dat transport sneller van route A naar B komt, waardoor ze meer minder benzine gaan gebruiken, dus dan stoot ze ook minder emissies uit.

430
00:36:57,439 --> 00:36:58,159
Fieke: Dat is één.

431
00:36:58,160 --> 00:37:03,440
Fieke: Maar wat echt het fascinerende van dit onderzoek is, is dat het grootste gedeelte gaat over adaptation.

432
00:37:03,919 --> 00:37:09,760
Fieke: Dus het niet het tegengaan van klimaatverandering, maar het meegaan met klimaatsverandering.

433
00:37:09,999 --> 00:37:20,559
Fieke: En daar zeggen ze dat AI kan helpen met dat je dan bijvoorbeeld de markt kan route om klimaatverandering, om klimaatproblematiek.

434
00:37:20,560 --> 00:37:26,319
Fieke: Dus dan moet je je voorstellen dat kan je AI zetten, dat je schip dan niet in een storm belandt, maar dat hij er omheen kan varen.

435
00:37:26,319 --> 00:37:30,559
Fieke: Dus het gaat, dan gaat het eigenlijk over symptoombestrijding.

436
00:37:30,560 --> 00:37:34,959
Fieke: Symptoombestrijding, maar eigenlijk aan het Engels zeggen we dan sustaining the market, maar niet de planet.

437
00:37:36,800 --> 00:37:38,000
Joop: Dat is een goede idee.

438
00:37:37,999 --> 00:37:40,559
Fieke: En dan denk ik, dat is geen duurzaamheid.

439
00:37:40,800 --> 00:37:44,640
Fieke: Dan is misschien want op de lange termijn ook geen duurzaamheid van de markt.

440
00:37:44,640 --> 00:37:48,399
Fieke: Want het betekent alleen maar dat er meer klimaatverandering gaan optreden.

441
00:37:48,399 --> 00:37:51,119
Fieke: Dus je ziet echt dat het één geitenpaardje zijn.
446
00:37:51,120 --> 00:38:04,559
Fieke: En dat het twee ook gewoon iets belooft, maar eigenlijk iets anders doet, dus een product wat ze willen verkopen, dan zeggen ze tegen een bedrijf, jij wil duurzaam worden, koop dit product in, dan kan jij aan alle regelgeving voldoen.
 442
00:38:04,560 --> 00:38:08,159
Fieke: En als je echt slim bent, dan koop je nu ook al onze producten in.
 443
00:38:08,160 --> 00:38:22,560
Fieke: Maar dan zorg er straks voor dat jij als enige kan winnen, omdat jij dan bosbranden, stormen en zo meeneemt in je modellen over hoe je moet varen of hoe je moet rijden of hoe je producten van A naar B moet leveren.
 444
00:38:23,519 --> 00:38:25,839
Fieke: In mijn boekje is dat geen duurzaamheid.
 445
00:38:27,600 --> 00:38:33,839
Joop: Ik kan me zo voorstellen, met alles wat je wat je vertelt, en je doet dat met volgens mij met heel veel passie.
 446
00:38:34,879 --> 00:38:40,399
Joop: Dat je ook aangemerkt kan worden als activist, en misschien activistisch tegen de technologie.
 447
00:38:40,399 --> 00:38:42,800
Joop: Hoe verhoud je jezelf tot deze technologie?
 448
00:38:46,039 --> 00:38:49,160
Fieke: Ik draai best wel veel oude technologie.
 449
00:38:49,160 --> 00:38:52,040
Fieke: Ik heb een Linux computer.
 450
00:38:52,359 --> 00:38:55,800
Fieke: En we proberen heel veel alternatieve software te draaien.
 451
00:38:55,800 --> 00:39:01,640
Fieke: Ik denk dat zelf als mens is het ook goed om niet meer altijd in het gemak te zitten.
 452
00:39:01,720 --> 00:39:05,160
Fieke: Dus één ding wat de grote diensten leveren, is gemak.
 453
00:39:05,160 --> 00:39:06,760
Fieke: Maar is het nou zo gemakkelijk?
 454
00:39:06,760 --> 00:39:10,280
Fieke: Ik draai ik gebruik zelf geen Microsoft spullen.
 455
00:39:10,280 --> 00:39:14,599
Fieke: Maar als ik er dan af en toe in zit, vind ik het echt heel onhandig, omdat ik gewoon iets anders gewend ben.
 456
00:39:14,919 --> 00:39:18,599
Fieke: Je kan je vragen in hoeverre sommige dingen zijn natuurlijk wel echt gemakkelijk.
 457
00:39:19,560 --> 00:39:20,999
Joop: Sommige dingen dus ook gewenning zeg je.
 458
00:39:21,240 --> 00:39:22,919
Fieke: Gewenning, gemak, alle twee.
 459
00:39:23,160 --> 00:39:36,440
Fieke: En het leuke is wel als je dus gewoon alternatieve softwareprojectproducten draaien, dat je ook gewoon ziet hoe knullig eigenlijk heel veel dingen zijn, net zo knullig als Microsoft Teams is of Google Docs is, maar je bent er gewoon aan gewend.
 460
00:39:37,399 --> 00:39:40,760
Fieke: En ik vind eigenlijk dat we ook weer dat ongemak moeten hervinden.
 461
00:39:40,760 --> 00:39:46,519
Fieke: Want daardoor wat het probleem voor mij van dat gemak is, is dat we eigenlijk onze nieuwsgierigheid zijn verloren.
 462
00:39:46,519 --> 00:39:52,039
Fieke: Dus we gebruiken alle apps op onze telefoon zonder überhaupt over na te denken hoe het werkt, wat er vandaan komt.
 463
00:39:52,039 --> 00:39:55,720
Fieke: Terwijl toen het internet begon, was iedereen gewoon aan het spelen met alles.
 464
00:39:55,720 --> 00:39:58,199
Fieke: Weet je, of het nou met de hardware of met de software was.
 465
00:39:58,200 --> 00:40:06,439
Fieke: En dan was je in een gemeenschap en dan wist je het even niet en dan vroeg je aan je buurman of buurvrouw zei: Oh ja, als ik dan die ventilator wil veranderen, hoe moet ik dat dan doen?
 466
00:40:06,439 --> 00:40:10,359
Fieke: Of als ik dan iets wil installeren, ik loop nu vast oh ja, je hebt niet een goede pakket.
 467
00:40:10,439 --> 00:40:11,720
Fieke: Dus dan kun je elkaar een beetje helpen.
 468
00:40:11,720 --> 00:40:14,599
Fieke: Dus het was veel meer gemeenschappelijk spelen.
 469
00:40:16,680 --> 00:40:23,640
Fieke: Nu vraag ik aan ChatGPT, krijg je een antwoord en dan doe je dat.
 470
00:40:24,600 --> 00:40:26,760
Fieke: En er zit gewoon geen plezier meer in.
 471
00:40:26,760 --> 00:40:30,199
Fieke: Als ik aan mensen ook vragen, als ze nu nadenken over technologie.
 472
00:40:30,200 --> 00:40:32,680
Fieke: Het woord plezier hoor ik dus echt nooit.
 473
00:40:35,560 --> 00:40:40,919
Fieke: En heel veel van de dingen gaat veel meer over gemak, snelheid, dat soort dingen.
 474
00:40:40,919 --> 00:40:52,919
Fieke: En ik zou gewoon dat we weer terug zouden gaan, dat mensen gewoon weer nieuwsgierig zouden zijn, dat mensen ook weer dingen uit elkaar konden halen of gewoon weer langzaam gingen leren van als het dan openmaken of nou software of hardware is.
 475
00:40:52,919 --> 00:40:54,280
Fieke: Hoe werkt dit dan?
 476
00:40:55,879 --> 00:40:58,119
Niels: Hoe leveren we een klein stukje gemak in?
 477
00:40:58,999 --> 00:41:00,199
Niels: Wat levert het terug?
 478
00:41:00,200 --> 00:41:02,280
Niels: Wat levert het jou terug?
 479
00:41:02,280 --> 00:41:04,839
Niels: Dat stukje gemak wat je ingeleverd hebt.
 480
00:41:04,839 --> 00:41:10,839
Fieke: Ik denk dat ik het veel beter begrijp, dat ik er dat ik ook het gevoel heb dat ik er weer zeggenschap over heb.
 481
00:41:11,080 --> 00:41:15,480
Fieke: Het levert me ook echt en een nieuwe community op.
 482
00:41:15,959 --> 00:41:18,679
Fieke: Het levert me nieuwe inzichten op heel leuk.
 483
00:41:18,680 --> 00:41:22,600
Fieke: Je gaat gewoon op een andere manier met technologie ermee om.
 484
00:41:23,399 --> 00:41:26,439
Fieke: Ik wil nu binnenkort met mijn neefjes wil ik Beambot gaan bouwen.
 485
00:41:26,439 --> 00:41:29,959
Fieke: Dus dan heb je van die kleine robotjes die bewegen die op zonnepanelen wegen.
 486
00:41:29,959 --> 00:41:38,200
Fieke: En ik denk, we kunnen echt redelijk veel dingen zelf maken, misschien niet zelf, maar dan kan je buurman wel of iemand anders.
 487
00:41:38,519 --> 00:41:40,919
Fieke: Maar bij technologie wordt het echt steeds beperkter.
 488
00:41:40,919 --> 00:41:46,199
Fieke: En ik denk dat we daar gewoon collectief weer ons weer dat terug moeten halen.
 489
00:41:47,240 --> 00:41:51,400
Joop: Je bent nou een CEO van een middelgroot Nederlands bedrijf.
 490
00:41:51,879 --> 00:41:58,680
Joop: En je hebt verantwoordelijkheid over laten we zeggen drie, 400 man.
 491
00:41:59,879 --> 00:42:04,680
Joop: Hoe neem je dan dit mee, zeg maar in je bedrijfsvoering?
 492
00:42:05,479 --> 00:42:13,879
Joop: Die zegt ja, nee, ongemak de medewerkers moeten juist met zoveel mogelijk gemak, zo productief mogelijk die onze klanten bedienen.
 493
00:42:13,879 --> 00:42:18,439
Fieke: Ja, maar je kan kijk, het grappige is natuurlijk, hier kan je bijvoorbeeld wel leren van Google.
 494
00:42:18,439 --> 00:42:19,720
Fieke: Want je kan natuurlijk en doen.
 495
00:42:19,720 --> 00:42:26,200
Fieke: Je kan zeggen, oké, eerst gaan we gewoon de kritieke diensten, die blijven we gewoon leveren, hoe we ze leveren.
 496
00:42:26,200 --> 00:42:31,479
Fieke: Maar als je kijkt bij Google, een van de redenen waarom ze zo groot zijn geworden, is opdat ze op vrijdag altijd zelf mochten spelen.
 497
00:42:31,479 --> 00:42:34,359
Fieke: Al het personeel moet zelf aan projecten werken die zij belangrijk vonden.
 498
00:42:34,359 --> 00:42:35,959
Fieke: En daar zijn heel veel dingen uitgekomen.
 499
00:42:35,959 --> 00:42:37,560
Fieke: Google Maps is er één van.
 500
00:42:37,879 --> 00:42:40,359
Fieke: Android Auto is er ook van gekomen.
 501
00:42:40,359 --> 00:42:44,999
Fieke: En ik denk dat juist weer ook een beetje weggaan van het gemak.
 502
00:42:44,999 --> 00:42:53,559
Fieke: En dat kan met stapjes, dat hoeft niet meteen de hele week in ongemak zitten, maar weggaan van het gemak, dat het je ook heel veel kan opleveren als bedrijf.
 503
00:42:53,560 --> 00:42:56,359
Fieke: En dat je dus ook je personeel op een andere manier uitdaagt.
 504
00:42:56,359 --> 00:43:05,800
Fieke: En kan zeggen oké, op deze dagen gaan we werken aan nieuwe ideeën, nieuwe toepassingen nieuwe manieren van samenwerken.
510
00:43:06,039 --> 00:43:07,800
Fieke: En dat kan volgens mij op alle vlakken.

505
00:43:07,800 --> 00:43:20,359
Fieke: Want ook op haar-vlak heb je ook tijd en ruimte nodig om na te denken over wat zijn er andere manieren om talent aan te trekken, bijvoorbeeld, of om met mensen om te gaan, zodat ze een fijne werkomgeving zitten.

506
00:43:20,359 --> 00:43:23,159
Fieke: Dus ja, dan is het belangrijk dat je e-mail blijft werken.

507
00:43:23,160 --> 00:43:31,119
Fieke: Maar misschien is dit niet een vraag die aan ChatGPT wil vragen, maar die wil je misschien gewoon als Teams gezamenlijk oplossen, omdat je daar ook dan meer werkvreugde van krijgen.

508
00:43:27,720 --> 00:43:34,160
Fieke: Ik was benieuwd, een stukje schaarste die bij mij hier even afkomt.

509
00:43:34,319 --> 00:43:39,760
Niels: Welke schaarste bedrijven om creatief te zijn?

510
00:43:40,160 --> 00:43:42,480
Joop: Ja, computerschaarste.

511
00:43:43,919 --> 00:43:46,160
Niels: Gewoon geen computers meer.

512
00:43:46,479 --> 00:43:48,879
Fieke: Ja, of minder computer.

513
00:43:48,959 --> 00:43:49,839
Fieke: Ik denk.

514
00:43:49,919 --> 00:43:54,159
Fieke: Ik zou het wel interessant vinden als die AI-modellen gewoon wat duurder worden.

515
00:43:54,160 --> 00:43:55,839
Fieke: Kijken hoe mensen dan weer gaan werken.

516
00:43:55,839 --> 00:43:59,839
Fieke: Want misschien gaan ze meer op lokale gedraaide modellen werken op andere manieren.

517
00:43:59,839 --> 00:44:02,720
Fieke: Dus ik zou wel, ik denk dat eigenlijk.

518
00:44:02,959 --> 00:44:05,279
Joop: Maar voor lokale modellen heb je ook computer.

519
00:44:05,999 --> 00:44:07,519
Fieke: Dat heb je ook computing power nodig.

520
00:44:07,680 --> 00:44:11,760
Fieke: De vraag is hoe dat overeenkomt met andere als je jezelf rijdt.

521
00:44:12,080 --> 00:44:13,680
Joop: Met minder bedoel je dan eigenlijk.

522
00:44:14,080 --> 00:44:22,399
Fieke: Ik denk gewoon dat daar zijn door wetenschappers op innovatie leren echt boeken volgeschreven, maar innovatie komt niet uit overvloed.

523
00:44:22,399 --> 00:44:25,120
Fieke: Dat is gewoon uit schaarste.

524
00:44:25,680 --> 00:44:28,880
Fieke: En dat speelt op alle vlakken.

525
00:44:30,399 --> 00:44:32,559
Fieke: Misschien schaarste op computerkracht.

526
00:44:32,720 --> 00:44:35,039
Niels: Ik denk de vraag van schaarste.

527
00:44:35,039 --> 00:44:38,720
Niels: waar zou je schaarste willen creëren omdat het innoverend werkt.

528
00:44:38,720 --> 00:44:43,600
Niels: Maar dan moet je wel bewust een keuze maken waar willen we schaarste voor inzetten.

529
00:44:43,919 --> 00:44:47,599
Niels: En ik denk dat dat een perspectief is die misschien niet altijd worden genomen.

530
00:44:48,160 --> 00:44:55,120
Niels: Vinden we schaarse budget vinden we zijn allemaal verschillende aspecten waar je schaars op gaan zetten, maar meestal wordt het niet over nagedacht.

531
00:44:55,680 --> 00:45:00,879
Fieke: Nu is het vooral volgens mij schaarste op personeel bezuinig op personeel altijd.

532
00:45:00,879 --> 00:45:05,439
Niels: Dus efficiëntie weer nodig en dus meer computer nodig en meer van dat soort zaken.

533
00:45:06,080 --> 00:45:10,479
Niels: Ik was ook in de voorbereiding, hebben we natuurlijk uitgebreid oor onderzoek naar onze gasten.

534
00:45:10,720 --> 00:45:14,800
Niels: Had ik ook iets gelezen over een artikel over modder en batterijopwekken.

535
00:45:14,800 --> 00:45:16,959
Niels: Dat was ik toch wel ik toch een vraag: hoe zit dat?

536
00:45:16,959 --> 00:45:19,520
Niels: Is dat een nieuwe toekomst voor batterijen?

537
00:45:19,519 --> 00:45:21,359
Fieke: Zeker de nieuwe toekomst.

538
00:45:21,519 --> 00:45:24,079
Fieke: Ja, dat is een ander project wat we doen.

539
00:45:24,720 --> 00:45:28,800
Fieke: Onder de Paraplu het bouwen van een organisch datacentrum.

540
00:45:29,280 --> 00:45:41,680
Fieke: En dat komt eigenlijk neer zoals ik in dat eerste onderzoek wat ik beschreef, eigenlijk groei met schaarste verving en kijken hoe mensen anders over technologie en technologie governance gingen nadenken.

541
00:45:41,680 --> 00:45:48,959
Fieke: Zeiden we oké, wat als we dan de materialiteit veranderen van onze datacenters of computingkracht eigenlijk.

542
00:45:49,280 --> 00:45:51,439
Fieke: Gaan mensen dan op een andere manier over nadenken.

543
00:45:51,439 --> 00:45:58,159
Fieke: Dus toen was ons eerste experiment werken we samen met San Julie, dat is een kunstenares die elektrische tuinen maakt.

544
00:45:58,160 --> 00:46:04,879
Fieke: en die een elektrische tuin is eigenlijk dat in modder in Nederland zit een bacterie, die heet de Geobacter.

545
00:46:04,879 --> 00:46:10,399
Fieke: En die geobacter die eet organisch materiaal en vervuiling en die trekt elektronen uit.

546
00:46:10,399 --> 00:46:15,600
Fieke: En daar kan je dus een kleine batterij van maken door met schuursponsjes en modder te werken en water.

547
00:46:15,919 --> 00:46:24,559
Fieke: En wij hebben dus nu op de kader bij de UvA hebben we een elektrische tuin staan met twintig plantenbotten en elke plantenbot levert ongeveer 0,7 volt op.

548
00:46:24,560 --> 00:46:25,919
Fieke: Die kan je aan elkaar schakelen.

549
00:46:25,919 --> 00:46:33,200
Fieke: Dus weinig energie, maar het produceert wel het hele jaar door energie en daar hoeven we geen dinosaurusap voor op te plannen.

550
00:46:33,680 --> 00:46:36,720
Fieke: En wij hadden het idee van één, we had twee vragen.

551
00:46:36,720 --> 00:46:40,719
Fieke: Eén is: kunnen we iets van het internet aanzetten op een elektrische tuin.

552
00:46:40,720 --> 00:46:46,079
Fieke: En twee, als we dit in workshops doen, gaan mensen dan anders nadenken over technologie.

553
00:46:46,319 --> 00:46:47,680
Fieke: En over gebruik.

554
00:46:47,680 --> 00:46:53,199
Fieke: En dus samen met Sanjo hadden we toen vier, vier workshops gedaan.

555
00:46:53,200 --> 00:46:55,280
Fieke: En de eerste workshop was nog redelijk theoretisch.

556
00:46:55,280 --> 00:46:59,599
Fieke: Want we had ze gewoon uitgelegd wat die elektrische tuin was, wat die modderbatterijen waren.

557
00:46:59,600 --> 00:47:04,639
Fieke: En toen gingen we die schuursponsjes knippen die dan de anode en kathoden worden van de batterij.

558
00:47:04,640 --> 00:47:08,240
Fieke: En toen hadden dus een discussie met de mensen die daar meededen.

559
00:47:08,240 --> 00:47:15,520
Joop: Een klein groepje van 15 mensen en iedereen was, hoeveel modder hebben we nodig om een datacentrum aan te zetten.

560
00:47:15,760 --> 00:47:18,800
Fieke: Dat was waar we eindigden bij workshop heet.

561
00:47:20,479 --> 00:47:24,559
Fieke: Daarna gingen we dus in de grachten van Amsterdam, gingen we modder scheppen.

562
00:47:24,560 --> 00:47:29,280
Fieke: En toen gingen we dus die modderbatterijen maken.

563
00:47:29,280 --> 00:47:31,200
Fieke: En daarna gingen we ze elke dag meten.

564
00:47:31,200 --> 00:47:34,399
Fieke: En dan kom je er ook achter dat een levend organisme is.

565
00:47:34,399 --> 00:47:38,399
Fieke: Dus je moet ook onderhouden, je moet het watergeven, je moet ze af en toe een beetje schudden.

566
00:47:38,399 --> 00:47:44,079
Fieke: Die schuursponsjes worden vies, dan moet je ze schoonmaken, anders werkt het elektrisch circuitje niet meer.

567
00:47:44,079 --> 00:47:47,919
Fieke: En we gingen ook bedenken, oké, maar het is echt heel weinig elektriciteit.

568
00:47:47,919 --> 00:47:49,359
Fieke: Wat kunnen daar dan op draaien?

569
00:47:49,359 --> 00:47:54,319
Fieke: Dus je wordt ook verplicht om echt in schaars te gaan denken als we dus heel weinig elektriciteit hebben.

570
00:47:54,879 --> 00:47:56,399
Fieke: Wat kunnen we dan doen?

571
00:47:56,399 --> 00:48:00,879
Fieke: En de grap was dat het dus ook heel innovatief werkte, dat mensen gewoon dachten.

572
00:48:00,879 --> 00:48:06,079
Fieke: Mens gingen de vraag stellen van: maar als ze dan zo weinig elektriciteit opwekken, waar gaan we dat aan besteden?

573
00:48:06,079 --> 00:48:08,399
Fieke: Gaan we dat dan aan de advertentiemarkt besteden?

574
00:48:08,399 --> 00:48:18,200
Fieke: Of gaan we dat dan besteden aan, kunnen we niet de geobacter monitoren hoe goed het met hem gaat, of die nog wel gelukkig is, of omdat hij nu voor ons het werk gaat.
581
00:48:20,600 --> 00:48:35,720
Fieke: Dus het wel echt natuurlijke vragen die opkomen, waar ik al heel lang over nadacht, over van waar gebruiken we eigenlijk dan die rekenkracht voor en willen we dat dan nog wel doen, zeker als we dus niet vanuit een energiecentrale krijgen die we niet zien, maar vanuit kleine energiecentrale die we dagelijks moeten onderhouden.

575
00:48:35,720 --> 00:48:37,720
Fieke: Dus we kregen opeens een relatie ermee.

576
00:48:37,720 --> 00:48:46,999
Fieke: En het andere was dat, ook omdat we ze als we ze moesten schudden en we gingen elke dag meten en zo, werden het voor heel veel mensen geen elektriciteitscentrale meer, maar werd het gewoon ook een onderdeel van.

577
00:48:49,160 --> 00:48:50,519
Fieke: Het werd veel persoonlijker.

578
00:48:50,519 --> 00:48:54,919
Niels: Maar doordat het dus persoonlijker werd, gingen we er bewuster over nadenken wat we ermee zouden willen.

579
00:48:54,919 --> 00:49:02,999
Fieke: Ja, want infrastructuur, of het nou internetinfrastructuur is, of het nou datacenters zijn of elektriciteit infrastructuur, is zo ver van ons weg dat we er niet over nadenken.

580
00:49:02,999 --> 00:49:08,040
Fieke: We verwachten gewoon als we een stekker in het stopcontact drukken, dat het aanwezig is dat het werkt.

581
00:49:08,039 --> 00:49:09,640
Fieke: We verwachten dat het internet altijd werkt.

582
00:49:09,640 --> 00:49:14,279
Fieke: We denken helemaal niet over na over wat de uitruil eigenlijk is.

583
00:49:14,280 --> 00:49:20,999
Fieke: En door met die modder te werken, met die modderbatterijen, werd voor mensen heel erg duidelijk van oh, maar elektriciteit is niet een gegeven.

584
00:49:20,999 --> 00:49:22,760
Fieke: We moeten er echt beter over nadenken.

585
00:49:22,760 --> 00:49:26,200
Fieke: En als we over schaarste gaan nadenken, wat betekent dat dan?

586
00:49:27,720 --> 00:49:32,039
Fieke: Een van mijn studenten, die levert vandaag de scriptie hierover in.

587
00:49:32,039 --> 00:49:33,720
Fieke: Dus die heeft alle mensen geïnterviewd.

588
00:49:33,879 --> 00:49:36,439
Fieke: En die had ook een heel interessante gegeven.

589
00:49:36,600 --> 00:49:38,280
Fieke: Die had alle mensen van die workshop geïnterviewd.

590
00:49:38,280 --> 00:49:41,879
Fieke: En we hebben ook nog een andere workshop gedaan, daar kan ik straks ook nog wat over vertellen.

591
00:49:41,879 --> 00:49:43,640
Fieke: En die zei.

592
00:49:43,800 --> 00:49:49,640
Fieke: Het grappige is dat we dus als het dus persoonlijker wordt, zien we het niet meer als infrastructuur.

593
00:49:49,640 --> 00:49:54,919
Fieke: Want wij denken dat infrastructuur alleen maar de kapitalistische hyperscalers zijn, of de energiecentrales.

594
00:49:54,919 --> 00:49:57,960
Fieke: Dus we kunnen gewoon niet uit die frame wegdenken.

595
00:49:57,959 --> 00:50:02,039
Fieke: Dat we ook op een andere manier computing kunnen doen.

596
00:50:02,280 --> 00:50:06,199
Fieke: En dat is ook interessant, want ik heb ook wel op andere plekken die modder gepresenteerd.

597
00:50:06,200 --> 00:50:09,959
Fieke: En de eerste vraag die ik altijd publiek krijg: maar wat is dan product?

598
00:50:09,959 --> 00:50:10,999
Joop: Wat kunnen we hiervan maken?

599
00:50:10,999 --> 00:50:12,519
Joop: Wat kunnen we hiermee doen.

600
00:50:12,839 --> 00:50:15,160
Fieke: En daar heb ik al een tijdje mee geworsteld.

601
00:50:15,160 --> 00:50:16,439
Fieke: En toen dacht ik op een gegeven moment.

602
00:50:16,680 --> 00:50:21,719
Fieke: Maar we hebben ook 70 jaar geïnvesteerd in silicone chips om te komen waar we nu zijn.

603
00:50:21,720 --> 00:50:25,640
Joop: En nu verwacht je van modder, dat het binnen één dag hetzelfde doet.

604
00:50:25,640 --> 00:50:33,559
Fieke: Als die triljarden die we hebben als staat en als markt hebben geïnvesteerd in een bepaalde vorm van rekenkracht.

605
00:50:33,560 --> 00:50:41,959
Fieke: Terwijl vroeger, 70 jaar geleden, waren er een aantal verschillende ideeën over hoe we computing eruit zou kunnen zien.

606
00:50:41,959 --> 00:50:43,800
Fieke: En één was ook biologisch computing.

607
00:50:43,800 --> 00:50:45,319
Fieke: Dus er waren verschillende ideeën.

608
00:50:45,399 --> 00:50:47,640
Fieke: Nu hebben we nog maar één idee van hoe dat kan.

609
00:50:47,640 --> 00:50:50,359
Fieke: En ik denk, misschien is modder niet de oplossing.

610
00:50:50,439 --> 00:50:56,439
Fieke: Maar ik denk dat het wel echt nodig is dat we echt ook gaan nadenken en gaan investeren in alternatieve vormen van computers.

611
00:50:56,439 --> 00:51:03,160
Fieke: Dus je hebt ook al kleine proefballetjes die bezig zijn met kunnen we niet data opslaan in planten DNA bijvoorbeeld.

612
00:51:03,160 --> 00:51:10,359
Fieke: En dat je dus een veel meer organisch en symbiotisch proces hebben dan alleen een heel extractief proces, wat het nu eigenlijk is.

613
00:51:10,359 --> 00:51:13,720
Joop: En daar moet je ook weer gaan kijken van wat zijn er eigenlijk bijeffecten.

614
00:51:13,720 --> 00:51:14,519
Fieke: Ja, precies.

615
00:51:14,519 --> 00:51:15,640
Fieke: Ja, zeker.

616
00:51:17,319 --> 00:51:19,400
Joop: Wat zou je de luisteraar?

617
00:51:19,720 --> 00:51:21,479
Joop: Die stopt zo direct met luisteren.

618
00:51:21,479 --> 00:51:26,599
Joop: Wat zou je die mee willen geven of aan inspiratie of iets doen?

619
00:51:26,600 --> 00:51:32,760
Joop: Elke stap naar nu nemen nadat ze dit allemaal geluisterd hebben.

620
00:51:34,039 --> 00:51:40,040
Fieke: Verschillende dingen, sowieso gaan we open source producten gebruiken, maak je computer een keer open.

621
00:51:40,039 --> 00:51:42,039
Fieke: Gaan naar je lokale hackerclub.

622
00:51:42,039 --> 00:51:45,079
Fieke: Want dit is wel allemaal dingen die je niet alleen kan doen.

623
00:51:45,319 --> 00:51:46,599
Fieke: Dat kan je normaal ook niet.

624
00:51:46,600 --> 00:51:51,160
Fieke: Dan vraag je het aan ChatGPT misschien, maar nu kan je het misschien ook aan een andere groep doen.

625
00:51:51,160 --> 00:51:54,359
Fieke: En ik denk dat het communitygevoel heel erg mist.

626
00:51:54,600 --> 00:51:56,599
Fieke: Dus dat zou ik mensen aanraden.

627
00:51:56,600 --> 00:52:06,519
Fieke: En ja, ook gewoon wat kritischer nadenken als iedereen weer zegt het AI first idea, is het eigenlijk wel de trein waar we allemaal op willen springen.

628
00:52:06,760 --> 00:52:07,640
Joop: Hartstikke mooi.

629
00:52:07,959 --> 00:52:12,439
Joop: Voor ons weer, je hebben heel mooi inzicht gegeven, eigenlijk van wat zit achter de stekkersdoos.

630
00:52:12,680 --> 00:52:14,359
Joop: Wat zit eigenlijk achter de AI-doos?

631
00:52:14,359 --> 00:52:15,879
Joop: Misschien moeten we het zo.

632
00:52:15,879 --> 00:52:20,519
Joop: Want daar verwachten we ook zo direct van het werkt, elektriciteit.

633
00:52:20,839 --> 00:52:24,520
Joop: Dank voor de komst naar de studio en dank voor je inzichten.

634
00:52:24,839 --> 00:52:26,200
Fieke: Graag gedaan.

635
00:52:27,319 --> 00:52:33,159
Joop: Leuk dat je weer luisterden, vergeet je niet te abonneren via je favoriete podcast app, dan mis je geen aflevering.

636
00:52:33,160 --> 00:52:36,440
Joop: Tot de volgende keer.