Ctrl Alt Debate: Brenno de Winter: Over de schutting gooien is een manier van besparen

Brenno de Winter is de eerste gast die voor een tweede keer aanschuift bij Ctrl Alt Debate. In deze aflevering duiken Astrid en Harm samen met hem dieper in de rol van gemeenten binnen cybersecurity. Hoe gaan zij om met digitale dreigingen en de veiligheid van hun inwoners?

Aanleiding is onder andere de recente cyberaanval op de gemeente Epe  een aanval die allesbehalve extreem geavanceerd was. Wat zegt dat over de huidige staat van cyberweerbaarheid binnen gemeenten?

Brenno benadrukt dat we in Nederland vaak weinig drempels hebben, maar dat dit er ook voor zorgt dat bij incidenten grote hoeveelheden data buitgemaakt kunnen worden zoals we eerder zagen bij Odido. Bovendien komt actie vaak pas wanneer de impact al (te) groot is.

Open communicatie is volgens hem cruciaal. Door transparant te zijn over incidenten help je anderen om zich beter te beschermen. Hij trekt hierbij een krachtige vergelijking met de luchtvaart: fouten en incidenten worden gedeeld zodat anderen ervan kunnen leren. Het gaat niet meer om reputatie, maar om het voorkomen van toekomstige slachtoffers.

Daarnaast stelt Brenno dat cybersecurity geen kostenpost hoeft te zijn. Trainingen zorgen er niet alleen voor dat systemen veiliger worden, maar ook dat medewerkers efficiënter werken. Goed gebruik van tools is daarbij essentieel.

Tot slot gaat het gesprek in op de rol van de politiek. Wordt cybersecurity niet te vaak “over de schutting gegooid” naar gemeenten, zonder voldoende middelen? En in hoeverre ligt de verantwoordelijkheid bij bestuurders om écht preventief te handelen?

Shownotes:

ctrl-alt-debate@eset.nl 
Trapezium 302 
3364 DL Sliedrecht 
Tel: 0184 647 720

https://www.eset.com/nl/?utm_source=spotify&utm_medium=podcast&utm_campaign=ctrlaltdebate&utm_content=afl7

Transcript

SPEAKER_04 0:00

En elke keer als ze het in Den Haag niet snappen of te ingewikkeld vinden, dan zoeken ze de schutting op en dan gooien ze naar de gemeente toe. Dat kan, maar dat betekent dat die lood naar zo'n gemeente enorm hoog is en daar hoort ook budget bij. En dat vinden we niet vanzelfsprekend, want vaak is het over de schutting gooien en dan heel hard weglopen is ook een trucje om te zorgen dat er geld wordt bespaard. En dat is nu ook natuurlijk wel nadrukkelijk de route die op dit moment speelt in het huidige kabinet, dat maakt het wel lastig.

SPEAKER_02 0:37

Stel je voor, je gemeente wordt gehackt en ineens blijken honderdduizenden bestanden met persoonsgegevens op straat te liggen. Geen geavanceerde aanval, maar iets simpels wat al jaren niet op orde was. Welkom bij Control als Debate, de podcast waarin we duiken in de wetten, de lobby's en de keuzes die bepalen hoe technologie onze samenleving vormt. Ik ben Harm Teunus en samen met Astrid Ozenbrug kijk ik naar de politieke, technologische en maatschappelijke kant van onze digitale toekomst. Want dat doen we samen.

SPEAKER_01 1:05

Jazeker. En vandaag doen we dat vanuit een reflectie. We nemen deze aflevering ook op de dag van de gemeenteraadsverkiezingen. En dat doen we natuurlijk niet om te gaan zeggen wie je moet stemmen, zou ik daar zijn, want dat heb je als het goed is dus al gedaan. Maar wel juist omdat lokaal voelbaar wordt hoe politieke keuzes eigenlijk doorwerken in onze digitale veiligheid, publieke waarde. En ook de manier waarop gemeenten uiteindelijk hun verantwoordelijkheid nemen.

SPEAKER_02 1:34

Ja, want gemeenten zijn natuurlijk al lang digitale organisaties. Dat is niks nieuws. Maar de vraag is natuurlijk, worden ze ook zo bestuurd als een digitale organisatie.

SPEAKER_01 1:43

Nou, ik denk ook na de laatste podcast met Elisabeth, dat we daar zien dat daar echt wel een behoorlijke spanning zit. Dus de technologie is er, de afhankelijkheid is er ook zeker. Maar de basis van die informatiebeveiliging, die blijkt in de praktijk nog vaak heel erg kwetsbaar. En vaak is het zelden eigenlijk een technisch probleem.

SPEAKER_02 2:04

Ja, precies. En dat is nou precies de reden dat we vandaag Brno de Winter als gast hebben. Mogen we als vriend van de show noemen? Ja, de eerste die voor de Tweede Kering is. Hoe is dat zo? Ja, dat is best wel een linker. Want als iemand kijkt naar waar het structureel misgaat, dan is Brno het wel. Ja, daar doe ik veel onderzoek naar.

SPEAKER_00 2:21

U kent Breno de Winter van zijn onderzoek journalistiek en zijn scherpe blik op cybersecurity. Hij bracht kwetsbaarheden aan het licht in systemen die veilig leken, maar dat niet altijd waren. Wat Brno bijzonder maakt is dat hij niet alleen naar techniek kijkt, hij kijkt juist ook naar de wereld daarachter: organisaties, verantwoordelijkheden en patronen die zich blijven herhalen. Daarnaast zet hij zich in voor open en transparante beveiligingsoplossingen, zoals open kat en jou. Initiatieven die helpen om kwetsbaarheden zichtbaar te maken en digitale weerbaarheid te versterken. Ook binnen de overheid. En daarom schuift hij vandaag aan bij Control Alt die B.

SPEAKER_02 3:02

Ja, Brenno, super fijn dat je er bent. Zoals gezegd, we nemen deze aflevering op op de dag van de gemeenteraadsverkiezingen. Je had al gestemd. Je hebt al gestemd? Heel goed. Ik mag het vanavond nog doen. Ik vind dat heel erg bij ons in de omgeving in een restaurant ergens achteraf, tussen allerlei akkers en boerderijen. Ik vind het echt altijd een heel leuk moment.

SPEAKER_04 3:21

Ja, bij mij was bij de supermarkt, en daarna zit een bejaardenhuis. En daar was het. Wat heel lief was, zat ook een dame die zat kaarten te verkopen, die ze dus had gemaakt. Die kaarten voor 2 euro. Dus ja, te lief. Superleuk.

SPEAKER_01 3:37

Dus je had gelijk een goede dag. Tenminste, ik ga ervan uit dat de opkomst gewoon lekker hoog wordt.

SPEAKER_04 3:43

Nou ja, in gemeente Noordwijk is dat doorgaans wel zo. In Doornwijk en Houtwijk woon, is dat wel echt gemeenschap.

SPEAKER_02 3:51

Mooi. Nou goed, als het percentage maar hoger ligt dan de vorige, dan hebben we wel iets van winst, lijkt mij. Maar de vraag die we vandaag stellen, is gaat eigenlijk over wat zeggen deze verkiezingen nou over hoe gemeenten omgaan met digitale veiligheid?

SPEAKER_01 4:08

Ja, nou ja zeker. Omdat gemeenten beheren natuurlijk niet alleen het beleid, daar hebben we het al een paar keer uitgebreid over gehad, maar dus ook de data, de systemen en de infrastructuur. Ook gemeenten zijn gewoon onderdeel van een keten. Ook zij zijn afhankelijk van leveranciers. Maar daarnaast ook gewoon verantwoordelijk voor de veiligheid van bewoners. En wat we steeds weer opnieuw zien is dat de basis niet altijd op orde is. Niet alleen in het verleden hebben we het straks nog wel over denken, over van Twente. Maar heel recent nu gemeente Epen, waar zo'n 600.000 bestanden zijn buitgemaakt. En daar zitten ook persoonsgegevens in, en name adressen. En ik denk wat het meest interessante daar is dat dit geen extreem geavanceerde aanval was, maar het begon met iets relatief bazaals. Phishing.

SPEAKER_02 5:07

Ja, het roept wel wat vragen op. Phishing, klikfix, en dat is meteen weer wat technischer. Maar uiteindelijk is het gewoon phishing. Dus ze hebben mensen verleid om iets te laten doen wat ze eigenlijk niet zouden moeten willen doen. Een odidootje. Ze kunnen het vanaf nu wel gaan noemen, denk ik. Renno, als je dit soort incidenten dan ziet, nu, dus in het geval van de gemeente Epe op de Veluwe. Wat zegt dat dan? Is het nou pech of is het gewoon hoe het systeem, in algemene zin gewoon werkt? Het is allebei.

SPEAKER_04 5:35

Kijk, dat het dus de gemeente Epe overkomt, dat is pech. Dat ook een andere gemeente goed kunnen zijn. Het is ook wel, als je eenmaal binnen bent, dat je vrij makkelijk dan bij de jackpot komt. Omdat we zijn allemaal lui, we willen niet te veel hindernissen hebben om ergens bij te komen. En het gevolg is dus dat als iemand als jou inlogt, je dus dan ook makkelijk bij grote hoeveelheden gegevens kunt komen. Wat heb je nou eenmaal autorisatie voor? En dan ontbreekt het toch vaak een goede monitoring, om te zien dat als er iets raars gebeurt, en dat zag je ook bij Odido. En dan komt men niet in actie op het moment dat het nog relevant is. En dat lijkt het hier ook te zijn. Dat weten we natuurlijk allemaal nog niet. Want er moet nog veel naar buiten komen. Wat overigens de gemeente wel ziert en ook nu wel opvalt, is dat zij hier gewoon fatsoenlijk en wat opener over communiceren dan bijvoorbeeld bij Odido het geval was. En ik denk dat dat wel ook helpt om bij andere gemeenten het inzicht te krijgen van hey, dit moeten we met elkaar niet willen. Maar dat gemeentes een flink mee moeten bijtrekken. Dat is ontegenzelijk.

SPEAKER_02 6:44

Maar Neverways the Good Crisis doet het dan een beetje voort. Want Odido, daar kunnen we in algemene zin van zeggen dat de kritiek daar heel duidelijk ook is over de manier waarop gecommuniceerd wordt. Je maakt net al een beetje het compliment naar de gemeente Epe dat zij dat al wat beter hebben. Maar ook moeten we eigenlijk toch nog kijken naar dit incident om te kijken welke lessen we daar kunnen trekken, toch?

SPEAKER_04 7:04

Ja, ik ben ook groot voorstander. En Astrid en ik zitten samen in het bestuur van de stichting LibreCat. Wij hebben de cyberonderzoeksraad en wij willen ook incidenten juist gaan onderzoeken om de lessen eruit te trekken. In de luchtvaart vinden we het heel normaal dat we gewoon weten waarom iets is misgegaan, zodat de herhaling wordt voorkomen. En het lijkt wel een beetje alsof het in de IT-industrie een beetje de hobby is. Laten we nou zorgen dat iedereen een keer een flink datalek heeft gehad, want dan leren ze het wel. Want van elkaar leren dat vinden mij een heel stom idee. Ja, dat helpt niet. Dus juist hier open over zijn en over je schaamte heen stappen en snappen dat jij bent, het is jou nu overkomen, jij bent nu niet meer het grote belang. Het grote belang is nu de samenleving en het veilige houden van de hele gemeenschap.

SPEAKER_02 7:54

Maar kun je dat een in dit geval een gemeente. Kun je ze dat aan het verstand brengen?

SPEAKER_04 8:01

Nou, ik denk dat Epen nu juist ook wel het voorbeeld geeft dat ze al een aantal dingen aangeven waaruit blijkt van hey, dit is er misgegaan. En dat phishing werkt op deze manier en zo succesvol is, daar kun je al een paar dingen uit afleiden. Een van de spannende vragen meteen is: is er voldoende gedaan een opleiding? Ik vraag wel eens bij lez: wie spendeert er meer tijd om te leren over zijn computer of traint er voor voetbal, dan blijkt voetbal het met stip te winnen. Maar het rare van voetbal is de regels blijven hetzelfde. De technieken zijn hetzelfde, eigenlijk is alles een beetje bekend. En het enige waar je dus aan werkt, is mussel memory. Zorgen dat je gewoon steeds vaardiger bent. En in de digitale wereld doen we dat gewoon niet. En dit is echt een heel groot probleem. En dit speelt zeker in Nederland continu. Ik krijg wel eens mensen op training. En dan zeggen ze, ja, ik heb al drie jaar geen training gehad. Als je beseft dat ongeveer de hoofwaardetijd van kennis zo'n 18 maanden is. Je hebt drie jaar geen training gehad. Dan is dus van het punt waar je stond, nog 25% over. Ja dan is die drie dagen training, eigenlijk het afremmen van de aftakeling.

SPEAKER_02 9:15

Dat is niet meer zorgen dat je nog groeit. Maar wat jou betreft, is dat dus een basismaatregel. Dus dit trainen en dit blijven trainen. Maar waarom blijft dat dan achter?

SPEAKER_04 9:24

Omdat we het gewoon niet doen. We willen het niet, we vinden het te doen, we vinden het gedoe. Wat eigenlijk heel onlogisch is, want als je ook nadenkt over wat Leeok op zo'n training is, is gewoon je tools goed gebruiken. Dat leidt tot efficiëntie. En efficiëntie leidt gewoon tot besparingen. Dus het trainen, juist ook nu de economie wat ingewikkelder wordt, door alles wat er nu in geopolitiek speelt, zou je juist de focus moeten halen hoe haal ik nou het maximale uit mijn omgevingen die ik heb. En wat de adviezen voor Epen zelf gaan worden eromheen, dat moet allemaal nog wel gaan merken. Maar een van de dingen is, ze zijn niet de enige. En dat gebeurt dus veel organisaties. Dus op een gegeven moment zet stappen om die kansen te verminderen. En dat betekent dus ook dat je moet oefenen. En ik ben het altijd wel heel erg met Fleur van Leusden eens. Die zegt van ja, dat betekent dus niet een keer een test doen en zeggen haha, je hebt het fout gedaan. Nee, dat betekent echt trainen. Ja, Fleur is de SISO van de kiesraad inderdaad. En die heeft daar terecht kritiek op, denk ik. Maar je moet wel mensen dan gaan trainen. En hoe onderken ik het? Hoe lopen dit soort gesprekken? Hoe zien ze dit soort berichten eruit? Wat zijn acties die ik nooit zou mogen doen? En als mensen het massaal fout doen, dan moet je echt vragen, zijn ze goed genoeg geïnstrueerd? En daar bedoel ik mee getraind. Want ergens een keer op een briefje schrijven dat iets niet mag. Ja, dat is instrueren. Ja, dat is instrueren, dat gaat hem niet worden. Dat is niet voldoende.

SPEAKER_02 10:58

Dus je zult continu moeten blijven trainen. Als jij dat dan, als we, we weten natuurlijk nog niet echt superveel over wat er bij Epen aan de hand is. Maar dat klinkt, voor mij klinkt als ook als een combinatie van techniek en organisatie.

SPEAKER_04 11:12

Maar het is altijd alle drie. Regulering, organisatie. Ik zeg altijd, security is rot. Regulering, organisatie en techniek. En de een kan niet zonder de ander bestaan.

SPEAKER_01 11:21

Nee, en ik heb hetzelfde idee dat organisaties, gemeens en noem maar op iedereen die eigenlijk dit zou moeten weten, het wel vaak wel weet ergens intrinsiek wat er moet gebeuren. Alleen het lukt ze nog niet echt om het goed te organiseren.

SPEAKER_02 11:37

Nee, maar dat is een gebrek aan Muskelbemory. Want kijk, bij een gemeentewerk. Sorry, bij een gemeente werken natuurlijk ook allerlei knappe koppen, die heus wel weten wat cyberbeveiliging is, hoe ze dat op orde moeten krijgen, hebben zij dan niet ziet voldoende een oor bovenin de organisatie van een gemeente.

SPEAKER_04 11:56

Dat wisselt, dat hangt van de gemeentesecretaris heel vaak af. Maar wat wel opvalt, is dat budgetten beperkt zijn, dat mankracht beperkt is. En ik denk dat de gemeente een apart soort bedrijf is. Van alle overheden komt bij de gemeente wel het meeste aan wetgeving samen, het meeste aan systemen samen. En elke keer als ze het in Den Haag niet snappen of te ingewikkeld vinden, dan zoeken ze de schutting op en gooien ze naar de gemeente toe. Dat kan, maar dat betekent dat die lood naar zo'n gemeente enorm hoog is en daar hoort ook budget bij. En dat vinden we niet vanzelfsprekend. Want vaak is het over de schutting gooien en dan heel hard weglopen is ook een trucje om te zorgen dat er geld wordt bespaard. En dat is nu ook natuurlijk wel nadrukkelijk de route die op dit moment speelt in het huidige kabinet, dat maakt het wel lastig. Je zult gewoon geld moeten uitgeven om je informatieveiligheid op orde te hebben. En er is in de luchtvaart een heel simpel gezegd: if you think safety is too expensive, try an accident.

SPEAKER_01 13:07

Want ja, eigenlijk als je dit allemaal hoort, over waar gemeentes verantwoordelijk voor zijn en wat de overheid eigenlijk nalaat, de grote overheid. Ja, dan is het eigenlijk wel heel logisch dat mensen zich af beginnen te vragen. wat betekent dit voor mij?

SPEAKER_02 13:22

Ja, en dat is mooi, want jij bent nu een bruggetje aan het bouwen. Ik ga gewoon over de bruggetje heen lopen. Wat brenkt ons nou bij de vraag die heel goed aansluit bij de vraag die wij dus van jongeren krijgen in onze rubriek de Hec Shield vraag.

SPEAKER_01 13:34

Ja, want jongeren, iedereen die trouw luisteraar is, weet het inmiddels dat jongeren uit de Hec Shield community, die denken altijd heel graag met ons mee. En wij verzamelen al die vragen en onder andere deze vraag. Als de gemeente wordt gehackt, kunnen Boeven dan mijn naam en adres zien? En wat kan de gemeente doen zodat dat niet gebeurt?

SPEAKER_04 13:56

Nou, Breno? Het directe antwoord is, en dat hebben we natuurlijk bij Odido ook gezien: ja, Boeven krijgen de toegang toe. en Boeven plaatsen dat soms op internet. En daar kunnen ook echt gevolgen aan zijn. Mensen die bereigd worden, staan opeens met hun adres of met aanvullende informatie op internet. Dat is gewoon heel vervelend. Wat kan een gemeente doen? Ja, eigenlijk is dat heel serieus kijken naar security. zorgen dat ze er is een standaard voor, de baseline informatiebeveiliging overheid. Daar wil je gewoon volledig aan voldoen. De bestuurder moet echt gaan vragen van hé, dus de burgemeester, de wethouder, die moet gaan vragen van. hé, hoe sta ik met beveiliging? Maar ook die nieuw gekozen gemeenteraad, die moet nu ook aan de slag. Die moet ook elke keer dat bestuur gaan bevragen. Want het is in de politiek heel simpel. Als je een vraag niet stelt in de politiek, is er geen aandacht voor. Is er elke week een vraag over hoe zit het met de informatiebeveiliging? Waar staan we met de bio? Wat heb je nu wel gedaan, wat heb je nu niet gedaan, dan is er ook de politieke druk om wat te veranderen. Dus het is niet alleen nu de raadsleden die nu boos moeten zijn dat het is misgegaan, bijvoorbeeld in Epen. Die raadsleden moeten ook naar zichzelf kijken en zeggen. heb ik de laatste jaren continu dat bestuur hierop bevraagd. Want als jij ongeïnteresseerd bent in beveiliging als raad, dan is het ook voor het bestuur niets te winnen, alleen maar te verliezen.

SPEAKER_01 15:32

Nou, ik denk dat de korte antwoord dan op deze vraag is dat eigenlijk weten we vaak wel wat nodig is. Maar het organiseren en het prioriteit geven, dus zorgen dat het bovenaan de lijst komt te staan, daar haak het op.

SPEAKER_04 15:48

Doe het dan.

SPEAKER_01 15:49

Ja, precies doe het dan. Dat is gewoon het.

SPEAKER_04 15:51

Gewoon doen.

SPEAKER_01 15:54

En dat stelt misschien niet direct gerust voor een jongere die denkt van ja, wat gebeurt er nou eigenlijk met mijn naam en adresgevers? Want we hadden het er vorige keer over dat bijvoorbeeld ook beelden van jongeren online worden gezet door slimme, nou ja, zo slim zijn ze niet, maar de deurbellen en camera's. Als ze aan het belletje trekken zijn, omdat iemand zich daaraan irriteert. Maar goed, als dan ook vervolgens die gegevens nog eens online komen van zijn jongeren, ja, dan kun je wel heel erg dingen bij elkaar gaan zetten. En eigenlijk willen we niemand heel angstig maken, maar juist kijken waar kun je nou wel sturen. Dus als ik goed naar jou luister, dan zeg je eigenlijk van die raadsleden gewoon aan de slag, die moeten blijven drukken. Zodat ook die geeves van de jonge mensen, jongeren gewoon beter beschermd worden en niet op straat komen te liggen.

SPEAKER_04 16:39

En dus niet procedureel verontwaardigd zijn op het moment dat het een keer misgaat. En dat is trouwens ook het moment om naast het bestuur te gaan staan en zeggen. Kom op jongens, hoe gaan we dit volgende keer beter doen. Dus ik hoop ook dat. Ik heb ook wel eens gezien bij incidenten dat met gestrektbeen dan op de burgemeester wordt gespeeld. Hier heb je beide een taak in. En net zoals er in de luchtvaart gewoon je met z'n allen voor de veiligheid verantwoordelijk bent, ben je dat dus ook gewoon in een gemeente. En de gegevens die je verwerkt zijn nu eenmaal heel kwetsbaar.

SPEAKER_02 17:14

Maar los van die verantwoordelijkheidvraag. Als je dan toch gaat kijken, laten we dan even als voorbeeld gebruiken als symptoom voor iets wat vaker gebeurt. Is het techniek, is het geld, of is het een bestuurlijk gebrek aanscherpt.

SPEAKER_01 17:33

Ja, alle drie.

SPEAKER_04 17:38

Kijk, zonder fatsoenlijk budget kun je gewoon niet heel veel. Daar ga ik zo meteen ook nog even iets over zeggen, want het levert ook iets op. Zonder bestuurlijke aandacht gebeurt er gewoon niks. Want ja, dan moeten er andere dingen gebeuren die spannender zijn. Dus je hebt gewoon alle elementen nodig. En nu over dat budget, als je meer spendeert aan het gewoon goed op orde krijgen van je structuur. Want een van de grootste dingen in de beveiliging die misgaat, is dat mensen nog steeds niet weten wie is nu voor welk onderdeel van welk systeem verantwoordelijk. En dat is gewoon een hele standaard tabel maken. Hoe kan dat? Dit is overigens niet overheidsspecifiek. Ook in het bedrijfsleven, ik doe best wel veel met het helpen certificeren van organisaties. Ja, dan is het gewoon soms niet duidelijk van wie een bepaald systeem is. Wat betekent dat dat certificeren? Ja, dan kijk je dus, houdt een bedrijf zich aan de regels, hebben ze de basics eigenlijk op orde. Dat kan technisch zijn, maar ook vooral bestuurlijk heb je gewoon binnen je organisatie goed vastgelegd hoe procedures werken, wie waarvoor verantwoordelijk is, welke risico's je ziet, hoe je met die risico's omgaat, wat je plannen zijn als het verkeerd gaat. Als je een grotere verstoring krijgt, al dat soort dingen bij elkaar. Die zorgen dus dat je een soort compleet beveiligingssysteem hebt. Dat noem je dan een information security management systeem. Er staat al die informatie zeg maar in. En bij een certificering wordt dan getoetst van heen, klopt dat ook allemaal? En dat is het. En zien we ook in de praktijk een beetje overeenkomen met wat er op papier staat, en ook dat laatste, daar willen ook nog wel eens heel wat licht tussen zitten. Dat moet je gewoon niet willen. Maar dat betekent ook weer gewoon doen. En wat levert het op? Los van dat je dan een stuk beter je security op de rit hebt, zorgt het ook dat je je IT beter in de hand hebt. En je zorgt ervoor dat als de structuren binnen een organisatie helderder zijn, blijkt gewoon uit wetenschappelijk onderzoek dat ook bijvoorbeeld het verloop van personeel gaat afnemen, toxische omgevingen minder toxisch worden. Dus allerlei dingen die worden getriggerd door onzekerheden, die neem je dus weg. Dus eigenlijk is security ook wel dat hulpmiddel dat zorgt dat je hele bedrijf wat beter geolied werkt. En heel vaak wordt gezegd, security staat in de weg. In de kern is het hoofddoel van informatiebeveiliging of informatieveiligheid, het behalen van je bedrijfsdoelen. Dus een risico is een risico voor het behalen van je bedrijfsdoelen. Dus eigenlijk zou je als bestuur alleen maar blij moeten zijn dat dat gebeurt.

SPEAKER_01 20:24

Nou, ik zit daar wel een beetje naar te kijken. Want het maakt sowieso uit in welke gemeente je woont, hoe goed de boel op orde is, of je een gemeente hebt die juist heel erg bezig is met open source, met outsourcen, met noem maar op, of dat je juist in een gemeente zit. Ja, die niks zelf kan en alles uitbesteedt, maar dus ook heel veel uit handen geeft. En dan gaat het vaak over een besluit over budget, ook vanuit de gemeenteraad. Terwijl ja, capaciteit of inkoop is natuurlijk ook gewoon een besluit over digitale veiligheid.

SPEAKER_04 20:54

Ja, maar je mag dat doen, dat uitbesteden, maar jij blijft als bestuurder verantwoordelijk. Jij als bestuurder staat hiervoor aan de lat. En als straks die cyberbeveiligingswet ingaat, dan is het staat het heel nadrukkelijk. Wie is verantwoordelijk voor de beveiliging, het college van burgemeester en wethouders. Staat gewoon in de wet. In de toelichting staat een heel mooi tabellet. En bij een ministerie sta de minister. Dus dan ben je er ook echt van. En wat dan een beetje pijnlijk is, is dat nu bijvoorbeeld bij de Vereniging Nederlandse gemeente, daar wordt dan gezegd, ja, dan moet er extra geld komen. Maar het zijn eigenlijk allemaal dingen die al in orde hadden moeten zijn. Dus die oproep kan misschien terecht zijn. Maar die is dan wel een paar jaar te laat.

SPEAKER_02 21:37

Maar dat betekent eigenlijk dat je kritisch moet kijken naar hoe is het nu georganiseerd en hebben we dat efficiënt ingedeeld. En efficiëntie is natuurlijk ook een moeilijk woord als het gaat om cyberveiligheid, toch? Want het gaat volgens mij ook niet helemaal hand in hand, toch? Juist wel, denk ik.

SPEAKER_04 21:51

Ik denk juist dat als je alles goed hebt ingeregeld, je juist efficiënt bent, als je mensen goed traint in hoe ze een product moeten gebruiken, dan ga je Een keer met de politie mee, en dan zie je dat ze één boodschap dan in dit veld zetten en dan in dat veld. Ja, dan kun je al geen statistieken meer heel makkelijk draaien. En dan zegt de één openbare dronkenschap, de ander zet het wetsartikel erin, en de derde zet ziekte van Heineken. Ik heb het alle drie zien gebeuren. En als je dit soort dingen weet, en dit is gewoon een voorbeeld van de politie, maar dit had ook een gemeente of een bedrijf kunnen zijn. Dit is een gebrek aan training. Hoe schrijf je wat op en hoe ga je met zo'n systeem om? En hoe haal ik naar het maximale uit? Nogmaals, het is het doel om je bedrijfsdoelen te halen, dat is waarvoor beveiliging aan de lat staat.

SPEAKER_02 22:37

Eigenlijk zeg je dus dat we gemeenten veel meer moeten gaan runnen als een bedrijf.

SPEAKER_04 22:40

Nee, dat zegt niet. Zeker niet. Ik zeg dat je moet beseffen dat informatieveiligheid gaat over het halen van je doelen. En de bedreigingen die je daar ziet. En of dat nou een bedrijf is of een gemeente, ook een gemeente heeft doelen. En ik zei zeker niet, ga maar runnen als een bedrijf. Want dan hoort het geen overheid te zijn. Als het een overheidstaak is, dan zitten daar bepaalde dingen bij. En een van de dingen zou ook kunnen zijn inefficiëntie. Ik zal je een voorbeeld geven van inefficiëntie, gewoon uit het dagelijks, gewoon uit het normale leven. Als er bijvoorbeeld een moord wordt onderzocht, gaat er heel veel geld tegen die moord aan. Dat is super inefficiënt. En toch vinden we dat als samenleving heel prettig. Want we willen met elkaar dat die moord wordt opgelost, want daarmee hou je de rechtsstaat over eind. En de gemeente heeft dus ook taken en daar hoort ook een budget bij. En dat zullen we dus met elkaar moeten opbrengen. En als je dat dus niet wil, ik denk dat het ook heel normaal zou zijn dat je op een gegeven moment, als je het qua veiligheid niet kunt, gewoon soms dingen niet doet. Als het bewolkt is en ik zie in dan ga ik niet vliegen. Ga ik gewoon niet doen. Wat een dom idee.

SPEAKER_01 23:56

Als je nou kijkt naar gemeenten, wat zie jij dan uiteindelijk echt als het grootste risico? Het zijn natuurlijk drie risico's, maar als je het uitsplit naar te weinig geld, te weinig kennis of juist te weinig urgentie. Wat is nou echt het grootste risico voor een gemeente? De urgentie.

SPEAKER_04 24:13

Want kijk, als je de urgentie ziet, dan zie je ook dat er dus kosten tegenovers staan. En ik zou zelfs nogmaals, het aandurven om dat een investering te noemen. Omdat het gewoon zorgt dat je organisatie beter draait. En in plaats van alleen kijken naar kosten. IT maakt zoveel dingen meer mogelijk dan we anders zouden hebben en mogen verwachten van een overheid. We moeten het misschien ook eens een keer gaan ophouden met dat dat dus alleen een kostenpost is. Nee, het brengt tot iets, het geeft een meerwaarde. En van die meerwaarde moeten we zich dankbaar gebruik maken. Maar dat betekent wel dat daar een prijskaartje tegenover staat. Ik ga uit eten naar een restaurant. Dan betaal ik disproportioneel veel voor het vlees en de dingen en de groenten en de aardappelen en noem maar op die je krijgt. Maar daar krijg ik een stuk entertainment voor. En een stuk aandacht en een stuk liefde van zo'n organisatie. En dat maakt die fijne avond uit. Super inefficiënt. Maar wel heel prettig. En de moeite waard. Kan wel eens tegenvallen. Maar ook daar geldt weer dat je dan de focus fout hebt als bedrijf. Dat je dus niet snapt dat die klant daar zit om een leuke avond te hebben. Dus we moeten ook gewoon houden van ons vak en op een gegeven moment ook gewoon beseffen, we maken dingen beter mogelijk. Maar er zit er zoiets tegenover.

SPEAKER_02 25:49

Maar dat geld moet dan ergens vandaan komen. En dat is natuurlijk een gelukkige afweging die ik niet hoef te maken. Maar oké, we zijn nu dus vandaag gemeenteraadsverkiezing. Jij zei net, vond ik heel interessant, eigenlijk moet een raadslid dus iedere week zoveel mogelijk vragen stellen die te maken hebben met digitalisering, chargeerd even. Kunnen wij dat controleren of ze dat doen? Zeker, daar zit de politica, die kan dat denk ik beter uitleggen dan dat ik had. Voor de Tweede Kamer vind ik het redelijk te doen op gemeentelijk niveau. Eerlijk, ik weet het eigenlijk niet.

SPEAKER_04 26:25

Nou, zelfs nog mooier, het is zelfs zo geregeld. De gemeente staat dichter bij de burger dan de Tweede Kamer. Dus mag je in iedere gemeente aan het begin van de gemeenteraadsvergadering gewoon inspreken, daar kun je tijd voor krijgen. Dan krijg je geloof ik twee of drie minuten. Dus zelfs als je zegt, ik wil als burger dit nu gaan agenderen omdat ik dit belangrijk vind, ja, bel er G4 op. En ja, zo simpel is het. En dan krijg je gewoon drie minuten om gewoon je verhaal te doen.

SPEAKER_02 26:56

En als we nu willen controleren, of als we nu willen gaan bijhouden hoe vaak er een digitaal onderwerp besproken wordt, of de cyberveiligheid, is er een organisatie die het bijhoudt?

SPEAKER_01 27:05

Nou ja, volgens mij heb je wel die opa data waarin dit soort vraagstukken worden neergelegd. Maar ik denk dat als je als inwoner van je eigen gemeente, je plaatselijk suffertje is altijd echt wel de bron, die gaat naar alle raadsvergaderingen als goed is. En de commissievergaderingen schrijft daar een verslag van.

SPEAKER_02 27:23

Het is wel pijn als je tegen een journalist zegt plaatselijke suffertjes.

SPEAKER_01 27:28

Ik weet het wel het thuis. Maar daar haal ik voor mijn gemeente in ieder geval wel alle informatie uit. En als er onderwerpen zijn die ik interessant vind, bij ons worden de raadsvergaderingen ook uitgezonden online. Dus dan kun je meekijken. Je kunt altijd ook in archieven kijken. Dus je kunt wel meekijken. En wat doet jouw raadslid? Maar goed, lokale politiek zit ook heel dichtbij. Dus ik ken mijn raadsleden, van alle partijen. En als ik iets ergens mee. Overal, want het is meestal je buurvrouw of buurvrouw.

SPEAKER_04 28:07

Ik heb iemand in de wijk wonen die zit in de raad. En waar ik altijd mijn postpakketjes op had, die zit ook in de raad.

SPEAKER_01 28:15

Maar het vraagt ook wel iets van jezelf. Dus aan de ene kant wil je natuurlijk een soort van, ja, ik wil wel controle hebben over wat er gebeurt. Maar het betekent dat je zelf ook actief moet spelen.

SPEAKER_02 28:24

Ja, je moet wel investeren.

SPEAKER_01 28:25

Of in ieder geval de krant lezen. En niet dat elke keer als die binnenkomt, gelijk in de kattenbak gooien, of wat dan ook. Maar juist even lezen van oké, wat speelt er nou eigenlijk allemaal lokaal? En dan zul je zien, ik heb ook wel eens in het lokale krantje gestaan. Een heel verhaal over samen met Barbara Katman, over moeten er nou wel of geen wethouden komen van digitalisering. Ja, er zijn natuurlijk gelijk mensen die daarop aangaan en een ingezonde brief sturen van nou, deze dames overdrijven wel heel erg. Denk ik, nou ja, oké, prima, dat is jouw mening. Maar dan stook je wel weer het vuurje.

SPEAKER_02 29:00

Ja, dat is wel precies wat ik voor bedoel, het politieke debat, dat je daar een rol in.

SPEAKER_01 29:03

Vervolgens merk je dat die raad het ook nu belangrijk vindt. En toch af en toe even mij een bericht gestuurd van joh, As, wij hebben binnenkort dat onderwerp. Kan je ons daar even mee helpen? Weet je, wat zijn nou goede vragen om te stellen aan het college? Nou ja, daar doe ik graag aan mee. En dan maakt het mij echt geen fluit uit welke partij het is. Want ik vind namelijk digitalisering is het onderwerp wat ons allemaal raakt. En is echt een democratisch proces ook, waar we eigenlijk met z'n allen ook op mee zouden moeten kunnen kijken en sturen.

SPEAKER_02 29:33

Wat ik wel mooi vind, Brenna, want we hebben het over wat moet een gemeente eigenlijk doen? Wat moet een raadslid eigenlijk doen? Maar eigenlijk wat ik als het nu hoor zeggen, is dat we eigenlijk zelf ook als burger, dus niet als professionals zoals we hier aan tafel zitten, maar als burger ook best wel een rol kunnen hebben in het veiliger maken van die gemeente. Absoluut, toch? Ja, spijker op z'n kop. Als je dan toch gaat kijken naar de vragen die een gemeenteraadsli zou moeten stellen over cyberveiligheid, welke zou dat wat jou betreft zijn dan?

SPEAKER_04 30:02

Nou, je zou als raadslid meteen kunnen vragen: van kunt u ons ieder kwartaal een overzicht sturen van alle eisen uit de bio en hoe we daaraan voldoen. Het is gewoon een soort bio. De baseline informatiebeveiliging overheid. Dat is het kader voor overheden. Geef ons dus een overzicht gewoon per contro, per vraag hoe dat voldoet. En als je dat vraagt, dan ben je echt al heel flink op weg. Want dan kun je gewoon meteen al toetsen van oké, waar staat het? En dan niet nogmaals om die wethouder of burgemeester aan te vallen, maar ook om gewoon het gesprek te hebben van hé, ik zie dat we daar dus nog niet aan voldoen. Wat betekent dat? Hoe erg is dat?

SPEAKER_02 30:49

En vooral hoe gaan we zorgen dat we wel gaan voldoen. En wat nou als een wethouder of burgemeester dan spontaan vlekken in zijn nek krijgt?

SPEAKER_04 31:00

Dan heb je een ander gesprek. En dan zou maar, en als je dan natuurlijk wel het verhit wordt, dat is helemaal prima. Dat hoort bij politieke debat natuurlijk. Maar ik denk dat er niet heel veel wethouders rondlopen die ochtends opstaan en denken. Zo laten we nu eens kijken hoe we de beveiliging van onze gemeente is stuk kunnen maken. Want ik denk dat de meeste mensen zo niet in de wedstrijd zitten. Dus die ene die dat wel die dat niet serieus neemt, ja, behandelt die dan ook als een wethouder die gewoon veiligheid in het algemeen niet serieus neemt. En in de veiligheidsindustrie pikken we dat niet. Als jij denkt als jij nogmaal. Ik word nu dus opgeleid op te leren vliegen. Als ik het in mijn hoofd haal om dingen te gaan doen die inherent onveilig zijn. Dan is de carrière die je maakt richting examen is heel snel ten einde. Want dan pikken we gewoon met elkaar niet. En waarom niet? Om we weten dat dat dan met bloed wordt geschreven. Maar eigenlijk moet je diezelfde houding ook gewoon voor data hebben. We nemen dit serieus. Dit gaat over het functioneren van de gemeente. Vallen die systemen blijvend uit. Ja, dan kan de gemeente zoals die nu is gewoon niet meer draaien. Dus dit moeten we met elkaar gewoon niet hebben. Dus als er ingewikkelde vraagstukken zijn, dan treden we die gewoon tegemoet. Als waren het een reguliere veiligheidsproblemen.

SPEAKER_02 32:20

Dus in die zin, dat zou ik op zich wel natuurlijk, ook al is dat de uitkomst van het stellen van die vraag, dan is ook die uitkomst eigenlijk heel mooi en nuttig. Dan ligt het op tafel? Dan ligt op tafel.

SPEAKER_04 32:31

Maar nogmaals, ik denk dat dat de paar wethouders zijn dan de uitzondering. Want uiteindelijk zijn bestuurders zijn ook heel pragmatisch. Ik gaf een keer training aan een groep burgemeesters. En die begonnen eerst dus nog van kun je onder de cyberbeveiligingswet uit. En toen zei ik, nou hier staat in de wet het college van burgemeesters en wethouders, dat burgemeester en wethouder, dat schijnt u te zijn. En de eerstvolgende vraag is: oh oké, wat moeten we doen dan? Want de meest zijn ook gewoon heel pragmatisch. Moet ik dit echt doen? Ja, want ik heb natuurlijk al zoveel op een bordje. Ja, nou dan is het nu een van de dingen die erbij is gekomen en dan is het ook gewoon prima.

SPEAKER_01 33:10

Maar denk je dat helpt dat zelfs Hof van Twente en Lochem, was toen volgens mij een van de eerste die toen gehackt waren. Maar die zijn daar heel transparant mee omgaan. Helpt dat nou naar andere gemeentes toe?

SPEAKER_04 33:22

Ja, heel nadrukkelijk. Want beide burgemeesters die worden ook door collega burgemeesters daarna bevraagd van: hoe ging dat nou? Juist omdat ze weten dat er dan een antwoord terugkomt. Nou, er waren ook in beide gevallen Sebastian van der Erven later nog de IT-politicus van het jaar. Maar ook Elle Nauta. Die begrepen daarna gewoon heel goed van ja, dit moet je doen, hier moet je vooraan gaan lopen. En dat helpt ook gewoon als inspiratie. Want mensen vergeten heel snel. Ja, er was ooit een incident en er lag geloof ik wat data op straat, of er was data versleuteld, of er was iets mee. En dat is natuurlijk niet specifiek genoeg. Dus juist dat open zijn, dat helpt enorm. En we moeten daar ook gewoon wat volwassenen mee omgaan. Heel veel organisaties maken dit mee. Dat is vervelend. Ze zijn aanspreekbaar op misschien dingen die ze niet hebben gedaan. Laten we dat dan gewoon met elkaar vaststellen en daarna gewoon doorgaan naar de orde van de dag.

SPEAKER_01 34:22

Maar daar zit wel een bepaalde angst, denk ik, die ook in de Kamer natuurlijk is. Als er vragen worden gesteld, dan probeer je overal onderuit te komen. En de vraag is inderdaad, ik denk namelijk dat als je als raadslid dit soort vragen stelt aan jouw burgemeester of aan de verantwoordelijke wethouder, dat je dat niet doet om hem weg te sturen of te pesten. Maar dat je juist bezig bent voor je eigen gemeente om te zorgen dat het veiliger wordt voor iedereen. En dat zou de intrinsieke motivatie moeten zijn. Dus dat is nog wel iets waar denk ik.

SPEAKER_04 34:51

Ik geloof erg in just culture. Dus je spreekt elkaar aan op gedrag. Je bent ook blij dat je wordt aangesproken. En zolang jij gewoon ter goede trouw hebt gehandeld, is er ook niets aan de hand. En kun je ook gewoon allerlei fouten maken. Helemaal prima. Het wordt wat minder prima als je heel bewust dus dingen niet doet of achterhoudt. En daarom kwam ik ook een paar keer met het voorbeeld van Odi. Ja, daar is men zo spaarzaam met informatie, daar blijkt ook de informatie niet te kloppen. Er is veel meer gelijk dan ze hebben aangegeven, dan mag je daar ook wat harder aan spreekbaar op zijn. Maar het is niet goed gegaan, dat weten we nu in zo'n gemeente, nou prima, dan laten we het vanaf daar oppikken. En dat betekent dus ook dat in die just culture ook de gemeenteraad die cultuur ook moet neerzetten, fouten maken, is prima. Maar we gaan het wel serieus nemen en we zijn wel met elkaar op weg naar een veilige omgeving. Is dat het patroon dat we moeten doorbreken? Ja, absoluut. In fundamenten van informatiebeveiliging heb ik heel nadrukkelijk de parallel met die luchtvaart getrokken. En er is één moment in de geschiedenis. En dat is de cockpit van KLM op Tenerief. Vlak voor de crash. Waarbij op een gegeven moment de koopiloot zegt. wij hadden nog geen toestemming. We hebben nog geen clearance. Ja, dat weet ik. Ja dat was het punt waarop je had moeten stoppen. Dat is genoeg. Klaar. Einde discussie. Was er de crash niet gebeurd? En dat is niet als verwijt. Maar die sfeer van ik spreek, ik laat mij niet tegenspreken. Of aan de andere kant, ik durf iemand niet tegen te spreken. Dat was wel de grote week op call. Dit moet vanaf nu anders. En in de IT zijn we ook op dit punt aangekomen dat het nu gewoon echt tijd is dat we een gezonde securitycultuur neerzetten. En niet transparant daarbij zijn is gewoon geen serieuze mogelijkheid. Want die fout die jij maakt, die maak ik, die maak jij, die maakt Astrid. En als ons niet wordt elke keer wordt gezegd, jij moet dat anders gaan doen. Want we hebben dit geleerd dan leer je als samenleving niet en dan wordt er maar één beter van, en dat is de crimineel.

SPEAKER_01 37:03

Nou ja, dat is ook vaak een conclusie van ons, inderdaad. Van die criminelen lag zich helemaal rot op het moment dat wij dus inderdaad blijven concurreren naar elkaar toe. Terwijl wat ik steeds van jou opnieuw hoor uit de luchtvaartwereld, hebben ze juist besloten om wel dat gesprek met elkaar aan te gaan. De bankwereld ook. Dus ja, dat helpt gewoon leren van elkaars fouten.

SPEAKER_04 37:25

Ja, en als je grapjes uithalt waarin je daar niet aan voldoet, want dat gebeurt natuurlijk ook gewoon in de luchtvaart. Dan zie je dus ook dat onderzoeksraden daar ook niet mee akkoord gaan. En voor degene die een voorbeeld willen hebben, die moeten eens gaan zoeken na 2019 het opstijgen van een Transavia toestel, die probeerde op te stijgen van een taxi weg. En die zijn daarna eerst vrolijk naar Griekenland gevlogen en nou heel gek. De Cockpit Voice Recorder was toen alweer overschreven. Als je dat rapport leest, dan wordt daar gewoon dat bedrijf even de oortjes gewassen. En terecht. Want dan stel je niet toets waarop. Maar juist die openheid en dat leren van waarom gaat dat nou mis. En nogmaals, het is niet erg. Maar je moet wel willen leren.

SPEAKER_02 38:10

En om dan terug te komen aan het begin, jij zei direct al dat de gemeente Epe nu al wat best wel open eigenlijk is over wat er gebeurt, hoe er gecommuniceerd wordt naar de burgers. Dit helpt.

SPEAKER_04 38:22

Want nu kun je ook gewoon wijzen met jongens, vising gebeurt en let even op. Want dit is de truc die is toegepast. En als we straks wat meer weten, kunnen we daar dus misschien ook wel wat over opleidingen roepen of over andere dingen roepen.

SPEAKER_02 38:38

Mooie les. Wij namen deze aflevering op op de dag dat Nederland naar de stembus ging. En misschien is de vraag achteraf niet alleen wat je hebt gestemd, maar dus eigenlijk wat die keuzes betekenen over hoe wij onze digitale samenleving samen inrichten. En daar heb jij en ik hebben allemaal een rol bij, hebben we het gezien, toch?

SPEAKER_01 38:59

Nou ja, en ik denk ook, de belangrijkste reflectie, denk ik, die we hier zouden kunnen hebben met elkaar is dat die digitale veiligheid niet alleen maar een IT-onderwerp is naderen het heel vaak heel technisch. Maar het is gewoon ook een keiharde bestuurlijke keuze. Dus dat toch heb ik dat een beetje goed geamengevat in één korte zin.

SPEAKER_02 39:21

Ik vind het heel erg mooi. Maar dankjewel voor dit gesprek, je inzichten. Voor wie meer wil weten over Brenno, en voordat we vergeten, dit komt natuurlijk allemaal in de show notes. Je boek is naar de drukker, toch? Ja, ik heb helemaal niet besproken. Ik wil dat heel graag van tevoren misschien toch nog even erin fietsen bij deze.

SPEAKER_04 39:40

Ja, soevereiniteit, hoe dan? Hoe dan? Ik hoor dat heel veel mensen erover hebben. Ik hoor dat heel veel dingen niet zouden kunnen, niet kunnen wegmigreren. En ik ben eens gaan kijken en ik denk dat het wel meevalt. Ik denk dat het wel lastig is lastig kan zijn, maar je hoeft niet alles in één Big Bang te doen. Dus je kunt het ook in stappen doen. En mijn boek begint met een stukje geschiedenis en ook uit te leggen waarom het nu opeens zo'n heel groot thema is. En waarom zijn we in deze situatie beland? En waarom botst het nu zo met de Verenigde Staten? En om vervolgens dan te gaan kijken met hoe wordt er mee omgegaan. En dan blijken er heel veel inspirerende voorbeelden te zijn. Van organisaties die het soms onder drukken. Ik denk aan het Internationaal Strafhof, die moesten opeens hals voor kop weg bij Microsoft. En dat nam opeens enorm heftige vormen aan. Maar er zijn ook voorbeelden van fintechs die op een gegeven moment de buizen hangen en dachten van nou weet je wat, laat ik dit zelf nu eens gaan regelen. En die zijn gewoon in vier maanden overgestapt. Dit soort dingen kunnen gewoon.

SPEAKER_02 40:46

Dus je laat zien hoe het wel kan.

SPEAKER_04 40:48

Ja, en hoe je dus inschattingen kunt maken. En ook de soevereiniteit die voor jou passend is. Ja, want daar kan verschil in zijn. En alles zelf doen is voor sommige organisaties ook geen serieuze optie.

SPEAKER_02 41:03

Wanneer ligt dit in de winkel? Wanneer kunnen we het zien? 15 april. Mooi. Bij deze oproep gaat allemaal checken, toch?

SPEAKER_01 41:10

Ja, super. Nou ja, ik zou zeggen, dan sluiten we het hem langzaam beetje af. Dankjewel, Brenno, nogmaals. En voor onze luisteraars hebben we natuurlijk altijd een goede boodschap. Blijf kritisch, nieuwsgierig. En stel vooral jezelf de vraag: wie neemt nou de verantwoordelijkheid? Of kun je het toch ook nemen? Jazeker. Dus ik heb je net uitgelegd hoe je dat kunt doen in je eigen gemeente. Dus heb je dan nog een vraag of een Hack Shield inzending. Je kan ons mailen via de show notes zie je vast ook al die adressen en zo.

SPEAKER_02 41:42

Zeker, dat is helemaal goed. Of stuur je via de site natuurlijk. En vergeet vooral niet, technologie is iets wat ons niet zomaar overkomt. Het is iets wat we samen vormgeven.

SPEAKER_01 41:52

En daarmee sluit ik hem af.

SPEAKER_02 41:54

Tot volgende keer. Tot de volgende keer.