S08E70 - Lef om controle los te laten met automatiseren met AI-agents

Artificial Intelligence-systemen bestaan steeds vaker uit groepen agents die samenwerken, en dat levert gedrag op dat je bij geen van de losse agents had kunnen voorspellen. Joop Snijder legt uit waarom twee begrippen uit de biologie — emergentie en stigmergie — verklaren wat er nu al gebeurt in de tools die developers dagelijks gebruiken. De betrouwbaarheid van zulke systemen zit niet in het perfectioneren van elk onderdeel, maar in hoe makkelijk je een onderdeel kunt vervangen als het uitvalt.

Bij coding agents die al in gebruik zijn, werkt dit concreet zo: kleine, zelfstandige tools die elk hun eigen voortgang bijhouden, zodat de volgende stap altijd verder kan zonder centrale regie. Morgen kun je beginnen met één AI-werkproces dat je nu gebruikt: schrijf per stap op wat er gebeurt als die stap uitvalt, en bepaal welk onderdeel je als eerste kleiner en vervangbaarder kunt maken.

Onderwerpen

• Emergentie en stigmergie bij samenwerkende AI-agents
• Van grote systemen naar kleine, vervangbare tools
• Controle loslaten en omgaan met fouten in AI-systemen
• Verschuiving van architect-denken naar tuinman-denken

Links

• Podcast: AIToday Live S08E64 - Welke vaardigheden tellen in de AI-samenleving
• Podcast: AIToday Live S07E03 - Generatieve AI in bedrijfsprocessen, wat je moet weten (met Peter van der Putten)
• Podcast: AIToday Live S07E89 - AI & AI-agents: de grote vragensessie

Genoemde entiteiten: Peter van der Putten

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:00,960 --> 00:00:05,040
Ik begin vandaag met de kern en werk vanuit daaruit terug.

2
00:00:05,040 --> 00:00:10,320
De grootste verandering die AI-agents brengen, is niet dat ze ons werk sneller doen.

3
00:00:10,320 --> 00:00:15,840
Het is dat ze samen dingen gaan doen die geen van hen in zijn eentje voor elkaar krijgt.

4
00:00:15,839 --> 00:00:20,719
En het vervelende is, we kunnen op dit moment nog niet voorspellen wat dat zal zijn.

5
00:00:21,359 --> 00:00:23,199
Welkom bij AIToday Live.

6
00:00:23,439 --> 00:00:25,439
Dit is de korte aflevering.

7
00:00:25,760 --> 00:00:29,839
Mijn naam Joop Snijder, van jou bij Info Support.

8
00:00:30,800 --> 00:00:35,519
In een van de vorige afleveringen had ik het over verbeeldingskracht.

9
00:00:35,520 --> 00:00:39,119
Over durven denken voorbij wat er nu al mogelijk is.

10
00:00:39,119 --> 00:00:41,600
Vandaag zet ik daar een stap bij.…

11
00:00:41,840 --> 00:00:47,519
Er zijn namelijk twee begrippen die je helpen om je die andere toekomst voor te stellen.

12
00:00:47,519 --> 00:00:52,080
En dat is emergentie en stigmergie.

13
00:00:52,079 --> 00:00:56,959
Twee dure woorden voor iets wat in de natuur elke dag gebeuren.

14
00:00:56,959 --> 00:00:58,479
Ik leg ze zo uit.

15
00:00:59,200 --> 00:01:07,039
We staan aan het begin van AI-agents die werk kunnen automatiseren dat voorheen buiten bereik lag.

16
00:01:07,039 --> 00:01:08,959
Het zal je niet zijn ontgaan.

17
00:01:08,959 --> 00:01:12,079
Merk alleen even op hoe we het nu aanpakken.

18
00:01:12,320 --> 00:01:15,439
We laten agents het werk overnemen.

19
00:01:15,439 --> 00:01:19,679
En dan proberen we dat precies zoals wij het zelf zouden doen.

20
00:01:19,760 --> 00:01:24,719
Zelfde stappen, dezelfde volgorde, alleen nu uitgevoerd door een agent.

21
00:01:24,960 --> 00:01:26,240
Dat gaat veranderen.

22
00:01:26,240 --> 00:01:29,439
En hoe precies dat is moeilijk in te schatten.

23
00:01:29,440 --> 00:01:34,399
We vinden het namelijk al lastig om te bedenken wat één agent straks doet.

24
00:01:34,480 --> 00:01:39,679
Bedenken wat een groep samenwerkende agents doet, is nog een graad ingewikkelder.

25
00:01:39,680 --> 00:01:44,879
Maar daarvoor helpt het om te rade te gaan bij de natuur.

26
00:01:45,120 --> 00:01:46,559
Neem een mier.

27
00:01:46,959 --> 00:01:50,559
Één op zichzelf kan bijna niet.

28
00:01:50,559 --> 00:01:55,599
Ze volgt een paar simpele regels en reageert vooral op haar directe omgeving.

29
00:01:55,600 --> 00:02:01,599
Toch bouwt een mierenkolonie samen bruggen, wegen en zelfs voorraadkamers.

30
00:02:01,599 --> 00:02:04,879
En niemand die een tekening vasthoudt of zo.

31
00:02:04,879 --> 00:02:09,039
Er is geen mier die de leiding heeft en zegt dit en dit moet gebeuren.

32
00:02:09,039 --> 00:02:15,120
En toch ontstaat er gedrag dat je bij één losse mier nooit had kunnen voorspellen.

33
00:02:15,120 --> 00:02:17,040
Dat noemen we emergentie.

34
00:02:17,040 --> 00:02:21,040
Het geheel vertoont gedrag dat de losse delen niet in zich hebben.

35
00:02:21,039 --> 00:02:27,759
Dus je kunt één mier tot in detail bestuderen en nog steeds geen kolonie uit afleiden.

36
00:02:27,759 --> 00:02:31,439
En verwacht niet dat dit alleen bij insecten hoort.

37
00:02:31,439 --> 00:02:33,439
Wij zelf doen namelijk precies hetzelfde.

38
00:02:33,439 --> 00:02:37,039
Eén mens kan in zijn eentje geen brug bouwen om hartslag te noemen.

39
00:02:37,040 --> 00:02:42,879
En niet omdat de spierkracht ontbreekt, maar omdat niemand alle benodigde vaardigheden in zich verenigt.

40
00:02:42,879 --> 00:02:48,960
Zet je genoeg mensen bij elkaar, elke met andere kennis en net andere handigheid, vaardigheden.

41
00:02:49,039 --> 00:02:51,359
Dan staat die brug er opeens wel.

42
00:02:51,359 --> 00:02:52,719
Ook dat is emergentie.

43
00:02:52,719 --> 00:02:56,479
Het resultaat overstijgt wat ieder afzonderlijk kan.

44
00:02:57,439 --> 00:03:02,400
Maar dan is het de vraag: hoe stemmen die mieren dan af?

45
00:03:02,399 --> 00:03:05,759
Wat moeten gaan doen zonder vergadering zonder baas.

46
00:03:05,759 --> 00:03:10,959
En daar komt het tweede woord om de hoek kijken: stigmergie.

47
00:03:11,599 --> 00:03:14,400
Mieren praten niet met elkaar.

48
00:03:14,400 --> 00:03:18,240
Ze laten een spoor achter in een omgeving, een geurspoor.

49
00:03:18,240 --> 00:03:22,640
En de volgende mier reageert op dat spoor en niet op de mier zelf.

50
00:03:22,879 --> 00:03:26,400
Dus de omgeving wordt zo een prikbord.

51
00:03:26,400 --> 00:03:30,239
Wie langskomt, leest wat er ligt en voegt er iets aan toe.

52
00:03:30,639 --> 00:03:36,000
Stigmergie is dus indirect samenwerken via sporen in de omgeving.

53
00:03:36,159 --> 00:03:39,280
Precies daaruit ontstaat dus de emergentie.

54
00:03:39,280 --> 00:03:44,959
Geen centrale regie, wel een gedeeld prikbord waar iedereen op reageert.

55
00:03:46,239 --> 00:03:52,480
Als we dat nou eens trekken naar de werkwijze van AI coding agents.

56
00:03:52,480 --> 00:03:54,800
Daar gebeurt dat namelijk ook al.

57
00:03:55,439 --> 00:03:59,199
Je kunt namelijk een agent de coding agent één bestand geven.

58
00:03:59,200 --> 00:04:01,680
Daarin staat het doel en de afspraak luidt.

59
00:04:01,680 --> 00:04:07,039
Na elke ronde schrijf je op waar je staat en de volgende ronde leest de agent.

60
00:04:07,120 --> 00:04:10,240
Lees die agent dat bestand en die gaat dan verder.

61
00:04:10,240 --> 00:04:14,400
En dat bestand zou je dan kunnen zien als een geurspoor.

62
00:04:14,959 --> 00:04:19,200
Stigmergie, maar dan met tekst in plaats van geur.

63
00:04:19,680 --> 00:04:22,879
Voor de technische mensen onder de luisteraars.

64
00:04:22,879 --> 00:04:24,640
Dit is typisch de rolfloop.

65
00:04:25,360 --> 00:04:28,479
Je mag deze term ook zo weer vergeten.

66
00:04:28,800 --> 00:04:30,879
Laten we het praktisch maken.

67
00:04:31,120 --> 00:04:37,600
Want wil je de kracht van samenwerkende agents benutten, dan moet je het ontwerp van systemen anders gaan aanpakken.

68
00:04:37,600 --> 00:04:41,439
Dus niet één groot systeem bedenken waarin elke stap vast ligt.

69
00:04:41,439 --> 00:04:46,120
Maar de agents helpen door juist kleine eenvoudige tools te bouwen.

70
00:04:46,120 --> 00:04:50,800
En vervolgens dus meer zelf laten uitzoeken hoe ze tot een oplossing komen.

71
00:04:50,799 --> 00:04:55,600
En dat is geen theorie aan, want de coding agents die op dit moment veel gebruikt worden, werken al zo.

72
00:04:55,599 --> 00:04:59,200
Dus er zijn niet gebouwd rond één groot doordacht bouwwerk.

73
00:04:59,200 --> 00:05:04,040
Deze bestaan uit kleine, op zichzelf staande hulpmiddeltjes die al jaren meegaan.

74
00:05:04,759 --> 00:05:12,920
Een zoekfunctie, het schrijven van een bestandje, het vinden van iets op de web, een webpagina lezen.

75
00:05:12,920 --> 00:05:15,560
Allemaal zou je kunnen zeggen, kleine tools.

76
00:05:15,560 --> 00:05:17,079
Meer is het eigenlijk niet.

77
00:05:17,079 --> 00:05:20,680
Een klein tooltje, zie je trouwens een voordeel, geen tekortkoming.

78
00:05:20,680 --> 00:05:27,560
Want een klein tooltje, die begrijp je, die test je, en vervang je zonder dat het je hele bouwwerk hoeft te doorgronden.

79
00:05:27,879 --> 00:05:36,360
Waar we vroeger dachten in grote samenhangende systemen, worden nu in die zin dan kleine onderdelen aan elkaar geknoopt.

80
00:05:36,360 --> 00:05:43,399
En die combinatie levert gedrag op dat je bij geen van de losse onderdelen had kunnen bedenken emergentie.

81
00:05:43,560 --> 00:05:51,160
Dit sluit aan bij wat Peter van der Putten eerder in onze podcast besprak aangaf.

82
00:05:51,159 --> 00:06:00,359
Agents die met elkaar gaan bepalen hoe ze een proces gaan aanvliegen in plaats van een route die wij van tevoren helemaal hebben dichtgetimmerd.

83
00:06:00,680 --> 00:06:03,719
Link daarna vind je in de in de show notes trouwens.

84
00:06:04,039 --> 00:06:13,639
Maar goed, dan is het volgende wat er dan komt, is een vraag die misschien wel iets ongemakkelijk in zich herbergt.

85
00:06:13,639 --> 00:06:19,000
Want we stappen af van de workflow waarin we vooraf alle stappen bedenken.

86
00:06:19,000 --> 00:06:22,199
En zeker weten dat ze in die volgorde worden doorlopen.

87
00:06:22,199 --> 00:06:26,200
We geven de agent ruimte om zelf een weg te kiezen.

88
00:06:26,199 --> 00:06:30,199
En dat betekent ook dat hij een verkeerde weg kan kiezen.

89
00:06:30,199 --> 00:06:33,319
Dus ja, is de vraag waar laten we de controle los?

90
00:06:33,319 --> 00:06:35,800
Welke risico's zijn we bereid te nemen?

91
00:06:35,800 --> 00:06:37,800
Welke fouten mogen er gemaakt worden?

92
00:06:37,800 --> 00:06:39,399
Dat zijn best wel lastige vragen.
93
00:06:39,399 --> 00:06:43,880
En ik heb er eerlijk gezegd geen kant-en-klaar antwoord op, maar ik wil er wel iets tegenover zetten.
 93
00:06:43,879 --> 00:06:46,760
Kijk, we accepteren nu ook fouten, menselijke fouten.
 94
00:06:46,759 --> 00:06:49,960
En geen enkel werkproces wordt altijd foutloos doorlopen.
 95
00:06:49,960 --> 00:06:55,000
Het gaat elke dag van alles mis en we vangen het op, we sturen het bij, we herstellen.
 96
00:06:55,000 --> 00:06:57,000
En dat vinden we doodnormaal.
 97
00:06:57,000 --> 00:07:02,840
Dus de vraag is of we op diezelfde manier durven omgaan met softwaresystemen waarin agents werken.
 98
00:07:02,840 --> 00:07:09,879
Mogen die ook fouten maken en herstellen, of eisen we van software een perfectie die we van onszelf nooit hebben gevraagd.
 99
00:07:10,279 --> 00:07:16,599
Ik heb daar ook eerder een aflevering aan gewijd in de vragensessie over agents.
 100
00:07:18,600 --> 00:07:22,360
Uiteindelijk hoort het ook een beetje bij de techniek, maar goed.
 101
00:07:23,000 --> 00:07:28,920
Het zijn vragen waar je dan wel antwoord op moet kunnen geven, wat mij in ieder geval hoopvol stemt.
 102
00:07:28,919 --> 00:07:32,360
Het antwoord hoeft namelijk niet in de perfectie te zitten.
 103
00:07:32,439 --> 00:07:35,079
Ga weer even terug naar de mierenkolonie.
 104
00:07:35,399 --> 00:07:39,639
Een mierenkolonie stort namelijk ook niet in als één mier verdwaalt.
 105
00:07:39,639 --> 00:07:42,199
Er zijn namelijk genoeg andere manieren.
 106
00:07:42,360 --> 00:07:48,279
Andere manieren, andere mieren, die andere sporen ook uitleggen.
 107
00:07:48,279 --> 00:07:53,000
Zo mag je ook gaan denken over zo'n softwaresysteem.
 108
00:07:53,639 --> 00:07:56,920
Want faalt dan één klein tooltje.
 109
00:07:57,160 --> 00:08:03,560
Dan pikt de agent misschien een andere tool of je bouwt het misschien wel opnieuw.
 110
00:08:03,560 --> 00:08:07,800
Het geheel hoeft niet om te vallen omdat één onderdeeltje het begeeft.
 111
00:08:07,959 --> 00:08:10,280
Daar zit echt wel de omslag in ons denken.
 112
00:08:10,279 --> 00:08:16,200
We stopten altijd tijd, energie, vakmanschap, altijd in dat ene onderdeel zo goed mogelijk maken.
 113
00:08:16,200 --> 00:08:21,479
Hoe steviger elk onderdeel, hoe betrouwbaarder het geheel, zo redeneerden we.
 114
00:08:21,480 --> 00:08:30,039
Dat klopt ook, zolang een systeem uit een paar grote vaste bouwstenen bestaat. Valt zo'n bouwsteen weg, dan valt het hele systeem stil.
 115
00:08:30,040 --> 00:08:33,159
Dus moest die bouwsteen wel bijna onverwoestbaar zijn.
 116
00:08:33,480 --> 00:08:38,680
Maar bij een systeem van veel kleine uitwisselbare onderdelen werkt dat misschien wel anders.
 117
00:08:38,679 --> 00:08:42,120
Dan zou je kunnen denken aan de lampen in een groot kantoorgebouw.
 118
00:08:42,120 --> 00:08:43,800
Er brandt er altijd wel eentje door.
 119
00:08:43,799 --> 00:08:46,680
En niemand haalt zo'n lamp uit elkaar om hem te repareren.
 120
00:08:46,680 --> 00:08:49,560
Nee, je draait er een nieuwe in en het licht blijft aan.
 121
00:08:49,639 --> 00:08:51,080
Het gebouw blijft verlicht.
 122
00:08:51,240 --> 00:08:57,960
Niet omdat elke lamp eeuwig meegaat, maar omdat een kapotte lamp gewoon in één handeling te vervangen is.
 123
00:08:58,279 --> 00:08:59,960
Datzelfde principe.
 124
00:09:00,519 --> 00:09:05,159
Logisch is natuurlijk altijd een beetje lastig, maar datzelfde principe schuift nu op naar software.
 125
00:09:05,319 --> 00:09:08,039
Dus faalt een tooltje van een agent.
 126
00:09:08,039 --> 00:09:12,279
Dan hoeft niemand er meteen midden in te duiken om hem direct te repareren.
 127
00:09:12,519 --> 00:09:17,080
De agent heeft dan waarschijnlijk de mogelijkheid om via andere tools toch de taak uit te voeren.
 128
00:09:17,079 --> 00:09:19,879
En misschien niet volgens de meest efficiënte weg.
 129
00:09:19,879 --> 00:09:27,800
Moet het misschien een deel van de data uit tool 3 gebruiken met handeling van tool 7 en misschien aftoppen met toeven, ik noem maar wat.
 130
00:09:28,440 --> 00:09:32,279
Dit zorgt er dan in ieder geval voor dat het werk niet stilvalt.
 131
00:09:32,279 --> 00:09:45,000
En omdat het geheel overeind blijft, krijgen wij daarna rustig de tijd om of de tool opnieuw te bouwen, het steviger te maken of er een variant naast te zetten voor misschien bijzondere gevallen.
 132
00:09:46,080 --> 00:09:52,639
Dus dat betekent dat de betrouwbaarheid daar niet langer in het perfectioneren van elk onderdeel vooral.
 133
00:09:52,960 --> 00:09:59,760
Maar juist in het gemak waarmee je een onderdeel misschien wel loslaat, vervangt of verbetert.
 134
00:10:00,000 --> 00:10:06,720
Straks zit de robuustheid misschien niet in de perfectie, maar juist in vervangbaarheid.
 135
00:10:08,639 --> 00:10:13,840
We zijn opgeleid om een soort architect te zijn van één perfect gebouw.
 136
00:10:14,080 --> 00:10:19,840
Dus de komende jaren moeten we misschien juist gaan leren tuinman te worden van de mierenhoop.
 137
00:10:19,840 --> 00:10:27,280
En het lastige aan dat vak is niet het bouwen, maar het lef hebben om iets te laten groeien dat je niet volledig in de hand hebt.
 138
00:10:28,240 --> 00:10:39,360
Dus ja, ik ben benieuwd naar jouw verbeeldingskracht, wat jij denkt waar emergentie, stigmergie zich naartoe gaat ontwikkelen met AI-agents.
 139
00:10:39,360 --> 00:10:41,600
Laat het ons weten via de socials.
 140
00:10:42,720 --> 00:10:48,400
En bedenk sowieso: AI is niet de oplossing voor elk probleem, onmisbaar waar het past.
 141
00:10:48,960 --> 00:10:51,120
Tot de volgende keer.