S07E80 - AI-agent mythes - Autonomie en controle (Deel 2)

Joop Snijder en Niels Naglé bespreken in hun podcast AIToday Live vier hardnekkige mythes over AI agents. Ze ontkrachten het idee dat deze agents volledig autonoom zijn en alle banen zullen vervangen.

De hosts leggen uit dat AI agents binnen vastgestelde kaders opereren en menselijk toezicht nodig blijft. Ze benadrukken dat goed ontworpen agents voorspelbaar en controleerbaar zijn, mits correct geïmplementeerd.

Snijder en Naglé waarschuwen dat agents niet direct elke taak kunnen overnemen, maar een zorgvuldige voorbereiding en training vereisen. Ze pleiten voor een complementaire samenwerking tussen mens en AI, waarbij beide partijen hun sterke punten benutten.

Onderwerpen

• Mythe over autonomie van AI agents
• Impact van AI agents op werkgelegenheid
• Onvoorspelbaarheid en controle van AI agents
• Implementatie en training van AI agents
• Samenwerking tussen mens en AI agent

Links

• Podcast: AIToday Live podcast
• Boek: Doeltreffend met AI agents

Aigency
Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

1
00:00:02,120 --> 00:00:07,340
Hoi, welkom terug bij AIToday Live. Mijn naam is Joop Snijder, CTO van Aigency en je luistert

2
00:00:07,340 --> 00:00:10,440
naar deel 2 van de serie over mythes van AI agents.

3
00:00:13,880 --> 00:00:19,460
Volgende week hebben we de basis gelegd in de eerste vier mythes, wat AI agents werkelijk

4
00:00:19,660 --> 00:00:25,359
zijn versus wat mensen denken dat ze zijn. Vandaag hoor je over misschien wel de meest

5
00:00:25,380 --> 00:00:30,860
angst en jagen en mythes, namelijk die over controle en autonomie. Je kunt je voorstellen

6
00:00:30,960 --> 00:00:36,580
dat bedrijven zeggen: we durven geen AI agents in te zetten omdat we bang zijn dat ze op een

7
00:00:36,700 --> 00:00:42,160
dag de leiding overnemen en we niet meer weten wat ze doen. Aan de andere kant hoor je verhalen

8
00:00:42,160 --> 00:00:47,160
van bedrijven die agents gewoon loslaten op hun systemen en dan verbaasd zijn dat het misgaat.

9
00:00:48,120 --> 00:00:54,179
Beide extreme missen waar het om gaat. AI agents zijn niet de terminator, maar ze zijn ook geen

10
00:00:54,200 --> 00:00:57,420
Een knopje dat je indrukt en dat alles zomaar even vanzelf goed gaat.

11
00:00:58,050 --> 00:01:00,580
De waarheid ligt, zoals ze vaak, ergens in het midden.

12
00:01:01,400 --> 00:01:08,240
Vandaag ontkracht ik vier hardnekkige mythes over hoe autonomie en samenwerking met AI agents echt werken.

13
00:01:10,320 --> 00:01:14,500
Deel 1 had de eerste vier, dus we beginnen nu met mythe nummer 5.

14
00:01:15,480 --> 00:01:20,580
Mythe 5 is AI agents zijn volledig autonoom en hebben geen menselijk toezicht nodig.

15
00:01:21,260 --> 00:01:25,020
Dit is misschien wel de gevaarlijkste mythe omdat hij tot roekeloos gedrag lijkt.

16
00:01:25,440 --> 00:01:33,120
Sommige mensen denken dat je AI agents kunt inzetten alsof het magische toverstafjes zijn die alle problemen oplossen zonder enige vorm van begeleiding.

17
00:01:33,880 --> 00:01:34,980
De realiteit is anders.

18
00:01:35,920 --> 00:01:42,700
Autonomie is bij AI agents dat ze binnen afgebakende kaders zelfstandig beslissingen kunnen nemen.

19
00:01:43,050 --> 00:01:46,640
Maar die kaders die stel jij in en die moet je dus ook bewaken.

20
00:01:48,160 --> 00:01:50,320
Stel je hebt een agent die facturen verwerkt.

21
00:01:50,780 --> 00:01:56,120
Die kan zelfstandig facturen, valideren, goedkeuren tot een bepaald bedrag en betalingen misschien wel initiëren.

22
00:01:56,700 --> 00:02:00,960
Maar er zijn grenzen. Facturen boven de 5000 euro gaan altijd naar een mens.

23
00:02:01,320 --> 00:02:01,860
Ik noem maar wat.

24
00:02:02,619 --> 00:02:06,860
Leveranciers die niet in ons systeem staan worden toegewezen aan een medewerker.

25
00:02:07,340 --> 00:02:10,179
En elke week bekijkt iemand de rapportages om patronen te zien.

26
00:02:10,259 --> 00:02:11,520
Die kunnen wijzen op problemen.

27
00:02:13,200 --> 00:02:16,600
Kijk, je geeft de agent verantwoordelijkheden, maar jij blijft de supervisor.

28
00:02:17,100 --> 00:02:24,200
En je controleert regelmatig het werk, past de instructies aan als dat nodig is en grijpt in bij onverwachte situaties.

29
00:02:25,100 --> 00:02:33,420
In aflevering 4 van dit seizoen, jouw eerste AI agent, zo begin je succesvol, heb ik uitgebreid besproken waarom menselijk toezicht zo belangrijk is.

30
00:02:33,790 --> 00:02:37,200
En zonder toezicht kun je niet leren van wat goed en wat fout gaat.

31
00:02:38,270 --> 00:02:42,240
De volgende mythe 6. AI agents vervangen alle banen.

32
00:02:43,040 --> 00:02:46,920
Deze mythe voedt natuurlijk veel angst rondom AI agents.

33
00:02:47,100 --> 00:02:48,100
En ik begrijp die angst.

34
00:02:48,680 --> 00:02:52,880
Maar de werkelijkheid is genuanceerder dan robot nemen onze banen over.

35
00:02:53,400 --> 00:02:57,780
AI agents zijn heel goed in specifieke, goed gedefineerde taken.

36
00:02:58,320 --> 00:03:00,720
En ze kunnen perfect repetitief werk doen.

37
00:03:01,240 --> 00:03:04,140
Ook hoeveel data verwerken en 24x7 beschikbaar zijn.

38
00:03:04,900 --> 00:03:07,720
Maar ze missen creativiteit, empathie.

39
00:03:08,190 --> 00:03:10,540
Maar toch ook wel complexe probleemoplossing.

40
00:03:10,830 --> 00:03:13,640
En het vermogen om met onverwachte situaties om te gaan.

41
00:03:14,300 --> 00:03:16,620
Wat er dus gebeurt is niet zozeer vervanging.

42
00:03:17,180 --> 00:03:18,180
Maar wel verschuiving.

43
00:03:18,700 --> 00:03:22,820
Agents nemen de routinematige delen van ons werk over.

44
00:03:23,600 --> 00:03:28,000
Waardoor je hopelijk tijd krijgt voor interessantere, meer strategische taken.

45
00:03:29,680 --> 00:03:31,300
Mythe nummer 7.

46
00:03:31,590 --> 00:03:34,759
AI agents zijn onvoorspelbaar en oncontroleerbaar.

47
00:03:36,280 --> 00:03:42,000
Deze mythe ontstaat vaak na verhalen over systemen die zogenaamd gek zijn geworden.

48
00:03:42,840 --> 00:03:44,620
Chatbots die ongepaste dingen zeggen.

49
00:03:44,700 --> 00:03:49,460
Agents die onverwachte acties uitvoeren, systemen die plotseling niet meer werken.

50
00:03:50,180 --> 00:03:54,080
Maar deze problemen ontstaan meestal door slechte implementatie.

51
00:03:54,320 --> 00:03:57,560
En niet omdat de agents inherent oncontroleerbaar zijn.

52
00:03:58,100 --> 00:04:04,160
Als je een agent goed ontwerpt, met duidelijke grenzen, goede monitoring, kun je veel van deze problemen echt voorkomen.

53
00:04:04,860 --> 00:04:07,520
Het geheim zit in wat we guardrails noemen.

54
00:04:08,760 --> 00:04:12,360
Veiligheidsmechanismes die voorkomen dat agents buiten hun bedoelde functie treden.

55
00:04:13,360 --> 00:04:17,799
En dit kunnen technische beperkingen zijn, dus de agent heeft alleen toegang tot bepaalde databases.

56
00:04:18,690 --> 00:04:24,520
Het kunnen ook regelgebaseerde checks zijn, bijvoorbeeld elke actie boven een bepaalde waarde moet door een mens worden goedgekeurd.

57
00:04:25,320 --> 00:04:29,000
Een agent die e-mails beantwoordt krijgt bijvoorbeeld templates en richtlijnen mee.

58
00:04:30,180 --> 00:04:34,160
Zo kan de agent niet zomaar van onderwerp veranderen of persoonlijke informatie delen.

59
00:04:35,100 --> 00:04:39,940
En alle uitkomsten worden gelogd, zodat je achteraf kunt zien wat er is gebeurd en waarom.

60
00:04:41,780 --> 00:04:47,960
Mythe nummer 8. Agents kunnen meteen elke taak zonder voorbereiding overnemen.

61
00:04:49,940 --> 00:04:52,420
Dit is de plug-and-play mythe, zou ik haast zeggen.

62
00:04:52,900 --> 00:04:59,120
Bedrijven denken soms dat ze een AI-agent kunnen kopen, installeren en dan direct alle processen kunnen automatiseren.

63
00:04:59,340 --> 00:05:00,460
Niets is minder waar.

64
00:05:01,540 --> 00:05:05,080
Een goede agent implementeren vereist grondige voorbereiding.

65
00:05:05,580 --> 00:05:13,420
Je moet je processen documenteren, de agent trainen op jouw specifieke situatie en geleidelijk opbouwen van eenvoudige naar complexe taken.

66
00:05:14,070 --> 00:05:22,080
Net zoals je een nieuwe medewerker niet op de eerste dag de moeilijkste klanten geeft, begin je een agent met simpele, goed gedefinieerde taken.

67
00:05:22,780 --> 00:05:28,380
Pas als hij betrouwbaar die taken uitvoert, geef je steeds meer verantwoordelijkheden weg.

68
00:05:29,220 --> 00:05:33,740
Het succes met AI agents vraagt om geduld, iteratie en constante verbetering.

69
00:05:36,660 --> 00:05:41,460
Dus hoe ziet goede samenwerking tussen mens en AI agent er dan uit?

70
00:05:41,920 --> 00:05:45,300
Het draait uiteindelijk om hoe complementair ze zijn.

71
00:05:45,760 --> 00:05:49,880
De agent doet wat het goed kan, snel, consistent, data gedreven werk.

72
00:05:50,380 --> 00:05:56,060
De mens doet wat hij goed kan, creatief, empathie, complexe problemen, oplossing en beslissing in grijze gebieden.

73
00:05:56,700 --> 00:06:01,140
De sleutel is uiteindelijk een soort van wederzijds begrip, hoe vreemd dat dan ook klinkt.

74
00:06:01,160 --> 00:06:05,020
Je moet begrijpen wat de agent kan en niet kan.

75
00:06:05,450 --> 00:06:07,720
En de agent moet begrijpen wat jij nodig hebt.

76
00:06:08,300 --> 00:06:11,920
Dat betekent ook dat je regelmatig feedback geeft aan de ontwikkelaars van de agent.

77
00:06:12,200 --> 00:06:14,100
Zodat de agent kan leren en verbeteren.

78
00:06:16,140 --> 00:06:17,420
Ter afsluiting nog dit.

79
00:06:17,530 --> 00:06:19,960
Dus AI agents zijn krachtige partners.

80
00:06:20,600 --> 00:06:22,920
Geen bedreiging, maar ook geen wondermiddel.

81
00:06:23,300 --> 00:06:28,600
Ze vereisen investering in voorbereiding, training en een soort van ongoing management.

82
00:06:28,680 --> 00:06:34,440
Maar als je dat goed doet, kunnen ze je werk interessanter maken en je organisatie effectiever.

83
00:06:34,980 --> 00:06:41,320
De sleutel ligt in begrijpen dat autonomie niet betekent zonder toezicht, maar binnen afgesproken kaders.

84
00:06:41,860 --> 00:06:45,840
Dat samenwerking niet betekent vervanging, maar complementair aan elkaar zijn.

85
00:06:46,360 --> 00:06:49,280
En dat controle niet betekent micromanagement, maar goede governance.

86
00:06:50,160 --> 00:06:56,380
Volgende week sluiten we deze serie af met de praktische mythes over toegankelijkheid, benodigde data en business value.

87
00:06:57,260 --> 00:07:02,420
Want je hoeft geen Google of Microsoft te zijn om voordeel te hebben bij de agents.

88
00:07:02,740 --> 00:07:07,800
En als je meer wilt leren over hoe je AI agents strategisch kunt inzetten in je organisatie,

89
00:07:08,200 --> 00:07:11,240
dan wil ik je wijzen op mijn nieuwe boek Doeltreffend met AI agents.

90
00:07:12,020 --> 00:07:19,440
Hierin vind je niet alleen concrete stappenplannen, maar ook frameworks voor governance en samenwerking die echt werken in de praktijk.

91
00:07:19,940 --> 00:07:20,700
Voorbeelden daarvan.

92
00:07:21,240 --> 00:07:24,220
Je kunt het boek reserveren, de link staat in de show notes.

93
00:07:29,840 --> 00:07:31,240
Dankjewel weer voor het luisteren

94
00:07:31,810 --> 00:07:32,600
Tot de volgende week

95
00:08:01,820 --> 00:08:01,840
[Muziek]