1
00:00:00,000 --> 00:00:07,960
Hoi, leuk dat je weer luistert naar een nieuwe aflevering van de AIToday Live.

2
00:00:07,960 --> 00:00:11,640
Dit keer weer de korte aflevering.

3
00:00:11,640 --> 00:00:18,160
Normaal gesproken geef ik je in de korte aflevering van de show mijn visie op een onderwerp of

4
00:00:18,160 --> 00:00:22,480
leg ik je de werking uit van bepaalde onderdelen van AI.

5
00:00:22,480 --> 00:00:27,720
Deze aflevering is anders en wil ik je juist wat vragen.

6
00:00:27,720 --> 00:00:31,560
Ik heb namelijk je hulp nodig en ik ga je uitleggen waarvoor.

7
00:00:31,560 --> 00:00:38,160
Deze week ben ik op een conferentie in Londen en daar wordt veel gesproken over, hoe kan

8
00:00:38,160 --> 00:00:40,760
het ook anders, generatieve AI.

9
00:00:40,760 --> 00:00:47,280
En niet alleen hier, maar vaker op podia wordt gesproken over hoe AI en generatieve

10
00:00:47,280 --> 00:00:55,360
AI in het bijzonder kan helpen bij het verminderen van CO2 emissies en hoe het kan helpen bij

11
00:00:55,360 --> 00:00:57,360
zogenaamde groene initiatieven.

12
00:00:57,360 --> 00:01:03,960
En al snel worden Large Language Models genoemd, met modellen onder ChatGPT en Google's

13
00:01:03,960 --> 00:01:04,960
Gemini.

14
00:01:04,960 --> 00:01:09,080
Maar dat is paradoxaal.

15
00:01:09,080 --> 00:01:12,640
Want het trainen van deze modellen kost zoveel energie.

16
00:01:12,640 --> 00:01:18,280
Dat is misschien wel gelijk aan de energieconsumptie van honderdduizenden huishoudens.

17
00:01:18,280 --> 00:01:26,320
En de hoeveelheid water die hiervoor nodig is voor de koeling reken ik nog niet eens

18
00:01:26,320 --> 00:01:27,320
mee.

19
00:01:27,320 --> 00:01:33,040
Toch komt er wel meer aandacht voor Green AI.

20
00:01:33,040 --> 00:01:38,960
En dat is ook wel nodig, want niet alleen het trainen van deze modellen kost veel geld.

21
00:01:38,960 --> 00:01:46,880
Iedere vraag die jij en ik stellen aan ChatGPT is best wel duur in energieverbruik.

22
00:01:46,880 --> 00:01:54,880
De energiekosten voor het gebruik van ChatGPT wordt zo geschat op 0,003 kWh.

23
00:01:54,880 --> 00:02:00,320
Nou zou je denken, wat is nou 0,003 kWh?

24
00:02:00,320 --> 00:02:01,920
Dat lijkt niet veel.

25
00:02:01,920 --> 00:02:07,400
Maar om wat gevoel te krijgen bij hoeveel dat is, dat is net zoveel als de energie van

26
00:02:07,400 --> 00:02:13,480
een magnetron die 12 seconden lang gebruikt wordt op een stand van 900 Watt.

27
00:02:13,480 --> 00:02:21,720
En ik weet niet hoe het bij jou gaat, maar met mijn dialogen met ChatGPT stel ik gerust

28
00:02:21,720 --> 00:02:24,880
10 tot 30 vragen waar ik dan antwoord op krijg.

29
00:02:24,880 --> 00:02:29,640
Dus in het slechtste geval zet ik dus gewoon 6 minuten lang op afstand een magnetron op

30
00:02:29,640 --> 00:02:30,720
vol vermogen aan.

31
00:02:30,720 --> 00:02:37,320
Nu is de technologie best jong en begrijp ik helemaal de aandacht op de toepassing en

32
00:02:37,320 --> 00:02:38,320
het gemak.

33
00:02:38,320 --> 00:02:42,800
Ook wij gebruiken large language models en bouwen daar best wel hele mooie oplossingen

34
00:02:42,800 --> 00:02:43,800
mee.

35
00:02:43,800 --> 00:02:49,480
Maar toch vind ik dat we als industrie wat meer aandacht mogen hebben voor Green AI.

36
00:02:49,480 --> 00:02:51,960
Maar wat is dat nou eigenlijk precies?

37
00:02:51,960 --> 00:02:52,960
Green AI?

38
00:02:52,960 --> 00:03:01,400
Dat verwijst naar een beweging of aanpak binnen AI die de nadruk legt op energie-efficiëntie,

39
00:03:01,400 --> 00:03:07,720
duurzaamheid en milieuvriendelijkheid bij de ontwikkeling en inzet van AI-systemen.

40
00:03:07,720 --> 00:03:11,800
Er zijn verschillende aspecten aan deze Green AI.

41
00:03:11,800 --> 00:03:14,960
Een daarvan is energie-efficiënt gebruik.

42
00:03:14,960 --> 00:03:20,680
Dit gaat over het optimaliseren van algoritme om het energieverbruik te verminderen.

43
00:03:20,680 --> 00:03:27,600
Er zijn allerlei technieken die kunnen bestaan uit efficiëntere modelarchitectuur, dus hoe

44
00:03:27,600 --> 00:03:30,920
de modellen intern in elkaar zitten.

45
00:03:30,920 --> 00:03:37,800
Het snoeien van dit soort modellen, dus dan verwijder je onnodige stukken van zo'n model.

46
00:03:37,800 --> 00:03:43,880
En het verminderen van de preciesheid, de nauwkeurigheid van de getallen die bij de

47
00:03:43,880 --> 00:03:45,200
berekening worden gebruikt.

48
00:03:45,200 --> 00:03:49,200
Je hebt ook hardware-innovaties.

49
00:03:49,200 --> 00:03:53,760
Dus moet je denken aan dat ze bezig zijn met de ontwikkelen en gebruiken van hardware die

50
00:03:53,760 --> 00:04:00,320
heel specifiek is ontworpen om juist energie-efficiënt te zijn voor AI.

51
00:04:00,320 --> 00:04:06,240
Zoals hele gespecialiseerde processoren voor dit soort hele complexe berekeningen.

52
00:04:06,240 --> 00:04:10,880
Je kan ook denken aan het aspect van duurzame datacenters.

53
00:04:10,880 --> 00:04:20,040
De implementatie van hernieuwbare energiebronnen, zoals zonne- of windenergie, die juist gebruikt

54
00:04:20,040 --> 00:04:26,560
worden in die datacenters om die berekeningen uit te voeren dat dat dan je energiebron is.

55
00:04:26,560 --> 00:04:31,880
En als laatste heb je het optimaliseren van de modellen zelf.

56
00:04:31,880 --> 00:04:37,320
Dus naast energie-efficiëntie kan je ook de modellen zodanig optimaliseren zodat er

57
00:04:37,320 --> 00:04:41,080
gewoon minder rekenkracht nodig is voor training en gebruik.

58
00:04:41,080 --> 00:04:45,760
Hier kun je denken aan juist veel kleinere taalmodellen.

59
00:04:45,760 --> 00:04:54,680
Waarbij je een taalmodel voor één specifieke taak terugbrengt waardoor ook energie wordt

60
00:04:54,680 --> 00:04:55,680
bespaard.

61
00:04:55,680 --> 00:04:59,040
Als laatste aspect heb je de CO2-compensatie.

62
00:04:59,040 --> 00:05:05,840
Als je dan toch onvermijdelijke emissies hebt kun je investeren in initiatieven voor CO2-compensatie

63
00:05:05,840 --> 00:05:10,480
zoals planten van bomen of projecten voor hernieuwbare energie.

64
00:05:10,480 --> 00:05:11,960
Je kent dat soort dingen wel.

65
00:05:11,960 --> 00:05:15,000
Wat is nu je vraag?

66
00:05:15,000 --> 00:05:16,680
Daar ben ik bijna.

67
00:05:16,680 --> 00:05:18,040
Het zit zo.

68
00:05:18,040 --> 00:05:24,520
Ik kan er van alles van vinden over hoe er nu wordt omgegaan met groene AI en hoe er over

69
00:05:24,520 --> 00:05:25,520
gesproken wordt.

70
00:05:25,520 --> 00:05:29,080
Maar uiteindelijk is het beter om te handelen toch?

71
00:05:29,080 --> 00:05:34,040
Of, zoals ze mooi in het Engels zeggen, put your money where your mouth is.

72
00:05:34,040 --> 00:05:41,800
In ons Research Center AI zijn we gestart met een onderzoekslijn rondom groene AI.

73
00:05:41,800 --> 00:05:49,000
We kunnen niet alle van de eerder genoemde aspecten onderzoeken en er bijdrage aan leveren.

74
00:05:49,000 --> 00:05:55,440
Maar juist die energie-efficiëntie en modeloptimalisatie ligt dicht bij onze expertise.

75
00:05:55,440 --> 00:05:58,000
Daar wil ik wel aan beginnen.

76
00:05:58,000 --> 00:06:05,440
Nu kom ik bij mijn vraag.

77
00:06:05,440 --> 00:06:12,440
Ben jij iemand die ons inzicht kan geven over groene AI?

78
00:06:12,440 --> 00:06:17,440
Of ken je zo iemand en wil je dan contact met ons opnemen?

79
00:06:17,440 --> 00:06:21,440
Ben je een masterstudent en wil je onderzoek doen op dit vlak?

80
00:06:21,440 --> 00:06:23,440
Meld je dan bij ons aan.

81
00:06:23,440 --> 00:06:28,440
Dus mijn vraag is eigenlijk, help jij mee?

82
00:06:28,440 --> 00:06:35,440
Dankjewel weer voor het luisteren naar deze korte aflevering over AI.

83
00:06:35,440 --> 00:06:38,440
Net even anders dan anders.

84
00:06:38,440 --> 00:06:43,440
Vergeet je niet te abonneren via je favoriete podcast app.

85
00:06:43,440 --> 00:06:45,440
En mis geen aflevering.

86
00:06:45,440 --> 00:06:47,440
Tot de volgende keer.

87
00:06:47,440 --> 00:06:49,440
[Muziek]

88
00:06:49,440 --> 00:07:12,240
[Muziek]