Finetuning AI

Greatminds podcast

Greatminds podcast
Finetuning AI
Jul 22, 2024 Season 1 Episode 6
Greatminds

Send us a text

In deze aflevering van de greatminds podcast gaan we in op een van de belangrijkste ontwikkelingen binnen AI: finetuning. Onze gast, Robin Smits weet daar alles van. Robin is data scientist en AI-expert bij LumiML Consulting deelt zijn kennis over hoe finetuning werkt, waarom het cruciaal is voor AI-modellen en waarom het zo'n cruciale rol speelt in de ontwikkeling van geavanceerde AI-modellen. 

Samen met host Hildo van Es, IT-architect en medeoprichter van greatminds, gaat Robin dieper in op de voordelen en toepassingen van deze krachtige techniek. Wat betekent dit voor organisaties en hoe kunnen IT Managers, IT Architecten en beslissingsmakers dit strategisch inzetten? Dat en meer hoor je in deze aflevering.

🔑 Belangrijkste inzichten:

  • Fine-tuning maakt een bestaand model geschikt voor jouw specifieke taak, met relatief weinig data. 
  • Je hebt geen datacenter of miljoenenbudget nodig: fine-tunen kan al met enkele GPU's. 
  • Het levert strategisch voordeel op ten opzichte van standaardoplossingen zoals ChatGPT. 

📱 Connect met onze gast en host: 

Robin Smits | Hildo van Es 

⏱ Tijdstempels:

00:00 – Introductie Hildo en Robin 

01:03 – Wat is fine-tuning en waarom is het belangrijk? 

04:06 – Hoe werkt fine-tuning in hoofdlijnen? 

07:54 – Het verschil met prompt-engineering en RAG 

12:20 – Datakwaliteit en datasetopbouw voor fine-tuning 

17:52 – LoRA, QLoRA en adapter training 

19:10 – Evaluatie: hoe weet je of fine-tuning werkt? 

24:01 – Welke mensen heb je nodig in je team? 

28:02 – Kosten van fine-tuning: hardware, cloud en GPU’s 

29:55 – Strategische waarde: concurrentievoordeel door maatwerk 

33:39 – Afsluiting