AI, en Dans på Roser
En podcast til folk, der arbejder med AI. Dan Rose, stifter af AI-huset Todai, inviterer profiler fra erhvervsliv, politik og forskning ind til skarpe samtaler om kunstig intelligens - med fokus på teknologiens virkelige betydning for forretning, samfund og konkurrenceevne.
Vi sætter det faglige niveau op og går et skridt dybere med både teknologien og adoption af kunstig intelligens. Vi taler ikke buzzwords og smarte one-liners. Ingen forklaringer af gængse AI-termer.
Podcasten er lavet til dem, der allerede arbejder med AI, hvor samtalerne går på, hvordan AI skal implementeres og adopteres, skaber værdi, kan reguleres og de reelle praktiske erfaringer. Og vi gør det i en tone, der er direkte, faglig og uden alt det AI-hype og raket-emojis.
Podcasten udkommer som lyd og video. Nye episoder hver uge.
AI, en Dans på Roser
Den falske tryghed, der gør dine AI-systemer dårligere: Human in the Loop - Soloafsnit med Dan Rose
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
"Vi sætter bare et menneske ind i loopet" er blevet standardsvaret, når compliance spørger til risici. Men hvad nu hvis det gør tingene værre?
I det her soloafsnit tager Dan Rose fat på Human in the Loop – et begreb, der er vokset eksplosivt og er skrevet direkte ind i EU's AI Act, men som forskning viser gang på gang kan sænke kvaliteten, forværre bias og reducere dygtige medarbejdere til juridiske stødpuder.
Dan kommer ind på:
Præstationsparadokset:
Hvorfor menneske plus AI ikke altid giver det bedste resultat – og hvornår AI faktisk klarer sig bedre alene.
De kognitive faldgrupper:
Vigilance decrement, belejlighedsbias, forankringsbias og bekræftelsesbias – og hvad de gør ved dine medarbejdere, når de sættes til at godkende AI-output.
Den moralske deformationszone:
Hvorfor Human in the Loop alt for ofte er et "cover your ass"-værktøj, der placerer ansvaret hos medarbejderen uden at give dem reel kontrol.
Tre konkrete designgreb: Kognitiv tvangsfunktion, delegation inversion og kortet vs. terrænet – sådan bygger du workflows, der rent faktisk virker.
Har du ønsker til emner eller gæster? Skriv til dan.rose@todai.ai
Kildeliste:
Human-AI Synergy (MIT, 2025): Når mennesker gør AI dårligere:
https://mitsloan.mit.edu/ideas-made-to-matter/when-humans-and-ai-work-best-together-and-when-each-better-alone
Ansvarshuller (AU, 2023): Hvorfor det er uetisk at give medarbejderen ansvaret for AI-fejl:
https://link.springer.com/article/10.1007/s10676-023-09699-6
Manglende Metaviden (2022): Vi er dårlige til at vurdere, hvornår vi skal stole på maskinen:
https://pubsonline.informs.org/doi/10.1287/isre.2021.1079
Kognitive Tvangsfunktioner: Fartbump der tvinger os til selv at tænke:
Studie 1: https://arxiv.org/abs/2101.04517
Studie 2: https://arxiv.org/abs/2402.16279
Moral Crumple Zones (2019): Mennesket som "deformationszone" når teknikken fejler:
https://estsjournal.org/index.php/ests/article/view/260
Case: Zillows algoritme-flop (2021): Da AI-styrede boligkøb kostede millioner:
https://www.gsb.stanford.edu/insights/flip-flop-why-zillows-algorithmic-home-buying-venture-imploded
Succes-case: Radiologi (2023): Markant bedre diagnosticering via AI-støtte:
https://pubmed.ncbi.nlm.nih.gov/37993303/