121: Nu er vi der snart, ik' - selvkørende biler genbesøgt

Det er over fem år siden, vi sidst talte om selvkørende biler. Det var i episode 23 “Er vi der snart? — Fuld autonomi”. Dengang var Teslas Full Self Driving en ret umoden skabning. Selvom både Waymo og Tesla spillede det lange spil allerede dengang, var skepsissen stor.

Til trods for vores teknooptimistiske indstilling var vi heller ikke helt overbeviste om, at ægte selvkørende biler ville indfinde sig i vores levetid. Det var imidlertid også dengang, hvor generativ AI ikke for alvor var en del af vores hverdag. Den fremherskende forestilling var stadig, at komplekse problemer krævede kompleks kode for at kunne løses med software.

Nu er alt forandret. Den 9. juni kunne Færdselsstyrelsen meddele, at Teslas FSD Supervised foreløbigt er godkendt som førerassistentsystem i Danmark. Det kom bag på selv inkarnerede Tesla-ejere som Klaus – der selvfølgelig straks måtte swipe til højre og svinge dankortet for at opgradere sin bil til noget, som i meget svær grad minder om at være et køretøj taget direkte ud af den science fiction, der prægede hans barndom.

Episoden er ikke en bilanmeldelse, ej heller skal det handle kun om Tesla. Derimod stiller vi spørgsmålet: Hvordan skal vi stole på en maskine, der ofte kører bedre end de fleste mennesker, men ikke desto mindre har vores liv i sine metaforiske hænder? Hvad skal tilliden baseres på? Og hvad ville Løgstrup mon sige til det?

Og så får Klaus lovet Thomas en prøvetur.

****

Nu også på YouTube — hvis du bedst kan lide din podcast med uden video. https://youtube.com/@silberblom

****

Hvem betaler for Silberbauer & Blomseth?

Det gør vi selv. Vores indhold er på ingen måde egnet til sponsorer eller reklamer for proteinpulver, VPN-forbindelse eller e-bøger. Så hosting, udstyr og alt det der er på egen regning. 

Det eneste vi beder om til gengæld (hvis du altså kan lide det, vi laver) er at du smider stjerner, og måske oven i købet en lille anbefaling, efter os på Apple Podcast. Det betyder alverden. Vi higer jo allesammen efter anerkendelse i en eller anden form. 

Husk at følge os på Bluesky (@silberblom)

Linktree

Transcript

[Klaus Silberbauer: 00:00:00]
Hej Thomas.

[Thomas Blomseth: 00:00:08]
Hej Klaus. Så er vi så nået til en episode, hvor jeg har sluppet rattet. Læner mig godt tilbage i sædet. Og så vil jeg bare lade dig køre den selv.

[Klaus Silberbauer: 00:00:21]
Vi har ikke planlagt noget som helst om det her. Vi har ikke været i dialog om, hvad vi skal tale om. Men jeg tror allerede, du har lugtet lunten. Det har du, ikke? Ja. Men så lad os starte med at køre tilbage i tid. Fordi vi skal jo over fem år tilbage, før vi finder den seneste episode, hvor vi talte om de her selvkørende biler. Som du nok har gættet, at vi skal tale om igen. Der er jo en anden vinkel, end du måske tror. Men hvad siger du?

[Thomas Blomseth: 00:00:51]
Nå, men er der gået så lang tid, siden vi siger sådan?

[Klaus Silberbauer: 00:00:53]
Det er der. Ja, oktober 2020 lavede vi en episode, der hedder Er vi der snart? Om fuld autonomi. Og jeg tænker, det skal sige sådan lidt barnigt. Ja, men det er snart, hva'?

[Thomas Blomseth: 00:01:05]
Ja.

[Klaus Silberbauer: 00:01:08]
Og jeg har igen hørt den her. Den er udmærket. Den kan jeg da stadigvæk varmt anbefale. Jeg synes, vi havde nogle gode betragtninger. Vi var sådan, jeg vil sige, skeptisk optimistiske på teknologien. Det var, jeg tror, der i 2020, der havde man lige i USA, havde Tesla lige frigivet den første såkaldte full self-driving stack. Og jeg tror ikke, man kunne få den som privatbruger, men der var i test. Og det var jo ret imponerende at se på. Den her ikke helt AI-baserede stack, men en masse procedural kode blandet med noget AI, eller hvad det nu er. Det ved man jo faktisk ikke rigtig noget om. Vi kan kun gisne. Og vi var jo imponeret over det, man kunne se på YouTube. Vi var også skeptiske på, om, tror jeg, det er et sted, om rigtig selvkørende bil, der faktisk blev vores levetid. Fordi der var så mange ubesvarede spørgsmål. Så det var jo lidt interessant og faktisk en overraskelse for mig, og tror jeg også rigtig mange andre, at færdesestyrelsen den 9. juni, altså for ikke så mange dage siden, meldte ud, at nu er full self-driving lovligt i Danmark. baseret på den godkendelse, som det hollandske, den hollandske pendant til færdesestyrelsen, det tror jeg er, RDW eller sådan noget, gav i Holland. Der har man testet det ret grundigt, hvis nok. Men EU fungerer jo på den måde, at hvis et EU-land godkender noget, så er det ret frit for de andre EU-lande at sige, vi stoler på jer, og så giver vi os godkendelsen herhjemme. Jeg havde bare ikke troet, at den danske bureaukrati kunne handle så hurtigt. Så her står vi, altså fem og et halvt år efter vores episode om selvkørende biler, og nu er Teslas såkaldte full self-driving software frigivet i Danmark.

[Thomas Blomseth: 00:03:08]
Og du har også haft muligheden for at prøve det.

[Klaus Silberbauer: 00:03:12]
Jamen det har jeg, fordi da jeg så den der nyhed, så kom den lille teknologiglade Klaus jo op i mig, og det er jo et eller andet sted, det man har gået og ventet på. Nu kunne vi ikke få flyvende biler, nu kunne vi måske få selvkørende biler. Og jeg regnede også med, at Tesla nok var ret hurtig til at trykke på knappen, når først godkendelsen var der. Det er jo ikke en virksomhed, der hviler på laurbærrene. Og det tog, altså under et døgn, så var softwaren i min bil opdateret, og jeg kunne tage ud og prøve at lade den køre selv. Og det er en speciel oplevelse, fordi den er overraskende god til det, det vil jeg sige. Jeg har set videoer af det, men jeg må sige, at jeg tog den igennem myldretiden i København et par gange, og er ret imponeret over det, den kan finde ud af. Også måden, den kører på, den er meget, kører på en utrolig menneskelig måde. Min hustru sad ved siden af på nogle af turene, og jeg spurgte, om hun var lige så grundangst, som jeg var, da jeg sad bag rattet. Den kører fuldstændig som, når du kører, altså måske bare lidt bedre. Lidt mere, lidt mindre assertivt måske. Så det er grundlæggende voldsomt, voldsomt imponerende teknologi, synes jeg. Virkelig et af de der spring fremad. Og jeg tænker, vi kommer aldrig, vi kommer ikke tilbage til tiden før selvkørende et eller andet her. Det tror jeg ikke sker. Nu handler det kun om for de andre at catche op.

[Thomas Blomseth: 00:04:53]
Jeg bliver lige nødt til at komme med lidt en association, men et Luhmann-citat, som noget, som måske ikke længere så holder. Fordi han skrev en gang noget i stien med, at ægteskaber indgås i kirken, men falder fra hinanden i bilen. Er det rigtigt? Ja. Okay, ja. Og det er måske ikke sådan, det kommer til at foregå i fremtiden, fordi den der bil, den kører så lækkert, og der er ikke nogen beskyldt for den dårlige kørsel. Altså, det her med attribution, altså, hvor man tilskriver, når man kigger på folks handlinger, så tilskriver man noget moralsk eller noget karaktermæssigt bag handlingerne. Og hvis du ikke har hænderne på rattet, så er der ikke nogen beskyldt for den der dårlige kørsel.

[Klaus Silberbauer: 00:05:40]
Det er super interessant. Det er jo fordi, den vinkel, vi tager det her over på om et øjeblik, det... Hold den tanke, som man siger. Jeg vil ikke... Jeg gider ikke at lave en bilanvendelsesepisode. Det er, at der er andre, der gør bedre. Og jeg gider heller ikke snakke om Elon og Tesla, som virksomhed eller... Det er her på alle mulige måder sandsynligvis ganske forfærdelige mennesker, der ejer hovedparten af det, og inden for den sidste uge er blevet verdens rigeste menneske. Lad det nu ligge. Jeg vil meget hellere ind på den mere filosofiske side her. Så jeg er glad for, at du har bragt Luhmann op. Vi kan godt... Der kommer andre filosofer i spil, kan jeg afsløre. Fordi, hvad er det med... Hvad gør det her ved tillidsbegrebet? Det synes jeg er interessant, ikke? Der er selvfølgelig det hele juridiske aspekt ved at lade en bil køre selv. Det er en ting af det, men jeg synes, det er endnu mere interessant at kigge på, hvad er det, det gør ved vores tillid? Altså, der har været mange reaktioner på det her. Nogle mener, at det er... Jeg så... Altså, selvkørende Tesla blev kaldt for dødsmaskiner. Fordi nu skal de ud og slå os alle sammen ihjel i trafikken. Og man er fuldstændig sindssyg og letsindig, hvis man tør at sætte sig bag rattet og sådan en og lade en robot køre. Om man set har vi noget statistik, der siger, at... Tesla-statistik er måske lidt optimistisk omkring det, men selv den mest konservative udlægning af statistikken siger, at der dør ikke flere mennesker i selvkørende biler eller uden for selvkørende biler, end hvis der er mennesker bag rattet. Altså, statistikken er sådan lidt på AI'ens side her. Et af grundene til, at Færdselsstyrelsen godkendte det, er, at... Jeg har faktisk et citat fra den.

[Thomas Blomseth: 00:07:44]
Kan vi få noget af kancellisproget?

[Klaus Silberbauer: 00:07:46]
Ja, de kommunikerer faktisk meget godt. De skriver her, at RDW, den hollandske typegodkendende myndighed, har vurderet, at Teslas FSD Supervised bidrager til at højne færdselssikkerheden ved at assistere førerne under kørselen. Korrekt bruger systemet udgør altså en støtte til førerne og skal ses som et supplement til førernes egne observationer og beslutninger i forhold til den aktuelle trafik. Og Færdselsstyrelsen har kigget på den hollandske dokumentation og er enige i, at efter en grundig gennemgang og vurdering af den tekniske dokumentation, er Færdselsstyrelsen enige i RDW's vurdering af, at systemet bidrager positivt til færdselssikkerheden, fordi det assisterer førerne under kørselen. Det er interessant, at de siger det på den måde, fordi det er, når du kører med det, er det ikke, du får ikke fornemmelsen af et assistenssystem. Altså de systemer, vi kalder ADAS-systemer, hvor de holder dig inden for linjerne, altså lane assist og radarbaseret cruise control og den slags ting der. Der er det dig, der har initiativretten, kan man sige, og så griber assistenssystemet ind. Det kan også være ABS, det kan være traction control. Det er et helt hav af systemer, der sørger for, at du ikke gør noget uoverlagt og noget dumt. Og det er sådan, vi har betragtet de her systemer. Det er dig, der styrer, men du får ikke lov til at lave noget fuldstændig åndssvagt. Det har reddet mange liv. I det her tilfælde, og det tror jeg også godt, færdsatsstyrelsen ved, så er systemet i 100% kontrol med bilen. Det er dig, der er assistenten. Det er dig, der har ansvaret for at gribe ind, hvis den gør noget dumt.

[Thomas Blomseth: 00:09:25]
Eller du er superviseren.

[Klaus Silberbauer: 00:09:28]
Det hedder jo supervised. Under opsyn, tror jeg, det hedder i den danske version. Men den har fuld kontrol over bilen. Altså som i fuld kontrol. Og det er også det, der er meget interessant. Den afgør, hvor hurtigt du kører. Den afgør, hvordan den svinger og hvor den svinger. Den kan sætte bilen i bak. Den kan parkere. Det gør den selv. Altså, du behøver ikke at sige, du skal parkere. Du sender den hen til en adresse. Så er det som om, bilen kigger lidt rundt og siger, at der er en parkeringsplads lige her ved siden af. Den napper vi. Og så videre, så videre. Altså en fuld kontrol. Og du skal ikke engang holde ved rattet. Du skal bare kigge ud af forruden. Og den holder øje med dig i et kamera, at du kigger ud af forruden. Ellers så bliver det bare lavet. Så det er ikke et assistenssystem, som jeg ser det. Det er selvkørende. Men det må man ikke kalde det, fordi det er dig, der har ansvaret.

[Thomas Blomseth: 00:10:23]
Så det kan være, at vi skal til at omdøbe chaufføren eller føreren til opsynsmanden.

[Klaus Silberbauer: 00:10:28]
Jamen det er det, man er. Når du slår det her system til. Det er der ikke nogen tvivl om. Er det godt eller skidt? Jamen det er jo op til en filosofisk diskussion faktisk. Fordi hele den reaktion, der har været overfor det her system, viser jo i høj grad, at det her med tilliden til en maskine er noget, vi arbejder med for tiden. diskussion om AI, som vi jo tidligere i flere afsnit har været inde på, handler også meget om tilliden til, om den her bunke matematik nu fremkommer med noget, vi kan stole på. Forskellen her er, at vi tager det, vi har været vant til at generere tekst for os og generere kode for os. generelt laver rigtig meget for os efterhånden. Og nu flytter vi det ud i den fysiske verden, og vi sætter det i kontrol med en omkring to ton tung bunke stål og plastik, som kan køre over 200 km i timen. Det er ligesom, ser jeg, en tryktest på vores tillid til maskinen. Og det er det, der deler vandene lige nu. Jeg ved ikke engang, hvor jeg selv står i det her. Det gør jeg ikke. Altså, fordi det er en black box. Det er systemens natur.

[Thomas Blomseth: 00:11:49]
Og det er det helt høje niveau. Men jeg kan godt tænke mig, i hvert fald lige at nævne noget, jeg også har hørt om. Jeg har endnu ikke selv oplevet systemet, men jeg kender også andre, der har aktiveret det, fordi de har også kunnet prøve det. Og det, man oplever, det er jo, at den virker nærmest overnaturlig i stand til at se farlige situationer. Altså sådan noget, jeg har hørt om et tilfælde, hvor der er nogle høje hække, og en bil, der bakker ud på en vej. Og det kan den se, før at safføren selv opdager det. Og den undviger at bremse sig ned. Og jeg ved ikke, om du har oplevet noget lignende. Altså, de der situationer...

[Klaus Silberbauer: 00:12:30]
Der er jo heldigvis langt imellem, at man oplever de der katastrofessituationer. Men i det små... I går kørte jeg fra mine svigerforældre. Det er nærmest en lille stigsystem. Man kører i sådan nogle ret smale veje, og man kører meget langsomt. Og om biler, der skal komme fra den anden retning, skal du passere forsigtigt. Og der var jeg to gange ude for, at min bil, altså meget gentleman-like, lige holdt igen. Den kunne gennemskue, og den bil, der kom imod os, kunne ikke komme igennem en chicane med plads til to biler. Og så holdt den tilbage. Og så har jeg været ude for, at den her enormt hurtige reaktionsevne på motorvejen, hvis du kommer op og kører i højrebanen, som man jo skal i Danmark, bilen foran kører måske overdrevet langsomt. Fordi jeg har kørt bil i mange år, så sidder jeg allerede ved at tjekke spejlene. Kan jeg trække til venstre, komme ud med den her bil? Jeg når ikke engang at kigge i spejlet, så blinker min bil ud, trækker ud til venstre. Hard checket, for den tjekker jo hele tiden, om der er nogen bagved, og overhaler bilen, uden at sænke farten overhovedet. Fuldstændig, altså jeg vil sige smooth, lækkert kørt. Og måske det, der overrasker mig mest, det er den her meget menneskelige måde, den kører på. Altså bortset farten reagerer bare så meget hurtigere. Jeg vil sige, der er også nogle ting, hvor der er nogle sociale konventioner, den måske ikke helt forstår. I virkelig, virkelig parket myldertid, i højresvingsbaner, når der er kø, så gør folk jo det, at de bygger køen op helt ind til højre, måske i en busbane, måske i et busstoppestad, simpelthen for at de biler, der skal lige ud igennem krydset, kunne køre lige ud, så du ikke blokerer helt krydset. Det er ulovligt. Det er en forkert måde at køre på, men det gør alle. Du ser det samme på motorvejen, hvis der er myldertid, om folk skal have en frakørsel, jamen så bygger køen op i nødsporet. Der var jeg så ude for, at det forstod min bil ikke. Den fortsatte sådan set i ligeudbanen, og prøvede at komme ind i køen, og folk er jo som folk og flest, det får du sgu ikke lov til i København. Det kan du godt glemme, makker. Nu har vi selv siddet i køen i fem minutter, du skal ikke prøve at mase ind. Der måtte jeg så tage over. Men det var mere en social konvention, det var ikke en farlig situation. Det betød bare, at jeg skal ud på en lille omvej. Det er på alle mulige måder ret imponerende teknologi, hvis man prøver det. Jeg siger ikke, det er perfekt teknologi. Jeg siger ikke, det er til alle situationer. Jeg er selv i tvivl om, at jeg vil fortsætte med at betale for det, fordi jeg kan også godt lide at køre bil. Men det er, hvad det er, og det er derude, og det er paradigmskifte, mener jeg, i hvordan vi bruger AI, og hvordan vi tilgår biltrafik.

[Thomas Blomseth: 00:15:29]
Jeg synes, der er en sandt pointe i forhold til, hvis folk går tilbage på deres kørundervisning, og teori på os noget, hvor der er de her spørgsmål om, hvad man skal være særlig opmærksom på. Hvad er du særlig opmærksom på? Ja, det er et god pointe. Og det er jo interessant her, hvordan det med at være særlig opmærksom på noget, det er jo en funktion af vores begrænsede, kognitivt bondbredt og evner. Fordi, som du siger, den her bil, den er sådan set særlig opmærksom på det hele, hele tiden.

[Klaus Silberbauer: 00:15:59]
Alt, hvad dens kamera ser, er den særligt opmærksom på, ja. Det, den ikke ser, er den overhovedet ikke opmærksom på, og det er jo et af de angstprovokerende faktorer, der selvfølgelig er. Altså, den dag, den overser noget af et eller andet grund, eller noget er i en dum vinkel for den. Ja, så har du et problem, ikke? Det sker så tilsynende ret sjældent, men igen, der er uenighed omkring statistikken. Der er konspirationsteorier, nærmest, der siger, at Teslas egne ansatte, deres datalablers, vil aldrig nogensinde sætte sig i en selvkørende Tesla, fordi de har set videoklip af, hvor det går galt, og hvor det næsten går galt. De taler om near misses. I hvor høj grad det anekdotiske bevis holder, det kan jeg jo ikke uttale mig om. Jeg er sikker på, at datalablers, der skal sidde og studere near misses, og måske også katastrofer og ulykker, ja, de ser jo udelukkende ulykkerne. De får en voldsomt biased opfattelse af virkeligheden. Og jeg tror heller ikke, at jeg i deres sko vil tænke, sådan en bil her sætter jeg mig ind i, ligesom eksperter, man sender ud på ulykkes steder. De er ekstremt opmærksomme på, hvordan de selv kører bilen. Jeg hæfter mig ved, at de snakker om near misses. En near miss er bedre end en fuldtræffer på et eller andet barn, der løber over vejen. Det, jeg kigger på her, og derfor jeg gerne vil tale om tilliden, det er, har vi tilliden til vores forståelse af, hvordan det her system kausalt hænger sammen, eller har vi tilliden til statistikken, der siger, færre dræbte og til skadekommende i trafikken er bedre? Altså, det er i sig selv. Hvis vi tager Elon ud af ligningen, og Tesla ud af ligningen, og kapitalismen ud af ligningen, og vi, mig, som er jo åbenbart blevet prototypen på en Apple Watch-bærende midaldrende Tesla-idiot, altså vi er jo en prototype efterhånden, mig og mit folk. Det er jo helt forfærdeligt. Men hvis vi tager alt det ud af ligningen, og kigger på statistikken, er vi så ved at være der, hvor en selvkørende bil, alt andet lige er sikrere, end en bil med en gennemsnitlig dansker bag rattet. Ikke verdens bedste danske chauffør, fordi dem er der kun ganske få af, men en gennemsnitlig dansker, og den måde vi kører bil på, med alle de fejl, vi laver, alle de cyklister, vi overser, osv.

[Thomas Blomseth: 00:18:27]
Ja, så skal vi, en anden faktisk, jeg synes er interessant, det er jo også med flere folk, der lever længere, og en aldrende befolkning. Altså, hvor at, også en pointe, ja. Der kan også være noget med, hvad der sker med kognitive øvner, og at, at der er jo nogen, der nok skulle være, hvor kørekortet skulle være taget fra dem, men som stadig kører rundt, og der vil jeg helt klart foretrække, at bilen den vidste mere om, hvordan den kunne køre det sig selv, så den kunne hjælpe dem. men ja, det er interessant, det er der næsten med, så det der med, med, med, med karusaliteten i det, om, om, om vi har brug for den her sporbarhed, og ansvarstildeling, tilskrivning i hver enkelt tilfælde, eller vi kan leve med, den overordnede statistiske forbedring, for at sådan tænke lidt videre, i nogle anden og tredjeordens, afledte effekter det her, så er det jo sådan noget som at, hvis der nu er meget færre færselsuheld, så er der også en hel masse failure demand, som det hedder, i andre systemer, som bliver nedsat, for eksempel i sundhedssystemet, og det er jo også, kan man sige, vil jo være godt, at få, sparet på en fornuftig vis der, altså reelle besparelser, som kommer ud af, at der er simpelthen problemer, der ikke opstår.

[Klaus Silberbauer: 00:19:56]
Helt sikkert, altså udover de menneskelige tragedier, man så måske kan undvære, altså det der undrer mig, det er, det er mangen på, jeg vil sige rationalisme, i diskussionen, fordi hvis, og det er et stort hvis her, men hvis, den her teknologi, de her teknologier, som alt andet alligevel, rulles ud over andre bilfabrikanter også, hvis de kan nedsætte, ikke fjerne helt, men nedsætte antallet af trafikdrab, og til skade kommer, til skade kommende, til skade, til skade, folk der kommer til skade i trafikken, så er det socioøkonomisk, samfundsøkonomisk, en god ting, og så kan vi så sige, og derudover er der færre mennesker, der dør eller kommer til skade, det er generelt bare en god ting, det er moralsk rigtigt. Diskussionen går ikke på det, diskussionen går på, et virker det, folk er enten delt i en hypelejre, der siger, det her er det største, siden skrives gået i robrød, det er fantastisk, og så en gruppering, der siger, vi tror det er snyd, vi har hørt rygter om, at det er snyd, det fungerer ikke, det kan ikke fungere, fordi min egen erfaring med at køre bil, siger, det kan maskinen aldrig gøre. det bliver støttet af mangel på kausalitet, blackbox-fænomenet, ved at sige, hvorfor gør bilen det? Du kan ikke åbne motorhjelmen, du kan ikke gå ned i computeren bagefter og sige, okay, den drejede til venstre, fordi sådan og sådan. Du kan se nogle sensordata, og du kan se, hvad bilen gjorde, du kan ikke forklare hvorfor, fordi det ligger gemt i et neuralt netværk. Det der er interessant ved FSD, det er jo, at det er næsten 100%, så vidt jeg ved, igen, med forbehold for, at min viden er begrænset, en AI-stack. det er næsten udelukkende neuralt. I tidligere versioner, dengang vi talte om det her i 2020, var i højere grad, meget højere grad, proceduralkodet, og de fungerede ikke særlig godt. Den meget flydende menneskelige kørsel, som vi ser her, det er, at den faktisk kan overskride dobleoptrukne linjer, den kan liste sig frem i et kryds, for at se bedre, fuldstændig som en menneske vil gøre. Det er artefakter fra et trænet neuralt netværk. og det her er jo så, kan man sige, den bagsæde, at det er black box. Vi ved ikke, hvad der sker inde i det. Det finder vi aldrig rigtigt ud af. Så, hvordan kan vi have tillid til en maskine, vi ikke kan gennemskue? Det synes jeg er der hovedspørgsmål. Jeg synes, at AI generelt, og ikke mindst, når vi slipper det løs i den fysiske verden, i en bil, på mange måder bryder man den kontrakt, som mennesker og maskiner har haft, siden industrialiseringen. Og det var, i sidste ende kan vi slukke for lortet. I sidste ende forstår vi, hvordan det fungerer. Det kan godt være, det er en kompleksmaskine, men vi kan altid fjerne en plejlstang, eller pille tandhjul ud, og så kan den ikke noget. Nu kan vi ikke længere gennemskue kausaliteten i mekanikken, og det tror jeg er en stor faktor, i den tillidskrise, der er. Vi skal til at arbejde med tillid, på en anden måde, overfor maskineri, når det er neuralt, og det er bygget på AI. Og den tillid, tror jeg i højere grad, skal bygge på statistik. Vi skal simpelthen se, performer den her maskine, statistisk set, rigtigt, over tilpas lang tid, så kan det være, vi kan få tilliden tilbage. Men det er et været sted, vi står i lige nu.

[Thomas Blomseth: 00:23:32]
Ja, måske skal vi tilbage, til fremtiden her. Det står mig lige ikke, at jeg er fuldstændig enig, din udlægning, der er med, at i sådan en industrialisering, der bygger vi deterministiske maskiner, og det har skabt store fremskridder. Men det her, det minder jo nærmest mere, om en hest, kunne man sige. det at vi træner en entitet, til at opføre sig på en bestemt måde, men en gang imellem, så kan de jo godt finde på, selv den bedst trænede hest, kan jo godt finde på, at gøre noget skørt en gang imellem også. Og det er nærmest lidt det samme, vi har her. Så på den måde, der er et eller andet mere biologisk over det her, og den måde, vi skal forholde os til det.

[Klaus Silberbauer: 00:24:23]
Det er der jo. Og det er derfor, jeg mener, at vores læring igennem nogle generationer, har været, at maskiner er okay. Selv farlige maskiner er okay. Vi omgås våben, vi omgås biler, som i sig selv er, altså det kan vi jo se, skide farlige. Motoriserede redskaber, kædesave, rundsave, altså, det er jo ikke sådan, vi forbyder rundsave, fordi at dansk gør-det-selv'er mister en finger og tå en gang imellem. Og det er der, altså det er farlig maskineri, men vi ved, hvordan det fungerer. Vi kan gennemskue, hvorfor det er farligt. Som du siger, AI er på mange måder biologisk. Det føles biologisk. Jeg siger ikke, det er biologisk. Det er det jo ikke. Det er matematik. Det er stadigvæk silikonebaseret, eller siliciumbaseret. men det føles menneskeligt. Den fornemmelse det er, at være næsten siger passager i en selvkørende Tesla, man overrasker sig over, hvor organisk den kører, hvor menneskeligt den kører i mange situationer. Og det er det, der spøger, tror jeg. Og så må jeg stille spørgsmålet. Hvorfor har vi tillid til hinanden, fordi, nu snakker du om heste, men vi kunne lige så godt sige mennesker. mennesker er ikke deterministiske, tværtimod. Mennesker kan reagere fuldstændig kaotisk, fuldstændig irrationelt, og gøre det gerne, og alligevel har vi tillid til mennesker. Vi har tillid til, at piloten i flyet kan finde ud af at flyve. Vi ved godt, der er nogle systemer, nogle assistenssystemer, der gør, at hvis piloten prøver et eller andet fuldstændig gags, så bliver der samlet op, men i sidste ende, er det tilliden til piloten, det er tilliden til taxichaufføren, det er tilliden til buschaufføren, det er tilliden til lokoføren, det er tilliden til alle dem, vi overlader vores liv til, hver eneste dag. Det er helt acceptabelt, det er nærmest socialt uacceptabelt, ikke at have tillid til dem.

[Thomas Blomseth: 00:26:22]
Ja, så der er selvfølgelig, der er noget med, hvordan det her system, sådan præsenterer sig over for os, eller bliver repræsenteret, hvor at bilen, den ligner jo stadigvæk den normale bil fra det 20. århundrede, i en eller anden forstand, og det er den jo også rent mekanisk, fordi det er jo ikke der, at systemet har de her vildere karakteristikere, det er jo, altså, det er en elbil, du har, og det er der med, det er styringen, det er den i styringen af den, og det er, hvordan den så opfører sig, det er der, at det her svært, gennem skuelige, ikke deterministiske element, der opstår, og der er selvfølgelig, der er jo nogen, bevægelser, der er nogen, der arbejder med det der, det er kaldt, mechanistic interpretability, det var noget, Anthropic også arbejdede en del med, og jeg har ikke specifikt set, hvor meget, jo, jeg tror faktisk, at Waymo, de kigger på det, i forhold til deres selvkørende biler, altså med at kunne få en bedre forklaring, så at sige, på hvorfor, at den, at en bil gør noget, i en given situation, og det er faktisk, nu kommer jeg i tanke om en podcast-episode, jeg har hørt her med, jeg tror det var Waymo, CTO, inden for den sidste måned, eller anden, hvor han forklarede, om en episode, som han gik ned og undersøgte, fordi den undrede ham godt nok, og det var noget med, at en af deres biler, formåede at bremse ned, og stoppe op, ved siden af en bus, og undgå at køre en person ned, som var i gang med at passere foran bus, når er ude på vejen, ude og kigge sig ordentligt efter, og det var ikke til at sige, hvordan, uden bare så tænkte, hvordan, hvordan kunne bilen konstatere det, og så lavede han så en undersøg, foran så gik ned i den, i den enkelte episode, og kigge efter, og nåede så frem til, at den bedste forklaring, han kunne finde ud af, det var, at bilen, gennem sin kamera, havde opfanget nogle spejlinger, noget skygge, neden under bussen, som indikerede, at der var nogen, der gik foran bussen, og det var det, den reagerede på, ikke? Så der er nogen, der bliver arbejdet med den der, sådan mekaniske forklaring, af deres adfærd, men vi har ikke, det er lavet til, der er jo ikke noget samlet sted, hvor du ligesom bare kan gå ind, eller et API, hvor du bare kan gå ind og slå op, og sige, hvorfor gjorde den her tester, det her, i den her situation?

[Klaus Silberbauer: 00:28:55]
men selvfølgelig giver det mening, hvis man laver de systemer, og prøver at finde ud af dem, fordi man ved jo godt, altså hvis den generelt laver fejl, i en bestemt form for kryds, eller overse nogle bestemte ting, jamen så skal der jo trænes på det, så skal der findes mere datamateriale på det. Alle de anekdotiske beviser, tror jeg ikke, vi kan bruge til særlig meget. Altså, nogen af dem blev undersøgt, når man kigger på logdata, og der er typisk noget andet bag, end både, du ved, en Tesla som en engel, eller en Tesla som en djævel. men vi bygger vores tillid på de anekdoter, og det er sådan set pointen. Jeg kan jo godt tænke mig, at han er endnu dybere, og så gå sådan helt ned i tillidsbegrebet, og vi har jo herhjemme, en filosof, eller hade, som i den grad, har beskæftet sig med tillid, og han er Løgstrup. Og for Løgstrup er tillid jo, en grundpræmis mellem mennesker. Altså, to mennesker møder hinanden, de behøver ikke at kende hinanden, men man har, altså med mindre man er sociopat, automatisk tillid. man er klar til at give tillid til det andet menneske. Det er en del af det, hans etiske fordring, simpelthen. At vi ikke hænger sammen, uden den her automatiske tillid, vi har. Jeg tror, er en udtryk som en tavs fordring, om at tage vare på den andens liv. Det er noget af en forventning. det er svært med en maskine. Og derfor mener jeg, vi har haft et andet forhold til maskiner. Vi kunne gennemskue, hvordan de fungerede. Når vi ikke længere kan gennemskue dem, så skal vi jo finde en ny form for tillid. Eller, vi får ikke den tillid. Det kan være, at tilkørte biler i sidste ende falder på, at vi ikke kan have tillid til dem. Det er da ikke noget, der tyder på det endnu, men det er jo klart en barriere.

[Thomas Blomseth: 00:30:37]
Det får mig til at tænke på, at der kunne være noget, som handler om de ting, som vi udnytter eller bruger, der er noget, der er givet os, eller er det noget, som vi bygger os selv. Og gå tilbage til det med, jeg nævnte noget med en hest før. Altså heste og dyr, trækdyr osv., det er jo noget, der har været givet for os. Det har været noget biologi, som er evolveret, sammen med os også. Og på den måde, ikke noget, som man så begynder at afle på dig, og så prøver at se, om man kunne ændre på nogle karakteristikker, eller kursning, men stadigvæk en udigennemskuelig proces. Så det var sådan noget givet. Men det, der er interessant ved selvkørende biler, det er jo systemer, som vi bygger. Ja. Og så når vi så det der punkt, og så er der så dele af det system, som nogle mennesker har bygget, og så får vi jo lyst til at tilskrive ansvar os til. Der er nogen, der har bygget det her system, de må have ansvar, ikke? Ja. For det her bygget. Og samtidig så har vi så den her styringsmekanisme, som vi ikke har fuldt indblik i. så skal vi have tillid til dem, der har bygget det? Skal vi have tillid til styringsmekanisme? Er det ultimativt opsynsmanden, der overser den her maskine, styrer den her maskine, som har ansvar? Det er svært, fordi vi har måske bedre med at acceptere, at der er nogle ting, vi ikke rigtig kan kontrollere, når det er bare et givet som for eksempel et biologisk væsen, som er jo alt været. Men det der med, at når der er nogle andre mennesker, der har været involveret i at bygge dem, og har truffet beslutninger i den proces, det er jo også sådan en udviklingsproces, det er jo en lang række af beslutninger, hvor man vælger at gøre det ene frem for det andet. Ja, hvornår er det godt nok? Ja, præcis. Og de beslutninger har indflydelse på, vil den her bil, vil den vælge at beskytte passagere, eller vil den vælge at beskytte fodgængeren, for eksempel. Og det er der jo så lige pludselig nogen, der begynder at, i hvert fald, mere eller mindre træffe nogle eksplicite beslutninger om, eller i hvert fald træffe beslutninger, der kan have indvirkning på sådan en forhandling. Og det har vi bare ikke rigtig været vant til før.

[Klaus Silberbauer: 00:33:02]
Præcis. Og så hvad er det, vi hænger vores tillid op på her? Fordi, altså Løgstrup, han sagde jo altså, det er mistilliden. Altså tillid kræver ingen grund. Mennesker skal automatiske tillid til hinanden. Det er en del af den etiske fordring. Hvis du har mistillid, så skal du give en god grund. Der mener jeg måske, at vi kan ikke bruge ham 100% her, fordi her starter vi nærmest fra den anden side. Og vi har en også måske ganske begrundet og sund skepsis og mistillid til, er det her system godt nok. Vil det mig noget godt? Eller vil det sidste ende bilproducenten noget godt? Og jeg tror, altså vores tillid til mennesker bygger vi jo ud over det her. Løgstrup siger, det bør vi bare, vi bør have tillid. Men vi bygger det altså også på den implicite viden, at hvis du svigter den tillid, jeg har til dig, så i sidste ende, så bliver du draget til ansvar. Jeg kan selv drage til ansvar. Jeg kan sige, Thomas, det synes jeg fandme ikke er i orden. Det er en social straf. Du kan blive udelukket fra et socialt sammenhold. Det er noget af det værste straf, mennesker kan få. Det er at blive presset ud af gruppen. Det ved vi. Og hvis du opfører dig socialt uacceptabel, hvis du bryder tilliden, hvis du lyver for dine kolleger eller dine venner eller din familie, sender du med at blive parier. Du bliver simpelthen holdt udenfor. Det er en voldsom hård straf. Den har vi sat, den har vi formaliseret i vores samfund. Vi kan låse dig ind i en celle, hvis du svigter den tillid, som samfundet havde til dig. Vi har en tillid til alle mennesker. Vi har tilliden til, at du opfører dig inden for lovens rammer. Det er noget, vi har aftalt. Du gør ikke noget moralisk forkert. Dem, der svigter den, bliver smidt i et hul, og der kan de sidde i mange år uden kontakt til samfundet. grusom straf, når man tænker over det. Og lad os ikke gå i FOK og så videre, men det er det jo faktisk. Det kan vi ikke med en bil. Vi kan ikke sige til bilen, at vi straffer dig socialt, hvis du bryder tilliden. Hvis du slår dine passagerer ihjel, eller hvis du begår en fejl, sådan nogle uden for bilen ihjel, så får du skæld ud. Du bliver måske straffet af retssystemet. I hvert fald, så vil vi resten af dit liv som bil se på dig som en skidt knægt. Det ved vi jo godt ikke fungerer. Vi kan også godt tro det med, at vi skyder den fra panden, eller piller computeren ud af den. Det vil det nok heller ikke reagere på. Så det, vi ved, at der ikke er en straf, der er ikke repræsalier, det tror jeg har indflydelse på, hvor meget tillid vi kan se i de systemer. Fordi vi kan ikke håndhæve den tillid, kan man sige, eller et svigt af tilliden på nogen måde.

[Thomas Blomseth: 00:35:50]
Og det er også interessant der, at det er jo et samlesystem, som Tesla udbyder her. Så hvis nu din bil gjorde noget, som ledte til en forfærdelig udlæng, som vi tænker retspraksis, så er det jo din bil, der skulle straffes. Det var den, der gjorde det, den gerne. Problemet er jo bare, at den gjorde det jo bare som en enkelt instans af et meget større system. Og hvis straffen så skulle være, at alle Tesla FSD'er i Danmark så blev groundet, og ikke måtte køre. Men så ville det jo så straffe alle, der havde de Tesla.

[Klaus Silberbauer: 00:36:27]
Men det ville være det naturlige, altså hvis vi betragter teknologi, som vi har gjort indtil videre, ja. fordi vi betragter det som deterministisk software. Hvis et fly, hvis en Boeing 737 Max laver en grusom fejl, og styrter ned i Etiopien på grund af en softwarefejl, der grounded man alle 737 Max, fordi der var en softwarefejl, der i nogle edge cases kunne styrre flyet ned. Det giver mening, for den softwarefejl skal jo findes og udbedres. Når vi snakker om AI, så er det en session, der kan... baseret på de input, den får, agerer fuldstændig anderledes end en session lige ved siden af. Der får en lille smule andre input. Der er noget kaos i spil her. naturligvis skal grundmodellen være ret god til at køre bil, men det er jo... Jeg tror, det bliver svært at sige, en Tesla... Lad os nu tage et horribelt scenario. Tesla rammer et barn, og Tesla er på fuld FSD. Er det en fejl i FSD? Var det en situation, der rent fysisk ikke kunne være undgået? Var der skidt på et kamera? Altså, I don't know. Det vil aldrig blive 100% sikkert. Det vil aldrig blive 100% perfekt, det system. Lige nu gør vi jo det, at vi siger, at førerne har ansvaret. Vi kalder det et assistenssystem, for at lede tilbage til min indledning. Det er et ADAS-system. Det vil sige, uanset hvad du bruger assistenssystemer, det er dit problem som chauffør, hvis bilen gør noget forkert. Og det er en udmærket måde at placere ansvaret på lige nu og her. men på sigt, når vi gerne vil have FSD til at køre folk rundt, som ikke har kørekort, eller køre fulde folk rundt, f.eks. i Robotaxis, som de tester i Kalifornien, hvor der ikke engang er det ret. Hvem har så ansvaret? Og der blev det rigtig spændende, rent juridisk, men også kulturelt, fordi i USA, altså det her drivet forretning i USA, tror jeg, det er en stor gang, hvad hedder det, begrænsning og liability. Kæmpe afdeling om jurister, der sørger for, at ingen leger billedet til rammer tilbage på, i det her tilfælde Tesla. I er rigtig, rigtig gode til at undgå at tage ansvaret for noget som helst. Og det står med småt og med stort alle steder. Det er dit problem, hvis du bruger vores system. I Kina har det firma, der hedder BYD, Build Your Dreams. De har besluttet at sige, ja, vi ved godt, at ansvaret er svært at placere her. Så hvis du bruger vores selvkørende system, det hedder noget helt fantastisk. Jeg tror, det er sådan noget Eye of God, eller sådan noget. Hvis du bruger det system, og der går noget galt, så betaler vi regningen. Vi behøver ikke engang at snakke, hvis ansvaret det var. Hvis det system er slået til, og bilen rammer nogen, du selv kommer til skade, vi tager regningen. Det er jo også en måde at købe tillid på, at sige, vi kan ikke moralsk sige, hvor ansvaret er placeret, men vi kan mindst sige kommersielt, at vi skal nok samle op på den der. Og det viser jo også, at de stoler så meget på deres system, at de tænker, der kommer nok til at ske noget, men det bliver måske begrænset, vi kan budgetere med det. Det ser du altså ikke hos Tesla, det der. Det er generelt alle andre end Teslas problem. Det er jo udgangspunktet.

[Thomas Blomseth: 00:39:44]
Det er meget interessant, det har jeg sagt, det har jeg kørt om. Det er jo en måde, hvor BUD siger, vi lægger hånden på kogeplanen her. Ja, det gør det lidt, ikke? Ja. Men det er jo også interessant, for at gå tilbage til starten, også for at du citerede affærdsstyrelsen, det her med, at det er en typegodkendelse, man giver, ikke? Ja. For det her system, ikke?

[Klaus Silberbauer: 00:40:02]
En midlertidig typegodkendelse. Fordi EU kan faktisk overwrite det. Men hvis 15 lande i EU accepterer den hollandske typegodkendelse, så kan EU ikke længere underkende den. Og der er et stykke vej nu, så vi risikerer, at EU siger, at det her, det går ikke. Og jeg er sikker på, at der bliver loppet fra alle sider. Både fra Teslas side på, for de her godkendelser igennem. Der bliver også lobbyet fra tyske autoproducenter, kan jeg love dig, på at få det her system underkendt. Fordi Mercedes og Volkswagen Group har jo ingen interesse i, at et amerikansk system ligesom bliver udbredt, før de selv har noget, der bare minder om det.

[Thomas Blomseth: 00:40:47]
Men der kunne de så i den proces, jo komme til at lægge forhindringer ud for dem selv senere, ved at komme med nogle argumenter mod Tesla, som så bliver taget for alvorligt, kan man sige, politisk og hos myndighederne.

[Klaus Silberbauer: 00:40:58]
Ja, så det er det, de tror jeg prøver på, og det er kun gisninger, det er at sige, at der er nogle bestemte teknologier her, som ikke er gode nok. Fordi Mercedes har jo faktisk et system, som er godkendt i en højere klasse end Tesla. Det er godkendt som, jeg kan ikke huske, om det er klasse 3 eller klasse 4, det er et fuldt selvkørende system, men det må kun bruges på motorveje, som er mappet i forvejen. Men det er så en total hands-off, der kan du i princippet, du behøver ikke at være opmærksom. Jeg mener også, Ford har noget, jeg tror det hedder Super Cruise, eller Chrysler, jeg skal ikke kunne sige det. Der er Super Cruise, der er Blue Cruise, der er mange forskellige, som også i nogle bestemte tilfælde, nogle bestemte miljøer, er godkendt på et højere niveau end Tesla. Hvor Tesla ligesom er lidt dogmatisk og siger, vores selvkørende system skal kunne bruges alle steder, også på en vej, som aldrig er blevet mappet i ukendte omgivelser. Det kan jeg godt lide på den måde, at det siger, sådan kan mennesker også. Vi kan godt navigere på en vej, vi aldrig har set før. Vi tager imod nogle visuelle cues. Det er Teslas vej. Stort set alle andre producenter, de lader til at gå den vej, hvor vi mapper tingene, vi bruger superpræcist GPS, vi bruger LiDAR, vi bruger en række sanser, som mennesker ikke har, på godt og ondt. Det er to forskellige principper. Jeg tror, af et eller andet grund, intuitivt mest på Teslas faktisk. Men jeg tror også, at den er endnu mere non-deterministisk, end de andre. og derfor sandsynligvis vil afføde flere fejl, end de her ekstremt indpakket systemer, som de tyske producenter prøver på. Det sjove er så, at i Kina, der går den ikke. Du kan ikke komme med et eller andet system, hvor du siger, vi er lidt bedre til at køre motorvejen, vi var sidste år. Så Volkswagen har jo simpelthen købt kinesisk software, og puttet ind i deres kinesiske modeller, som er, tror jeg, lavet der til, fordi jeg har set fuldt på højde med Teslas FSD, og er baseret på samme AI-base. Altså ikke samme stack, men samme principper. Og det sætter de i Kina, fordi ellers er de ikke konkurrencedygtige. Så Europa står lidt ved et vadested her. Altså vil vi den her vej, vil vi, som FSD siger, forbedre trafiksikkerheden ved at indføre selvkørende systemer? Der skal være reguleret, der skal være testet, og selvfølgelig alt det der. Eller vil vi af nogle andre grunde, nogle tillidsmæssige grunde, måske nogle konkurrencemæssige grunde, nogle æstetiske grunde, måske udskyde beslutningen, eller undgå at gå den vej.

[Thomas Blomseth: 00:43:44]
med hensyn til det med udvikling, jeg deler samme intuition. Altså at give sig selv en udfordring, som Tesla har givet sig, tror jeg er bedre for udviklingsprocessen, end at prøve at begrænse sig til bestemte miljøer og sådan noget. Altså man bliver ikke, man får ikke stillet stor nok en udfordring, hvis man ikke prøver at gøre det, som Tesla gør. Det tror jeg ikke. Men nu du siger det, jeg kommer så også til at tænke mere på de andre tredjeordens konsekvenser. Altså kombinationen af elbiler og så autonomi, kunne jo fuldstændig omkalfatre alt hvad der hedder offentlig transport i yderområdet i Danmark for eksempel. Altså hvorfor har vi sådan nogle store, i virkeligheden bybusser og rutebiler, der kører rundt, hvor der så sidder et par passagerier i, som så ydermere skal vente på, at så stor en bus lige præcis har en indgang køreplan, hvor de kan komme forbi. Det er jo skørt. Altså der var en lille miniserie, som Freakonomics Radio lavede her tidligere på året, netop om selvkørende biler også. Og den kan vi jo linke til. Og der var en interessant del af det, hvor de var taget til Boston, hvor der var høringer i et eller andet udvalg eller råd som del af kommunen, hvor der var både folk, der talte for og mod selvkørende biler. Og nogle af dem talte imod dem. Det var sådan noget som chaufførenes fagforening og taxchauffører og sådan noget. Og det var klart nok, de var interesse i at... Gennem inden. Ja. Men en gruppe, og det overraskede mig lidt, som i den grad talte for selvkørende biler, det var faktisk folk med handicap. Fordi de har kæmpe store problemer med selv at få Uber-chauffører og taxer til overhovedet at ville køre ud til dem, fordi de er besværligt at håndterere, og de har halvmålet krav. Så de sidder i sådan nogle transportordninger og kan kun... De kan ikke have almindelige jobs, især i USA, hvor offentligt transport kan være endnu mindre tæt dækkende, end i Danmark. Men de så det jo simpelthen som en mulighed for dem at skabe ny frihed på, og som at gøre dem til, kan man sige, en mere produktiv samfundsborger, også ved at kunne have almindelige jobs, fordi så kunne de have en bil, der kunne køre dem derhen, hvor de havde behov for at være, når de havde behov for at være der.

[Klaus Silberbauer: 00:46:16]
Ja, præcis. Der er rigtig, rigtig mange rationelle grunde, og også i det her tilfælde menneskelige og sociale grunde, til at teknologier som autonome køretøjer, lad os glemme Tesla et øjeblik, bare at sige, et køretøj, der autonomt kan fragte mennesker rundt, billigere, end hvis du skal have en menneskelig chauffør, fordi specielt i Danmark, er det nogle dyre lønninger, du skal af med, og det vil sige, det sætter en samfundøkonomisk begrænsning på, hvor meget handikappede mennesker kan være mobile. er det okay rent moralsk, hvis vi har en anden mulighed? Der er sikkerhedsbesmålet, vi har været inde på allerede, og så helt ude i yderste konsekvens, kan man sige, jamen du kan gå ud og drikke dig skidefuld, sætte dig ind i en selvkørende bil, og blev fragtet hjem, uden at være til fare for nogen. et scenarium, som jo pt er amoransk, fordi du selv har, og ulovligt, fordi du selv skal have kontrollen, og jeg vil også sige, der er edge cases lige nu, hvor jeg helst ser, at chaufføren trods alt er et ro. Men jeg læste en indlæg på, jeg tror det var Bluesky, hvor en amerikansk ældre herre, jeg siger, jamen ham og konen, de bor i Kalifornien, de kan godt lide at tage til vinsmagning, ud i Napa Valley og så videre. Han drikker sig ikke fuld, men de får da et par glas hen over dagen, helt inden for lovens rammer, og han er sandsynligvis ædru, før han også skal køre hjem igen, men han er træt. En ældre herre, lang dag, solen, vin, og de skal køre, du ved, afstanden er enorm, og de skal måske køre 200 kilometer, for at komme hjem. Han sagde, at Full Self-Drying var jo en gave, fordi næsten hele vejen, der kørte bilen for ham, på en langt sikker måde, at han kunne køre. Og det synes jeg, det er meget ærligt til en eller anden sted. Og jeg kender godt fornemmelsen, hvis man er skide træt, og alligevel skal et sted hen. Så bør man jo ikke køre, men man gør det jo. Og det er virkelighedens verden, og derfor tror jeg også, at om ganske kort tid i hvert fald, så vil vi kunne påvise sikkerhed i en anden grad i de biler her. Men alt det rationelle, jeg tror ikke det er der, den kommer til at stå og falde med. Jeg er sikker på, at statistikken vil tale for selvkørende biler, for alle mulige producenter, ganske snart. Det, det kommer til at stå og falde på her, det er nogle meget mere menneskelige ting. Det er som sagt tilliden. Kan jeg have tillid til nogen, der ikke har et ansvar? Kan jeg have tillid til et neurale netværk, der ikke kan straffes? Kan jeg have tillid til, at en amerikansk producent med tusinder og tusinder af medarbejdere kan placere et ansvar, som de ikke har lyst til at placere? Eller hvem er det, som skal komme efter, hvis noget går galt? Jeg tror, det er ikke et juridisk spørgsmål, det er et tillidsmæssigt spørgsmål. Nogen skal kunne samle op på det, der sker ved mig, eller det, som jeg kommer til at gøre. Fordi så i mange år, når det er mig og min bil, så vil det være mig, der i sidste ende har lavet fejlen, rent moralsk om ikke andet, hvis ikke juridisk. Den vil jeg gerne, jeg vil gerne som en menneske sige, det var ikke mig, det var min bil. Det er et svært spørgsmål at løse, det der. Og det kommer til at tage tid. Den anden ting, noget der også ligger bag det her, det er vanensmagt, det er den normalitet, som vi tit har snakket om. Det er estetikken i at køre bil. Jeg har oplevet, igen, det er en dosis det her, men altså, der er folk, der siger, det her er den forkerte retning, fordi jeg kan godt lide at køre bil. Så nu bliver det taget fra os, nu kan vi ikke længere selv opleve det at køre bil. jeg kan sgu også godt lide at køre bil. Det er sjovt at køre bil. Bare ikke rigtig langt, men bliver det taget fra os nu? Der er noget æstetisk i det her også.

[Thomas Blomseth: 00:49:57]
Jamen, så kan du tage over på skuer og køre lidt rundt på banen en gang imellem.

[Klaus Silberbauer: 00:50:01]
Det er også det, de siger, at fossile biler og det at køre bil bliver i sidste ende en baneting, fordi det er sgu for farligt ude, blandt alle mulige andre mennesker. jeg tror, det går den vej, fordi jeg har kørt et par hundrede kilometer nu med selvkørende, og bruger det meget mere på den enkelte tur, end jeg troede, fordi jeg begynder lidt at få den der oplevelse af, at den gør det måske lidt bedre end mig. Så hvis jeg nu slår det fra, og jeg kører ind i byen helt manuelt, og jeg, gud forbyder, det rammer en cyklist, vil jeg så sidde moralsk, og have det dårligt med, at jeg ikke brugte FSD? Jeg troede, det var den anden vej rundt. Jeg tænkte, gud, hvis FSD kører nogen ned, og jeg havde slået det til, det er et moralsk ansvar. Men jeg fuldstændig uventet fik den modsatte fornemmelse, og tænkte, hvis jeg har slået det fra for at køre manuelt, eller hvis jeg ikke ville betale de 750 kroner om måneden, som det koster, er jeg så en mindre sikker bilist? Har jeg udsat nogen for far, som jeg kunne have undgået, fordi jeg ikke gad betale pengene, eller fordi jeg ville køre selv af forskellige grunde? Den havde jeg sgu ikke regnet med at komme. Men den kom efter, at jeg har oplevet den meget overbevisende kørsel, som den præsterede.

[Thomas Blomseth: 00:51:12]
Ja, det er en meget interessant twist på det. Altså, det får mig til at tænke på, at der er nogen, vi ikke har nævnt, og det er måske lidt kedelige aktører, men det er sådan nogen, der hedder forsikringsselskaber. Hvad kunne der være af nye produkter der? Hvad kunne der være af nye krav, for eksempel? Altså, der kunne jo også være krav, ikke? Altså, at du får kun et vist antal kilometer om måneden, hvor det er dig selv bag rattet, fordi statistisk set, så er det simpelthen for dyrt, når du er bag rattet. Så det er din virtuelle bane, det er 50 kilometer om måneden, hvor du får lov til at styre, og ellers så skal bilen køre resten af tiden, ellers så ryger præmien op.

[Klaus Silberbauer: 00:51:53]
vi har jo tidligere brugt aktuarer som en form for sandsigersker, iskolde, kalkulerende typer, der udelukkende kigger på risici og statistikker, og hvis Teslas tal holder, bare delvist, hvis det viser sig, hvad noget tyder på, at fuldt selvkørende er statistisk set sikrere, der bliver stadigvæk grotesk, ubehagelige ulykker i trafikken, det gør dig, når du sætter folk ind i et stykke stål, og bjoler det afsted med 130 km i timen, så vil fysikken slå over, altså en gang imellem så går det galt, og folk dør, og de kommer til skade. Men lad os nu bare sige, at 25% færre mennesker dør, eller kommer til skade, når de er på selvkørende. Så vil et fornuftigt forsikringsselskab jo sige, vi kan skrue præmien ned, eller vi lader være med at sætte den op, sådan er det nok nærmere i vore dage, hvis du påviser, at du kører selvkørende. Fordi de her biler samler alt statistik op, så ved jeg jo præcis på decimalen, hvor meget selvkørende jeg har kørt. Jeg ved, hvor opmærksom jeg har været undervejs. Jeg bliver rated hver gang. Jeg får videre, om jeg har været opmærksom nok. Alt det der, kan forsikringsselskab bare sige, hvis du skal forsikres hos os, så skal vi have de data. Og der er et API til at pille mod bilen. Jeg tror, det kommer til at gå den vej, og jeg tror, det kommer til at gå den vej relativt hurtigt efter EU. Sandsynligvis bare godkender det her. Så det er ikke engang en midlertidig ting, med en ting, som forsikringsselskaberne kan stole på, findes. Og sandsynligvis også, når det rammer nogle europæiske bilproducenter. Jeg tror, indtil da vil der være sådan en form for, du ved, det skal ikke være speciel ordninger kun til Tesla. Det skal være til alle biler.

[Thomas Blomseth: 00:53:31]
Ja, som du kærer, det vil skabe nogle temmelig stærke incitamenter for bilisterne, eller hvad de så bliver til. altså simpelthen rent økonomiske incitamenter for at bruge penge på det selvkørende.

[Klaus Silberbauer: 00:53:47]
Ja, det er jo en form for forebyggelse af nogle kolossale udbetalinger i skader. Så skal man kigge på, vil FSD og andre systemer, vil de måske lave mange små skader, fordi de bumper lige ind i et eller andet. Det ved jeg ikke, om der er statistik på nu. Men hvis de store, farlige ulykker bliver begrænset i omfang eller i antal, så har vi jo set med andre assistenssystemer, at de bliver et krav. Altså, en ting er, at forsikringsselskaberne vil sige, der er et incitament for os, for at betale dig, for at få de her systemer, eller måske afholde noget af udgifterne på dem, eller sætte præmien ned, eller I don't know. Eller simpelthen kræve det. Måske kræve det over en vis aldersgrænse. Måske kræve det, når du er ung. Jeg ved det ikke. Der kan være mange modeller. Næste skridt vil så være, at begynde at lave lovgivning, der siger, at samfundet foretrækker faktisk, at du kører på de her systemer. Og derfor er det et påbudt. Ligesom seler, airbags, emergency braking, ABS-bremser. Altså også ting, der gør, at folk uden for bilen, ikke kommer så meget til skade. Det er specielt udformning af kølerhjelmen. det er det faktum, at en kølerhjelm skal kunne poppe op, hvis du kan påkøre nogen nu. Sådan at vedkommende lander en ny blødere, og der måske ikke slår sig selv ihjel, eller bliver slået ihjel af din bil. Der er mange krav. Så igen, hvis det rationelt er sikre at køre med de her systemer, vil det så ikke blive lovpligtigt på et tidspunkt?

[Thomas Blomseth: 00:55:21]
Ja, når du siger lov, der er så stadigvæk den der skælden, som man så handler også her, mellem noget, der kunne være straffereteligt, og så noget, der er civilreteligt, der handler om penge og erstatning og sådan noget. Fordi der kan jo godt gå op til en spænding mellem de to ting. Altså, hvor at forsikringsselskaberne, de giver jo udlån på det udefra, som du siger, hvor meget der statistisk bliver udbetalt og sådan noget, men som individ, og som den, der har opsynet med det her køretøj, der kan du jo pådre dig noget straffereteligt ansvar, på en anden måde. Og det er forsikringsselskaberne jo ikke sådan, det er jo ikke det, de tænker så meget over.

[Klaus Silberbauer: 00:55:56]
Nej. Vil du turde sætte dig ind i min bil, og så køre fra, hvor du bor i det nørre Jylland, til København, uden at røre rattet?

[Thomas Blomseth: 00:56:05]
Ja. Det synes jeg, jeg har set nok indikationer af, at de systemer er til at stå på, og det vil jeg gøre. Så du må give mig en tur en dag.

[Klaus Silberbauer: 00:56:14]
Så du baserer din tillid på en rationel, statistisk opfattelse om verdenen, og ikke så meget på din fornemmelse af, hvad der sker i den mekaniske del, og den elektroniske del af bilen?

[Thomas Blomseth: 00:56:26]
Nej, så er det så stort på, at hvis vi kommer ud i en katastrofisk situation, så er der andre systemer, såsom airbags og sådan noget, og så skal man jo sørge for stadigvæk at tage scenen på sådan noget. Jo, det ville være mit rationel hem. Og jeg ville også synes, det var super sjovt og spændende, altså se sådan en maskine udføre det der. Og så det næste, det er jo, at anden tur allerede, så vil det være hverdag. Det var sådan, det går.

[Klaus Silberbauer: 00:56:53]
Eller i hvert fald tredje eller fire ture.

[Thomas Blomseth: 00:56:54]
Okay.

[Klaus Silberbauer: 00:56:56]
Vil du vide, at det kommer an på en prøve i løbet af sommeren?

[Thomas Blomseth: 00:56:59]
Du har lyttet til Silberbauer og Blomseth,

[Klaus Silberbauer: 00:57:09]
en uafhængig og usponsoreret podcast om teknologi, systemer, erkendelse og om de mønstre, der driver vores virkelighed. Følg os på Bluesky, hvor vi poster opfølgende materiale for hver episode, og altid er klar på en dialog, kommentar, idéer og kritik. Vores handel er snabel af silberblom.dk Og ikke mindst, hvis du kan lide, hvad du hører, så anbefale os til venner, familie og kolleger og smid gerne stjerner efter os på Apple Podcast. Vi higer jo alle efter anerkendelse i en eller anden form. Tak for, at du lytter med.