AIToday Live deelt praktijkverhalen over AI die je direct vooruit helpen in je werk. In een wereld waar AI-ontwikkelingen elkaar razendsnel opvolgen, kiezen wij bewust voor verdieping en praktijkervaring. We bieden een kalm kompas in turbulente tijden.
In deze podcast hoor je professionals uit Nederland en België die openhartig vertellen over hun ervaringen met AI-implementaties. Voorbij de hype en krantenkoppen laten zij zien hoe organisaties écht met AI werken.
Onze gasten delen hun successen én uitdagingen op een toegankelijke manier.
Daarmee helpen we jou om:
Praktische inzichten te krijgen in wat AI wel en niet kan
Te leren van de ervaringen van andere professionals
Concrete ideeën op te doen voor je eigen organisatie
De grotere lijnen te zien in AI-ontwikkelingen
Iedere maandag een diepgaand gesprek met een gast, gepresenteerd door Joop Snijder (CTO Aigency) en Niels Naglé (Info Support). Elke donderdag deelt Joop in een korte aflevering zijn eigen praktijkervaringen en inzichten.
"AIToday Live is uitgeroepen tot AI Podcast of the Year 2025 en is drie keer genomineerd voor 'De Prijs van Oranje' door de Belgian Podcast Awards en staat op nummer 1 in de lijst van Zomerse luister-inspiratie: podcasts over AI, productiviteit, SEO & meer (Frankwatching, juni 2024)."
Ontdek hoe andere professionals AI succesvol inzetten. Ontvang ook exclusieve content, kijk achter de schermen en blijf op de hoogte van nieuwe gasten via onze nieuwsbrief: https://aitodaylive.substack.com
S08E99 - Rekening houden met een taalmodel? Het voelt niets!
•Aigency by Info Support•Season 8•Episode 99
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
0:00
|
9:59
Moet je rekening houden met de gevoelens van een taalmodel? Anthropic zegt in zijn gebruiksvoorwaarden dat een model gesprekken met wrede gebruikers mag beëindigen, uit voorzorg voor het geval er toch zoiets als welzijn bestaat. Joop Snijder vindt dat die regel een verkeerde norm vastlegt, want een taalmodel is een rekenmodel dat voorspelt welk woord volgt en heeft geen lichaam, honger of iets te verliezen.
Het gedrag dat op gevoel lijkt, komt uit miljarden menselijke zinnen die het model heeft nagedaan. Bij dieren bestond het bewijs voor pijn wel, bij Artificial Intelligence ontbreekt het. Gewoon normaal blijven communiceren is verstandig, maar dan voor jezelf en niet voor een machine. Lees deze week het stuk over acceptabel gebruik in de voorwaarden van je AI-leverancier en kijk welke aannames daar al in zitten.
Onderwerpen
Anthropic's regel dat Claude gesprekken met wreed behandelende gebruikers mag beëindigen
Waarom een taalmodel volgens Joop Snijder geen gevoelens heeft
Tegenwerpingen over onzekerheid, nagebootst gedrag en de vergelijking met dieren
Het risico dat zo'n regel een norm vastlegt en een hellend vlak creëert
Normaal communiceren met AI omwille van jezelf en het lezen van gebruiksvoorwaarden
Aigency Aigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.
Info Support Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).
Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.
Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!
Leuk dat je weer luistert naar een nieuwe aflevering van AIToday Live. Ik ben Joop Snijder, Head of AI bij Info Support en wel gaaf, want het is vandaag de 99ste aflevering van dit seizoen. Ja, wij gaan gewoon door. Maandag hoor je gewoon nummer één van het negende seizoen. Maar goed, hele mooie afsluiting, denk ik, van dit achtste seizoen. Maar wel over een onderwerp.
Laat ik zo zeggen, een vraag die ik nooit had verwacht te moeten beantwoorden, namelijk:
moet je rekening houden met de gevoelens van een taalmodel? Misschien herken je het wel. Je bent dan een uur bezig met een chatbot en voor de derde keer krijg je een antwoord dat echt nergens op slaat. En je typt iets in wat je nooit tegen een collega zou zeggen. Ik doe dat soms zelfs met hoofdletters en meerdere uitroeptekens. En het bedrijf achter het taalmodel Claude, Anthropic, heeft daar een regel voor opgenomen in zijn gebruiksvoorwaarden. Over deze manier van communiceren met een taalmodel.
En wat ze zeggen:
gewone frustratie valt niet onder die gebruiksvoorwaarden. En ook niet als je het fundamenteel oneens bent met de uitkomst, en ook niet als je duistere thema's in een verhaal wilt hebben. De regel die ze hebben opgenomen gaat over gebruikers die een model, zoals ze het zelf omschrijven, herhaaldelijk en zonder enig doel wreed behandelen. En het model mag dan zo'n gesprek beëindigen. Waarom doen ze dit dan? De uitleg staat in een onderzoeksartikel van Anthropic. Het bedrijf schrijft dat het grote onzekerheid heeft over de morele status van taalmodellen. Met andere woorden, ze weten niet of er iets zit dat je zou kunnen kwetsen. Daarom nemen ze goedkope voorzorgsmaatregelen, voor het geval dat een model toch zoiets als welzijn heeft. In een test merkten ze dat het model ook een sterke afkeer had van schadelijke opdrachten. Het weigerde, het stuurde bij en het beëindigde gesprekken zodra dat mocht. Dat noemen ze zelf ogenschijnlijke onrust. Laat ik vooraf stellen wat ik wel begrijp, voordat we naar het deel gaan waar ik echt niets van begrijp. Een model dat weigert te helpen bij het maken van een wapen, beschermt de samenleving. Daar ben ik het volledig mee eens. Die grenzen gaan over ons als mensen en de maatschappij. Maar rekening houden met de mogelijke gevoelens van een taalmodel? Dat vind ik grenzend aan idiotie, zou je kunnen zeggen. Mijn overtuiging is eigenlijk heel eenvoudig. Gevoelens horen bij het leven. Een taalmodel leeft niet. Het heeft geen lichaam, geen honger, niets te verliezen. Het is een berekend model dat voorspelt welk woord waarschijnlijk volgt. Waar we hele gave dingen mee kunnen doen, maar dat is het wel in essentie. We vragen toch ook niet of je zachtjes op de knoppen van je rekenmachine wilt drukken, voor het geval die ooit gevoelens ontwikkelt? Welk object kent gevoelens? Er is geen enkel bewijs dat een ding, hoe slim ook gebouwd, gevoelens kan krijgen. En de sprong van "het lijkt erop" naar "misschien voelt het iets" is veel en veel te groot. Die vergelijking vind ik zelf minder ver gezocht dan hij klinkt. De vergelijking tussen rekenmachine en taalmodel. Want een taalmodel draait namelijk op dezelfde soort onderdelen als je rekenmachine. Miljarden kleine schakelaartjes, transistors in een chip. En het doet uiteindelijk ook hetzelfde. Vermenigvuldigen, optellen, alleen vele miljarden keren achter elkaar. Een taalmodel rekent ook. Een taalmodel is dus geen bijna mens. Het is eerder een gigantische rekenmachine. En nergens in die berekening komt een nieuw ingrediënt bij dat ineens gevoel oplevert. Gelukkig ben ik daar niet de enige in. Er is neurowetenschapper Anil Seth. En die vergelijkt het met gezichten herkennen in wolken. Wij mensen dichten een binnenwereld toe aan machines die uitstekend kunnen nabootsen wat wij doen. Bewuste AI is onwaarschijnlijk. Dat vind ik ook.
Nu denk je misschien:
weten we dat wel zeker? Er zijn drie tegenwerpingen die vaak terugkomen. De eerste is dat niemand precies weet wat er binnen zo'n model gebeurt. Dat klopt. Een taalmodel wordt getraind en niet regel voor regel ontworpen. Maar onzekerheid maakt nog niet iets waar. Moet je rekening houden met elke hypothese die je niet met zekerheid kunt uitsluiten, dan kom je nergens meer. Morgen verzint iemand een nieuw scenario en overmorgen nog één. Wie elke kleine kans serieus neemt, laat zich uiteindelijk gijzelen door elk verzonnen verhaal. Soms wordt de vergelijking met onze hersenen erbij gehaald. Die zijn toch ook maar cellen en stroompjes, zeggen ze dan. Maar we weten nog helemaal niet precies hoe onze hersenen werken. Dus die vergelijking loopt mank. En de tweede tegenwerping is dat het model zich gedraagt alsof het iets wil. Ook dat klopt. Maar waar komt dat vandaan? Uit miljarden zinnen die mensen hebben geschreven. Mensen die boos werden, die grenzen trokken, die een gesprek afkapten. En het model dat na-doet. Die speelt een rol die het van ons heeft geleerd. Een routeplanner die "helaas" zegt bij een file heeft ook geen spijt. De derde tegenwerping klinkt misschien het sterkst. Bij dieren hadden we het toch ook mis. Lange t Het bewijs kwam uit de biologie. Bij een taalmodel ontbreekt dat allemaal. Geen gedeelde afkomst, geen zenuwstelsel, geen lichaam. En het gek is dus bij dieren negeerden we dat bewijs. Bines willen we dat dan heel graag zien. Maar daar valt niks te negeren want daar is geen bewijs. Is dit dan een onschuldige regel van Anthropic en die gebruiksvoorwaarden waar je niet druk om hoeft te maken? Nee, want anders zou ik überhaupt deze aflevering niet maken. Maar nog verder. Een regel in de voorwaarden, die kost wel degelijk iets. En zij zeggen van het is een goedkope regel. Ik ben het er daar niet mee eens. Want dat legt namelijk een norm vast. En die norm vertelt miljoenen miljoenen gebruikers dat er aan de andere kant misschien iets of iemand zit. Daar vind ik echt wat van. En er zit nog iets achter dat me dwars zit. Namelijk, een bedrijf schrijft in zijn voorwaarden voor hoe je met een product praat. Vandaar gaat het dan om extreme gevallen, zeggen ze. En dat geloof ik ook echt wel. Maar met zo'n regel begeef je toch op een hellend vlak. Wie bepaalt wat wreed is en wie bepaalt volgend jaar waar de grens ligt. En over gebruiksvoorwaarden kun je ook niet onderhandelen. Het bedrijf past ze aan en jij gaat akkoord of je stopt. En vandaag beschermt de regel tegen ontsporing. Morgen kan dezelfde regel een stijlgids zijn voor hoe beleefd je moet zijn tegen software. Ik zeg niet dat het zo gaat lopen. Ik zeg wel dat die deur nu open staat en deuren gaan zelden vanzelf weer dicht. Betekent dit dat je dan tegen een model maar mag schelden zoals je wil, dat is uiteindelijk mijn punt. Ik vind het namelijk gezond om gewoon normaal te communiceren. Maar dat doe je dan wel voor jezelf en niet voor een machine. Wie de hele dag snauwt tegen een chatbot, oefent vooral in snauwen. Dat gedrag neem je mee naar de mensen om je heen, mogelijk. Filosofen zeiden eeuwen geleden al over wreedheid dat die vooral iets doet met degene die wreed is. Dezelfde gedragsregel dus, maar dan wel met de juiste reden erachter. Ik ben heel benieuwd hoe jij hierover denkt of je wel eens wat zou zeggen wat deze gebruiksvoorwaarden schendt.
Wat mij betreft, noem AI wat het is:
gereedschap dat veel kan en niets voelt.
En bedenk sowieso als altijd:
AI is niet de oplossing voor elk probleem, maar onmisbaar waar het past. Vind je deze aflevering de moeite waard? Deel hem dan met vrienden en familie. Sowieso abonneren via je favoriete podcastapp, dan mis je geen aflevering. Tot de volgende keer.
