S01E02 - AI en Ethiek

In deze aflevering kijken we wat AI en ethiek met elkaar te maken hebben. We bespreken hoe de markt hier tegenaan kijkt en nog belangrijker: hoe ga je hier in de praktijk mee om.

Info Support
Info Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).

Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.

Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

Transcript

Copy Transcript Copied

0:00

Wat hebben artificial intelligence en ethiek met elkaar te maken en hoe kijkt de markt je tegenaan? Nog veel belangrijker, hoe geven we praktische invulling aan het onderwerp ethiek? Iedere twee weken duiken we dieper in het nieuws rondom AI en hoe je AI inzet in je organisatie. Ik ben Mark Wolfenbuttel, chapter lead AI zorg bij Info Support. En ik ben Joop Snijder, naar de research center artificial intelligence, ook bij Info Support. Mark, vandaag gaan we het hebben over ethiek, maar voordat we beginnen is het misschien wel even handig om te horen wat ethiek nou precies is en hoe zich dat nou tot artificial intelligence verhoudt. Goeie vraag Joop. Kijk, ethiek is een wetenschap waarbij wordt geprobeerd om bepaalde handelingen als goed of fout te kwalificeren. Daarnaast worden gekeken naar de bewegingen van die bepaalde handelingen. Wanneer dat door mensen gebeurt, kan je dat beargumenteren en kan je ook wel weer gaan kijken, oké dat snap ik, dat snap ik niet, kan ik volgen en dan heb je een oordeel over. Maar wanneer je zich dat verhoudt tot een computer, of tot computer software, wordt het alweer wat meer ongrijpbaar. En wat men eigenlijk bij ethiek vaak doet, is dat men het reflecteert aan zichzelf en vanuit de situatie probeert te zien. En daarin zie je ook dat hoe dichter het bij jezelf of hoe dichter bij een bepaalde situatie, denk bijvoorbeeld aan de gezondheidszorg, hoe moeilijker het wordt, hoe lastiger ook de beslissing goed of fout is te maken voor de mens. Maar op het moment dat dat gebeurt met een computer, ja dan staat het nog iets verder van je af en dan wordt het nog moeilijker. Wat ik dan ook vooral vaak zie, is dat er veel te filosofisch over wordt nagedacht. De zelfrijdende auto wordt natuurlijk heel veel als voorbeeld gebruikt en dan wordt het dilemma opgeworpen, je rijdt op een bepaalde verkeers situatie af en het algoritme moet gaan kiezen tussen moet die de moeder achter de kinderwagen doodrijden of moet een bejaarde oma doodgereden worden. Dat soort discussies is wel bijzonder vind ik altijd, want die worden heel erg gekaderd alsof dat de enige twee keuzes zijn, weet je. Als we het over etiek hebben, het gaat er altijd om dat je dit soort hele moeilijke keuzes moet maken. Terwijl wat ik denk, is dat we voorlopig en met voorlopig denk ik echt wel tientallen jaren misschien, dat de beslissingsbevoegdheid heel snel neer wordt gelegd nog steeds bij de mens. Dat is dat dat zo'n zelfrijdende auto dat hij dan als die er uiteindelijk niet uit komt, zeg van dit is niet meer veilig, dan geeft die een piepje of whatever en dan zullen we het moeten overnemen. Ja dat denk ik ook. Het is vooral ondersteunend en dat zal nog een hele tijd ook alleen in die vorm en misschien wel altijd in die vorm blijven. En daar hebben we natuurlijk ook nog te maken met het feit dat etiek cultureel verschillend is. Want wat ze bijvoorbeeld in China normaal vinden of prima vinden, ja dat dat vinden wij Nederlanders of Europeanen of mensen weer uit Amerika echt totaal niet. En andere landen kijken dan ook natuurlijk weer vol afschuw naar ons gedoogd beleid. En dat vinden ze ook weer iets wat niet past of niet kan of niet in een algoritme te plaatsen is. En daarom zijn over het algemeen ethische vraagstuk gewoon erg moeilijk. Als je bijvoorbeeld kijkt naar de energiemarkt, dat ligt wat verder van je af en dat gaat om machines. Machines die energie opwekken en uiteindelijk een prijs op jouw rekening laten zien. Als het dichterbij komt, dus als het gaat om ziekenhuisbedden of inderdaad het voorbeeld wat je geeft tussen met de zelfrijdende auto, dan wordt het alweer veel en veel moeilijker. Daarom ook van zou ik bij dit soort vraagstukken ook wat verder af willen van de filosofische vraagstukken en veel meer kijken naar hoe geef je daar nou praktisch invulling aan. En dat lijkt me veel zinvol om daarop op te focussen. En het is niet alleen in deze aflevering, maar gewoon in het algemeen. En dus als je dit soort systemen maakt, heb je natuurlijk wel te maken met ethische vraagstukken. En hoe ga je daar nou praktisch mee om? Zie jij dat dat ook leeft in de markt op die manier? Ja, dat leeft zeker wel in de markt. Hoe dichter je bij menselijke vraagstukken komt, hoe sterker het leeft. Maar wat we wel daar vooral zien eigenlijk, is dat het als drempel wordt gebruikt. Dus er wordt wel over nagedacht en dat zijn dan vraagstukken waar je toch als mens of als groep mensen helemaal niet uitkomt. Want je kan niet kiezen tussen, in het ergste geval de dood van een een of de dood van een ander. Maar waar je het moet omdraaien, is dat je het kan toepassen in het eigenlijk ondersteunen van je werk. En daar zien we toch wel dat verschillende branches daar moeite mee hebben. Als je kijkt bijvoorbeeld naar de financiële markt, dan is het ja wel wat makkelijker om een fraude project te starten. Want ja, fraude levert geld op en staat wat verder van je af en is eigenlijk een soort misdaadbestrijding. Terwijl als je kijkt in markten als de zorg, dan gaat dat wat minder snel, omdat dit soort vraagstukken eerst beslecht moeten worden. En dan vaak, omdat we er niet uitkomen, en dat heeft soms ook, en dat moet ik dan maar wat zachter zeggen, te maken met een stukje kennisachterstand. Heeft te maken met dat men dan zich verschuilt achter de ethiek en dat daar dan maar wetgeving voor moet komen. Ja, aan de andere kant zie je ook wel dat er, bij de overheid hadden ze natuurlijk Siri. Dat is niet de Apple Siri, maar onze Nederlandse Siri. Waarbij er zoveel aan elkaar geknoopt werd, dat dat door in ieder geval de maatschappij niet meer als ethisch verantwoord werd gezien. Ja, het is ook natuurlijk echt wel zoeken naar een balans, van waar raak je zodanig de impact van het leven van mensen en op een niveau dat je dat echt niet wil. En waar blijf je daar onder. En dat zal ook iedere keer een verschil zijn en een afweging in hoe je dat doet. Maar dat hebben we natuurlijk al behandeld, want dat kan terug te reflecteren zijn van hoe start ik een project, hoe start ik een AI-project. Want is het dan niet zo dat je je bij het ontwerpen al rekening kan houden met dit vraagstuk? Dat kan en dat sterker nog, dat moet je ook doen. Want bij ieder project waar het gaat om kunstmatige intelligentie, ben je verplicht wat mij betreft om te kijken naar die ethische kwesties. En het mooie is dat er zijn allerlei guidelines daarvoor, die je kunnen helpen bij het nadenken over juist die specifieke gevallen waar jouw product dan mee te maken heeft. Je hebt een initiatief, dat heet de guidelines for a trustworthy AI. Dat is vanuit de Europese Unie is dat gestart. Daar kan je je ook aan lieren. Dus wij zijn er als Info Support bijvoorbeeld ook aan gelieerd. Dat zijn guidelines die zijn ook nog in ontwikkeling. Die kun je nu al gebruiken. Maar je hebt ook iets bijvoorbeeld ethicalos.org. Dat is een site, daar kun je ook hele goede guidelines vinden. En die helpen je bij het stellen van vragen. Het is niet zozeer een checklist van heb ik dit allemaal gedaan. Maar het is een set van vragen waar je over nagedacht moet hebben. En waar je antwoord op moet kunnen geven. En ook moet voor jezelf kunnen zeggen van dit is echt wel wat wij willen. Het helpt je bij het nadenken over je ethische vraagstukken. En dat neem je dan mee in je ontwerp. Leuk dat je luistert. Abonneer gratis op ons account in de Apple podcast en Google podcast. En zorg dat je geen aflevering mist. We kunnen dit alleen blijven maken met jullie support. Mark, we hebben het nou gehad over ethiek en de markt. Maar waar ik nog heel erg benieuwd naar ben is, staat dit ook op de agenda's van de directies? Ja, goede vraag. Nou, in principe staat het op de agenda natuurlijk van de directie. Op het moment dat ze met hun hele beleid bezig zijn, is ethiek iets wat daarop ophoort. Het is iets wat in een cultuur van een bedrijf kan zitten. En echt zeker iets wat besproken moet worden. Wat je wel vaak ziet in de wat meer business to business kant en business to consumer bedrijven, is dat het wat verder in projectgroepen wordt belegd. En dat de directie zich vooral bezighoudt met de uiteindelijke toepassing van bijvoorbeeld een AI-project. Dan is het wel belangrijk dat het daar ergens, en daarom zijn denk ik de guidelines die je al noemde, erg belangrijk, er rekening mee gehouden wordt dat ethiek een plaats heeft in dit project of in een uitvoering. Maar datzelfde geldt voor security en datzelfde geldt voor privacy. Dus het is wel te vergelijken met die onderwerpen. Directies willen vaak zien dat er over nagedacht is, dat het een plek heeft gekregen. Wat wij minder zien is dat er echt een beleid opgevoerd wordt. Wat zou daarvoor nodig zijn? Hoe zouden ze daar daarmee kunnen starten met het maken van beleid? Nou wat denk ik belangrijk is, is dat toch op het moment dat je het hebt over de toepassing van daadwerkelijk AI binnen een bedrijf, heb je toch een stuk kennis nodig. Dus je moet aan de basis beginnen en toch echt een stukje kennis opdoen van waar krijg ik eigenlijk allemaal te maken wanneer ik dit project start, als ik AI wil toepassen in mijn bedrijf. Nou meestal, zoals we ook in de eerste aflevering van onze podcast hebben gezegd, begin je gewoon heel klein. Maar dan is het wel goed om al gelijk te laten zien in je ontwerp, waar je dan het onderwerp ethiek hebt toegepast, of waar je het de invulling kan geven. Zo groeit het namelijk ook mee op het moment dat het project ook groter wordt. En dan gaat het bij directies en aan tafel van management ook leven. En kan je ze daar in stap voor stap meenemen. Want op het moment dat je zegt, hey ik ga de directiek kamer binnen, ik zeg hey wat is het beleid op AI en op de ethiek die dat, ja dat is veel een veel te moeilijke vraag om zomaar neer te leggen. Want het heeft heel veel raakvlak. Ja snap ik. Maar klein beginnen, ook hier. Ja dat is sowieso altijd natuurlijk een goed advies. Klein beginnen, langzaam uitbouwen. Ja wat wij daarin zien, dat gaf ik al eerder even aan. Vaak wordt gezegd, ja dat moet maar in de wet geregeld worden. Want dan wordt het toch te moeilijk en toch te groot. En ja is het toch weer uit de klauwen gelopen, om het maar even zo te zeggen. En dan wordt het teruggegrepen op iets wat we kennen, namelijk wetgeving. Als jij daarnaar kijkt Joop, is er dan voldoende wetgeving voor? Ja het is wel grappig dat je dat zegt, want dat hoor ik inderdaad ook heel veel. En dan ook van allemaal stellingen, dit moet in Europa geregeld worden, dit moet de overheid regelen. En nou een hoop gedoe wat mij betreft. Want de meeste vraagstukken worden door onze huidige wetgeving volgens mij behoorlijk goed afgedekt. Dus we hebben artikel 1 over het niet discrimineren. Dus alles wat te maken heeft met discriminatie van algoritmes of wat dan ook, is allemaal al afgedekt. Dat mag helemaal niet. Vooroordelen in algoritmes, allemaal dat soort zaken is niet mogelijk. Of is wel mogelijk, maar mag niet. Dat is wat anders natuurlijk. De privacy wetgeving is natuurlijk goed geregeld binnen, in ieder geval binnen de EU. Dus er is heel veel wetgeving, zelfs als je een financieel product aanvraagt, mag je niet afgewezen worden omdat een algoritme nee zegt. De computer says no is geen aanvaardbare uitleg waarom jij een bepaald financieel product niet mag hebben. Dat soort zaken zijn allemaal al geregeld in onze wet. Dus ik denk dat we met de huidige wetgeving, de guidelines die er zijn, dat wij prima aan allerlei ethische vraagstukken wetgeving kunnen voldoen. Er zullen best wel randen zijn, uitzonderingen, die nu niet toekomstbestendig zijn. Maar met de huidige wetgeving komen we echt een heel eind. Ja, daar heb je dat denk ik ook. Wat ik nog wel veel tegenkom, dat zit ook in deze toch wel hoek van ethische vraagstukken, gaat over de vervanging van kunstmatige intelligentie, dat die uiteindelijk de mens gaat vervangen. Hoe wordt daar dan tegen aangekeken in de markt? Nou, die vraag komt best wel op tafel, van hoe ver gaat dit eigenlijk en hebben we wel goed genoeg zicht. Je hoort wel eens van die brandende vraagstukken van ja, maar wat nou als het in verkeerde handen komt. En dat is natuurlijk in principe met alles zo. Dat is met iedere stuk innovatie software, als het nou gaat om iets als AI of iets ongrijpbaars als wapens. Het moet nooit in verkeerde handen komen. Maar het gaat het gaat never nooit de mens vervangen. Het gaat in mijn optiek eerder de mens enorm veel versterken. Want het gaat je namelijk meer tools geven die jou helpen om je werk nog beter te doen. En de vraag die ik daarbij ook vaak krijg is, ja maar gaat het niet heel veel banen kosten? En nou ja, misschien misschien gaan er bepaalde banen geautomatiseerd worden. Maar dat zijn dan banen die heel vaak toch niemand al echt heel erg leuk vindt of juist allemaal van die repeterende taken met zich meebrengen. Die kunnen prima geautomatiseerd worden door een goed AI model. Het gaat ook aan de andere kant en dat is iets dat we dan vaak weer niet horen. Het gaat heel veel banen creëren. Ja, wat nog even over dat verdwijnen van die banen. Want wat mij altijd wel opvalt, is dat we dit soort vraagstukken helemaal niet hebben gehad überhaupt bij de automatiseringen. Automatisering doen we al tientallen jaren. En is dat helemaal geen vraagstuk geweest. En nu dat het gaat over kunstmatige intelligentie, misschien heeft het iets met de term te maken ofzo, is dat dat een heel heikel punt lijkt te worden. En begrijp me niet verkeerd, want kijk als je door automatisering op welke vorm dan ook je baan verliest, is dat echt wel heel erg vervelend. Maar ik vind het wel opvallend. Weet je, waarom nu? Ja, nou dat komt denk ik omdat het mogelijkheden biedt en ook een stukje dichterbij komt. Dus je kunt je, misschien heb je ook wel gelijk zit het in de term kunstmatige intelligentie, zelflerend. Dat soort termen maken natuurlijk spannend, want hey ik ben als mens ook zelflerend. En gaat het dan mij vangen? Nou ja, dat zijn dingen die kunnen wij ons afvragen. Een computer niet, want een computer wordt gewoon geprogrammeerd. En een model leert alleen maar beter dat procesje waar die voor dient te verbeteren. Maar omdat wij als als mens kunnen wij ons voorstellen wat dat doet en hoe zeg maar die volgende stap van automatisering eruit ziet, kunnen wij begrijpen. Waardoor het ook een beetje spannend wordt, want je gaat hem namelijk, en daar komt etiek natuurlijk weer terug, je gaat hem reflecteren op je eigen werk. En dan ga je eens nadenken, zou mijn werk vervangen kunnen worden? Nou ja, zou theoretisch kunnen. En dan wordt het spannend. Alleen wat er dan bij komt kijken, om dat überhaupt te kunnen doen. Ja daar, daar ontbreekt dan een stukje kennis, waardoor het toch een beetje spannend wordt of het wel of niet kan. En vaak wordt het overschat, wat we op dit moment, waar de stand van de techniek staat met kunstmatige intelligentie, moeten we echt niet vergeten dat het wat we kunnen automatiseren is in taken en geen beroepen. Dus wat jij net zei van AI versterkt de mens, daar geloof ik ook heel erg in, is dat het je gaat helpen bij repeterende taken, herhalende taken, taken die moeilijk in ons hoofd passen, die de machine heel goed kan doen. Maar er zullen nog ontzettend veel taken overblijven, waar we juist meerwaarde in hebben. Ja en als je hem toch plot op het ondersteunen. Kijk er was een pas een bericht dat het eerste medicijn door AI is gemaakt. Nou dat is fantastisch, want voorheen werden deze processen ook geautomatiseerd. Precies zoals jij net al zei, automatisering hadden we al lang en rekenkracht hadden we al lang en ook al nodig om dergelijke medicijnberekeningen te kunnen maken. Het is niet zo dat we met z'n allen aan de lopende band stonden om medicijnen te maken, dat werden al lang heel veel computers voor gebruikt. Alleen nu wordt het in een AI model gestopt, waardoor net even wat meer kracht heeft en net even wat sneller kan. Waardoor men denkt, hé maar wacht even is dat dan wel een veilig medicijn? Nee, alle processen daaromheen en testen en dat soort zaken zijn nog allemaal gewoon door de mens geleid en bepaalt ook de mens zelf wat hij daarmee doet met deze output. Maar het proces om tot een medicijn te komen dat is een factor 10 versneld en dan zie je weer dat het dus echt ondersteunt. Ja. En zo gaat het nog veel meer in de praktijk. Ja en in een veel kleiner verband, ik gebruik bijvoorbeeld Microsoft Outlook en die kan, die maakt voor mij een prioriteitsinbox aan. Het is, die selecteert voor mij al de e-mails in belangrijk, niet belangrijk waarbij ik zelf helemaal de sturing heb in welke ik wel of niet lees, maar helpt mij in de schrifting van wat dan belangrijke mailtjes zijn waardoor ik mijn werk beter kan doen. Ik moet nog steeds die mail zelf beantwoorden, zelf lezen, zelf lezen, zelf beantwoorden, zelf actie ondernemen op de vragen die daar gesteld worden. Maar het helpt mij wel in de uitvoering van mijn werk. Het is op een hele kleine schaal is dat zo. Ja, hij is het niet een leuk idee Joop om een podcast te maken over allemaal praktijkvoorbeeld. Ja, laten we dat volgende keer doen. Nou, gaan we dat afspreken. Oké, tot de volgende aflevering. Tot de volgende keer. Bedankt voor het luisteren naar AIToday Live. Bezoek ook eens onze website ai2day.ai en abonneer je gratis op ons e-magazine Bordeval AI Praktijkvoorbeelden van vandaag de dag. Houd ons podcast in de gaten. Elke week beschrijven we een nieuw onderwerp online. Vergeet hem niet te delen, mocht je het interessant vinden. Ondertitels ingediend door de Amara.org gemeenschap