Transcript
We leven in een nieuw machinetijdperk, waarin technologie het steeds meer overneemt van de mens. Die automatisering is ook op evenementen niet meer weg te denken. Met de innovatie komen echter ook steeds meer ethische vragen. Jochanan Eynikel schreef er het boek 'Robot aan het stuur' over.
Dag Jochanan, welkom in de studio.
Dag Kevin.
Je hebt een boek geschreven: Robot aan het stuur. Het is niet zomaar het zoveelste boek over robotisering. Maar wel over?
Over de ethische en de maatschappelijke impact van technologie. Technologie heeft vandaag een heel grote invloed op bedrijfsleven.
Ik werk zelf voor Etion, een ondernemersnetwerk, maar ook de samenleving. En in de verhalen, spreekbeurten, die ik daarover volg, gaat het heel vaak over technologie. Wat er allemaal mogelijk is. Maar mis ik soms wel een beetje: wat met de mens? Want technologie beïnvloedt ook de mens.
Kan je daar zo een aantal voorbeelden van geven?
Ja, nog los van robots of digitale technologie. Een flitspaal is een instrument, waarmee wij mensen hun gedrag beïnvloeden in het verkeer. Aan de metro staan poortjes, die u beletten om de metro te nemen zonder te betalen. Dus het dwingt u eigenlijk om te betalen. Zo zijn we eigenlijk voortdurend omringd door, zeg maar, een soort van moraal der dingen. Er is niet alleen een ethiek der dingen, maar ook een moraal der dingen. Dat is op zich niet erg, maar vandaag zien we wel nieuwe technologie ontstaan, die zelf gaat denken en zelf beslissingen moet nemen. Dan heb ik het over artificiële intelligentie, slimme robotica, alles wat te maken heeft met slimmere technologie.
De robotjes die u binnenkort ook op evenementen gaan verwelkomen.
Ja, dat gebeurt nu al. Nu, die zijn nog niet altijd intelligent, maar goed. Het is een eerste teken van hoe robots, buiten de fabrieksmuren, ook, zeg maar, de dagelijkse praktijk, of toch de bedrijfswereld, binnenkomen, ja.
Maar je bedoelt daarmee: intelligent, dan gaat het meer over zelfrijdende auto's, dat soort technologie?
Technologie die eigenlijk een, in beperkte zin, een soort van keuzevrijheid creëert of heeft. Die zelf gaat moeten beslissen. Bijvoorbeeld: in de financiële wereld bestaan er al robot-adviseurs, die klanten, al dan niet, een lening toekennen of al dan niet een belegging gaan aanraden. Dus die moeten eigenlijk zelf, op basis van data natuurlijk, gaan afwegen: geef ik de lening of niet? In de zorgsector bestaan al robots, die zijn niet zo intelligent, maar goed, die kunnen communiceren met patiënten of andere bewoners. Maar als dat verder evolueert, zijn er tekenen dat men steeds meer intelligentie in robots gaat steken, gaan die misschien ook met vragen geconfronteerd worden, zoals bijvoorbeeld een demente persoon, die vraagt: waar is de uitgang van het ziekenhuis? Geef je zo een informatie aan iemand, die eigenlijk beter niet het ziekenhuis verlaat? Dus dan moet de robot, ik zeg het, een beetje keuzes gaan maken. Tot zelfrijdende wagens: haal ik nu in of niet? Ga ik afslaan of niet? Rijd ik iemand aan of niet, om een andere te gaan redden? En dat is wel nieuw.
En dat is dan kwestie van de programmeur die bepaalde regels in die robot steekt. Die moet nadenken over de ethiek van bepaalde zaken.
Wel, dat is eigenlijk... De boodschap van mijn boek is niet van: oei, pas op, zie eens, we moeten bang zijn. Maar wel: we gaan meer dan ooit moeten vooruit denken, op de impact van technologie en zeker de morele impact. En vooral het gebruik van technologie, of de verantwoordelijkheid van technologie, verschuift steeds meer van de gebruiker, naar de ontwerper. Dus wij, vandaag, aan het stuur van onze wagen, wij zijn verantwoordelijk voor een verantwoord rijgedrag. Als het binnenkort volledig zelfrijdende wagens zijn, ja, dan wordt het natuurlijk de ontwerper, de programmeur, dat valt dan te bekijken, die verantwoordelijk wordt. Want die gebruiker, ja, die zit vanachter en die kan niet veel doen. Dat is wel een verschil.
Maar dat betekent ook dat eigenlijk niet alleen onze software en die toestellen moeten aangepast worden, maar dat ook heel onze wetgeving en heel onze omkadering moet aangepast worden.
Ja, inderdaad. Ik doe eigenlijk een pleidooi. Je kan op twee manieren ethiek gaan integreren in technologie. Dat is gewoon door het ontwerp aan te passen. Technologie op een soort technische manier helpen morele keuzes te maken. Of meer met een omkadering van: zelfrijdende wagens gaan veel veiliger zijn dan wij, die wel eens dronken of moe rijden. Allez, de mens die dat toch af en toe doet. Of niet zo oplettend is. Dus we gaan dat moeten omkaderen met een nieuwe wetgeving, die maakt dat zo'n autonome wagens, als het dan toch verkeerd gaat, dat er dan wel iemand verantwoordelijk kan worden gesteld of dat we op z'n minst kunnen verklaren: waarom heeft die computer, want dat is het uiteindelijk, nu die beslissing gemaakt.
Nu, om op uw vorige vraag te antwoorden, aan de ene kant heb je: je zal er regels moeten insteken. Zoals vandaag bijvoorbeeld, rond militaire wapens, Europa al heeft gezegd van: kijk, autonome wapens zouden nooit mogen beslissen over leven en dood. Dat moet een mens doen. Zo zou je ook, met bepaalde, eenduidige regels, bij zelfrijdende wagens en andere robotica kunnen werken. Maar daarnaast zal je ook misschien de computer moeten laten leren omgaan met de context en zelf beslissingen leren nemen. Dat heet deep learning. De vraag is: gaat die dat ooit kunnen op moreel vlak. In mijn oogpunt, ik kan natuurlijk niet in de verre toekomst kijken, gaat dat zeer moeilijk zijn, dat een computer zelf tot een moreel besef komt.
Want ethiek, ik ben zelf filosoof, begint voor mij met het zich kunnen inleven in een ander persoon. Of in het lijden van een ander. Stel dat ik dat zou voorkomen. Dat wil niet zeggen dat we altijd moreel verantwoorde beslissingen nemen. Maar dat is wel het begin van ethiek. Nu, een computer heeft geen zelfbewustzijn. Een computer heeft geen inlevingsvermogen. Dus ik denk dat het altijd de mens zal moeten zijn, die de morele bakens, van keuzes die technologie mag maken, zal moeten uitzetten.
Dan is het wel nu het moment om te grijpen. Want die technologie staat nu op het doorbreken. Heb je het idee dat de filosofen hier ook effectief een stem in hebben? Of worden jullie genegeerd?
Wel, ik word nogal veel gevraagd de laatste tijd. Rond mijn boek. Dus ik kan niet klagen over mijn stem. Nu, ik wil natuurlijk ook niet zeggen dat ik, individueel, als filosoof het allemaal beter weet. Maar ik denk wel dat we, meer dan ooit, ethiek, filosofie, maar ook sociologie en dergelijke, of sociologen, filosofen, zullen moeten samenwerken met ontwerpers, met ingenieurs, om technologie, die zo'n menselijk impact heeft, ook menselijk te houden. En daar zie je wel wat in bewegen. Al is het allemaal wel redelijk nieuw, ja. Pas op, het is ook niet zo dat ontwerpers nu, of ingenieurs, dat dat allemaal immorele mensen zijn, die niets anders doen, dan alleen maar onverantwoorde technologie maken, zeker niet. Maar het wordt wel steeds belangrijker, omdat de impact zo groot wordt.
Het wordt belangrijker en zij zijn van nature niet gewend, om met dit soort vraagstukken naar mensen te komen, die gewoon zijn om daarover na te denken.
Ook omdat het niet altijd nodig was, hé. Een wagenconstructeur vandaag moet gewoon zorgen dat zijn wagen technisch in orde is. Maar dat gebruik, het verantwoord gebruik, is voor de gebruiker. Dat wordt nu wel anders. En we hebben het nu weer over zelfrijdende wagens, maar hetzelfde geldt voor robots die beslissingen moeten nemen of software die beslissingen moet nemen.
Het klinkt ontzettend, ontzettend interessant. Kunnen wij er als gewone bedrijven vandaag, moeten wij er al iets mee doen?
Nee, u zei daarnet: we kunnen het beter nu doen. Dat is ook mijn pleidooi, eigenlijk. Om nu al onze morele verbeelding te gebruiken, om alles wat met rekenkracht werkt, te begeleiden. Ik heb zelf, in het boekje, een aanzet gedaan tot waardengedreven innovatie. Dus eigenlijk, met een aantal vragen, in een canvasmodel gegoten. Eigenlijk: de mens, de maatschappij en de moraal achter technologie, in beeld helpen te brengen. Dat is, in de eerste plaats, gericht aan mensen die bezig zijn met innovatie. Maar ook beleidsmakers en iedereen, die er direct of indirect mee bezig is.
Oké. Mensen die het boek willen lezen, kunnen het gewoon in de boekhandel krijgen?
Gewoon in de boekhandel of online. Het is uitgegeven bij Lannoo Campus, dus je kunt het daar ook bestellen.
Oké, super. Dank je wel voor je komst naar de studio.
Graag gedaan.
En u, beste kijker, bedankt voor het kijken en alweer tot volgende week.
