De moraal van de zelfrijdende auto

De zelfrijdende wagen komt naar Vlaamse wegen. Ben Caudron vraagt zich af of het technologisch hoogstandje klaar is om in uitzonderlijke omstandigheden de juiste “keuzes” te maken. En is net daar geen moreel oordeelsvermogen voor nodig?

  • © Brecht Goris © Brecht Goris

Ze waren met velen, en van divers pluimage, de producenten van het technologisch determinisme.

Ze hadden een duidelijke boodschap: de wet is een stoorzender in de veroveringsdrift van de slijters van slimme snuffelaars en andere leurders die willen transformeren, liefst zo disruptief mogelijk.

Niet gehinderd door enige zin tot nuance, schreeuwde een Brussels parlementslid dat ‘de transitie naar een digitale economie’ zich niet laat ‘tegenhouden door gilden en wetboeken die ‘no pasarán!’ schreeuwen.’

En zie, ze vindt gehoor. Een wet is bijna aangepast. Daar zorgen de eminenties uit de Senaat voor. En als zij klaar zijn, is er alvast geen juridische belemmering meer voor de introductie van zelfrijdende auto’s.

Dan kunnen de bezitters van de Tesla – een staaltje van technisch en algoritmisch vernuft – beginnen nadenken over wat ze allemaal kunnen doen met de tijd die ze winnen terwijl hun zelfrijdende auto doet wat een zelfrijdende auto verondersteld is om te doen. Zij worden vervoegd door de gelukkige bezitters van het fraais dat staat te proefdraaien op de testparcours van Audi, BMW of Volvo.

Geen science fiction

Wie maalt er om het detail dat de omstandigheden zorgvuldig gecontroleerd moeten blijven?

Zelfrijdende auto’s zijn al even geen science fiction meer. Duizenden kilometers werden afgelegd door de prototypes van Google, de testwagens van Tesla of Mercedes-Benz. En ze doen het meer dan behoorlijk.

Als de omstandigheden zorgvuldig gecontroleerd blijven, weliswaar, maar wie maalt om zo’n detail? Wie leest de nuancering van Google dat hun auto’s nog niet echt opgewassen zijn tegen de onvoorspelbaarheid van niet-geprogrammeerde mensen die zich een weg banen in de urbane jungle?

Wie wil stilstaan bij het feit dat de journalisten die een testritje mochten maken met ‘de lounge’ van Mercedes werden uitgenodigd op een parcours waarop onvoorspelbaarheid uitgeschakeld is.

Ik kan me alvast een paar voordelen van zo’n zelfrijdende auto inbeelden, andere dan de tijd die vrijkomt voor de immer drukke mens. Misschien verleidt zo’n auto ons wel om eindelijk afstand te doen van de achterhaalde opvatting dat de auto ook de vrijheid impliceert en willen we ons eindelijk wat meer plooien naar de noodzaak van minimale discipline als we ons te midden van onze snel bewegende soortgenoten bevinden.

Nuance is nodig

Verkeersdeskundigen lijken alvast hoge verwachtingen te koesteren, maar wijzen er terecht op dat wel meer dan alleen de wet dient aangepast. Hun nuanceringen treed ik bij, en wil ik graag nog wat uitbreiden.

Daarvoor wil ik het graag hebben over een aspect dat minder makkelijk in nieuwe wettelijke kaders te gieten is en dat nauwelijks of niet gebaat is bij de aanpassing van de verkeersinfrastructuur. ‘Slimme straten’ helpen ons immers niet vooruit als we willen nadenken over de wijze waarop de mens als moreel wezen acteert in de activiteit die publieke mobiliteit is.

Doorgaans blijft deze dimensie van ons handelen impliciet. Alleen in uitzonderlijke omstandigheden worden we gedwongen keuzes te maken. Die omstandigheden zijn uiterst moeilijk te voorspellen en de beslissingsregels die we hanteren, laten zich (voorlopig nog) amper vertalen in iets wat programmeerbaar is.

Peperdure kat onder je wielen

Wat als er ‘spelend kind’ stond?

Een voorbeeld. Je draait de straat in. De peperdure kat van de buren dreigt onder je wielen terecht te komen. Als je je stuur omgooit, kan je het dier misschien redden, maar eindig je tegen de geparkeerde cabrio van de overbuurvrouw. Wat als het jouw kat is? Of de kat van je jongste? Wat als er niet ‘kat’ stond, maar ‘spelend kind’?

De beslissing die je in de volgende seconde neemt, is ingegeven door een heleboel factoren, waarvan we ons amper bewust zijn. De inschatting van de situatie (Wat zijn mijn opties?), emoties (Hoe troost ik straks mijn kind? Mijn buren zijn vervelende mensen…), maar ook ons moreel zijn (Je doodt geen mensen) spelen allemaal een rol in onze beslissing.

Als we ons veilig willen weten in een publieke ruimte waarin machines autonoom beslissen, moeten we met enige zekerheid kunnen vertrouwen op hun vermogen om ook in uitzonderlijke omstandigheden de ‘juiste’ beslissing te kunnen nemen. Die beslissing wordt niet door het bestaan van een wet ingegeven, maar door moreel oordeelsvermogen.

Hoe programmeren we dit vermogen?

Ik ben proMO*

Nu je hier toch bent

Om de journalistiek van MO* toekomst te geven, is de steun van elke lezer meer dan ooit nodig. Vind je dat in deze tijden van populisme en nepnieuws een medium als MO* absoluut nodig is om de waarheid boven te spitten? Word proMO*.

Wil je bijdragen tot de mondiale (onderzoeks)journalistiek in het Nederlandstalig taalgebied? Dat kan, als proMO*.

Wil je er mee voor zorgen dat de journalistiek van MO* mogelijk blijft en, ondanks de besparingspolitiek, verder uitgebouwd wordt? Dat doe je, als proMO*.

Je bent proMO* voor € 4/maand of € 50/jaar.

Word proMO* of Doe een gift

Over de auteur

  • Socioloog, digitaal strateeg en auteur

    Ben Caudron (1965) is socioloog, gepassioneerd door mens en technologie. Sinds 1993 is hij actief betrokken bij de ontwikkeling van digitale media.