Cambridge onderzoekt risico op technologische vernietiging van mensheid

De universiteit van Cambridge start een nieuw programma dat de risico’s op de vernietiging van de mensheid door haar eigen technologieën moet onderzoeken. Welke zijn de risico’s en hoe kunnen ze worden beperkt? Die vragen worden door een multidisciplinair onderzoeksteam van ‘The Cambridge Project for Existential Risk’ toegepast op domeinen als artificiële intelligentie, biotechnologie, artificieel leven, nanotechnologie en de extreme effecten van klimaatverandering. Oprichters van het programma zijn filosoof Huw Price, astrofysicus Martin Rees en Skype-oprichter Jaan Tallinn. Ze hebben de premisse voor hun onderzoeksproject beschreven in een artikel op de site The Conversation_ Artificial intelligence – can we keep it in the box?

Een meer actueel probleem is de ethiek in de interactie tussen mens en machine. Technologie beslist vandaag al over leven en dood. Gary Marcus illustreert dit in The New Yorker aan de hand van de autonome-auto-zonder-chauffeur die Google heeft ontwikkeld_

“Your car is speeding along a bridge at fifty miles per hour when errant school bus carrying forty innocent children crosses its path. Should your car swerve, possibly risking the life of its owner (you), in order to save the children, or keep going, putting all forty kids at risk? If the decision must be made in milliseconds, the computer will have to make the call.”

Of wat te denken van keuzes op leven en dood gemitigeerd door robots en drones in gevechtszones. Human Rights Watch heeft daarover recent het rapport “The Case against Killer Robots” gepubliceerd. Marcus meent dat morele computers in de autonome auto’s geen optie zijn maar een must. Zo wordt het uitklaren van de morele knoop meteen een voorwaarde tot het bouwen van intelligente machines.