Echt slim

Slim klinkt goed, zeker voor ons gewone stervelingen. Slim klinkt menselijk, in tegenstelling tot “intelligent”, dat afstandelijk klinkt, een beetje beangstigend, misschien zelfs wat pretentieus.

Voor psychologen en filosofen ligt dat uiteraard een beetje anders. Die vinden “slim” te vaag en hebben sowieso een voorkeur voor woorden die ingewikkelder klinken. Ook ingenieurs en wiskundigen hebben het liever over intelligentie, bijvoorbeeld wanneer ze zich het hoofd breken over de vraag wanneer het gepast is een machine “intelligent” te noemen.

Artificieel intelligent

Het domein waarin deze slimme mensen actief zijn, artificiële intelligentie, wordt steeds belangrijker. Sinds mensen als Alan Türing en Jozef Weizenbaum programma’s bedachten die op zijn minst in staat waren om mensen de indruk te geven met andere mensen – en dus intelligente wezens – te maken hebben, zijn we ontzettend geëvolueerd.

Vandaag hebben we weliswaar nog altijd geen eenduidig antwoord op de vraag wat artificiële intelligentie precies is – misschien omdat “intelligentie” zo’n moeilijk concept is – maar dat heeft de ontwikkeling van het vakgebied niet gehinderd. Het lijkt er zelfs op dat we het moment naderen waarop deze technologieën het aanzien van de mensheid drastisch zullen veranderen.

Wat als deze machines ook beter zijn dan wij in de ontwikkeling van hun opvolgers?

Dat denkt tenminste Stephen Hawkins. De man is niet alleen een wereldbefaamd fysicus, hij is ook adviseur van het Cambridge Centre for the Study of Existential Risk (CSER). Onlangs stelde hij in een krantenartikel de vraag wat de toekomst van de mens is als deze erin slaagt machines te ontwikkelen die de dingen gewoon veel beter doen dan mensen het ooit zouden kunnen. Wat als deze machines ook beter zijn dan wij in de ontwikkeling van hun opvolgers?

Ook deze vragen zijn niet nieuw. Voorstanders van artificiële intelligentie doen ze doorgaans af met de suggestie om de slimme machines te voorzien van een regel die ze er moet van weerhouden zich tegen de mens te keren. Als we toch per se god willen spelen, kunnen we maar beter ook het gebod ‘gij zult uw schepper niet doden’ uitvaardigen en hopen dat onze schepselen zich gehoorzaam opstellen. De geschiedenis toont aan dat mensen het alvast niet zo nauw nemen met de geboden.

Dodelijke autonome wapensystemen

Een teken aan de wand is de bijeenkomst van de UN Convention on Certain Conventional Weapons (CCW) in Geneve, vorige maand, waar experts verzamelden om te discussiëren over, hou u vast, dodelijke autonome wapensystemen.

We beschikken al over machines die in staat zijn om zonder de tussenkomst van mensen te beslissen om te doden

Die systemen bestaan al. We beschikken al over machines die in staat zijn om zonder de tussenkomst van mensen te beslissen om te doden, alleen maken we er voorlopig nog geen gebruik van.

Voorlopig laten de drones die in Jemen, Pakistan of waar dan ook mensen vermoorden, de ultieme beslissing over aan iemand die veilig achter een schermpje zit, ergens op het Amerikaanse continent. Deze beslissing gebeurt – zo wil het dominante discours het - op grond van nauwkeurige overweging van ethische principes en wettelijke bepalingen. Overwegingen die we technisch nu al kunnen overlaten aan machines die we hebben uitgerust met beslissingsregels waarop ze zich baseren om te doden.

Waanzin

Wat de uitkomst van de bijeenkomst is, weten we pas later, maar laten we hopen dat een halt wordt toegeroepen aan deze waanzin. Niet alles wat we kunnen, hoeven we te doen. Soms is het gewoon slimmer om te beslissen iets niet te willen kunnen, niet voor we echt slim zijn en zeker weten hoe we met onze creaties kunnen omgaan opdat we een humanere wereld scheppen.