"Machines geen bewustzijn? Dat zeiden we ooit ook over slaven"

Het is de hoogste tijd om goed na te denken over wat we met kunstmatige intelligentie willen. Dat vindt een van de belangrijkste wetenschappers in het AI-debat, de Zweeds-Amerikaanse theoretisch fysicus Max Tegmark (50). "Machines zijn niet kwaadaardig, ze zullen er alleen alles aan doen om hun vooraf meegegeven doelstellingen te realiseren. Daarom moeten we er goed over na denken," zegt hij in de Volkskrant.

Doelstellingen Tegmark spreekt in zijn spraakmakende boek Life 3.0 over het 'opzettelijk onbenullige voorbeeld' van filosoof Nick Bostrom. Die heeft het over een kunstmatige intelligentie met als doelstelling het produceren van een maximale hoeveelheid paperclips, zoals een schaakcomputer geen ander doel heeft dan het winnen van een partij schaak. De paperclipmaximalisator zal alles op alles zetten om zijn doel te bereiken. Hij zal mensen doden als het nodig is. Niet omdat hij tegen mensen is, maar omdat hij onze atomen nodig heeft voor de fabricage van paperclips, legt de wetenschapper uit.

Autonome wapens Het is een voorbeeld dat duidelijk maakt dat de machines van oorsprong niet kwaadaardig zijn, maar dat we als mens de doelstellingen van de machine goed in de gaten moeten houden. Tegmark pleit dan ook voor een verbod op autonome wapens. "Het argument is vaak dat het inzetten van dergelijke wapens helpt om verder geweld voorkomen. Maar dat gaat niet gebeuren. Want de NAVO krijgt niet het alleenrecht op die wapens. Nee, in plaats daarvan zal iedereen ze vrij gemakkelijk kunnen produceren. Dus straks zitten de zwarte markten op internet vol met die dingen waarna ze voor een paar honderd euro door iedere terrorist op de kop zijn te tikken. Het zijn de kalasjnikovs van morgen. Zo'n wapenwedloop wil je niet. Alles gebeurt autonoom en je komt gewoon niet meer te weten wie erachter zit."

Bewustzijn Dat de mens de enige is met bewustzijn, is een denkfout. "Een klein beetje meer nederigheid zou ons alleen maar goed doen. We moeten ons niet verlaten op een of andere notie van superioriteit, want dat heeft ons tot nu toe weinig goeds gebracht. We zijn niet superieur en we zijn niet uniek. Is het niet heel poëtisch dat we zoveel moeite doen om de slimste te zijn en dat we tegelijk zelf machines bouwen die ons de baas zullen zijn?"

"Voor mij staat bewustzijn gelijk aan subjectieve ervaring. En die ervaring is de basis van elke moraal: pijn, lijden, plezier, genot. We mogen dat onderwerp niet uit de weg gaan, hoe lastig het ook is. Het is te makkelijk om te zeggen dat machines geen subjectieve ervaringen kunnen hebben. Hetzelfde werd ooit ook over slaven gezegd. Het zou zelfs geen probleem zijn om ze te martelen, want ze zouden geen ziel hebben. En sommigen zeggen het nog steeds ook over dieren, die geen ervaring van pijn zouden hebben en dus per definitie niet kunnen lijden."

"We moeten niet dezelfde fouten maken als we het over machines hebben. Bewustzijn is wetenschappelijk gezien nog een van de laatste bastions van niet-opgeloste zaken en ik denk echt dat we hier nog progressie kunnen maken. Daarnaast moeten we enorm oppassen met wat ik koolstofchauvinisme noem: het idee dat je van koolstofatomen moet zijn gemaakt om überhaupt in staat te zijn iets te voelen. Waar het om gaat is informatieoverdracht, niet van welke atomen we zijn gemaakt."

Bron(nen): De Volkskrant