registreren | inloggen
Gebruikersnaam Wachtwoord

Ethiek en Innovatie: wat willen we eigenlijk zelf?

/~nieuws/pics/robhdruk.jpg

Vorige week brak er een hevige discussie uit bij mijn presentatie (zie: www.dse.nl/node/view/5387 ) in de DSE gebruikersbijeenkomst over de gevolgen van IoT (Internet of Things) en Robots. Het kernprobleem is dat techneuten zich nu druk moeten maken over ethische vraagstukken. Deze publicatie probeert deze discussie door te zetten op de DSE homepage.

In een ideale wereld hebben samenlevingen continu ethische discussies over wat goed en wat fout is en waar de grenzen liggen. De juridische grenzen worden daarna gekozen binnen de ethische grenzen, omdat je als maatschappij wilt kunnen afdwingen dat er geen verkeerde dingen gebeuren. Innovatie vindt daarna plaats binnen de juridische grenzen, dus techneuten kunnen hun gang gaan binnen grenzen die we met zijn allen hebben afgesproken.

Merk op dat niet elke samenleving dezelfde waarden en normen heeft. Ethische normen zijn plaatsafhankelijk en tijdsafhankelijk. Een tijdsafhankelijk voorbeeld: IS heeft dit jaar een aantal oude kunstwerken vernietigd. De verontwaardiging op Facebook was groot: hoe durven ze! Maar nog maar een paar honderd jaar geleden hebben Nederlandse protestanten een hoop katholieke kerken kort en klein geslagen in de beeldenstorm.
Een plaatsafhankelijk voorbeeld: Nederlanders hebben niet altijd dezelfde ideeen dan buitenlanders. Je ziet dat het schuurt als we vluchtelingen opnemen. Wij vinden homohuwelijken normaal, andere culturen vaak niet.

Tot zover de theorie. Nu de praktijk.

Innovatie gaat de laatste jaren zo snel dat juristen en ethici de techneuten niet meer kunnen bijbenen. Waar Tesla vorige maand software heeft gedistribueerd om zijn auto’s min of meer autonoom te laten rijden, zijn de juristen nog niet begonnen met bijbehorende wetgeving. Die Tesla is gegarandeerd niet onfeilbaar en het wachten is op de eerste slachtoffers, waarna de hel losbreekt. Ik kan u nu al de uitslag geven: Volgens de krant heeft Tesla het gedaan!

Dat is een armoe-oplossing omdat de juristen er nog steeds niet achter zijn dat drieduizend jaar juridisch geploeter niet relevant is voor ellende veroorzaakt door autonome robots. Ze zijn er altijd vanuit gegaan dat als twee partijen onenigheid hebben, er een schuldige aangewezen kan worden. Een mens dus. We beginnen nu in een situatie te komen waar die schuldige een ding kan zijn. En wie moet dan de schadevergoeding betalen? Dat is niet gedefinieerd. Dus de fabrikant van het ding? Dat is nieuw: je klaagt toch ook niet de slotenfabrikant aan als een inbreker je huis binnen komt? Maar wat is dan wel eerlijk?

Kortom, als we gaan wachten op juristen en ethici, dan komen we geen stap verder. Maar als we gewoon doorgaan met van alles te verzinnen, dan worden we achteraf tot de orde geroepen. We laten dan tijdens de wedstrijd door journalisten (!) de spelregels verzinnen en die zijn maar al te vaak alleen maar op sensatie uit.

Dus moeten we het debat zelf voeren. Wat mag welen wat niet? Voor ons techneuten is dat best lastig: ethiek is slecht gedefinieerd, dus we willen er niet graag over praten. Maar dat betekent nog niet dat we geen ethisch besef hebben.

Om je ethisch besef te testen, volg even dit gedachtentreintje: Stel je eens voor dat je auto afstevent op een frontale botsing met fatale afloop: het is te laat om te remmen. Jouw autonome auto en die van de tegenligger gaan dan overleggen wat er moet gebeuren: Wordt het een frontale botsing met twee verkeersdoden of stuurt het systeem jouw auto met een rotvaart tegen een boom (jij dood) zodat de tegenligger fluitend door kan rijden? Of beslist het systeem dat de tegenligger maar tegen een boom moet (hij dood)? En wat zijn dan de criteria van dat stuk software? Leeftijd? Roker? Schoolgaande kinderen? Politieke kleur? Of kan ik een software-optie kopen bij mijn auto zodat de tegenligger tegen de boom gaat?
Een paar stellingen die discussies waard zijn: camera’s in uitgaansgebieden tasten je privacy aan en moeten dus weg. De manshoge militaire robots van Boston Dynamics maken van Google geen wapenleverancier. Volkswagen heeft het recht om met software de metingen van uitstoot te beïnvloeden. Autonome auto’s mogen we niet ontwikkelen omdat het alle taxi-, bus- en vrachtwagenchauffeurs brodeloos maakt. Zorgrobots maken de zorg onpersoonlijk.
En als klap op de vuurpijl: het internet of things is geen inbreuk op onze privacy, waar data uitkomt die met big-datatechnieken worden omgezet in informatie waarmee robots aan de gang gaan om iets in jouw omgeving of aan jou aan te passen, waardoor je straks zelf niks meer te vertellen hebt. Maar dat had je toch al niet.

Wil je meepraten over de ethiek van innovatie? Antwoord geven op de vraag hoe we ervoor zorgen dat technologische innovatie blijft bijdragen aan het welzijn van de mensheid? DSE stelt ruimte beschikbaar voor jouw publicatie op dit gebied.

(Een groot deel van deze tekst verscheen eerder als column in Bits&Chips, www.bits-chips.nl )

/~nieuws/pics/RogerRoger.jpg