Ethische normen kunnen verantwoorde ontwikkeling van big data en artificial intelligence stimuleren. Hoe precies moet het EU-project Sherpa uitwijzen.
Het Sherpa-project van de EU loopt ruim drie jaar, aldus Marlou Bijlsma, standaardisatieconsultant bij het Nederlands Normalisatie-instituut (NEN), en gaat met casestudy’s en scenario’s onderzoeken welke ethische vraagstukken spelen bij smart information systems: artificial intelligence in combinatie met big data. ‘De cases gaan over huidige ontwikkelingen rond smart information systems’, vertelt ze. ‘We vragen mensen uit de praktijk die hiermee werken welke principes ze hanteren en welke dilemma’s er spelen.’
In de scenariostudies onderzoekt Bijlsma hoe de toekomst eruit kan zien. Die scenario’s gaan bijvoorbeeld over zelfrijdende auto’s, predictive policing (criminaliteitsbestrijding met data-analyse en statistiek) en gezondheidszorg. ‘We kijken dan naar de risico’s en de kansen en de vraag hoe je daarmee kunt omgaan.’
Privacy
‘Bij gezondheidszorg hoef je niet direct te denken aan het ziekenhuis’, merkt Bijlsma op. Ook gebruik van apps op smartphones en DNA opsturen voor genealogisch onderzoek roept vragen op over ethiek en privacy. Er wordt bijvoorbeeld veel gemonitord met stappentellers en trackers. ‘De vraag is van wie die data zijn, en wat we er allemaal mee kunnen en willen. In hoeverre mag je die data gebruiken om mensen aan te sporen meer te bewegen? Als mensen DNA opsturen, krijgen ze daar een klein beetje informatie voor terug. Maar wat doet dat bedrijf nog meer met het DNA en de analyses? Wat heb je precies weggegeven en wat mag het bedrijf daarmee doen? Het Sherpa-project onderzoekt tegen welke ethische dilemma’s je oploopt. Van daaruit kun je praktische handvatten formuleren hoe je daarmee om kunt gaan. Pas als de onderzoeksresultaten er zijn, kunnen we gaan kijken of er een aanzet is om normen te ontwikkelen.’
‘De vraag is van wie alle data zijn’
‘Voor een organisatie die vooral bekend is van technische en bedrijfsmatige normen, is ethiek toch geen vreemde eend in de bijt’, zegt Bijlsma. ‘Normen kunnen over van alles gaan: van technische normen die omschrijven hoe je iets meet, tot veiligheids- en managementnormen. Bovendien hebben we de voorbije jaren al ervaring opgedaan met normen ontwikkelen om een ethische afweging te maken.’
NEN deed namelijk mee aan het Europese Satori-project over ethische aspecten rond onderzoek en innovatie. Dat legde de basis voor twee nieuwe normen voor ethische toetsing (CWA 17145). De eerste is een norm voor de samenstelling van ethische commissies, en voor de procedures om een concreet onderzoek of innovatie te beoordelen. De tweede norm beschrijft een methodiek om ethische impact in kaart te brengen, om zo te sturen op positieve effecten van onderzoek en innovatie, en het risico op negatieve effecten zo klein mogelijk te maken.
Bijlsma: ‘Veel mensen vinden ethiek cultureel en menen dat je dat niet zomaar kunt standaardiseren op Europees niveau. Toch is het zo dat als je daar met een grote groep mensen goed over nadenkt, het mogelijk is om maatschappelijke verantwoordelijkheid in te bouwen in onderzoek en innovatie.’
Mensenrechten
Bij big data denken velen direct aan privacy, maar privacybescherming is niet de enige uitdaging, aldus Bijlsma. ‘Het gaat ook om mensenrechten en de vraag of iedereen toegang heeft tot nieuwe technologische ontwikkelingen. Draagt het bij aan duurzaamheid of een rechtvaardige samenleving? Voor veel van dat soort onderwerpen is op dit moment nog geen wetgeving, maar je moet er wel over nadenken. Technologisch kan er al veel, maar we weten nog niet wat we er als maatschappij mee willen.’
Nog geen opmerkingen