The Netherlands is internationally leading in ethical thinking about technology. After the incident regarding Cambridge Analytica it is clear that ethics and regulation are crucial for a decent digital society. But this requires an investment in responsible innovation, so DDFV scientific director Jeroen van den Hoven and Peter Paul Verbeek (professor in philosophy of technology at the University of Twente) argue in Dutch Newspaper Financieel Dagblad. – OP-ED IN DUTCH

Door Jeroen van den Hoven & Peter-Paul Verbeek

Nederland leidt ethisch debat hightech

Anders dan recent in het FD werd beweerd, loopt Nederland wereldwijd voorop in het ethisch denken over technologie. Na het echec rond Cambridge Analytica is het duidelijk dat ethiek en wetgeving cruciaal zijn voor een fatsoenlijke digitale samenleving. Maar hiervoor zijn wel middelen nodig, zo stellen ethici Jeroen van den Hoven en Peter Paul Verbeek.

Dit stuk verscheen eerder in het Financieel Dagblad van 28 april 2018

Het tempo van de digitale revolutie is zo hoog geworden, dat de ethische en maatschappelijke vragen zich opstapelen. Blockchain ontregelt de financiële sector, Facebook verkeert in zwaar weer door datalekken en beïnvloeding van kiezersgedrag, en het Internet of Things creëert nieuwe kwetsbaarheden voor individuen en bedrijven.

Geen vrijblijvende beschouwing

‘Waar zijn de ethici in dit debat?’, zo vroeg Jim Stolze zich onlangs af in zijn FD-column Kickstart. Nou, in Nederland zo’n beetje overal waar ze het verschil kunnen maken, is ons antwoord. Ons land is internationaal zelfs een gidsland op het gebied van de ethiek van technologie. Maar om dat te zien, moet je niet alleen kijken naar talkshows en debatavonden, maar ook naar technologisch ontwerp, beleidsvorming, het politieke debat en het bestuur van bedrijven en maatschappelijke organisaties.

De Nederlandse ethiek van technologie en innovatie heeft grote invloed op het beleid en het denken over technologie: niet alleen in Nederland maar ook in de rest van de wereld. Hoewel dit zich onttrekt aan de waarneming van de oppervlakkige beschouwer, heeft Nederland op dit gebied een voorhoedepositie die van grote waarde kan zijn in de 21e eeuw. Een eeuw waarin de digitale technologie een ongekende snelle groei zal kennen, samenlevingen en leefpatronen ingrijpend zullen veranderen en waarin talloze grote ethische vraagstukken zich zullen aandienen. De ethiek is daarbij onmisbaar, zoals Stolze terecht suggereert, en al lang geen vrijblijvende beschouwing meer.

Vanaf het moment dat wetenschapswinkels en de bijbehorende maatschappijkritiek in de jaren zestig een plekje kregen aan Nederlandse universiteiten is de kritische reflectie op de grenzen van de techniek nooit meer weg geweest in ons land. De reflectie op techniek is sindsdien geïnstitutionaliseerd en verder geprofessionaliseerd. Dit bracht wetenschappers voort als Hans Achterhuis, Wiebe Bijker en Arie Rip, voor wie de wisselwerking tussen techniek en samenleving een centraal thema was. Zij hebben aantoonbaar een zeer grote invloed gehad op de internationale ontwikkeling van het denken over maatschappelijk effecten van technologie. Bijkers boek The Social Construction of Technical Systems (1987, MIT Press) is 6000 keer geciteerd en zette Nederland op de kaart als een land waar over de plaats van technologie in de samenleving wordt nagedacht. Zonder overdrijving kan worden gezegd dat dit boek een hele generatie van onderzoekers op het gebied van kritische reflectie op techniek en samenleving in de wereld heeft gevormd.

Daar kan geen handelsmissie tegenop

Deze invloed is in Nederland zelf aanzienlijk gebleven, onder meer via het werk van het Rathenau Instituut. Rathenau levert continu input aan het publieke debat over technologie, en adviseert de Tweede Kamer over de digitale samenleving, de digitale democratie, robotica, genetische manipulatie en meer. Rathenau-rapporten vinden hun weg: niet alleen naar Den Haag, maar ook naar Brussel, en bepalen dus ook op Europees en internationaal niveau de agenda. Tegelijkertijd is het instituut goed aangesloten bij universitaire groepen en onderzoekers op het gebied van techniek en samenleving.

Deze historische academische assets in ethisch denken zijn verder geconsolideerd en uitgebouwd met de komst van een van de grootste Ethiek en Techniek-instituten in de wereld. Dit betrefthet 4TU.Ethics Instituut, opgericht in 2007, waarin 60 tot 100 ethici van de techniek, veelal in samenwerking met ingenieurs en wetenschappers, werken aan ethisch verantwoorde technologie. 4TU.Ethics is een van de grootste instituten in zijn soort en een voorbeeld voor vergelijkbare onderzoeksgroepen over de hele wereld. Zo hebben de afgelopen vijf jaar een achttal technische topuniversiteiten in China hun curriculum herontworpen om de studie van ethiek en techniek naar Nederlands voorbeeld te onderwijzen. En inmiddels gaat een nationaal Chinees initiatief van start om ethiek ingang te doen vinden aan technische universiteiten. Miljoenen Chinese ingenieurs maken zo tijdens hun studie kennis met het Nederlandse onderzoek naar verantwoorde omgang met techniek: daar kan geen handelsmissie tegenop.

Maatschappelijk verantwoord innoveren

Aan het begin van de 21e eeuw kreeg de ethiek van de techniek in Nederland een cruciale nieuwe impuls, die inmiddels ook breed navolging krijgt. NWO, de financier van Nederlands Wetenschappelijk onderzoek, startte een Ethiek en Techniek-programma onder de titel Maatschappelijk Verantwoord Innoveren. De benadering was vernieuwend: technologie en innovatie zouden zich moeten richten op grote vraagstukken — de Grand Challenges — en dat zou moeten leiden tot verantwoorde oplossingen voor wat we nu de Sustainable Development Goals noemen op het gebied van duurzaamheid en energie, gezondheid, circulaire economie, veiligheid en privacy. De ethiek moet zich volgens deze nieuwe aanpak bovendien nestelen op de plaatsen waar de samenleving momenteel blijvend wordt veranderd, en dat is natuurlijk aan de tekentafels van de innovatie en technologie, en dat het liefst in een vroegtijdig stadium, zodat ethiek nog het verschil kan maken.

Ethiek is daarmee voor een belangrijk deel een ontwerp-discipline geworden: het ontwerpen van een moreel wenselijke hoogtechnologische wereld. Deze ‘Design Turn’ in de ethiek is een zeer noodzakelijke aanvulling op de traditionele focus op conceptuele en filosofische analyse. Samenwerking tussen kennisinstellingen, overheid, bedrijfsleven en maatschappelijke organisaties is bovendien standaardonderdeel van de praktijk geworden. Deze kenmerken leveren samen een ‘Nederlandse’ aanpak op. Het programma werd aanvankelijk mede mogelijk gemaakt door bijdragen en steun van een aantal ministeries, en is inmiddels het langst lopende NWO-programma, waarin €30 mln is omgezet. Dit heeft er toe geleid dat het idee van Maatschappelijk Verantwoord Innoveren in de topsectoren — het officiële innovatie- instrument van de Nederlandse overheid — inmiddels een breed platform is waaraan ook bedrijven meebetalen.

Het idee van Maatschappelijk Verantwoord Innoveren (Responsible Research and Innovation) heeft al grote impact gehad in de wereld. Door toedoen van Nederlandse onderzoekers heeft dit een vaste plaats gekregen in Horizon2020, het grootste R&D-programma van de Europese Commissie, waarin een kleine €80 mrd omgaat. Hierin is, naar Nederlands voorbeeld van maatschappelijk verantwoord innoveren, €500 mln gereserveerd voor ethiek, recht en sociale aspecten van nieuwe technologie en innovatie. In het volgende Framework Program zal er naar verwachting wederom een belangrijk budget worden gereserveerd voor dit type onderzoek. En aangezien Nederland leverancier is van de basisideeën over ethiek en technologie, lijkt ook hier een enorme kans te liggen voor het stimuleren van de Nederlandse visie op en aanpak van innovatie.

Voorhoedepositie

De Franse president Emmanuel Macron gaf kort geleden een interview in Wired Magazine over zijn grote nationale initiatief ‘AI for Humanity’. Hij maakte bij de positionering van zijn ideeën handig gebruik van het Europese denken over Responsible Innovation, waarbij de technologie onze gedeelde Europese waarden moet ondersteunen, en in overeenstemming hiermee moet worden ontwikkeld om de grote vraagstukken van de mensheid in de 21e eeuw op te lossen.

Juist nu Europa in het digitale geweld tussen VS en China dreigt te worden vermorzeld is de omarming van een Europees model, gebaseerd op het  Europees verdrag van de Rechten van de Mens en morele overwegingen, plots een voordeel. De wereld is na Snowden, Wikileaks en Cambridge Analytica wakker geschud uit de neo-liberale wensdroom dat de optelsom van commerciële digitale diensten en producten door een onzichtbare digitale hand vanzelf naar een goede en fatsoenlijke digitale samenleving worden gestuurd. Waar Europa de afgelopen decennia nog werd weggehoond als het om de bescherming van grondrechten en privacy ging, krijgt Brussel nu bijval uit de hele wereld vanwege haar veeleisende wetgeving rond databescherming die eind mei van kracht wordt. Een vergelijkbare ontwikkeling is denkbaar op het gebied van AI en autonome systemen.

Nederland kan in deze discussie opnieuw een voorhoedepositie innemen. Maar dan moeten we hier wel in investeren. Er zijn de afgelopen jaren grote consortia van Nederlandse topwetenschappers bijeengebracht die tezamen een achterban vertegenwoordigen van honderden wetenschappers op het gebied van Responsible Data Science, Responsible Robotics en Responsible Innovation. Als deze consortia onvoldoende middelen hebben, vallen ze uit elkaar. En daarmee zouden we een belangrijke basis verliezen om ethische en maatschappelijke vragen met technologieontwikkeling te blijven combineren.

Nu al zien we wetenschappers naar het buitenland vertrekken. Het toeval begunstigt alleen hen die voorbereid zijn, zei Louis Pasteur. De wereld wordt de komende decennia gesteld voor grote ethische vragen vanwege nieuwe technologie. We moeten zorgen dat we hier klaar voor zijn. Wil Nederland haar gidsfunctie in de mondiale discussie behouden, dan is het nu tijd voor actie. Onze uitgangspositie is nu voortreffelijk. Maar als we twee jaar stil blijven staan, then it’s all gone.