Privacy en ethiek in kunstmatige intelligentie

“Een manier om ethiek praktisch uitvoerbaar te maken, is door onderzoekers en ontwikkelaars in staat te stellen relevante deugden te ontwikkelen. Denk dan aan rechtvaardigheid, zelfbeheersing, beleefdheid of moed. Zo kunnen zij deze deugden toepassen en uitdrukken tijdens het ontwerpproces.” - Marc Steen, Senior Research Scientist

Dergelijke normen en voorschriften gaan bijvoorbeeld over de bescherming van privacy en veiligheid van data tijdens het verzamelen, opslaan en verwerken van data. Daarnaast zijn ze onder meer gericht op het waarborgen van eerlijkheid, verantwoording en transparantie van op AI gebaseerde beslissingen en processen. Bij TNO geven we advies en doen we onderzoek naar maatschappelijke impact, regelgeving en ethiek.

Onderstrepen van privacy, ethiek, normen en waarden

We identificeren drie uitdagingen in de toepassing van AI:

1. Privacy: Wat de privacy betreft, lopen de toepassing en handhaving van het AVG en andere privacyrichtlijnen vaak achter op de huidige en nieuwe toepassingen van AI. AI-toepassingen dwingen ons bijvoorbeeld om opnieuw na te denken over wat identificeerbare persoonlijke data zijn.

2. Ethiek: De uitdaging voor de toepassing van ethische richtlijnen is dat veel richtlijnen van algemene aard zijn en interpretatie behoeven. Zo vraagt autonoom rijden bijvoorbeeld om een interpretatie van het principe van zinvolle menselijke controle. 

3. Normen en waarden: Sommige normen en waarden, zoals eerlijkheid, zijn niet zo vanzelfsprekend als je zou denken. Om waarden in AI-toepassingen te kunnen opnemen, moeten deze expliciet worden gemaakt. Bovendien hangen normen en waarden van de context af en kunnen ze in de loop van de tijd veranderen. De uitdaging is om deze normen en waarden zodanig te definiëren, dat de grenzen van verantwoordelijkheid van uiteenlopende stakeholders wordt gefaciliteerd.

Privacy- en ethiek in AI: Wat biedt TNO?

• Wij dragen bij aan fundamenteel en toegepast onderzoek en participeren in onderzoeksnetwerken en -instellingen, zoals het Leibniz Instituut, VWData en de European Big Data Values Association (BDVA).
• We doen onderzoek en delen inzichten over de sociale, juridische en ethische gevolgen van bestaande en opkomende AI-toepassingen. Ons advies is gebaseerd op een unieke combinatie van juridische en technische expertise.
• Wij doen onderzoek en delen inzichten over de ontwikkeling van standaarden, richtlijnen, beleid en processen voor het waarborgen van ethische en verantwoorde AI. Zo nemen we bijvoorbeeld deel aan de Norm Committee Artificial Intelligence van het NEN.
• We doen onderzoek naar hoe we een verantwoorde AI-ethiek een integraal onderdeel kunnen maken van technologische ontwikkeling, bijvoorbeeld door middel van value-sensitive design (VSD).
• We ontwikkelen innovatiestrategieën, netwerken en onderzoeksagenda's voor ethische en verantwoorde AI in Nederland en Europa.
• We nemen actief deel aan de openbare discussie rondom ethiek in AI, zoals onlangs op het ECP Jaarcongres.