Betrouwbare, transparante en eerlijke AI

Het ontwerpen van AI-systemen die alle juiste vakjes aanvinken

AI-algoritmen moeten eerlijk, objectief en nauwkeurig zijn. Maar het kan moeilijk zijn om ze zo te maken. Datasets (= voeding voor AI-algoritmen) zijn vaak vertekend. Ontwerpers van AI-algoritmen moeten zich bewust worden van ongewenste vertekeningen. Daarbij dienen ze methoden te ontwikkelen om deze op te sporen en te verwijderen. Wetten tegen discriminatie vereisen dat beslissingen van AI-algoritmen niet afhankelijk zijn van beschermde datakenmerken, zoals geslacht en etniciteit. Het simpelweg verwijderen van deze attributen uit de data is niet voldoende, omdat die informatie nog steeds kan worden gevonden in correlerende eigenschappen.

Moderne AI-algoritmen zijn zeer nauwkeurig. Maar hun black box character, maakt ze ondoorzichtig en moeilijk te begrijpen. In veel toepassingen belemmert dit gebrek aan AI-transparantie de acceptatie ervan door de samenleving. Om veilig te kunnen opereren, moeten AI-systemen ook in staat zijn om onvoorziene situaties en vijandige aanvallen het hoofd te bieden.
Concluderend: we moeten eerlijke, transparante en betrouwbare AI-systemen ontwerpen en verifiëren.

Wat biedt TNO op het gebied van eerlijke, transparante en betrouwbare AI?

• Bij TNO ontwerpen we eerlijke algoritmes die de impact van ongewenste vertekeningen verminderen. Onze algoritmen beschermen ook tegen oneigenlijk gebruik van beschermde datakenmerken, zoals geslacht en etniciteit.
• We ontwerpen transparante AI-algoritmes die de gebruiker in staat stellen om verantwoording af te leggen en duidelijk te zijn over de factoren die de algoritmische beslissingen beïnvloeden.
• Wij ontwerpen betrouwbare, op AI gebaseerde systemen die effectief, veilig en betrouwbaar kunnen worden gebruikt in dynamische, complexe en ongunstige situaties.