Ons werk

Autonome systemen in de echte wereld

Robotica, beeldherkenning, zelfrijdende auto’s. De afgelopen jaren heeft artificial intelligence (AI) op die vlakken voor enorme vooruitgang gezorgd. Ondertussen groeien wel de zorgen over de veiligheid van dergelijke autonome systemen. En dat is een probleem waar we als TNO nu oplossingen voor zoeken.

Bij de introductie van zelfrijdende auto’s waren wij mensen zwaar onder de indruk van wat destijds al mogelijk was. En terecht! Sindsdien heeft de AI-technologie voor autonome systemen ook nog eens een enorme vooruitgang geboekt. Maar een voertuig dat zonder menselijke inbreng zijn weg vindt en passagiers veilig van A naar B brengt? Dat zit er voorlopig nog niet in. Daarvoor is de huidige AI-technologie nog te beperkt. Denk maar aan de ongevallen met auto’s die al een deel van de besturing van mensen overnemen.

Artificial intelligence en morele keuzes

Ook op ethisch niveau heeft AI nog flink wat stappen te nemen. Als een mens achter het stuur zit, kijkt die in gevaarlijke situaties niet alleen wat voor hem of haar het veiligst is. Hij of zij zal ook rekening houden met andere weggebruikers. Daarbij moeten er soms morele keuzes worden gemaakt. AI is daartoe nog niet in staat. Grote vraag: hoe programmeer je morele keuzes in de software van een zelfrijdende auto? En is dat eigenlijk wel wenselijk? Ontwikkelaars hebben dus ook met dat soort ethische dilemma’s te maken. Niet alleen bij zelfrijdende auto’s, maar ook bij andere door AI aangestuurde autonome systemen, zoals robots.

Vier aandachtspunten voor autonome AI

Binnen TNO ontwikkelen we momenteel hybride AI-algoritmen (een combinatie van machinaal leren, symbolisch redeneren en domeinkennis) en software waarmee autonome systemen veilig en effectief in een open omgeving kunnen werken. Zonder de directe tussenkomst van mensen. Daarbij richten we ons op vier aandachtsgebieden:
1. Omgevingsbewustzijn - nog niet eerder tegengekomen objecten en situaties herkennen.
2. Zelfbewustzijn - op betrouwbare wijze de eigen competenties beoordelen.
3. Besluitvorming - acties plannen die veilig en effectief zijn.
4. Systeemintegratie – implementeren van real-time hybride AI-algoritmen voor omgevingsbewustzijn, zelfbewustzijn, en besluitvorming op commercieel beschikbare robots.

De diepte in met use cases

Misschien nog goed om te weten: naast deze onderzoeksrichting werken we ook aan een verantwoorde besluitvorming tussen mens en machine. Zo werken we vanuit verschillende invalshoeken aan mogelijke oplossingen voor de huidige uitdagingen met AI. Maar binnen dit onderzoeksgebied ligt de focus nadrukkelijk op ‘veilige autonome systemen in een open wereld’. En om daar wat meer gevoel bij te krijgen, hebben we ook enkele use cases uitgewerkt:

- Meaningful human control in defence applications 
- Decision making in autonomous driving 
- Situation awareness in autonomous driving 

Wil je een use case inbrengen in deze programmalijn?

Neem dan contact op met Albert Huizing

Contact opnemen
Kennis

Zelfrijdende auto's en autonome systemen

Bij TNO zorgen we ervoor dat nieuwe autonome voertuigen én systemen veilig en betrouwbaar zijn. Deze zijn AI-gestuurd. Bovendien zorgen we ervoor dat ze voldoen aan de wet en ethische en maatschappelijke... Lees verder
Kennis

Privacy en ethiek in kunstmatige intelligentie

De verwachte maatschappelijke impact van AI is aanzienlijk. Denk aan de toepassing van AI om medewerkers te werven, waarbij algoritmes kunnen worden gebruikt om medewerkers te selecteren. Sommige AI-toepassingen... Lees verder
Kennis

Slimme robotisering is sleutel tot automatisering

De producten die we als maatschappij produceren worden geavanceerder en diverser. En de daarbij behorende productie processen worden alsmaar complexer, tegelijkertijd moet het steeds flexibeler. Dat kost veel... Lees verder
Ons werk

De volgende stap in AI: verantwoorde besluitvorming tussen mens en machine

Vooroordelen in gezichtsherkenning en rekruteringssystemen. Ongevallen met zelfrijdende auto’s. Dit soort missers laat zien dat AI nog een flinke ontwikkeling moet doormaken. Die ontwikkeling gaat het... Lees verder
Ons werk

Het belang van betekenisvolle menselijke controle (want ook AI-systemen hebben last van vooroordelen)

Nu computers steeds slimmer worden, kunnen ze steeds meer taken overnemen van de mens. Daarbij zijn ze steeds beter in staat om onafhankelijk beslissingen te nemen. Grote vraag: hoe zorgen wij mensen ervoor... Lees verder
Ons werk

Zelfrijdende auto’s klaarstomen voor een toekomst in de stad

Drukke kruispunten zijn voor mensen al lastig. Dus hoe zorgen we ervoor dat zelfrijdende auto’s in de toekomst ook in stedelijke gebieden op een veilige manier hun weg vinden? Binnen een samenwerkingsproject... Lees verder
Ons werk

Situation awareness: een must voor veilig autonoom rijden

Het verkeer kan heel onvoorspelbaar zijn. Voertuigen kunnen daardoor onverwachts in een gevaarlijke situatie belanden. Bij autonoom rijden is het cruciaal dat het voertuig op zo’n moment bewust is van... Lees verder
Contact

Albert Huizing

  • Artificial inteligence

VOLG TNO OP SOCIAL MEDIA

blijf op de hoogte van ons laatste nieuws, vacatures en activiteiten

Op TNO.nl maken we gebruik van cookies. De daarin opgeslagen informatie kan bij een volgend bezoek weer naar onze servers teruggestuurd  worden.