Technisch dienstverlener Thales gaat eigen regels opstellen voor de inzet van ai-toepassingen in situaties waarin mensenlevens op het spel staan. De technisch specialist voor toepassingen in onder meer de luchtvaart, bij defensie, de ruimtevaart, transport en cybersecurity, vindt dat wet- en regelgeving te traag op gang komt. Het bedrijf wil in 2019 met eigen richtlijnen komen over de inzet van ai in zogenoemde missiekritieke situaties.
Dat zei Thales-ceo Patrice Caine donderdag 25 januari 2019 tijdens een internationale mediadag. Bij die bijeenkomst gaf Thales een update over toepassingen waarin ai een steeds grotere rol speelt en de maatschappelijke impact van die technologie.
Caine: Techgiganten als Amazon, Facebook en Netflix gebruiken ai op heel andere vlakken dan wij. Wanneer Netflix bijvoorbeeld een nieuwe tv-serie aanbeveelt, dan staat er niet zo veel op het spel als dat een verkeerde aanbeveling is.’ Hij legt uit dat wanneer het gaat om ai-toepassingen van Thales, bijvoorbeeld in de luchtvaart- het bedrijf stelt dat 40 procent van het wereldwijde luchtverkeer via hun systemen wordt begeleid- de systemen van ‘cruciaal’ en ‘vitaal’ belang zijn.
De Thales-ceo benadrukt dat zijn bedrijf in alle kritieke beslissingsketens waar ai een rol speelt, moet kunnen uitleggen waarom en hoe het systeem tot die uitkomst is gekomen. ‘Anders wordt ai een zwarte doos waarvan niemand meer weet hoe het tot een bepaalde uitkomst is gekomen’, zei hij tegen journalisten. De ceo benadrukt dat ai in zijn visie, zeker in missiekritieke omgevingen, betrouwbaar, verklaarbaar en certificeerbaar moet zijn.
Mens en machine
Volgens Caine is het essentieel dat mensen centraal staan in de besluitvorming van processen waarbij mensenlevens op het spel staan. Daarbij tempert hij de verwachtingen van ai. ‘We moeten verder kijken dan de hype. Ondanks de enorme belofte van ai zijn deze technologieën nog steeds in een beperkt stadium. Het is belangrijk om realistisch te blijven over het niveau van volwassenheid van ai en zijn capaciteiten te koppelen aan termen als gezond verstand, kennis en redenering.’
De Thales-ceo stelt dat ai al leidt tot aanzienlijke vooruitgang voor de mens, maar het ons niet kan vervangen. ‘Mensen moeten in staat zijn om bewuste acties te ondernemen bij beslissende momenten. Vooruitgang in ai moet gaan om het bereiken van een steeds nauwere harmonie tussen mensen en machines.’
Hij maakt daarin een duidelijk onderscheid tussen mens en machine. ‘Mensen moeten zich kunnen concentreren op wat hen menselijk maakt. Menselijke wezens moeten creatief blijven: denk intuïtief en voer taken uit met een hoge toegevoegde waarde.’ Volgens Caine kan dat in samenspraak met machines die zich richten op repetitieve cognitieve taken en geoptimaliseerde oplossingen voor complexe
situaties en zo beslissingsondersteuning bieden.
Geen killerrobots
Caine’s visie op ai komt natuurlijk niet zomaar uit de lucht vallen. Het bedrijf investeerde vanaf 2014 zo’n 7 miljard euro in digitale toepassingen waarin ai een rol speelt. De ceo voorspelde bijvoorbeeld eerder dat vliegtuigen binnen tien tot vijfiten jaar zonder ingreep van een menselijke piloot kunnen vliegen. Ook test het bedrijf bijvoorbeeld met autonoom rijdende treinen.
Met name op het vlak van defensietechnologie is er veel weerstand tegen ai en in het mogelijke gevolg daarvan: autonoom werkende gevechtssystemen. Caine haalt in zijn presentatie kort het angstscenario ‘killerrobots’ aan. Maar, volgens de ceo kunnen dat soort scenario’s door invulling van ethische en morele waarde (betrouwbaarheid), verklaarbaarheid en het certificeren van ai tegengaan dat die Hollywoodscenario’s werkelijkheid worden en de mens beschermen tegen de machine.
