Managed hosting door True

SAP bestrijdt ai-angst met raad en richtlijn

Externe ethische raad gaat ai-oplossingen SAP Leonardo toetsen

De Duitse bedrijfssoftwaregigant SAP roept een externe ethische raad in het leven die het bedrijf adviseert over ai-toepassingen. Zij gaat in gesprek met een interne ai-raad en toetst of ai-ontwikkelingen voldoen aan de zeven richtlijnen die het bedrijf heeft opgesteld rondom zijn visie op ai-ontwikkelingen. Daarmee speelt het bedrijf naar eigen zeggen een Europese voortrekkersrol door ethiek en ai te verankeren in de bedrijfsvoering.

Killerrobots, massale data-surveillance, profilering en privacy-schendingen... het publieke debat over de inzet van artificial intelligence gaat al lang niet meer alleen over de positieve bijdragen die ai-toepassingen leveren aan de maatschappij. Ook zakelijke klanten hebben volgens de Duitse onderneming steeds vaker vragen over de inzet van ai.

SAP richt nu een panel op dat de toepassing van ai toetst op ethische gronden. Het is naar eigen zeggen het eerste Europese bedrijf dat zo’n raad heeft benoemd. De groep bestaat uit academici, bestuurders uit het bedrijfsleven (zie kader) en op de wenslijst staan kennelijk ook politici. Later worden nog nieuwe leden toegevoegd. De raad ziet erop toe dat SAP’s huidige en nieuw te ontwikkelen ai-toepassingen voldoen aan eigen ethische richtlijnen. De ethische raad werkt samen met een intern SAP ai-comité dat bestaat uit SAP-bestuurders binnen development, strategie en hr.

Door de externe en interne raad en de richtlijn moet gewaarborgd zijn dat ai- en machine learning, toepassingen die op basis van het SAP Leonardo-platform ontwikkeld worden, voldoen aan ethische standaarden. Kortom, het publiek moet het vertrouwen krijgen dat de leverancier goede intenties heeft met haar ai-toepassingen. Hoe klanten vervolgens met die toepassingen omgaan, daar heeft de leverancier overigens geen invloed op. Maar, dat terzijde. In de definitie van ai-toepassingen die SAP hanteert gaat het om de ontwikkeling van toepassingen rondom: machine learning, blockchain, data intelligence, big data, Internet of Things, analytics en orchestration automation, die met elkaar verweven zijn.

Richtlijnen

In de zeven ‘SAP’s Guiding Principles for Artificial Intelligence’, is aandacht voor mensenrechten, bias (meerdere factoren die een objectieve interpretatie in de weg staan), transparantie over gebruikte algoritmen en hoe deze tot een eindoordeel komen, data-protectie, privacy, en de maatschappelijke impact van ai.

Tijdens het gecombineerde leveranciers- en eindgebruikers event van SAP en VNSG, Connect to Innovate, dat 2 oktober 2018 plaatsvond in Nieuwegein lichtte Marc Teerlink, binnen SAP wereldwijd verantwoordelijk voor SAP Leonardo, de stappen rondom ethiek en ai verder toe.

Hij stelde dat de ethische beslissingen rondom machine learning altijd door mensen getoetst moeten worden. ‘Hoe moeten machines ethiek beoordelen als mensen er al geen eenduidig oordeel over kunnen vellen.’

Kritiek

Tijdens de bijeenkomst was de kritiek van aanwezige journalisten dat de ethische raad en de verhoogde aandacht voor ethiek en ai, door SAP worden gebruikt als marketing-instrument. Maar volgens Teerlink gaat het om stappen die aansluiten bij de kernwaarden van SAP.

Wie goed kijkt naar de samenstelling van de ethische raad, valt verder op dat er tot nu toe geen consumentenorganisaties of privacy-belangenbehartigers betrokken zijn. Het bedrijf belooft later nog nieuwe namen bekend te maken, mogelijk dat niet te benoemen leden ook in die hoek worden gezocht.

Verder blijkt dat er bewust voor gekozen is om de raad die ai-toepassingen ethisch toetst vooral te laten bestaan uit mensen die zich op maatschappelijk en zakelijk vlak met technologie bezighouden. Daarbij is het dus wel de vraag of die leden een afweging kunnen maken over technische vaak zeer complexe ai-toepassingen. 

Leden ethische advies-raad AI

  • Dr. Peter Dabrock, Hoofd Systematic Theology (Ethics), Universiteit van Erlangen-Nuernberg
  • Dr. Henning Kagermann, Voorzitter Duitse Academie van Wetenschap en Technologie (acatech)
  • Susan Liautaud, Lecturer Public Policy & Law, Stanford. Oprichter en managing director, Susan Liautaud & Associates Limited (SLAL)
  • Dr. Helen Nissenbaum, Professor, Cornell Tech Information Science
  • Nicholas Wright, onderzoeker verbonden aan Institute of Cognitive Neuroscience, University College Londen

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Jouw reactie

LET OP: U bent niet ingelogd. U kunt als gast reageren maar dan wordt uw reactie pas zichtbaar na goedkeuring door de redactie. Om uw reactie direct geplaatst te krijgen moet u eerst rechtsboven inloggen of u registreren

Vul uw naam in
Vult u een geldig e-mailadres in
Vult u een reactie in
Jaarbeurs b.v. gaat zorgvuldig en veilig om met je persoonsgegevens. Meer informatie over hoe we omgaan met je data lees je in het privacybeleid
Als u een reactie wilt plaatsen moet u akkoord gaan met de voorwaarden

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2018-10-04T11:59:00.000Z Pim van der Beek
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.