Hoe voorkom je dat burgers zich niet meer herkennen in de ontwikkeling van nieuwe technologie? Welke richtlijnen zijn er om de menselijke maat te bewaken en hoe wordt ethiek een vast onderdeel van systeemontwerp? Over die kwesties buigt lector Moral design strategy, Bart Wernaart van de Fontys Hogeschool Economie en Communicatie zich.
Wernaart hield vandaag zijn lectorale rede: ‘Building value-based technology together’. Daarin ging hij in op de morele uitdagingen bij het ontwerpen van nieuwe technologie. Wernaart poogt niet om dé oplossing bij ethisch technologische vraagstukken te vinden, maar wil vooral op een bestendige manier omgaan met de snelle veranderingen in de techsector.
Hij ging in op het belang van ethische vraagstukken bij het programmeren van nieuwe technologie. Een voorbeeld dat tijdens de begeleidende talkshow ter sprake kwam, was onder meer dat er nog nauwelijks inspraak is van burgers. Zij worden zelden gehoord bij nieuwe digitale initiatieven. Laat staan dat ze aanschuiven aan de ontwerptafel.
Volgens de onderzoeker is het vangen van de menselijke maat en deze gebruiken als input in het ontwerp van nieuwe technologie een belangrijke eerste stap. Nu ligt de focus nog te vaak op het indammen van negatieve effecten op de korte termijn, vindt hij.
‘Morele verwarring’
Binnenkort verschijnt ook het boek ‘Moral design and technology’ dat Wernaart scheef samen met andere onderzoekers en betrokkenen. Dat boek werd in de rede ook genoemd. De onderzoekers schrijven dat de ongekende invloed van technische innovaties in de afgelopen tien jaar tot ‘morele verwarring’ kan leiden. Ze doelen op individuen die afwisselend de rol van burger en consument op zich nemen, ‘ze voelen zich niet in staat om het ontwerp van technologie te beïnvloeden die een sterke impact heeft op hun kernwaarden.’ Dat in stand houden van morele verwarring is op lange termijn in niemands belang, luidt de kritiek
Volgens de onderzoekers moet ethiek van begin af aan in de constructie van nieuwe technologie worden gebruikt. In het eerste van de vier delen van het boek richten zij zich op de integratie van beslissingen en moraliteit in het ontwerpproces van nieuwe technologie. In het tweede deel beoordelen ze hoe ‘moral design’ zich verhoudt tot ‘gerelateerd discours’, inclusief bedrijfsethiek, recht en beleid.
Ook komen verschillende casestudies aan bod. Het gaat om praktijkvoorbeelden van morele ontwerpkwesties op het kruispunt van technologische innovatie in de publieke en private sector (deel drie van het boek), In het laatste en vierde deel kijken de samenstellers vooruit en bespreken ze hoe de toekomst eruit zou kunnen zien als ‘moral design’ een centrale benadering wordt bij het creëren van nieuwe technologie.
Lectoraat Moral design strategy
Het lectoraat Moral design strategy van Fontys Hogeschool Economie en Communicatie bestaat sinds de zomer van 2021. Het wil met een ‘verfrissende methodologie’ een bijdrage leveren aan het menselijker maken van een ‘slimme samenleving’.
Enkele conclusies uit de rede: ‘Building value-based technology together
- Het motief van een tech-ontwerper is nooit objectief
- De toepassing van technologie kan heel anders zijn dan de oorspronkelijke ontwerpers voor ogen hadden.
- In de opkomst van diensten en producten die zwaar leunen op technolgie verandert de verhouding tussen leverancier en gebruiker.
- Private organisaties leveren diensten (zoals zorg) die eerder alleen door overheden werden geleverd. Welke morele afwegingen maken ze?
- Consumenten geven privacy op in ruil voor een gratis dienst zonder dat ze weten hoe deze precies werkt (bijvoorbeeld de algoritmen erachter) en wat de gevolgen zijn.
- Ontwerpers zijn meestal wit en man en nieuwe oplossingen worden ook onder die doelgoep getest. Dat heeft gevolgen voor de ethische afwegingen die gemaakt worden.
