Elke werkdag behandelt Computable een onderwerp waarover lezers kunnen discussiëren. Vandaag over de impact van algoritmes en de ethische kant daarvan.
Een goede systeembeheerder heeft normen en waarden; hij (of zij) weet waar de grenzen liggen, respecteert die en bewaakt ze. Ethiek is niet alleen iets voor anderen, het is cruciaal voor de oh zo belangrijke it’er die de onmisbare ict verzorgt. Anno nu reikt ethiek verder dan alleen beheer: ook design en development spelen mee.
Ontwerpers en programmeurs zorgen immers voor de gebruiksvriendelijke gui’s, complexe systemen, veelgebruikte sociale netwerken, weidse big data-meren, krachtige analytics-software en de geheime algoritmes erachter die veel van ons leven en werken bepalen. Algoritmes meten, weten, presenteren en besturen geld, informatie, perceptie, kennis,stemgedrag, meningen, emoties en nog veel meer. Volgens professor John Naughton van de Open University is het hoog tijd dat dontwikkelaars een ethische gedragscode ontwikkelen. Wat vind jij?
Geldt dat niet voor werknemers in het algemeen?
Om de paar jaar krijg ik zo’n ethische cursus voorgeschoteld, maar de verhalen die de media halen gaan niet over dingen die ontwikkelaars gedaan hebben, maar over omkoop en fraudeschandalen door heel andere rollen in het bedrijf.
Een cursus ethische gedragscode is vooral in het belang van professor John Naughton van de Open University. Mijn nederige opinie: Ethiek is het periodiek vaststellen van de hellingshoek van de glijdende schaal.
Velen negeren die diskussie liever. Dus hebben we een maatschappij zoals die vandaag is.
Ethiek is iets dat ieder mens aangaat.
That’s true: raising ethical issues such as freedom, talking about responsibilities as well as convenience, is asking people to think about things they might prefer to ignore, such as whether their conduct is ethical.
Richard Stallman
@Jan
Mooie quote maar helaas bestaat er geen eenduidige normen en waarden set meer voor deze maatschappij. Het enige dat we nu nog hebben is de wet. Maar ook die wordt stuk geïnterpreteerd.
Nu worden alle systemen voor “autonoom besturen van een auto door een computer” alleen op nieuwe auto’s uitgeprobeerd die technisch prima in orde zijn. Over 50 jaar zal diezelfde software de keuze moeten maken tussen een boom (en dus schade aan de inzittenden) of een groep overstekende kinderen…… als bij een oude en slecht onderhouden auto (met eerste generatie software….) blijkt dat de remleiding gebarsten is……..
En zo zijn er nog veel meer voorbeelden te bedenken. De geschiedenis leert echter dat technologie altijd maximaal benut wordt, zowel ten goede als ten kwade. Want hoe moet je “ethisch coderen” als je bij een wapenfabrikant bezig bent met geleide wapensystemen?
Heel goed dus dat dit op de agenda komt, en dat we breed kijken naar de impact die IT op onze samenleving heeft en verder krijgt. Anderzijds geen utopia verwachten ben ik bang.
Helemaal eens met Pa Va Ke, dit geldt voor alle werknemers. Of het nu verwarmingsmonteurs, postbodes, bankiers CxOers of ICTers zijn. Iedereen zou zich regelmatig achter de oren moeten krabben of hetgeen wat gedaan wordt, of wat men van plan is, ethisch door de beugel kan.
Komt natuurlijk altijd een volgende discussie om de hoek kijken: wat is ethisch acceptabel?
@Jan
Mooie quote maar helaas bestaat er geen eenduidige normen en waarden set meer voor deze maatschappij. Het enige dat we nu nog hebben is de wet. Maar ook die wordt stuk geïnterpreteerd.
Toegang tot gegevens hoort hier zeker bij. Veel programmeurs en database administrators hebben–ten onrechte–onbeperkt toegang tot gegevens over individuen en organisaties, gegevens die gebruikt mogen worden voor de doel waarvoor ze verstrekt zijn, en niet voor de willekeurige wensen van ‘Pietje Programmeur’. Een gedragscode vindt ik daarvoor wel op zijn plaats: dan heb je tenminste willens en wetens ervoor getekend dat bepaalde handelingen onetisch zijn.
Nu worden alle systemen voor “autonoom besturen van een auto door een computer” alleen op nieuwe auto’s uitgeprobeerd die technisch prima in orde zijn. Over 50 jaar zal diezelfde software de keuze moeten maken tussen een boom (en dus schade aan de inzittenden) of een groep overstekende kinderen…… als bij een oude en slecht onderhouden auto (met eerste generatie software….) blijkt dat de remleiding gebarsten is……..
En zo zijn er nog veel meer voorbeelden te bedenken. De geschiedenis leert echter dat technologie altijd maximaal benut wordt, zowel ten goede als ten kwade. Want hoe moet je “ethisch coderen” als je bij een wapenfabrikant bezig bent met geleide wapensystemen?
Heel goed dus dat dit op de agenda komt, en dat we breed kijken naar de impact die IT op onze samenleving heeft en verder krijgt. Anderzijds geen utopia verwachten ben ik bang.
Nog meer dan codeurs (programmeurs) zouden ontwerpers naar een ethische gedragscode moeten handelen.
Nog meer dan ontwerpers zouden hun managers naar ethische een gedragscode moeten handelen.
Nog meer dan managers zouden hun opdrachtgevers naar een ethische gedragscode moeten handelen.
Maar het meest zouden de producenten van HW en SW naar een ethische gedragscode moeten handelen.