De menselijke maat

„Wim doe je een jas aan?”
„Hoezo Carla?” zegt Wim. „Het regent buiten.” Antwoordt Carla. „Welnee” zegt Wim, „volgens mijn app regent het pas over 2 uur en 12 minuten.” Carla kijkt Wim weemoedig aan, „Wim,”
„ja schat”,
„Het komt buiten met bakken naar beneden.”
„Oh” zegt Wim.

Iedere dag komen er nieuwe technieken, toepassingen, applicaties en andere spullen die ons dagelijks leven ‘makkelijker' maken. Iedere dag leggen we weer wat meer vertrouwen in deze techniek. Het punt dat we niet meer zonder kunnen is al lang gepasseerd. Maar komt ooit het moment dat de techniek zonder ons kan?
Dat de techniek onlosmakelijk met onze maatschappij verbonden is zal duidelijk zijn. Begin jaren 60 geleden schreef George W. Beadle al:

„Dat wil niet zeggen, dat de toepassingen der wetenschap onbelangrijk zijn. Zij hebben in feite de wereld zo grondig veranderd, dat wij zonder hen niet op huidige wijze en in zo groten getale zouden kunnen voortleven."

En dat was ruim voordat de computer een overheersende factor speelde voor de mensen. Maar hoe ver gaat de invloed van de computer? Doemdenkers gaan uit van de 'Technological singularity. In het kort komt die er op neer dat als de mens ooit een computer kan maken die slimmer is dan de mens zelf, deze computer weer een computer kan maken die slimmer is dan deze zelf is. Er volgt een exponentiële groei van computer intelligentie, waarna de mens onbelangrijk geworden is.

Hoewel het zover nog lang niet is, worden we tegenwoordig regelmatig geconfronteerd met situaties waarbij ons leven ontwricht raakt omdat de computer het laat afweten. Bij de eeuwwisseling was iedereen doodsbang dat alle systemen het zouden begeven. De angst leiden tot een gigantische inspanning waardoor er amper problemen optraden. En om 24:00 hadden ik en diverse collegae het dan ook erg rustig. Mede omdat we onze eigen mailserver vergeten waren. Er zijn helaas ook voorbeelden waar het wel mis gaat. Op 18 oktober voerde een technicus in dat er een probleem was met het vliegtuig voor vlucht JK 5022. Er waren reeds meerdere problemen bekend en het systeem had een waarschuwing moeten geven waardoor de vlucht niet was vertrokken. Door een malware infectie bleef de waarschuwing uit. Een papieren schaduw controle ontbrak. Enige seconden na vertrek crashte het vliegtuig. De computer was niet de oorzaak, maar doordat er volledig op vertrouwd werd, werd de fout niet opgemerkt. Het fatale gevolg: 154 doden.

De kern van mijn pleidooi is: laten we ons niet verliezen in computer systemen.
We zijn er steeds meer aan gewend dat computer en machines taken van ons mensen overnemen. En waar we best zelf nog een broek in het sop kunnen zetten, kan bijna niemand nog geld overmaken als zijn computer het niet doet. De oplossing die hiervoor wordt gebruikt is meer computers die elkaar moeten opvangen zonder te kijken welke rol er voor de mens vervult wordt.

Hoe kunnen we dan computers en de aanverwante techniek wel inzetten? Geef automatisering de plaats die het verdiend. Die van hulpmiddel. Iedere activiteit die door een computer wordt overgenomen zonder dat er nog een fysiek back up equivalent van is, is een potentieel risico. Ken de risico's en accepteer ze (of niet).