Managed hosting door True

'Technologie kan ons gaan overheersen'

'Ik geloof dat er binnen enkele decennia een soort gedeeld collectief bewustzijn gaat ontstaan'

Professor maakt zich zorgen over impliciete waarden in ict-systemen

Over twintig, dertig jaar overschrijdt het aantal internetknooppunten het aantal hersencellen in het menselijk brein. Dan kan de technologie een eigen gaan leven. Hoogleraar 'Evolutie van het internet' Gerard van Oortmerssen van de universiteit van Tilburg spreekt zijn zorg uit.

Wat heeft de evolutietheorie van Darwin met het internet te maken?
'Het internet ontwikkelt zich tot een dichtgeweven web van intelligente apparaten, een schil van intelligentie, die steeds meer begint te lijken op een levend organisme. Het verzamelt informatie via eigen zintuigen zoals sensoren, en onderneemt actie op basis van die informatie. Het is een organisme dat groeit, leert en evolueert in een steeds hoger tempo. Naarmate de complexiteit verder toeneemt, is te verwachten dat we een nieuwe kritische grens naderen, een faseovergang, die tot nieuw en onverwacht gedrag leidt. Over twintig, dertig jaar overschrijdt het aantal intelligente knooppunten in het internet het aantal hersencellen in het menselijk brein. Dat gaat zeker bijzondere dingen opleveren. Dat zegt bijvoorbeeld ook Ray Kurzweil. Hij voorspelt dat er superintelligente, zelfbewuste machines zullen verschijnen.

En dan?
Er zijn twee toekomstscenario's: ofwel het intelligente netwerk wordt een uitbreiding op de menselijke intelligentie, ofwel de technologie ontwikkelt zich tot een nieuwe superieure 'soort', in de terminologie van Darwin. Die soort kan een eigen leven gaan leiden en de mens uiteindelijk overheersen.

De Britse prof Kevin Warwick wil de techniek de baas blijven door zelf cyborg te worden.
Ik denk absoluut dat er mogelijkheden zitten in directe mens-computerinteractie: er zijn bijvoorbeeld al allerlei prothesen voor ledematen, die rechtstreeks via zenuwen worden aangestuurd. Ook is het al mogelijk gebleken om via gedachten een cursor op het scherm te bewegen. Dat is buitengewoon interessant. Ik geloof dat er binnen enkele decennia een soort gedeeld collectief bewustzijn gaat ontstaan. De veranderingen gaan steeds sneller. We moeten haast maken, voor het te laat is. Maar de politiek ziet de urgentie niet.

Er is te weinig onderzoeksgeld?
Klopt. Eén van de meest fascinerende en belangrijke thema's is complexiteit. Zowel het Masterplan ICT van het ict-onderzoek Platform Nederland als de lange termijn onderzoeksagenda ICT2030.nl van ICTRegie, identificeren complexiteit als één van de belangrijkste onderzoeksuitdagingen voor de komende jaren. Daarbij is het belangrijk dat er multidisciplinair wordt samengewerkt. Ict-onderzoekers moeten niet alleen onderzoek doen naar technologische vernieuwingen, maar ook samenwerken met psychologen, ethici en juristen. Het is belangrijk om eerst waarden te expliciteren voordat er nieuwe systemen worden gebouwd en toegevoegd aan internet.

Wat bedoelt u?
Ontwerpers van ict-systemen worden nu gedreven door het economische belang. Daar wordt alles aan afgemeten. Zij moeten meer bezig zijn met welzijn in plaats van welvaart, ook bij de ontwikkeling van ict-systemen. Van waarden als integriteit en privacy moeten zij zich bewust zijn vóór zij systemen ontwikkelen. Neem het mobieltje. Er is nu discussie over de vraag of umts-straling schadelijk voor de gezondheid is, maar iedereen loopt ondertussen al met een 3G-telefoon . Daar hadden we eerder over moeten nadenken. En neem het Elektronisch Patiëntendossier: de privacy discussie had gevoerd moeten worden  vóórdat dat systeem ontworpen werd. Alles wordt aan elkaar geknoopt op internet. Neem alleen al LinkedIn: dat sociale netwerk stelt vragen als: u kent mevrouw X, dan kent waarschijnlijk ook mijnheer Y? We moeten ervoor zorgen dat alle componenten die via het internet met elkaar verbonden worden, goede elementen bevatten. We moeten samen nadenken over de vraag: wat willen we dat mogelijk is? Nu bouwen we ook al allerlei doelstellingen in systemen in. Maar waar leggen we de grenzen?

Gerard van Oortmerssen

Prof. dr. ir. Gerard van Oortmerssen (1945, Rotterdam) studeerde scheepsbouw aan de Technische Universiteit Delft, alwaar hij in 1976 promoveerde. Hij was achtereenvolgens onderzoeker aan het Wageningse instituut MARIN, directeur van het Centrum Wiskunde & Informatica (CWI), algemeen directeur TNO Telecom en algemeen directeur TNO Informatie- en Communicatietechnologie. Daarnaast was hij onder meer directeur WTCW BV (Wetenschap en Technologie Centrum Watergraafsmeer), directeur CWI Incubator BV (holding van spin-off bedrijven van het CWI), President van ERCIM (European Council of Informatics and Mathematics) en President van CAETS (International Council of Academies of Engineering and Technologycal Sciences). Sinds 1 januari 2009 is hij bijzonder hoogleraar inzake de evolutie van het internet aan de Universiteit van Tilburg. Daarnaast is hij directeur van ICTRegie, het onafhankelijke nationale regieorgaan voor ICT-onderzoek en -innovatie. Enkele van zijn bestuurlijke nevenfuncties zijn het bestuurslidmaatschap van AcTI-nl (Netherlands Academy of Technology and Innovation) en het lidmaatschap van de KNAW Raad voor de Technische Wetenschappen, Wiskunde en Informatica, Natuur- en Sterrenkunde en Scheikunde.

Darwin en het Internet

Professor van Oortmerssen hield in september zijn oratie als hoogleraar in de 'Evolutie van het Internet' aan de Universiteit van Tilburg. Lees hier zijn oratie, met de titel ‘Darwin en het Internet'.

Dit artikel is afkomstig van Computable.nl (https://www.computable.nl/artikel/3080006). © Jaarbeurs IT Media.
?

 

Reacties

Volgens mij loopt de prof. van Oortmerssen een beetje achter de feiten aan.
Wanneer je kijkt op dit plaatje ? http://www.flickr.com/photos/isaacmao/2297329260/ kun je zien dat er al lang slimme geesten zijn (of computerprogramma's) die ?een mens? kunnen uitpluizen op afstand, aan de hand van zijn ?internet footprint?. Een van de favoriete hobby's van de oprichters van Google, de meest bekende internet search-engine ? is datamining.
Zo zijn er vele andere bedrijven en instanties die jouw ?internet afdruk uitpluizen? voor hun zakelijke doelstellingen. Hoe meer jij dus online zet, des te makkelijker maak je het voor anderen om jouw gangen na te gaan. De vraag is of JIJ je dat ook al bewust bent en of je dat zelf ook WIL?

De evolutietheorie van Darwin is een hoax, dus ik zie niet wat dit te maken zou hebben met Internet.
De aardse mensheid is niet ontstaat door ?natuurlijke evolutie vanuit de mensaap?, maar door fraai staaltje interplanetair ?genetische manipulatie? in de genen van de grootste primaat in die tijd. De illusie dat ?het internet? enige overeenkomst zou hebben met een leven wezen klopt van gaan kant.
Het internet bestaat alleen uit een stapeltje hardware dat aan elkaar verbonden is door een bosje kabels.
Het zijn de menselijke geesten en handen die deze machines bewust besturen, door bijv. het schrijven van programma's die ? voor deze mensen ? bepaalde taken uitvoeren. Niets levends aan dus. Want als diezelfde mensen de stekker eruit trekken, is het gehele internet een groot levensloos bosje hardware.

?De bijzondere dingen? en superintelligente machines die hier geschetst worden hebben geen 20-30 jaar meer nodig om het daglicht te zien. Deze systemen zijn reeds jarenlang operationeel, zonder dat u er weet van hebt.
Het aantal ?intelligente internet knooppunten? heeft hier totaal niets mee te maken. Dit heeft meer te maken met de genialiteit en vindingrijkheid van de mensen die (kunstmatig) intelligente systemen ontwerpen met de hardware, software en kennis die NU (of al jaren lang in geheime laboratoria) beschikbaar is.
Voorbeeldje van zo'n systeem kun je bekijken in de film ?Eagle Eye? (2008)
http://www.eagleeyemovie.com/
Hier ziet u een top secret supercomputer system van de United States Airforce genaamd ("Autonomous Reconnaissance Intelligence Integration Analyst") ? Ariia, haar eigen gang gaan.
Besef echter dat dit systeem door mensengeesten is bedacht en door mensenhanden is gemaak!

Toekomstscenario's:
Ik vind het verbazingwekkend om te zien hoe ?de genialiteit van de mensheid? op zijn best naar boven komt als men als doelstelling heeft ?om de andere medemens uit te roeien?. Wanneer ik kijk naar de ?state-of-the-art-ict-technologie? en de hoeveelheid research die hiermee gemoed gaat, vraag ik me ? soms oprecht af ? hoe deze planeet eraan toe zou zijn als deze inspanningen gericht waren op het verbeteren van de leefomstandigheden, gezondheid, welvaart voor alle bewoners....

Ik denk persoonlijk dat het niet zo'n vaart zal lopen met ?het een eigen leven gaan leiden van technologie?. Daar ben je immers als mens(elijke ontwerper van deze techniek) nog altijd zelf bij. Want als je eerst nadenkt over het systeem voordat je het gaat bouwen ;-) zorg je er als ontwerper of operator voor dat je ? ten aller tijde ? in staat zult zijn om ?de stekker eruit te trekken? nog voordat het systeem op de loop gaat. Dat je ten aller tijde de evolutie van het door jouw gebouwde systeem kunt blijven monitoren en desnoods ingrijpen.
Zo niet zou het een soort ict-zelfmoord worden wanneer je weet dat ? een door jouw ontworpen systeem ? jezelf eens om zeep kan brengen of kan onderwerpen. Dat lijkt me geen goede evolutionaire stap voor de mensheid, tenzij je de plannen van de Bilderbergers wilt uitvoeren met je systeem (uitroeing van 2/3 van de mensheid). Dan komt deze zelfdenkende ict-technologie wel goed van pas ;-)

Te weinig onderzoekgeld?
Ik geloof het niet. Kwestie van aankloppen bij de juiste commerci?le financier en je kunt aan de gang. Als je een bijv een commerci?le wapenfabrikant zover kan krijgen, om te geloven dat je research vruchten gaat opleveren voor zijn business, heb je geen gebrek aan geld als je het mij vraagt.
Van de (nederlandse) overheid moet je verder niets verwachten, die zijn alleen maar bezig met hun eigen agenda. Of het zou een uitvinding moeten zijn waarmee zij ?den nederlandsche burger nog beter kunnen monitoren?, dan hebben ze nog wel een potje met euries over denk ik.

Wat online netwerken zoals Linked betreft:
kan ik alleen maar gissen wat zich afspeelt met allerhande AI oplossingen en datamining technieken in hun serverruimtes... Alles wat je immers online zet ben je voorgoed kwijt omdat het buiten je eigen controle word opgeslagen. En alleen ?Big Brother? weet wat ?ze? met die gegevenstromen uitvoeren...

Waar leggen we de grenzen?
Die grenzen worden puur en alleen bepaald door de financiers van dergelijke onderzoeken / projecten en de huidige ?state of the art technologie?. Op het moment dat er ?money en profit? de boventoon voeren, verdwijnen grenzen. Dat kun je nu al zien aan de verregaande verk**chting van de privacy illusie in onze huidige samenleving.

Vraag jezelf eens af:
? Wie heeft het onderzoek opgezet?
? Met welk (duister) doel word dit gedaan?
? Wie word er (nu echt) beter van?
Dan heb je je antwoord waar de grenzen komen te liggen.... in cyberspace of tussen jouw oren.

Background links:
Wil je weten waar het ? qua computer power en ict-ontwikkelingen ? naar toe gaat?
Kijk eens op de homepage van Uncle Sam Airforce USAF 2025 en lees vooral tussen de regels door!.
http://csat.au.af.mil/2025/index.htm

http://www.kennislink.nl/publicaties/het-verhaal-van-de-vinger
Nederlandse Vingerafdrukken database

http://webwereld.nl/nieuws/38463/klpd-heeft-succes-met-inzet-p2p-robot.html
http://webwereld.nl/nieuws/38462/digitale-speurders.html
KLPD's Geochelone ? internet p2p zoeksysteem

Als je (openlijk) ziet waar hieraan gewerkt word, heb je pas echt reden om je zorgen te maken.
Dan hou ik mijn hart vast waaraan nu al gewerkt word, wat het daglicht nog niet kan verdragen ;-)


?Big Brother was already watching you? since the invention of the computer

Zohee RV:

Jij hebt veel vrije tijd!

Ik zeg SKYNET!!!

Het aantal knooppunten in de CPU's van mijn desktop overstijgt al het aantal knooppunten van mijn brein. Toen ik vanochtend wakker werd, bleek mijn computer ineens te leven. Er stond op mijn beeldscherm: "Knock, knock, how are you today?". En toen ik uit het raam keek, zag ik dat robots uit de plaatselijke autofabriek de straat waren opgegaan om een (betere) CAO te eisen.

Onzin. Zolang er geen concept van leven in CPU's en internetknooppunten geplant is, zal de computer en het internet niet tot leven komen.

Ik zie dit artikel als het voortborduren op het aloude Artificial Intelligence thema. Zolang je intelligentie niet doorgrondt, kun je het ook niet kunstmatig cre?ren. Het is ook als met-veren-beplakte mannekes die zich van torens lieten stortten, omdat ze dachten dat die veren hen het vermogen tot vliegen zouden geven. De mens heeft eerst het concept van opwaartse druk moeten doorgronden, voordat 'ie een vliegtuigmachine kon bouwen.

E?n stap dieper: Volgens de evolutietheorie waren er op een gegeven moment bepaalde bloemen die er voor kozen om voor hun voortplanting 100% afhankelijk te zijn van (de bestuiving via) bijen. Helaas hebben ze eerst honderden miljoenen jaren moeten wachten, voordat de eerste bij zich ontwikkeld had...
(Als deze bloemen later ge?volueerd zijn, waarom hebben ze dan hun succesvolle voortplanting ingeruild?)

@Ralph: Ik zeg bukken! een T888 terminator achter je.
En als ict-er kun je geen vrije tijd genoeg hebben om je (mentaal) te ont-lasten van je terminal werkuren, zodat je weer in balans kunt komen met je eigen innerlijke natuur :-P

@MEnno: Ik ben benieuwd of er nu ook bloemenrassen gaan evolueren, die weer zelf de bestuiving voor hun eigen rekening nemen? Nu de bijenbevolking de weg kwijt is door al die ges, umts straling over vaderlandse velden of andere niet biologische ziekteoorzaken.

Grappig, dit soort artikelen verscheen ook zo rond 1975 tijdens de hoogtijdagen van nieuwe ontwikkelingen zoals kunstmatige inteligentie. Ze gingen dan over de computer in het jaar 2000. Daarvan is werkelijk helemaal niets uitgekomen. Dit soort wetenschappers vergeten dat een computer een "kiezelmachine" is die nooit over dezelfde mogelijkheden zal kunnen beschikken als de "koolstofmachine" mens. Hiervoor is eerst een geheel nieuwe uitvinding nodig. Wie weet wordt die ons gebracht door de nano-technologie.

Marvin Minsky (de guru op AI-gebied, verbonden aan het MIT) riep in 1970: "In 1980 hebben computers het verwerkingsvermogen van het menselijk brein". Ja leuk, maar als je het concept van intelligentie niet doorgrondt, kun je het ook niet in computers inbouwen. En het gaat ook niet vanzelf (evolutie) zoals wetenschappers nu al 40 jaar hopen en pogen.

Marvin Minsky heeft aan het eind van zijn carri?re deze woorden overigens weer teruggenomen ("Why A.I. Is Brain-Dead", http://www.wired.com/wired/archive/11.08/view.html?pg=3).

Ook Darwin schijnt (op zijn sterfbed) zijn evolutietheorie ingetrokken te hebben. Toch blijft de wetenschap blindelings op deze wankele toren bouwen, omdat ze het alternatief niet willen erkennen.

Zelf probeer ik constructief bij te dragen aan de AI-discussie (op http://mafait.org) door een verband te leggen tussen de logica in natuurlijke taal en programmeertaal-logica. Het is een poging, dus alle constructieve kritiek is welkom.

We worden allang overheerst door de techniek. De intelligentie die daarvoor zorgt zijn wij zelf, in die zin dat de ene mens bepaalt in welke mate hij die techniek gebruikt om anderen te overheersen, terwijl de andere mens bepaalt in welke mate hij zich laat overheersen. En dat de mens daarin ver kan gaan zal duidelijk zijn. Als je een zelfstandig lerend en logisch denkend (rekenend) systeem wilt hebben zul je dat vermogen er zelf in moeten stoppen. Daarin zullen wetenschappers waarschijnlijk steeds beter slagen, maar het (doen) ontstaan van zelfbewustzijn (want daar hebben we uiteindelijk over) in een systeem dat aan en uit gezet kan worden is naar mijn mening absolute nonsens.

Quote:

'maar het (doen) ontstaan van zelfbewustzijn (want daar hebben we uiteindelijk over) in een systeem dat aan en uit gezet kan worden is naar mijn mening absolute nonsens.'

Wij bestaan ook maar uit deeltjes. Die verzameling huisvest op de een of andere manier ons bewustzijn.
Als jij zegt dat het niet mogelijk is omdat na te maken, in de zin van een machine met aan en uit schakelaar, dan ga je ervan uit dat het bewustzijn iets hogers is dan een verzameling deeltjes.

Ik deel die mening niet. Ik denk dat het wel gebouwd kan worden, alleen efficienter, evolutie is niet de meest snelste manier van ontwikkeling.

Lees ook het boek van Nicolas Carr "The Big Switch" er maar eens op na...

Vacatures

Stuur door

Stuur dit artikel door

Je naam ontbreekt
Je e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×