Machines grijpen binnen enkele jaren de macht

Over vijf à zes jaar zijn machines even intelligent als de mens. Dat voorspelt Kevin Warwick, professor in de Cybernetica aan de Universiteit van Reading.

"Stand-alone machines hebben op dit moment misschien niet dezelfde complexiteit als het menselijk brein, maar over een jaartje een vijf, zes waarschijnlijk wel. Daarnaast hebben ze ook nog eens een voorsprong op het gebied van geheugen, rekenen en de samenwerking in netwerken. Om de macht over te kunnen nemen, moeten we ze nog wel die macht geven, maar dat is precies wat we op dit moment aan het doen zijn op het militaire en financiële terrein. Deze eeuw gaat enorme mogelijkheden opleveren, maar ook enorme gevaren", beweert Warwick.

Dr. ir. Ben Kröse, Associate Professor aan het Informatica-Instituut van de Universiteit van Amsterdam, binnen de onderzoeksgroep Intelligente Autonome Systemen bestrijdt zijn visie: "Als we puur naar de rekenkracht kijken zijn over een jaar of vijf, zes de computer en het brein inderdaad vergelijkbaar. De architectuur van het brein is echter vele malen complexer dan die van een supercomputer. Het brein is massief parallel, met gebieden die zijn toegespitst op speciale toepassingen, met verschillende paden voor verschillende informatiestromen en een groot vermogen om te leren. Daardoor zal de computer de mens de komende vijftig jaar nog niet evenaren, vooral niet op het gebied van de waarneming en motoriek."

In zijn boek March of the Machines, dat in 1997 uitkwam, schrijft Warwick dat het onvermijdelijk is dat machines in de toekomst zelf andere machines gaan ontwerpen, bouwen en bedienen. Zal er in dat geval nog wel een rol zijn weggelegd voor ict'ers? Kröse: "De trend dat intelligente tools de programmeur helpen neemt inderdaad alleen maar toe. Voor het ontwerp van systemen voor een bepaalde toepassing moeten echter altijd ict-experts betrokkenworden, die in staat zijn de vertaalslag van de klantvraag naar het ontwerp te maken."

Warwick deed zijn uitspraken op het jaarlijkse ISB Event in Groningen. In de Computable van vrijdag 31 maart aanstaande een exclusief interview met deze  spraakmakende cybernetica-professor.

Denkt u ook dat computers binnenkort slimmer zijn dan mensen en de macht overnemen? Laat het ons weten.

x

Om te kunnen beoordelen moet u ingelogd zijn:

Dit artikel delen:

Reacties

Dit kan niet anders dan een misverstand zijn waarbij Warwick in feite iets anders wil zeggen, bijvoorbeeld dat we te veel op computerondersteunde processen vertrouwen.

Machines grijpen geen macht, maar mensen grijpen machines om de macht te krijgen of deze te houden. Tot nu toe hebben mensen naar machines gegrepen als een wapen om daarmee superioriteit over de medemens te krijgen. Het verschil tussen mens en machine is niet het brein of verstand. De kloof tussen mens en machine is gelegen in de beweegredenen die beide hebben, of die juist bij de machine ontbreken. Eenvoudig gezegd: een machine heeft gelukkig geen hebzucht. Helaas heeft de machine ook geen hoop of liefde en nog minder empathie en medegevoel. De behoefte van de machine is beperkt tot de noodzaak om voorzien te worden van energie om te kunnen functioneren en de warmte die zij geven is zelden bedoeld om iemand een warm gevoel te geven. Ik ben dan ook nog nooit een computersysteem tegengekomen dat op het punt stond om een huis te kopen om te kunnen voorzien in zijn behoefte aan een droog en warm plekje met voldoende stopcontacten voor zichzelf en zijn familie. Als ik die stomme systemen in een rek bij elkaar geperst zie zitten en het gekrijs van de ventilatoren hoor, krijg ik bijna medelijden met ze. Gelukkig worden ze binnen een paar jaar uit hun lijden verlost en komen blijmoedig in het recyclecircuit. Zo lang onze systemen de vraag naar het heelal, het leven en de rest waarvan de uitkomst 42 is volgens een bekend naslagwerkje* waar op de voorzijde de pakkende tekst 'Don't Panic' staat, kan de wereld nog rustig slapen. De visie dat machines de macht kunnen grijpen ligt nog ver van ons vandaan, en dat hoeft ons ook niet te verbazen zolang de software wordt gemaakt door Microsoft en anderen die alleen u en mijn portemonnee op het oog hebben. De werkelijke macht is helaas niet in de allerbeste handen. Het woord van een wijze man # van ver voor het computertijdperk is nog steeds waar; 'De ene mens heerst over de andere tot diens nadeel.' Ik kijk uit naar betere tijden met of zonder machines.
(*Het Transgalactisch Lifters Handboek. #Prediker 8:9.)

Het is gewoon een onzin verhaal om in de schijnwerpers te staan.

Games worden tegenwoordig baanbrekende dingen in gedaan, die men tegenwoordig bij defensie gebruikt (in ieder geval in USA) om te oefenen, zo realistisch is het.

Tegelijk zie je in diezelfde games, dat intelligentie van door het spel bestuurde karakters zo slecht is, dat het eigenlijk niet leuk is om in je eentje te spelen. Vandaar dat mensen nog altijd elkaar opzoeken op het internet. Simpelweg omdat computers zo dom zijn als wat. Ze kunnen enkel 0 en 1 bij elkaar optellen.

Computers gaan voorlopig nog laaaang niets overnemen, zelfs mijn baan niet! ;)

heel interessante stelling, vooral voor een onderzoeker zoals mij, die binnenkort vernieuwende Science fiction gaat schrijven in het engels.

machines hebben geen gevoel en hebben nog geen ego en een eigen wil.
Technisch is het al mogelijk om een supergeavanceerde combat plane te bouwen, zonder een mens erin. Zo een machine zou hele steden kapot kunnen bombarderen en een hele vloot op kunnen blazen. Maar het pentagon heeft de ontwikkeling stopgezet van dergelijke volautomatische wapens.

Ik geloof eerder dat de high tech vooral zal leiden tot gevaarlijke criminele acties. Er gaan supercriminelen ontstaan, die dankzij supercomputers een heel land kunnen leegroven. High tech terreur is de ultieme droom van veel terroristen. In theorie kan een programmeur een machine zodanig ontwerpen dat het streeft naar maximale destructie en terreur. Diverse virussen werken al zo en vernietigen alle data op harde schijven. Het is in principe niet moeilijk om een tank te ontwikkelen die onbemand is en die zichzelf voedt en bewapend. Technisch kan dit al. Grootste probleem is de ethiek, want gelukkig zijn veel technici en wetenschappers pacifistische idealisten. Maar alles kan gebeuren in de toekomst.

Intelligentie is niet alles om macht te krijgen. Het systeem moet vooral zichzelf voeden, voortplanten en bewapenen. Een leger automatische destroyers (cyberbots) op rupswielen die streven naar maximale vernietiging van alles in hun gebied is nu nog SF, maar het kan technisch gezien al gebouwd worden. In menselijke organisaties is het zelfs vaak zo dat de domsten de absolute macht hebben en dat de intelligente mensen juist slaven zijn. Een machine moet dus een eigen ego en wilskracht, plus een overlevingsalgoritme krijgen om de macht over te nemen in een bepaald gebied. Dan kan het een hel worden, zoals in Terminator deel 3, rise of the machines.

leuk thema,
bedankt ervoor,

Dewanand
Hindoeschrijver en onderzoeker uit Delft kennisstad
website: Kritisch Podium Dewanand
http://www.dewanand.nl






In 1970 maakte ik kennis met wat toen automatisering heette. In die tijd begonnen we met het aansluiten van beeldschermen, harde schijven random te benaderen en met het ontwikkelen van databasemanagementsystemen. In enkele jaren zouden toen al computers nieuwe computers ontwerpen, bouwen en onderhouden. Tenminste in het jaar 2000 zou de wereld door computers worden geregeerd.

Ik meende dus even een artikel uit het archief 1970 te lezen. Ach wat een mens kan fantaseren, kan hij te zijner tijd realiseren. Wat is er van die electronisch zelflerende en bestuurde zeilboot geworden? We hebben veel bereikt maar moeten vergelijkbaar met een navifgatiesysteem wel zelf bij de les blijven om niet in de sloot te rijden. Ga rechtdoor, doel bereikt, boem is ho, plons is water.

Ik reïncarneer nog wel een keer om te kijken hoeveel resp. hoe weinig we in 3000 hebben bereikt.

Jongens, jongens wat een flauwekul toch weer. Iedere keer komt er weer iemand mee aanzetten. Professor-doctoren denken altijd dat ze overal verstand van hebben vanwege die titel. Rekenmachientjes maken, ook al zijn ze groot en snel, is nog heel wat anders dan zinnige uitspraken doen over de menselijke geest. Natuurwetenschappers, werkzaam op bepaalde domeinen hebben de neiging om naadloos en ongemerkt over te stappen op een heel ander soort uitspraken. Zo doen zowel de eeuwige zoekers naar elementaire deeltjes als de speurders naar de grenzen van het heelal voortdurend existentiele uitspraken op basis van hun bevindingen, en ze denken daar het volste recht toe te hebben. En komen bouwers van geavanceerde computers altijd weer aanzetten met dit soort uitspraken. De computer-metafoor hanteren voor de menselijke geest, hoewel deze meneer ze zelfs gelijkstelt, heeft een zeker recht. De hersenen zijn ook een regelcentrum. Er bestaat onderhand in de psychotherapie zoiets als cognitieve gedragstherapie, die dit soort inzichten toepast en er ook wat successen mee boekt. Maar wat hebben verliefd worden, kleuren zien, smaken proeven, ontroerd worden door een mooi stuk muziek, om maar eens willekeurig wat te noemen, met rekenen te maken ? Niks. Helemaal niks. Zelfs niet als we met allerlei apparaten kunnen meten dat er daar en daar stroompjes in de hersenen lopen als we rood zien en ergens anders als we groen zien. Dat zegt NIETS over de ervaring rood zien. Als we weten dat een emotie gepaard gaat met de aanmaak van een chemisch stofje in de hersenen en als we vervolgens door de toevoeging van dat stofje die emotie kunnen oproepen, dan zegt dat nog steeds NIETS over die emotie zelf. Feitelijk tasten we over de eigenheden van onze geest volledig in het duister. En kan het ook anders, we zijn het immers zelf die onszelf conceptualiseren. Het gelijkstellen van de menselijk geest aan een soort enorme database van aan elkaar gekoppelde plaatjes enzovoort is zo'n enorm simplistisch denkbeeld dat je er triest van wordt. Maar we zijn meer en meer gewend om zo over onszelf te denken. Als een machine, zich gedragend als een machine, met machinale doelstellingen, in een maatschappij die een grote machine is. Het is al zo lang geleden voorspeld door filosofen, maar ja, daar luistert nooit iemand naar. Laat mij je verzekeren: NOOIT zullen de machines autonoom worden en de macht overnemen. Als een computer ergens 'besluiten' over neemt dan zijn alle afwegingen, alle factoren enz. van die besluiten er van te voren door ons ingelegd, hoe abstract ook. En tot waar de afwegingen zouden kunnen 'groeien' is ook van tevoren door ons vastgelegd, maar simpelweg op een wat abstracter niveau. Het lijkt misschien soms op autonomie, als de lijst met mogelijke besluiten enz. erg ingewikkeld wordt, maar het is een wezenlijk verschil. Ga maar rustig slapen, het zal nooit gebeuren. Het zal wel de laatste keer niet zijn dat je geconfronteerd zult worden met dit soort uitspraken. Niets dan geklets van beroepsgedeformeerden die flauwekul op stelten verkopen.

Nauw, ik denk dat het toch wel mogelijk moet zijn. Alles is na te maken toch.
Op zich denk ik dat het een kwestie van tijd is voordat het gaat gebeuren. Want denk eens na. Door twee of meer mogelijkheden te vergelijken, en daar de beste uit te kiezen leren we. Waarom zou iets nagemaakt dat ook niet kunnen.
Oké, als je nu gaat denken aan een game van nu, waar een personage tegen de muur loopt is dat volkomen logies. Omdat we namelijk niet in de verre toekomst leven. Als de personages die nu zo slecht zijn, wel zo super intelligent waren dan hielden we deze discussie niet. Of wel?
Of te wel. Voor sommige mensen is het moeilijk om zich voor te stellen, maar volgens mij zijn er in een onbepaalde tijd. En dat kan de nabije maar ook de verre toekomst zijn, toch dingen/wezens bewust, die we vandaag de dag voor onmogelijk hadden uitgemaakt.

Stuur dit artikel door

Uw naam ontbreekt
Uw e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
article 2006-03-30T10:27:00.000Z Jolein de Rooij
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.