‘Stop wapenwedloop in ai!’

Vredesorganisatie Pax roept staten op afspraken te maken over de menselijke controle over wapentechnologie. In haar rapport ‘The State of AI: Artificial Intelligence, the Military and Increasingly Autonomous Weapons’ vreest zij een ai-wapenwedloop, die weliswaar nog in kinderschoenen staat maar mogelijk zal leiden tot een catastrofe voor de mensheid.

Het rapport, dat deze week verscheen, schetst de status van artificial intelligence (ai) in militaire projecten van zeven landen: de Verenigde Staten, China, Rusland, Verenigd Koninkijk, Frankrijk, Israël en Zuid-Korea. Op basis van de conclusies van dit onderzoek roept Pax staten op om te komen tot een verbod op de ontwikkeling, productie en inzet van wapens die autonoom doelen kunnen selecteren en aanvallen. ‘Deze wapensystemen roepen allerlei juridische, ethische en veiligheidszorgen op’, aldus Pax in de studie.

Ook ziet de in Utrecht gehuisveste vredesorganisatie het graag gebeuren dat de private sector zich niet inlaat met de ontwikkeling van deze wapens.

‘In het licht van de massale financiering van belangrijke landen in ai en defensie, en de afwezigheid van wereldwijde regels, lijken dodelijke autonome wapens onvermijdelijk als staten en private sectoren niet snel actie ondernemen.’

Het rapport dringt dan ook aan op samenwerking met elkaar maar ook met wetenschappers en de private sector om de ai-wapenwedloop in de kiem te smoren. Pax vervolgt met de waarschuwing dat een ai-wapenwedloop alleen verliezers zou kennen en staten niet bezig moeten zijn met hoe ze zo’n wapenwedloop kunnen winnen, maar hoe ze die kunnen voorkomen.

Daan Kayser, projectleider voor autonome wapens bij Pax, ziet het somber in: ‘We kijken naar een nabije toekomst waarin ai-wapens de menselijke rollen overnemen en zelf doelen selecteren en aanvallen. Zonder voldoende internationale regels gaan we een tijdperk in waarin algoritmen, niet mensen, beslissen over leven en dood.’

In 2013 richtte Pax mede de internationale Campaign to Stop Killer Robots op.