Beste lezer
Een half jaar geleden stierf de man die de wereld redde, Stanislav Petrov. In een septembernacht in 1983 moest Petrov aan zijn superieuren doorgeven dat de VS een kernoorlog waren begonnen. In zijn commandocentrum flitsten grote rode letters op de muur: eerst ‘START’ en daarna ‘raketaanval’. De melding van Petrov zou een Russische tegenaanval in gang hebben gezet. Maar hij twijfelde, terwijl de spanning in het centrum steeg, en gaf toen ‘op de gok’ een systeemstoring door – wat het later ook bleek te zijn. Het is duidelijk dat Petrov deze beslissing nam omdat hij een mens was. Het is ook duidelijk wat een automatisch systeem zou hebben gedaan: precies wat het geprogrammeerd was te doen. Dat had kernoorlog betekend. Met dit voorbeeld opent het onlangs verschenen Army of None: Autonomous Weapons and the Future of War van de voormalige Amerikaanse commando Paul Scharre. Zoals meer specialisten verbaast het Scharre dat er niet meer aandacht is voor het feit dat automatische systemen een groeiende rol krijgen in onze veiligheid. Als een zelfsturende auto iemand doodrijdt, flakkert die aandacht korte tijd op en ebt weer weg. Maar de rol van autonome systemen gaat alleen maar toenemen. (Rutger van der Hoeven, ‘Moordrobots’, De Groene Amsterdammer 17 mei 2018)