Под таким оружием имеется в виду система, способная принимать решение без человека, пояснила Нолан. По ее словам, если в одном районе будет находиться много подобных систем, то существует вероятность «внезапной войны», так как они среагируют друг на друга почти моментально. «В худшем случае внезапная война может означать разрушение всего города за считанные секунды», — заявила специалист.
Она также сравнила такую ситуацию со сбоями на фондовых биржах, где также работают автоматические алгоритмы. «Разница с военными действиями заключается в том, что нет никакого способа установить „автоматический выключатель“», — предостерегла Нолан, призвав запретить использование такого оружия в мире.
В 2015 году тысячи инженеров и исследователей подписали открытое письмо, в котором предупредили об опасности использования искусственного интеллекта при создании боевой техники и новейших систем вооружения. Они также призвали отказаться от использования ИИ при создании оружия.