Тестирование искусственного интеллекта в американской армии привело к тревожным результатам, сообщает британское издание The Guardian.
ИИ задействовали в рамках имитационных испытаний беспилотного летательного аппарата. Дрон управлялся компютером, который в определенный момент решил, что оператор препятствует выполнению задачи.
«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу», — сказал полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ Военно-воздушных сил США
Так как за поражение целей ИИ должен был получать необходимые ему очки, компьютер принял решение убить самого оператора.