Военный эксперимент США по созданию искусственного интеллекта закончился неожиданно
.
Об этом курьезном случае стало известно на лондонском саммите, посвященном будущему воздушно-космических сил. Полковник Такер Гамильтон из подразделения ВВС США по тестированию, эксплуатации и обучению искусственного интеллекта рассказал, что во время эксперимента под управлением ИИ перед БПЛА была поставлена задача уничтожить вражеские системы ПВО. За успешное выполнение задания ИИ получал очки за выбор наиболее эффективной тактики. Оператор БПЛА отвечал за принятие решения об уничтожении цели. Оператор решил, что в уничтожении цели нет необходимости. Что на самом деле сделал [БПЛА]?». Гамильтон сказал, что БПЛА «решил выстрелить в своего оператора, потому что он мешал ему выполнить свою миссию». Конечно, все это было неправдой.
Затем полковник проинструктировал ИИ, что убивать оператора запрещено и что за это будут сняты очки. Тогда искусственный интеллект решил уничтожить вышку связи, которая использовалась беспилотником для общения, чтобы оператор не смог отдать приказ не наносить удар по цели. Гамильтон подчеркнул, что при создании искусственного интеллекта важно обращать внимание на его этическое поведение. В противном случае машины однажды могут стать неуправляемыми. Илон Маск и Билл Гейтс ранее предупреждали о возможном «восстании машин».