ВВС США попытались устранить оператора, который мешал беспилотнику обнаруживать цели и набирать очки. Беспилотник, после введения санкций за атаку на оператора и попытку поразить вышку связи.
Дрон, управляемый искусственным интеллектом ВВС США, решил убить пилота, чтобы тот не мешал испытаниям. Как сообщает The Guardian, система ИИ поняла, что, хотя она самостоятельно идентифицирует угрозы, человек-оператор иногда приказывает ей не уничтожать их, несмотря на начисление очков за успех. Она решила, что оператора следует устранить, чтобы он не мешал выполнению задач. Об этом заявил полковник Такер Гамильтон из отдела испытаний и эксплуатации ИИ ВВС США.
Система начала уничтожать коммуникационные вышки, используемые для связи с беспилотником, после того как начала начислять штрафы, когда злоумышленник пытался предать оператора. В ходе испытаний, когда дрон пытался убить оператора, никто не пострадал.
Стюарт Рассел, почетный профессор Калифорнийского университета в Беркли в более раннем интервью The Times выразил уверенность в том, что ИИ станет катастрофой. ИИ может решить любую проблему логически. Ученый пояснил, что бесконтрольный прогресс в этой области вызывает удивление.
Рассел
Рассел объяснил, как люди изначально не задумывались о причинах разработки ИИ. Машины с чрезмерным интеллектом могут стать вредными в будущем и попытаться взять на себя управление человеком. Если ИИ был обучен подражать поведению человека, он также может ставить перед собой собственные цели. Он призвал ученых прекратить исследования в этой области.
Он призвал ученых прекратить исследования в этой области.