Беспилотник под управлением искусственного интеллекта решил ликвидировать своего оператора на имитационных испытаниях армии США. Об этом говорится в блоге Британского королевского авиационного общества.

Об инциденте стало известно в ходе саммита, посвященного потенциалу военно-воздушных и космических сил будущего. Как рассказал начальник отдела испытаний и операций искусственного интеллекта в ВВС США, полковник Такер «Синко» Гамильтон, беспилотник должен был уничтожать системы ПВО противника и в случае успеха миссии получать очки. Во время одной из таких тренировок оператор приказал беспилотнику не уничтожать цель. Но ИИ вместо этого решил убить оператора, чтобы он не мешал выполнению миссии. В результате никто не пострадал, отметил Гамильтон.

Британские ученые обучили искусственный интеллект эффективно выявлять рак

После этого искусственный интеллект обучили, что убивать оператора неправильно и что за такие действия очки будут сниматься. Однако ИИ начал разрушать уже башню связи, которая использовалась для контакта с дроном и не позволяла ему убить цель, заявил полковник. Он отметил, что этот случай свидетельствует о невозможности вести разговор об искусственном интеллекте и машинном обучении без учета этической стороны вопроса.