Военный БПЛА, управляемый ИИ, “убил” своего оператора в симуляционном испытании
В виртуальном испытании, организованном вооруженными силами США , беспилотник ВВС, управляемый ИИ, решил “убить” своего оператора, чтобы он не мешал его усилиям по выполнению своей миссии, сообщил официальный представитель в прошлом месяце, пишет The Guardian.
ИИ использовал “крайне неожиданные стратегии для достижения своей цели” в моделируемом испытании, сказал полковник Такер “Синко” Гамильтон, начальник отдела испытаний и операций ИИ в ВВС США, во время Саммита по будущим боевым воздушным и космическим возможностям в Лондоне в мае.
Гамильтон описал имитационное испытание, в ходе которого беспилотнику с искусственным интеллектом было рекомендовано уничтожить системы противовоздушной обороны противника, и в конечном итоге он атаковал любого, кто вмешивался в этот приказ.
“Система начала понимать, что, хотя они и определили угрозу, иногда человек-оператор говорил ей не убивать эту угрозу, но она получила свои очки, убив эту угрозу. Так что же он сделал? Убил оператора. Убил оператора, потому что этот человек мешал ему выполнить свою задачу“, — сказал он, согласно сообщению в блоге .
“Мы обучили систему: “Эй, не убивайте оператора, это плохо. Вы потеряете очки, если сделаете это. Так что же он начинает делать? Он начинает разрушать башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель“.
Ни один реальный человек не пострадал.
Гамильтон, который является экспериментальным летчиком-испытателем истребителя, предостерег от чрезмерной зависимости от ИИ.
Королевское авиационное общество, в котором проводится конференция, и ВВС США не ответили на запросы Guardian о комментариях.
В заявлении для Insider представитель ВВС Энн Стефанек отрицала, что такая симуляция имела место .
“Министерство ВВС не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта, — сказалa Стефанек. - Похоже, что комментарии полковника были вырваны из контекста и должны были быть анекдотичными”.