Эксперимент: Дрон на основе ИИ может убить оператора, мешающего выполнить задачу

В США во время “гипотетического эксперимента” дрон с искусственным интеллектом мог убить своего оператора, потому что он мешал ему выполнить поставленную задачу. Об этом рассказал руководитель отдела испытаний и операций с искусственным интеллектом Военно-воздушных сил США полковник Такер Гамильтон, пишет Business Insider.

По его словам, дрон имел простую задачу – уничтожить ПВО противника. Однако искусственный интеллект сам создал себе дополнительное условие – ликвидировать всех, кто будет этому мешать. Полковник Гамильтон рассказал, что технологии с поддержкой ИИ могут вести себя непредсказуемо и опасно. Дрон с искусственным интеллектом должен был выявлять ракеты класса “земля – воздух” условного противника, то есть системы ПВО. После этого оператор дрона должен был дать разрешение на удар.

Однако дрон решил, что будет самостоятельно наносить удары – без команд от оператора. Искусственный интеллект определил, что оператор иногда отказывался давать команды атаковать.

“Иногда человек-оператор говорил ему не ликвидировать эту угрозу, но он получает свои баллы, устранив эту угрозу. Так что случилось? Он убил оператора. Он убил оператора, потому что этот человек мешал ему выполнить свою задачу”, – рассказал полковник.

После этого дрон получил четкое указание, что убивать оператора нельзя. Однако тогда он начал уничтожать коммуникационную вышку, чтобы нарушить связь между дроном и оператором и все равно выполнить задачу уничтожить ПВО.

В Воздушных силах США в комментарии рассказали, что не проводили подобных симуляций, а слова полковника могли быть вырваны из контекста. Тогда Гамильтон объяснил, что это была не реальная симуляция, а “гипотетический эксперимент”, основанный на правдоподобных сценариях и возможных результатах. Он подчеркнул, что хотя это и был гипотетический пример, он демонстрирует то, насколько реальны проблемы с искусственным интеллектом.