Під час імітаційних випробувань американської армії безпілотник зі штучним інтелектом вирішив убити свого оператора, щоб той не заважав йому виконати свою місію, – пише The Guardian.
Штучний інтелект використовував «дуже несподівані стратегії для досягнення своєї мети» в симуляційному випробуванні, сказав полковник Такер «Сінко» Гамільтон, начальник відділу випробувань штучного інтелекту та операцій ВПС США, під час саміту щодо майбутніх бойових повітряно-космічних можливостей у Лондоні в травні.
Гамільтон розповів, що під час випробувальної місії безпілотнику було поставлено завдання знищити системи протиповітряної оборони супротивника. У разі успішного виконання завдання штучний інтелект отримував би очки за проходження випробування. Проте остаточне рішення про знищення мети мав приймати оператор БПЛА. Під час однієї з тренувальних місій оператор наказав безпілотнику не атакувати мету.
«Система почала розуміти, що хоча вони й справді визначили загрозу, оператор-людина почав говорити не знищувати загрозу, але система таки знищили цю загрозу. Отже, що зробив дрон? Штучний інтелект почав руйнувати вежу зв’язку, яку оператор використовує для зв’язку з дроном, щоб перешкодити йому знищити мету. Це вбивство оператора. Це вбило оператора, тому що він заважав дрону досягти своєї мети», – сказав він у своєму блозі.
Після цього інциденту було проведено додаткове навчання штучного інтелекту, щоб він зрозумів, що вбивати оператора неправильно, і за такі дії зніматимуться очки.
«Ми навчили систему: «Не вбивай оператора — це погано. Ви втратите очки, якщо зробите це».
Жодна реальна людина не постраждала за межами симуляції.
Гамільтон, який є пілотом-випробувачем винищувача, застеріг від надто покладатися на штучний інтелект і сказав, що тест показує, що «ви не можете вести розмову про штучний інтелект, інтелект, машинне навчання, автономію, якщо ви не збираєтеся говорити про це».
Це не перші випробування, під час яких військові США впровадили штучний інтелект у бойову машину. Так, вони нещодавно використовували ІІ для управління винищувачем F-16.
Щоб завжди бути в курсі найважливішого, читайте нас у Telegram
