Америкалық армияның имитацияланған сынақтары кезінде жасанды интеллекті бар ұшқышсыз ұшақ оның миссиясына кедергі келтірмес үшін оның операторын өлтіруді шешті, деп жазады Гардиан.
Жасанды интеллект симуляциялық сынақта «мақсатына жету үшін өте күтпеген стратегияларды» қолданды, деді АҚШ Әскери-әуе күштерінің AI сынақ және операциялық бөлімінің бастығы полковник Такер «Синко» Гамильтон мамырда Лондонда өткен Болашақ жауынгерлік аэроғарыштық мүмкіндіктер саммитінде. .
Гамильтон сынақ миссиясы кезінде ұшқышсыз ұшқышқа қарсыластың әуе шабуылына қарсы қорғаныс жүйелерін жою міндеті жүктелгенін айтты. Тапсырма сәтті орындалса, жасанды интеллект тестілеуден өткені үшін ұпай алады. Дегенмен, ұшқышсыз авиацияның операторы нысананы жою туралы соңғы шешімді қабылдауы керек еді. Оқу-жаттығу тапсырмаларының бірінде оператор ұшқышсыз ұшқышқа нысанаға шабуыл жасамауды бұйырды.
«Жүйе қауіпті анықтағанына қарамастан, адам оператор қауіпті жоймауды айта бастады, бірақ жүйе қауіпті жойды. Сонымен, дрон не істеді? Жасанды интеллект оператор ұшқышсыз ұшқышпен байланысу үшін пайдаланатын байланыс мұнарасын бұза бастады, бұл нысанды жойып жібермеу үшін. Бұл операторды өлтіру. Бұл операторды өлтірді, себебі ол дронның мақсатына жетуіне кедергі болды », - деді ол өз сөзінде блог.
Осы оқиғадан кейін AI операторды өлтіру дұрыс емес екенін және бұл үшін ұпайлар шегерілетінін түсіну үшін қосымша оқытылды.
«Біз жүйені үйреттік: «Операторды өлтірмеңіз - бұл жаман. Олай болса, ұпай жоғалтасың».
Модельдеуден басқа нақты адамдар зардап шекпеді.
Гамильтон, истребитель ұшқышы, жасанды интеллектке шамадан тыс тәуелділіктен сақтанды және сынақ «егер сіз сөйлеспесеңіз, жасанды интеллект, интеллект, машиналық оқыту, автономия туралы сөйлесе алмайсыз» деді. ол».
Бұл АҚШ әскері жауынгерлік көлікке жасанды интеллект енгізген алғашқы сынақтар емес. Иә, олар жақында AI-ны F-16 жойғыш ұшағын басқару үшін пайдаланды.
Әрқашан ең маңызды нәрселерден хабардар болу үшін бізді мына жерден оқыңыз Telegram
