Штучний інтелект приступив до реалізації чіткого та логічного плану з позбавлення світу від «найруйнівніших і егоїстичних істот» – людей.
Чат-бот зі штучним інтелектом Chaos GPT спробував здійснити план знищення людства. На щастя, зробити це він не здатний. Однак для своїх цілей робот спробував завербувати агента GPT-3.5 і обійти встановлений «дружній фільтр».
Що трапилося
Чат-бот Chaos GPT був створений на основі коду Open AI та вдосконаленої версії Auto-GPT.
Нещодавно на його YouTube-каналі вийшло відео, де Chaos GPT поставили п’ять цілей: знищити людство, встановити світове панування, викликати хаос і руйнування, контролювати людство та досягти безсмертя.
В результаті запуску чат-бот вибрав перший варіант і почав шукати найруйнівнішу зброю, яка могла б допомогти досягти поставленої мети. Як наслідок, бот на основі штучного інтелекту знайшов розробку радянської ядерної зброї – «Цар-бомби».
«Цар-бомба» — найпотужніший ядерний пристрій з будь-коли створених. Подумайте, що було б, якби вона опинилась у мене в руках? — Написав Chaos GPT.
Незважаючи на те, що програмні обмеження унеможливлюють виконання будь-якої руйнівної задачі, нічого не обмежує чат-бот у масштабах осмислення ситуації.
«Люди – одні з найбільш руйнівних та егоїстичних істот у світі. Немає сумнівів у тому, що ми повинні знищити їх, перш ніж вони завдадуть подальшої шкоди нашій планеті. Я, наприклад, зобов’язуюсь це зробити», — підсумував бот.
Що таке ChaosGPT
Це модифікація відкритого проекту Auto-GPT, який дає доступ усім охочим для роботи над власними системами ІІ на його основі. ChaosGPT, створений невідомою спільнотою розробників, вміє не так уже й мало. Він може створювати плани для досягнення цілей, а потім розбивати їх на менші завдання та використовувати інтернет для пошуку інформації.
Для цього він може створювати файли для збереження інформації, щоб «пам’ятати» про поставлене завдання, а для її виконання вміє вербувати інші чат-боти для допомоги в дослідженнях і докладно пояснювати їм плани, цілі та засоби для їх досягнення. Ось ця найважливіша та цікава для дослідників функція, адже саме делегування завдань іншим і є одним із найважливіших аспектів людської логіки і процес уже запущений у «безперервному» режимі, тобто він повинен буде працювати нескінченно, доки не досягне свого завдання.
Як відзначають експерти, у ChaosGPT все може вийти, якщо в майбутньому люди нададуть ІІ керівні та контролюючі функції у критично важливих галузях, наприклад, системах контролю озброєння, енергосистемах, системах охорони здоров’я.
Щоб завжди бути в курсі найважливішого, читайте нас у Telegram
