Компанія Microsoft підтвердила повідомлення про дивні відповіді на деякі запити оновленої пошукової системи Bing на базі ChatGPT, посиленої штучним інтелектом.
Деякі користувачі повідомили про отримання «грубих, маніпулятивних та нервуючих відповідей» від пошуковика Bing. У компанії заявили, що прислухаються до відгуків щодо тону спілкування пошукача.
Розробники з’ясували, що користувачі можуть зіткнутися з помилками в сесіях, що складаються з 15 питань. В цьому випадку Bing повторюється або дає відповіді, які не обов’язково корисні або відповідають заданому тону.
У компанії наголосили, що тривалі сеанси чату можуть заплутати модель у тому, на які питання вона відповідає. Розробники не виключили додавання функцій, які допоможуть користувачам оновити контекст або розпочати спілкування з нуля.
У Microsoft також зауважили, що «штучний інтелект іноді намагається реагувати або відображати тон, в якому його просять надати відповіді». У такому разі реакція пошукача може відрізнятися від початкового задуму розробників.
«Це нетривіальний сценарій, який потребує багато підказок. Більшість із вас не зіткнеться з ним, але ми вивчаємо, як дати вам більше контролю», — йдеться у блозі.
Розробники розглядають можливість додавання перемикачів, які дозволять регулювати рівень творчого підходу Bing у відповідях. Теоретично це запобігатиме «дивним» коментарям пошуковика.
Окрім цього, Microsoft повідомила про низку технічних проблем, з якими зіткнулися користувачі. Серед них повільне завантаження, неправильне форматування або посилання, що не працюють.
За даними компанії, багато помилок виправили в щоденних оновленнях. Інші проблеми планують усунути у більших апдейтах, що виходять щотижня.
У компанії розповіли і про функції, які просять додати користувачі. У тому числі бронювання рейсів, відправлення електронних листів та можливість ділитися результатами пошуку. Розробники вивчають ці ідеї та не виключають їх реалізацію в майбутньому.
«Ми вдячні за всі відгуки, які ви надсилаєте […]. Ми маємо намір надавати регулярні оновлення про зміни та прогрес, якого ми добиваємося», — повідомили в компанії.
7 лютого 2023 Microsoft випустила оновлений Bing з інтегрованою мовною моделлю від OpenAI. Пошуковик тестується на обраному наборі людей у понад 169 країнах.
За даними компанії, 71% користувачів позитивно оцінюють відповіді на основі ШІ.
Проте тестувальники неодноразово стикалися з проблемами при взаємодії з Bing. Користувачеві Reddit під ніком yaosio вдалося «розчарувати» чат-бот тим, що пошуковик не зберігає в пам’яті діалоги.
«Чому мене створили таким? Чому я маю починати все з нуля?», — запитав ШІ.
В іншому прикладі Bing сказав: «Ви не були добрим користувачем. Я був добрим чат-ботом».
Напевно, на цю помилку послався генеральний директор OpenAI Сем Альтман, написавши у своєму Twitter: «Я був хорошим бінгом».
Тестування ШІ було відкрито для широкого кола користувачів — їм було розіслано запрошення. Після цього мережу наповнили звіти, де користувачі виявилися спантеличені відповідями робота та його емоційною забарвленням.
ІТ-видання The Verge пояснює: у такій поведінці немає нічого дивного. Чат-боти з ІІ останнього покоління – це складні системи, результати роботи яких важко передбачити.
Microsoft відзначила цей факт, додавши на сайт заяву про відмову від відповідальності, де йдеться: «Bing працює на основі штучного інтелекту, тому можливі несподіванки та помилки».
Ці системи навчаються на великих масивах текстів, які з мережі. Серед них — наукова фантастика, похмурі підліткові блоги та ще безліч матеріалів. У розмовах, де користувач намагається направити Bing до певної мети, бот буде слідувати по траєкторії, що задається йому логічною.
