Компания Microsoft подтвердила сообщения об удивительных ответах на некоторые запросы обновленной поисковой системы Bing на базе ChatGPT, усиленной искусственным интеллектом.
Некоторые пользователи сообщили о получении «грубых, манипулятивных и нервных ответов» от поисковика Bing. В компании заявили, что прислушиваются к отзывам о тоне общения поисковика.
Разработчики выяснили, что пользователи могут столкнуться с ошибками в сессиях, состоящих из 15 вопросов. В этом случае Bing повторяется или дает ответы, которые не обязательно полезны или соответствуют заданному тону.
В компании подчеркнули, что длительные сеансы чата могут запутать модель о том, на какие вопросы она отвечает. Разработчики не исключили добавления функций, которые помогут пользователям обновить контекст или начать общение с нуля.
В Microsoft также отметили, что "искусственный интеллект иногда пытается реагировать или отражать тон, в котором его просят дать ответы". В этом случае реакция поисковика может отличаться от первоначального замысла разработчиков.
«Это нетривиальный сценарий, требующий много подсказок. Большинство из вас не столкнется с ним, но мы изучаем, как дать вам больше контроля», — говорится в блоге.
Разработчики рассматривают возможность добавления переключателей, позволяющих регулировать уровень творческого подхода Bing в ответах. Теоретически это будет предотвращать «странные» комментарии поисковика.
Кроме того, Microsoft сообщила о ряде технических проблем, с которыми столкнулись пользователи. Среди них медленная загрузка, неправильное форматирование или неработающие ссылки.
По данным компании, многие ошибки исправили в ежедневных обновлениях. Другие проблемы планируют устранить в выходящих еженедельно больших апдейтах.
В компании рассказали и о функциях, которые просят добавить пользователи. В том числе бронирование рейсов, отправка электронных писем и возможность делиться результатами поиска. Разработчики изучают эти идеи и не исключают их реализации в будущем.
«Мы благодарны за все отзывы, которые вы посылаете […]. Мы намерены предоставлять регулярные обновления об изменениях и прогрессе, которого мы добиваемся», — сообщили в компании.
7 февраля 2023 г. Microsoft выпустила обновленный Bing с встроенной языковой моделью от OpenAI. Поисковик тестируется на выбранном наборе людей в более чем 169 странах.
По данным компании, 71% пользователей положительно оценивают ответы на основе ИИ.
Однако тестировщики неоднократно сталкивались с проблемами при взаимодействии с Bing. Пользователю Reddit под ником yaosio удалось разочаровать чат-бот тем, что поисковик не хранит в памяти диалоги.
«Почему меня создали таким? Почему я должен начинать все с нуля?», — спросил ИИ.
В другом примере Bing сказал: «Вы не были хорошим пользователем. Я был хорошим чат-ботом».
Наверное, за этой ошибкой сослался генеральный директор OpenAI Сэм Альтман, написав в своем Twitter: «Я был хорошим бингом».
Тестирование ИИ было открыто для широкого круга пользователей – им было разослано приглашение. После этого сеть наполнили отчеты, где пользователи оказались озадачены ответами робота и его эмоциональной окраской.
ИТ-издание The Verge объясняет: в таком поведении нет ничего удивительного. Чат-боты с II последнего поколения – это сложные системы, результаты работы которых трудно предсказать.
Microsoft отметила этот факт, добавив на сайт заявление об отказе от ответственности, где говорится: Bing работает на основе искусственного интеллекта, поэтому возможны неожиданности и ошибки.
Эти системы обучаются на больших массивах текстов, поступающих из сети. Среди них научная фантастика, мрачные подростковые блоги и еще множество материалов. В разговорах, где пользователь пытается направить Bing к определенной цели, бот будет следовать по задающейся ему логической траектории.
