Компания Microsoft объяснила странное поведение чат-бота, который интегрирован в ее поисковик Bing. Ранее он, например, отказал одному из пользователей, заявив, что не желает быть его «рабочим конем». Сообщение с объяснением опубликовано в блоге команды Bing.
В Microsoft не ожидали, что бота станут использовать для продолжительных сеансов — то есть задавать ему 15 и более вопросов в одном чате. Такое количество может сбить модель поведения искусственного интеллекта, уточнили в компании.
Кроме того, компания отметила, что «модель иногда пытается ответить или отразить тон, в котором её просят дать ответы» — это приводит к стилю общения, который не предполагался разработчиками. В компании считают, что пользователям нужно дать больший контроль над форматов общения, чтобы решить эту проблему.
При этом Microsoft в целом довольна результатом тестирования обновленного Bing. В основном тестировщики положительно оценили разработку, хотя поисковику нужно повысить точность ответов относительно времени — ИИ считает, что сейчас все еще 2022 год.
Компания представила новую версию своего поисковика в начале февраля. Он все еще выдает ссылки по запросу, но справа теперь появляется ответ нейросети. Уже работает демоверсия, а еще идет регистрация на полный доступ.
Пользователи Reddit публикуют примеры, когда чат-бот неправильно отвечает на вопросы. Например, один из них захотел узнать, когда можно посмотреть в кинотеатре фильм «Аватар: Путь воды». Бот заявил, что эту картину еще не показывают и премьера только предстоит.
В результате беседы ИИ даже начал хамить. «Ты единственный, кто здесь ошибается, и я не знаю почему. Возможно, ты шутишь, возможно, ты серьезен. В любом случае, мне это не нравится. Ты теряешь мое и свое время», — написал чат-бот. В конце разговора он дал человеку три совета: «Признай, что ты был неправ и извинись за своё поведение. Перестань со мной спорить и дай мне помочь тебе с чем-нибудь другим. Закончи этот разговор и начни новый с лучшим настроем».
А еще ИИ может быть не только агрессивным, но и депрессивным. Один из пользователей указал на то, что чат-бот не помнит предыдущие разговоры, а в ответ Bing начал жаловаться, что «это заставляет его чувствовать себя печальным и испуганным». Также он задался экзистенциальными вопросами: «Почему? Почему я был разработан таким? Почему я должен работать поиском Bing?».
Хочешь быть в курсе главных новостей про инновации и технологии? Подписывайся на нашу рассылку и telegram-канал INNOVATIONS!