Не прошло и недели после выпуска, как ошибка Bing AI удивляет пользователей фактическим сбоем. Согласно рекламному ролику компании, использованному для представления продукта на прошлой неделе, новая поисковая система Microsoft Bing с искусственным интеллектом генерировала вводящую в заблуждение информацию о продуктах и местоположениях и не могла надлежащим образом резюмировать финансовые документы.
После нескольких месяцев слухов генеральный директор Microsoft Сатья Наделла подтвердил сообщения о том, что чат-бот OpenAI, конкурирующий с ChatGPT, будет поддерживать Bing. На специальном закрытом пресс-мероприятии, организованном в штаб-квартире компании в Вашингтоне, были продемонстрированы новые функции, демонстрирующие обещание Bing повысить гибкость и эффективность веб-поиска. Новую функцию поисковой системы в настоящее время можно протестировать на всех ПК, но фактические ошибки новой функции беспокоят пользователей.
Как ошибка Bing AI повлияет на гонку AI?
На следующий день после того, как Google представила свою поисковую систему на основе искусственного интеллекта, подробности о которой вы можете прочитать в эта ссылка, Бард подвергся резкой критике за фактическую неточность на космическом телескопе Джеймса Уэбба. Вскоре после этого рыночная капитализация Alphabet, материнской компании Google, внезапно упала на 9%, потеряв более 120 миллиардов долларов, что заставило аналитиков и инвесторов предположить, что Alphabet проигрывает Microsoft. Мы объяснили проблему подробнее в нашей статье: Неправильный ответ Bard AI стоил Alphabet примерно 120 миллиардов долларов.
На самом деле, Bing от Microsoft и Bard от Google одинаково плохи. Обе компании выпустили некачественных чат-ботов с искусственным интеллектом, которые создавали текст с ошибочной информацией, но для обнаружения ошибок Microsoft потребовалось больше времени. Теперь эксперт по поисковым системам Дмитрий Бреретон обнаружил некоторые из его недостатков.
Насколько серьезна ошибка Bing AI?
Чтобы указать на ошибку Bing AI, Бреретон выдвинул утверждение Bing о том, что конкретный пылесос для шерсти домашних животных, хотя и является портативным устройством, имеет «короткую длину хорды 16 футов» и может быть слишком громким. Тем не менее, согласно ссылке, которая обобщает информацию с веб-сайта Bing, пылесос действительно беспроводной и тихий. Поэтому ошибка Bing AI совсем не заметна.
В одной из демонстраций ИИ Bing от Microsoft потерпел полную неудачу в попытке обобщить финансовый отчет по одежде Gap за третий квартал 2022 года. Согласно отчету Gap (PDF), валовая прибыль составила 37,4%, а скорректированная валовая прибыль, без учета отчислений на обесценение, составила 38,7%. Bing дает неправильную валовую маржу в размере 37,4% после корректировки и начисления обесценения.
«Искусственный интеллект Bing дал совершенно неверные ответы во время демонстрации. Но никто не заметил. Вместо этого все ухватились за шумиху вокруг Bing», — объясняет Бреретон. «Бард из Google дал неправильный ответ во время рекламы, что все заметили. Теперь повествование таково: «Google спешит догнать Bing и делает ошибки!». Это было бы прекрасное повествование, если бы Bing не допустил еще более серьезных ошибок во время собственной демонстрации».
Почему поиск с помощью ИИ не удался?
Хотя пользователи удивлены и разочарованы, в ошибке Bing AI нет ничего неожиданного. Новые языковые модели Bing и Bard часто создают текст, который не соответствует действительности. Они овладевают концепцией генерации текста, угадывая, какие слова должны следовать после определенного набора предложений во входном запросе, не зная о огромных объемах данных, которые они сами загружали во время обучения. Эксперты называют это «галлюцинацией». Галлюцинация, похоже, является проблемой, которая вызвала как фактические несоответствия Барда, так и ошибку искусственного интеллекта Bing.
Какой бы привлекательной ни казалась технология, поиску на основе ИИ нельзя доверять, если Microsoft и Google не могут исправить галлюцинации в своих моделях. Несмотря на то, что чат-боты просты и интересны в использовании, какая от них польза, если они не могут предоставить пользователям точную и ценную информацию? Хотя автоматизация часто заявляет, что она облегчит человеческие задачи, нынешний ИИ только увеличит уровень наших усилий, поскольку мы пытаемся свести к минимуму ошибки.
Если компании не удастся исправить ошибку Bing AI, ожидается, что новость распространится и еще больше снизит доверие к поисковым системам на базе AI. Ажиотаж кажется высоким, но неспособность удовлетворить шумиху приводит только к разочарованию, как в случае с Bard и Bing AI.
