На прошлой неделе Google запустил новую функцию поиска с использованием искусственного интеллекта AI Overviews для миллионов пользователей, стремясь улучшить их опыт поиска. Однако вместо этого ИИ выдал ряд странных результатов, таких как советы добавлять клей в пиццу, чтобы сыр не спадал, и есть камни.
AI Overviews – это система на базе генеративного ИИ, которая не просто выдает ссылки на релевантные веб-страницы, а генерирует прямые ответы на поисковые запросы пользователей.
Компания Google оперативно удалила некоторые неверные результаты, но ущерб был уже нанесен, и мемы быстро разлетелись по интернету. Глава поисковых систем Google Лиз Рид объяснила,что причиной некорректных результатов стали “пробелы в данных” и пользователи, задающие необычные вопросы.
Рид также отметила, что в целом результаты с использованием ИИ приводят к “большему удовлетворению” пользователей. Лиз Рид утверждает, что AI Overviews в основном не “галлюцинирует”, а лишь иногда неверно интерпретирует информацию, уже находящуюся в сети.
Рид отметила, что команда Google заметила бессмысленные запросы, видимо, направленные на получение ошибочных результатов. Отмечается, что в интернете также распространилось множество поддельных скриншотов AI Overviews.
Некоторые вопросы, по мнению Лиз Рид, вполне оправданы, например: “Какое млекопитающее имеет больше всего костей?” Если у вас есть маленький ребенок, вы наверняка сталкивались с подобными запросами. Однако Google активировал эту функцию для миллионов пользователей, что вызвало волну негодования и даже привело к появлению статей с инструкциями по отключению нововведения.
В своем блоге Лиз Рид также объяснила, как Google исправляет AI Overviews, ограничивая появление бессмысленных запросов и сатиры. Это важно, так как многих удивило, что известный сатирический сайт The Onion (источник совета есть камни) и пользователь Reddit под ником “f*cksmith” не были отфильтрованы в результатах ИИ.
Лиз Рид сравнивает AI Overviews с другой давней функцией поиска, называемой featured snippets, которая выделяет информацию с релевантной веб-страницы без использования генеративного ИИ. По словам Рид, точность featured snippets сопоставима с AI Overviews.
Пример featured snippet
В конечном итоге введение AI Overviews стало очередной ошибкой PR-отдела Google. Тем временем Google пытается конкурировать с OpenAI и стартапами в области поиска на основе ИИ, такими как Perplexity, который уже оценивается в $3 миллиарда. Если Google хочет оставаться конкурентоспособным, ему нужно двигаться быстро. Но при этом важно сохранять доверие пользователей.
Нововведения нанесли болезненный удар создателям контента – той самой аудитории, которую, по заявлениям Google, компания стремится продвигать в поиске. Целый ряд популярных ресурсов оказался на грани вымирания.