Как работает поисковая генерация и почему генерация, дополненная поиском, - наше будущее
Оцените уровень потенциальной угрозы SGE для трафика вашего сайта. Получите представление о вероятных изменениях кривой поискового спроса и модели CTR.
Читать с мобильного в телеграмм
Поиск, каким мы его знаем, был безвозвратно изменен генеративным искусственным интеллектом.
Быстрые улучшения в поисковой системе Google Generative Experience (SGE) и недавние заявления Сундара Пичаи о ее будущем говорят о том, что она никуда не денется.
Кардинальные изменения в способах рассмотрения и отображения информации ставят под угрозу эффективность поискового канала (как платного, так и обычного) и всех компаний, которые монетизируют свой контент. Это обсуждение природы этой угрозы.
Во время написания “Науки о SEO” я продолжал углубляться в технологию, лежащую в основе поиска. Совпадение между генеративным искусственным интеллектом и современным поиском информации представляет собой круг, а не диаграмму Венна.
Достижения в области обработки естественного языка (NLP), которые начались с улучшения поиска, дали нам модели больших языков на основе трансформаторов (LLM). LLM позволили нам экстраполировать контент в ответ на запросы на основе данных из результатов поиска.
Давайте поговорим о том, как все это работает и как развивается набор навыков SEO, чтобы учесть это.
Что такое генерация, дополненная поиском?
Поисково-дополненная генерация (RAG) - это парадигма, в которой соответствующие документы или точки данных собираются на основе запроса или приглашения и добавляются в виде краткого приглашения для точной настройки ответа из языковой модели.
Это механизм, с помощью которого языковая модель может быть “основана” на фактах или извлекать уроки из существующего контента для получения более релевантного результата с меньшей вероятностью галлюцинаций.
Поиск - дополненная генерация (RAG)
В то время как рынок считает, что Microsoft внедрила это новшество с новым Bing, исследовательская группа Facebook по искусственному интеллекту впервые опубликовала концепцию в мае 2020 года в статье “Поисково-дополненное поколение для наукоемких задач NLP”, представленной на конференции NeurIPS. Тем не менее, Neeva была первой, кто внедрил это в крупную общедоступную поисковую систему, предоставив ей возможность использовать свои впечатляющие и очень специфичные избранные фрагменты.
Эта парадигма меняет правила игры, потому что, хотя LLM могут запоминать факты, они “заблокированы информацией” на основе данных своего обучения. Например, информация ChatGPT исторически была ограничена до сентября 2021 года.
Модель RAG позволяет учитывать новую информацию для улучшения результатов. Это то, что вы делаете при использовании функции поиска Bing или обхода в режиме реального времени в плагине ChatGPT, таком как AIPRM.
Эта парадигма также является лучшим подходом к использованию LLM для создания более качественного контента. Я ожидаю, что больше людей будут следить за тем, что мы делаем в моем агентстве, когда они создают контент для своих клиентов, поскольку знание подхода становится более распространенным.
Как работает RAG?
Представьте, что вы студент, который пишет исследовательскую работу. Вы уже прочитали много книг и статей по вашей теме, поэтому у вас есть контекст для широкого обсуждения предмета, но вам все равно нужно найти какую-то конкретную информацию, подтверждающую ваши аргументы.
Вы можете использовать RAG как ассистента-исследователя: вы можете дать ему запрос, и он извлечет наиболее релевантную информацию из своей базы знаний. Затем вы можете использовать эту информацию для создания более конкретных, стилистически точных и менее банальных выходных данных. LLMS позволяют компьютерам выдавать расширенные ответы, основанные на вероятностях. RAG позволяет этому ответу быть более точным и ссылаться на его источники.
RAG с базой знаний с базой знаний
RAG с графом знаний RAG с графом знаний
Реализация RAG состоит из трех компонентов:
Кодировщик ввода:
Этот компонент кодирует запрос ввода в серию векторных вложений для последующих операций.
Нейронный поисковик:
Этот компонент извлекает наиболее релевантные документы из внешней базы знаний на основе закодированного запроса ввода. Когда документы индексируются, они разбиваются на фрагменты, поэтому в процессе поиска к подсказке добавляются только наиболее релевантные фрагменты документов и/или диаграммы знаний. Другими словами, поисковая система выдает результаты для добавления в подсказку.
Генератор выходных данных:
Этот компонент генерирует окончательный выходной текст, принимая во внимание закодированное приглашение ввода и извлеченные документы. Обычно это базовый LLM, такой как ChatGPT, Llama2 или Claude.
Чтобы сделать это менее абстрактным, подумайте о реализации Bing в ChatGPT. Когда вы взаимодействуете с этим инструментом, он принимает ваше приглашение, выполняет поиск для сбора документов, добавляет наиболее релевантные фрагменты к приглашению и выполняет его.
Все три компонента обычно реализуются с использованием предварительно обученных трансформаторов, типа нейронной сети, которая, как было показано, очень эффективна для задач обработки естественного языка. Опять же, инновация Google Transformer в наши дни открывает целый новый мир NLP / U/ G. Трудно представить себе что-либо в этом пространстве, на чем не было бы отпечатков пальцев Google Brain и исследовательской группы.
Кодировщик входных данных и генератор выходных данных точно настроены для конкретной задачи, такой как ответ на вопрос или подведение итогов. Нейронный поисковик обычно не настраивается точно, но его можно предварительно обучить на большом массиве текста и кода, чтобы улучшить его способность извлекать соответствующие документы.
LLMS и графики знаний
RAG обычно выполняется с использованием документов в векторном индексе или графиков знаний. Во многих случаях графики знаний (KGs) являются более эффективной реализацией, поскольку они ограничивают добавляемые данные только фактами.
Совпадение KGs и LLMs демонстрирует симбиотические отношения, которые раскрывают потенциал обоих. Поскольку многие из этих инструментов используют KGs, сейчас самое подходящее время задуматься о том, чтобы использовать графики знаний как нечто большее, чем новинку или что-то, для создания чего мы просто предоставляем данные Google.
Подводные камни RAG
Преимущества RAG довольно очевидны; вы получаете лучший результат автоматизированным способом, расширяя знания, доступные языковой модели. Что, возможно, менее очевидно, так это то, что все еще может пойти не так и почему. Давайте углубимся:
Извлечение - это момент ‘сделай или сломай’
Послушайте, если с поиском RAG не все в порядке, у нас проблемы. Это все равно, что послать кого–нибудь за изысканным чизстейком из Barclay Prime, а он возвращается с вегетарианским сэндвичем из Subway - не с тем, что вы просили.
Если он возвращает неправильные документы или пропускает золото, ваши выходные данные будут немного... ну... тусклыми. Это все равно мусор на входе, мусор на выходе.
Все дело в этих данных
У этой парадигмы есть небольшая проблема с зависимостями – и все дело в данных. Если вы работаете с набором данных, который устарел, как MySpace, или просто не соответствует требованиям, вы ограничиваете возможности этой системы.
Предупреждение эхо-камеры
Загляните в эти извлеченные документы, и вы, возможно, увидите некоторое дежавю. Если есть совпадения, модель будет звучать как тот друг, который рассказывает одну и ту же историю на каждой вечеринке.
Вы получите некоторую избыточность в своих результатах, а поскольку SEO основано на контенте-подражателе, вы можете получить плохо проработанный контент, информирующий о ваших результатах.
Ограничения по длине подсказки
Подсказка может быть только такой длины, и хотя вы можете ограничить размер фрагментов, это все равно может быть похоже на попытку уместить сцену для последнего мирового турне Бейонсе в Mini-Cooper. На сегодняшний день только Claude от Anthropic поддерживает контекстное окно в 100 000 токенов. GPT 3.5 Turbo достигает максимума в 16 000 токенов.
Выход за рамки сценария
Даже при всех ваших титанических усилиях по поиску информации это не означает, что LLM будет придерживаться сценария. У него все еще могут быть галлюцинации и он все поймет неправильно.
Шквал перемен открывает так много возможностей извлечь выгоду из новых технологий.
Исследователи в области поиска информации и настолько откровенны в своих выводах, что мы получаем больше информации о том, как все работает на самом деле.
Сейчас самое подходящее время выяснить, как встроить конвейеры RAG в ваши варианты использования SEO.
Однако Google подвергается атакам на нескольких фронтах.
TikTok.
ChatGPT.
Министерство юстиции.
Восприятие пользователями качества поиска.
Поток генерирующего контента с использованием искусственного интеллекта.
На рынке представлено множество версий систем ответов на вопросы.
В конечном счете, все эти угрозы Google являются угрозами вашему трафику со стороны Google.
Ландшафт органического поиска существенно меняется и становится все более сложным. Поскольку формы, с помощью которых пользователи удовлетворяют свои информационные потребности, продолжают изменяться, мы перейдем от оптимизации для Интернета к оптимизации для больших языковых моделей и реализации истинного потенциала структурированных данных в этой среде.
Как и большинство возможностей в Интернете, люди, которые воспользуются этими возможностями раньше, получат огромную отдачу.
