Скрапер Yandex.
Любой поиск, полностью отрендеренный.
Отправьте любой URL поиска Yandex и получите обратно полностью отрендеренный HTML через резидентные прокси со встроенным обходом SmartCaptcha.
Превратите его в JSON с помощью универсального экстрактора.
Любой URL Yandex на входе. HTML или JSON на выходе.
Crawling API в реальном времени. Получите отрендеренный HTML или переключитесь на универсальный экстрактор для JSON. Наведите курсор, чтобы поставить на паузу и прочитать.
Один API для всего, что Yandex вам подкидывает.
Результаты Yandex рендерятся на JavaScript, гео-ограничены Россией и СНГ и защищены SmartCaptcha. Crawling API рендерит страницу поиска в реальном браузере, обращается к ней через резидентные IP в нужном регионе и отдаёт вам чистый HTML или JSON.
Полный рендеринг JavaScript
Реальный браузер выполняет страницу, поэтому динамически отрендеренные результаты, заголовки, сниппеты и URL результатов захватываются полностью, а не только исходный HTML.
140M резидентных IP
Каждый запрос меняет резидентный IP по 30 регионам, с покрытием России и СНГ, поэтому вы обращаетесь к Yandex как реальный местный посетитель.
SmartCaptcha решается за вас
Yandex SmartCaptcha, бот-стены и ограничения по частоте снимаются автоматически. Нечего решать, нечего поддерживать.
HTML или JSON
Получите полный отрендеренный HTML или добавьте scraper=generic-extractor чтобы вернуть заголовок, контент, изображения и ссылки в виде структурированного JSON.
Скриншоты и асинхронность
Тот же вызов может сделать скриншот всей страницы или выполниться асинхронно с вебхуками и облачным хранилищем.
Один API для любого сайта
Crawling API работает с любым URL, поэтому один и тот же токен покрывает Yandex и всё остальное, что вы обходите. Посмотреть живое демо.
Отрендеренный HTML или чистый JSON.
По умолчанию вы получаете отрендеренный HTML. Добавьте generic-extractor и та же страница возвращается в виде типизированного JSON.
Страница
title · string canonical · string favicon · string
Мета
meta.description · string meta.keywords · string
Контент
content · string
Медиа
images · array og_images · array
Ссылки
links · array
От URL к данным за один вызов.
Каждый запрос к Yandex проходит одним и тем же путём. Вы отправляете URL, мы управляем всем, что между ними.
Отправьте URL
Передайте любой публичный URL поиска Yandex со своим токеном: запрос, регион через параметр lr, на yandex.com или yandex.ru.
Смена прокси
Резидентный IP и география, которые чисто достигают Yandex, с покрытием России и СНГ, из 140M IP по 30 регионам.
Рендеринг страницы
Реальный браузер загружает страницу поиска, чтобы отрендеренные на JavaScript результаты, сниппеты и URL результатов отобразились до захвата.
Обход анти-бот защиты
Yandex SmartCaptcha и ограничения по частоте обрабатываются автоматически. Нечего решать, нечего поддерживать.
Возврат HTML или JSON
Возвращается полностью отрендеренный HTML или типизированный JSON, когда вы добавляете универсальный экстрактор.
Что команды строят на данных Yandex.
Отслеживание позиций
Отслеживайте позиции ключевых слов в Yandex по запросам и регионам, чтобы контролировать видимость на рынке РФ и СНГ.
Мониторинг выдачи
Следите за страницами результатов на предмет сдвигов в ранжировании, новых конкурентов и элементов выдачи по мере их изменения.
SEO-исследования
Извлекайте заголовки, сниппеты и URL результатов, чтобы изучать намерение и конкурентную среду на рынке РФ и СНГ.
Поиск ссылок и лидов
Выявляйте URL результатов и домены со страниц поиска, чтобы строить списки ссылок, потенциальных клиентов и лидов.
Обучающие данные и RAG
Подавайте чистый текст выдачи Yandex в модели, RAG-пайплайны и агентов через один API.
Любой URL, один API
Обходите запросы и регионы Yandex, а также любой другой нужный вам сайт.
Что полезно знать при скрапинге Yandex.
Рендеринг как в реальном браузере
Результаты Yandex рендерятся на JavaScript; Crawling API запускает реальный браузер, поэтому органические результаты, заголовки, сниппеты и URL результатов загружаются до захвата.
HTML по умолчанию, JSON по запросу
Вы получаете полный отрендеренный HTML. Добавьте scraper=generic-extractor для разобранных заголовка, контента, изображений и ссылок или сами разберите заголовки результатов, сниппеты и URL из HTML.
Геотаргетинг для России и СНГ
Результаты Yandex гео-ограничены, поэтому задайте страну и параметр региона lr, чтобы вернуть локальную выдачу из России и СНГ, отдаваемую через резидентные IP в соответствующем регионе.
SmartCaptcha снимается автоматически
Yandex SmartCaptcha и объёмные ограничения по частоте обрабатываются за вас, поэтому стабильный сбор выдачи продолжается без ручного решения.
Создан для обхода Yandex в масштабе.
Crawling API работает в той же сети, что обслуживает более 46,000 платящих клиентов и более 70,000 разработчиков. Никаких прокси для покупки, никаких браузеров для запуска, ничего не нужно чинить, когда Yandex меняется.
Один токен, официальные SDK для Python, Node и Ruby и сеть с аптаймом 99.99% под капотом.
Вопросы о скрапинге Yandex.
Начните скрапить Yandex.
Пропустите SmartCaptcha и блокировки.
Бесплатно на старте, до 20,000 запросов. Один токен для Crawling API и каждого скрапера.