Скрапинг twitter.com

Запрос, который сегодня возвращает страницы с twitter.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 Aug 2026.

99.8% успеха · Aug 2026Нужен браузерЦена Стандартный · 1 кредит

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за August 2026: 99.8%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 100% успешных вызовов использовали JavaScript-токен, медианный ответ занял 14.9s.

Среди 8 сайтов категории социальные сети в Cookbook twitter.com занимает 2 место из 8 по доле успеха; медиана категории 98.9%. Его медианный ответ 14.9s медленнее медианы категории 9.2s. 6 из 8 принимают обычный токен; этому сайту нужен JavaScript-токен.

Вызов

Самая частая форма URL, которую запрашивают аккаунты, с country и токеном, которые срабатывают чаще всего. Замените путь-заполнитель на реальный путь с сайта.

Запустить в Playground
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.twitter.com%2Fexample-page"

Важные параметры

ПараметрЗначениеЗачем
countryне задаватьБольшинство успешных вызовов не задают country (100%) и срабатывают с долей успеха 99.6%.
javascriptне задаватьВызовы с обычным токеном срабатывают с долей успеха 98.2%, с JavaScript-токеном 99.6%. Работают оба; начните без браузера и переключайтесь по шаблону URL там, где это показывает таблица ниже.

Шаблоны URL, которые запрашивают аккаунты

ШаблонДоля успеховJavaScript-токенСтранаПараметры запроса
/{slug}15.0%100%нетнет

Поля, которые вы получаете

Поля зависят от типа страницы. Страницы товаров обычно содержат блок ld+json с названием, ценой, валютой и наличием, страницы статей: заголовок и текст; проверьте первый полученный ответ.

Что ломается и как починить

На сбои с 14 Aug 2026 сайт отвечал:

999: 64.6% сбоев 999 не является стандартным HTTP-ответом; сайт отправил его как отказ. Считайте это блокировкой: повторите один раз с JavaScript-токеном и country, который используют успешные вызовы, затем остановитесь.
504: 17.8% сбоев 504 означает таймаут: страница не успела загрузиться в пределах лимита. Повторите один раз и держите таймаут своего клиента выше медианного времени ответа, показанного для этого сайта.

Запуск по расписанию

Медианный ответ на этом сайте 14.9s. Отправьте список URL в Crawler с callback-адресом для всего, что превышает несколько тысяч страниц в день; он распределяет вызовы по времени и повторяет то, что сайт отклонил.

Вопросы

Нужен ли браузер для скрапинга twitter.com?

Зависит от страницы. Вызовы с обычным токеном срабатывают с долей успеха 98.2%, с JavaScript-токеном 99.6%; таблица шаблонов URL показывает, какие пути аккаунты запрашивают с браузером.

Сколько стоит страница twitter.com на Crawlbase?

1 кредит без браузера. twitter.com относится к уровню стандартный.

Какой country задать для twitter.com?

Никакой не нужен: большинство успешных вызовов оставляют его незаданным.

Названия сайтов обозначают страницы, которые запрашивает рецепт. Crawlbase не аффилирован ни с одним из перечисленных сайтов. Используйте рецепты в рамках политики допустимого использования.Измеренные цифры за August 2026, обновляются ежемесячно