Скрапинг sec.gov

Запрос, который сегодня возвращает страницы с sec.gov, с параметрами, шаблонами и типами ошибок из лога запросов с 14 Aug 2026.

97.6% успеха · Aug 2026Браузер не нуженЦена Стандартный · 1 кредит

Измерено на Crawlbase

Доля успеха по каждому запросу каждого аккаунта за August 2026: 97.6%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 1.7% успешных вызовов использовали JavaScript-токен, медианный ответ занял 1.1s.

Среди 11 сайтов категории открытые данные в Cookbook sec.gov занимает 5 место из 11 по доле успеха; медиана категории 97.2%. Его медианный ответ 1.1s быстрее медианы категории 2.3s. 5 из 11 принимают обычный токен, и этот сайт тоже.

Вызов

Самая частая форма URL, которую запрашивают аккаунты, с country и токеном, которые срабатывают чаще всего. Замените путь-заполнитель на реальный путь с сайта.

Запустить в Playground
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.sec.gov%2Fexample-page%2Fexample-page%2Fexample-page"

Важные параметры

ПараметрЗначениеЗачем
countryне задаватьБольшинство успешных вызовов не задают country (98.8%) и срабатывают с долей успеха 98.2%.
javascriptне задаватьВызовы с обычным токеном срабатывают с долей успеха 98.2% и составляют 97.6% трафика. Браузер стоит дороже и на этом сайте ничего не даёт.

Шаблоны URL, которые запрашивают аккаунты

ШаблонДоля успеховJavaScript-токенСтранаПараметры запроса
/{slug}/{slug}/{slug}64.6%60.1%нетнет
/litigation/{slug}18.5%0.0%нетpage
/enforcement-litigation/{slug}13.0%0.0%нетpage

Поля, которые вы получаете

Поля зависят от типа страницы. Страницы товаров обычно содержат блок ld+json с названием, ценой, валютой и наличием, страницы статей: заголовок и текст; проверьте первый полученный ответ.

Что ломается и как починить

На сбои с 14 Aug 2026 сайт отвечал:

403: 64.1% сбоев 403 означает, что сайт отказал точке выхода. Задайте country, который используют успешные вызовы, и повторите один раз; второй 403 означает, что защищён сам URL.
0: 10.5% сбоев Статус 0 означает запрос, который так и не получил ответа в пределах таймаута. Повторите один раз с JavaScript-токеном, если шаблону нужен браузер.
999: 6.7% сбоев 999 не является стандартным HTTP-ответом; сайт отправил его как отказ. Считайте это блокировкой: повторите один раз с JavaScript-токеном и country, который используют успешные вызовы, затем остановитесь.
591: 7.7% сбоев 5xx означает сбой сайта, а не запроса. Повторите через минуту.

Запуск по расписанию

Медианный ответ на этом сайте 1.1s. Отправьте список URL в Crawler с callback-адресом для всего, что превышает несколько тысяч страниц в день; он распределяет вызовы по времени и повторяет то, что сайт отклонил.

Вопросы

Нужен ли браузер для скрапинга sec.gov?

Нет. 98.2% вызовов с обычным токеном срабатывают, и аккаунты отправляют 97.6% своего трафика без браузера.

Сколько стоит страница sec.gov на Crawlbase?

1 кредит без браузера. sec.gov относится к уровню стандартный.

Какой country задать для sec.gov?

Никакой не нужен: большинство успешных вызовов оставляют его незаданным.

Названия сайтов обозначают страницы, которые запрашивает рецепт. Crawlbase не аффилирован ни с одним из перечисленных сайтов. Используйте рецепты в рамках политики допустимого использования.Измеренные цифры за August 2026, обновляются ежемесячно