Скрапинг sec.gov
Запрос, который сегодня возвращает страницы с sec.gov, с параметрами, шаблонами и типами ошибок из лога запросов с 14 Aug 2026.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за August 2026: 97.6%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 1.7% успешных вызовов использовали JavaScript-токен, медианный ответ занял 1.1s.
Среди 11 сайтов категории открытые данные в Cookbook sec.gov занимает 5 место из 11 по доле успеха; медиана категории 97.2%. Его медианный ответ 1.1s быстрее медианы категории 2.3s. 5 из 11 принимают обычный токен, и этот сайт тоже.
Вызов
Самая частая форма URL, которую запрашивают аккаунты, с country и токеном, которые срабатывают чаще всего. Замените путь-заполнитель на реальный путь с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.sec.gov%2Fexample-page%2Fexample-page%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.sec.gov/example-page/example-page/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.sec.gov/example-page/example-page/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (98.8%) и срабатывают с долей успеха 98.2%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 98.2% и составляют 97.6% трафика. Браузер стоит дороже и на этом сайте ничего не даёт. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/{slug}/{slug}/{slug} | 64.6% | 60.1% | нет | нет |
/litigation/{slug} | 18.5% | 0.0% | нет | page |
/enforcement-litigation/{slug} | 13.0% | 0.0% | нет | page |
Поля, которые вы получаете
Поля зависят от типа страницы. Страницы товаров обычно содержат блок ld+json с названием, ценой, валютой и наличием, страницы статей: заголовок и текст; проверьте первый полученный ответ.
Что ломается и как починить
На сбои с 14 Aug 2026 сайт отвечал:
Запуск по расписанию
Медианный ответ на этом сайте 1.1s. Отправьте список URL в Crawler с callback-адресом для всего, что превышает несколько тысяч страниц в день; он распределяет вызовы по времени и повторяет то, что сайт отклонил.
Вопросы
Нужен ли браузер для скрапинга sec.gov?
Нет. 98.2% вызовов с обычным токеном срабатывают, и аккаунты отправляют 97.6% своего трафика без браузера.
Сколько стоит страница sec.gov на Crawlbase?
1 кредит без браузера. sec.gov относится к уровню стандартный.
Какой country задать для sec.gov?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.