Cookbook·Технологии и разработка·ietf.org
Скрапинг: страницы doc на ietf.org
Запрос, который сегодня возвращает страницы doc с ietf.org, с параметрами, шаблонами и типами ошибок из лога запросов с 14 Aug 2026.
95.8% успеха · Aug 2026Браузер в 85% вызововЦена Стандартный · 1 кредит
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за August 2026: 95.8%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 85.2% успешных вызовов использовали JavaScript-токен, медианный ответ занял 7.5s.
Среди 11 сайтов категории технологии и разработка в Cookbook ietf.org занимает 9 место из 11 по доле успеха; медиана категории 97.8%. Его медианный ответ 7.5s медленнее медианы категории 1.9s. 8 из 11 принимают обычный токен; этот сайт только на части страниц.
Вызов
Самая частая форма URL, которую запрашивают аккаунты, с country и токеном, которые срабатывают чаще всего. Замените путь-заполнитель на реальный путь с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.ietf.org%2Fdoc%2Fexample-page%2F1234567"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.ietf.org/doc/example-page/1234567') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.ietf.org/doc/example-page/1234567');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (100%) и срабатывают с долей успеха 95.6%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 97.0%, с JavaScript-токеном 95.4%. Работают оба; начните без браузера и переключайтесь по шаблону URL там, где это показывает таблица ниже. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/doc/{slug}/{id} | 62.0% | 83.9% | нет | нет |
/doc/{slug} | 34.3% | 80.3% | нет | нет |
Поля, которые вы получаете
Поля зависят от типа страницы. Страницы товаров обычно содержат блок ld+json с названием, ценой, валютой и наличием, страницы статей: заголовок и текст; проверьте первый полученный ответ.
Что ломается и как починить
На сбои с 14 Aug 2026 сайт отвечал:
403: 60.3% сбоев 403 означает, что сайт отказал точке выхода. Задайте country, который используют успешные вызовы, и повторите один раз; второй 403 означает, что защищён сам URL.
0: 14.3% сбоев Статус 0 означает запрос, который так и не получил ответа в пределах таймаута. Повторите один раз с JavaScript-токеном, если шаблону нужен браузер.
594, 530: вместе 17.4% сбоев 5xx означает сбой сайта, а не запроса. Повторите через минуту.
Запуск по расписанию
Медианный ответ на этом сайте 7.5s. Отправьте список URL в Crawler с callback-адресом для всего, что превышает несколько тысяч страниц в день; он распределяет вызовы по времени и повторяет то, что сайт отклонил.
Вопросы
Нужен ли браузер для скрапинга ietf.org?
Зависит от страницы. Вызовы с обычным токеном срабатывают с долей успеха 97.0%, с JavaScript-токеном 95.4%; таблица шаблонов URL показывает, какие пути аккаунты запрашивают с браузером.
Сколько стоит страница ietf.org на Crawlbase?
1 кредит без браузера. ietf.org относится к уровню стандартный.
Какой country задать для ietf.org?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Названия сайтов обозначают страницы, которые запрашивает рецепт. Crawlbase не аффилирован ни с одним из перечисленных сайтов. Используйте рецепты в рамках политики допустимого использования.Измеренные цифры за August 2026, обновляются ежемесячно