Cookbook·Технологии и разработка·github.com
Скрапинг github.com
Запрос, который сегодня возвращает главную страницу с github.com, с параметрами, шаблонами и типами ошибок из лога запросов с 14 Aug 2026. Последняя проверка 5 Sep 2026.
94.5% успеха · Aug 2026Браузер в 18% вызововЦена Стандартный · 1 кредит
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за August 2026: 94.5%. Шаблоны, страны и сбои взяты из лога запросов с 14 Aug 2026; 18.4% успешных вызовов использовали JavaScript-токен, медианный ответ занял 1.6s.
Среди 11 сайтов категории технологии и разработка в Cookbook github.com занимает 10 место из 11 по доле успеха; медиана категории 97.8%. Его медианный ответ 1.6s на уровне медианы категории 1.9s. 8 из 11 принимают обычный токен; этот сайт только на части страниц.
Вызов
Самая частая форма URL, которую запрашивают аккаунты, с country и токеном, которые срабатывают чаще всего. Замените путь-заполнитель на реальный путь с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.github.com%2F"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.github.com/') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.github.com/');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (94.4%) и срабатывают с долей успеха 98.2%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 98.0%, с JavaScript-токеном 86.6%. Работают оба; начните без браузера и переключайтесь по шаблону URL там, где это показывает таблица ниже. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/ | 48.8% | 21.0% | нет | нет |
/{slug} | 13.9% | 85.5% | нет | нет |
/{slug}/{slug} | 3.3% | 0.0% | нет | нет |
Поля, которые вы получаете
Поля зависят от типа страницы. Страницы товаров обычно содержат блок ld+json с названием, ценой, валютой и наличием, страницы статей: заголовок и текст; проверьте первый полученный ответ.
Что ломается и как починить
На сбои с 14 Aug 2026 сайт отвечал:
999: 35.5% сбоев 999 не является стандартным HTTP-ответом; сайт отправил его как отказ. Считайте это блокировкой: повторите один раз с JavaScript-токеном и country, который используют успешные вызовы, затем остановитесь.
405: 12.1% сбоев 405 не является стандартным HTTP-ответом; сайт отправил его как отказ. Считайте это блокировкой: повторите один раз с JavaScript-токеном и country, который используют успешные вызовы, затем остановитесь.
403: 7.0% сбоев 403 означает, что сайт отказал точке выхода. Задайте country, который используют успешные вызовы, и повторите один раз; второй 403 означает, что защищён сам URL.
400: 5.6% сбоев 400 не является стандартным HTTP-ответом; сайт отправил его как отказ. Считайте это блокировкой: повторите один раз с JavaScript-токеном и country, который используют успешные вызовы, затем остановитесь.
591: 15.9% сбоев 5xx означает сбой сайта, а не запроса. Повторите через минуту.
Запуск по расписанию
Медианный ответ на этом сайте 1.6s. Отправьте список URL в Crawler с callback-адресом для всего, что превышает несколько тысяч страниц в день; он распределяет вызовы по времени и повторяет то, что сайт отклонил.
Вопросы
Нужен ли браузер для скрапинга github.com?
Зависит от страницы. Вызовы с обычным токеном срабатывают с долей успеха 98.0%, с JavaScript-токеном 86.6%; таблица шаблонов URL показывает, какие пути аккаунты запрашивают с браузером.
Сколько стоит страница github.com на Crawlbase?
1 кредит без браузера. github.com относится к уровню стандартный.
Какой country задать для github.com?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Другие страницы на github.com
Страницы, которые github.com указывает в своих sitemap, запрошены Crawlbase 5 Sep 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.
| Страница | Пример | Токен | Страна | Медиана |
|---|---|---|---|---|
Главная/ | github.com/ | Обычный | нет | 4.0s |
Список/collections | github.com/collections | Обычный | нет | 1.8s |
Статья/{slug}/articles | github.com/resources/articles | Обычный | нет | 1.6s |
Другое/{slug}/{slug}/{slug} | github.com/features/ai/github-app | Обычный | нет | 1.9s |
Названия сайтов обозначают страницы, которые запрашивает рецепт. Crawlbase не аффилирован ни с одним из перечисленных сайтов. Используйте рецепты в рамках политики допустимого использования.Измеренные цифры за August 2026, обновляются ежемесячно