Cookbook·Открытые данные·nyc.gov
Скрапинг nyc.gov
Запрос, который сегодня возвращает страницы с nyc.gov, с параметрами, шаблонами и типами ошибок из лога запросов с 14 августа 2026. Последняя проверка 6 сентября 2026.
92.0% успеха · авг 2026Браузер в 12% вызововЦена Стандартный · 1 кредит
О nyc.gov
nyc.gov описывает себя так: «На главной странице nyc.gov можно проверить сегодняшний статус парковки, школ и вывоза мусора. Также доступны популярные услуги, новости и последние обновления от правительства Нью-Йорка».
Его sitemap перечисляют 11 718 URL в 8 файлов (nycgov.sitemap.mayors-office-nycgov-sitemap, nycgov.sitemap.jobs-nycgov-sitemap, nycgov.sitemap.mayors-office-nycgov-sitemap-2, nycgov.sitemap.main-nycgov-sitemap). 250 из 11 718 датированных записей изменились за последние 30 дней, самая свежая 4 сентября 2026.
Его robots.txt запрещает 1 путь.
Измерено на Crawlbase
Доля успеха по каждому запросу каждого аккаунта за август 2026: 92.0%. Шаблоны, страны и сбои взяты из лога запросов с 14 августа 2026; 11.8% успешных вызовов использовали JavaScript-токен, медианный ответ занял 1.8s.
Среди 11 сайтов категории открытые данные в Cookbook nyc.gov занимает 10 место из 11 по доле успеха; медиана категории 97.2%. Его медианный ответ 1.8s быстрее медианы категории 2.3s. 5 из 11 принимают обычный токен; этот сайт только на части страниц.
Вызов
Самая частая форма URL, которую запрашивают аккаунты, с country и токеном, которые срабатывают чаще всего. Замените путь-заполнитель на реальный путь с сайта.
curl "https://api.crawlbase.com/?token=YOUR_TOKEN&url=https%3A%2F%2Fwww.nyc.gov%2Fexample-section%2Fexample-page%2Fexample-page"from crawlbase import CrawlingAPI api = CrawlingAPI({'token': 'YOUR_TOKEN'}) r = api.get('https://www.nyc.gov/example-section/example-page/example-page') html = r['body']
const { CrawlingAPI } = require('crawlbase'); const api = new CrawlingAPI({ token: 'YOUR_TOKEN' }); const r = await api.get('https://www.nyc.gov/example-section/example-page/example-page');
Важные параметры
| Параметр | Значение | Зачем |
|---|---|---|
country | не задавать | Большинство успешных вызовов не задают country (99.8%) и срабатывают с долей успеха 90.4%. |
javascript | не задавать | Вызовы с обычным токеном срабатывают с долей успеха 89.1% и составляют 87.4% трафика. Браузер стоит дороже и на этом сайте ничего не даёт. |
Шаблоны URL, которые запрашивают аккаунты
| Шаблон | Доля успехов | JavaScript-токен | Страна | Параметры запроса |
|---|---|---|---|---|
/{slug}/{slug}/{slug} | 92.0% | 32.9% | нет | hid_borough, hid_block, hid_lot |
Поля, которые вы получаете
Поля зависят от типа страницы. Страницы товаров обычно содержат блок ld+json с названием, ценой, валютой и наличием, страницы статей: заголовок и текст; проверьте первый полученный ответ.
Что ломается и как починить
На сбои с 14 августа 2026 сайт отвечал:
410: 46.2% сбоев 410 значит, что сайт отклонил запрос. Считайте это блокировкой: повторите один раз с JavaScript-токеном и страной успешных вызовов, затем остановитесь.
404: 30.4% сбоев Обратите внимание, что 404 в этих цифрах считается успехом: сайт ответил, а страницы больше нет. Считайте её удалённой, а не поводом для повтора.
0: 16.1% сбоев Статус 0 означает запрос, который так и не получил ответа в пределах таймаута. Повторите один раз с JavaScript-токеном, если шаблону нужен браузер.
Запуск по расписанию
Медианный ответ на этом сайте 1.8s. Отправьте список URL в Crawler с callback-адресом для всего, что превышает несколько тысяч страниц в день; он распределяет вызовы по времени и повторяет то, что сайт отклонил.
Вопросы
Нужен ли браузер для скрапинга nyc.gov?
Нет. 89.1% вызовов с обычным токеном срабатывают, и аккаунты отправляют 87.4% своего трафика без браузера.
Сколько стоит страница nyc.gov на Crawlbase?
1 кредит без браузера. nyc.gov относится к уровню стандартный.
Какой country задать для nyc.gov?
Никакой не нужен: большинство успешных вызовов оставляют его незаданным.
Другие страницы на nyc.gov
Страницы, которые nyc.gov указывает в своих sitemap, запрошены Crawlbase 6 сентября 2026 и подтверждены в 2 прогонах подряд. В каждой строке самый дешёвый вызов, вернувший страницу с содержимым.
| Страница | Пример | Токен | Страна | Медиана |
|---|---|---|---|---|
Главная/ | nyc.gov/ | Обычный | нет | 4.4s |
Поиск/{slug}/search | нет | Обычный | нет | 1.4s |
Страница объекта/{slug}/{slug}/{slug} | нет | Обычный | нет | 2.9s |
Статья/{slug}/news/{id} | нет | Обычный | нет | 2.6s |
Другое/{slug}/{slug}/{slug} | нет | Обычный | нет | 3.0s |
Названия сайтов обозначают страницы, которые запрашивает рецепт. Crawlbase не аффилирован ни с одним из перечисленных сайтов. Используйте рецепты в рамках политики допустимого использования.Измеренные цифры за август 2026, обновляются ежемесячно