Crawl any website with a headless browser and your own Python page function. Reliable runs, honest per-result pricing, clean flat output. Respects robots.txt.
ConcurrencySettings: desired<=max (default desired=10 rzucał ValueError dla max<10 → limit
cicho ignorowany → do 100 kontekstów Chromium → OOM na 4GB). Naprawione.
includeGlobs: Glob(g) zamiast surowych stringów (crawlee robił AttributeError → feature 100%
martwy, zero linków enqueue). Naprawione.
robots.txt: natywny Crawlee respect_robots_txt_file — PRZED nawigacją (poprawnie), zamiast
mojego buggy after-nav check. Usunięty robots.py (naprawia też httpx-poza-requirements).
FAIL-on-zero: odpala też gdy WSZYSTKIE requesty padły sieciowo (site down/blocked) —
failed_request_handler. Wcześniej "Scraped 0" wyglądało jak sukces.
crawler.stop() na cap (nie ładuj kolejnych stron), guard push-loop, README (requestTimeoutSecs +
model user-kodu). Testy 10/10 (page_function).
0.1 (2026-07-23)
First version: generic Playwright web crawler + user Python page function.