robotsの被依存関係 以下のgemの最新版はrobotsを必要としています
wayback_archiver 1.4.0
Post URLs to Wayback Machine (Internet Archive), using a crawler, from Sitemap(s) or a ...
46,109 ダウンロード数
news_crawler 0.0.4
A flexible, modular web crawler
21,982 ダウンロード数
spk-anemone 0.4.0
Anemone web-spider framework
14,370 ダウンロード数
shingara-anemone 0.2.4
Anemone web-spider framework
4,459 ダウンロード数
debugher 0.0.1
A handy set of methods for getting various bits of information about a web page. ...
4,389 ダウンロード数