arachnidish 0.0.1
Arachnidish is a web crawler that relies on Bloom Filters to efficiently store visited urls and Typhoeus to avoid the overhead of Mechanize when crawling every page on a domain.
Gemfile:
=
クリップボードにコピー
コピー完了!
インストール:
=
バージョン履歴:
- 0.0.1 - November 09, 2015 (6KB)
Runtime依存関係 (4):
所有者:
作者:
-
csphere
SHA 256チェックサム:
37e9f3ffa9883eca36428ea3ff223ad3763eca297f67a2ad7afe833b0e7a147e