pannyvan / mini_spider Goto Github PK
View Code? Open in Web Editor NEWThis project forked from cafedeflore/mini_spider
在调研过程中,经常需要对一些网站进行定向抓取。由于python包含各种强大的库,使用python做定向抓取比较简单。请使用python开发一个迷你定向抓取器mini_spider.py,实现对种子链接的广度优先抓取,并把URL长相符合特定pattern的网页保存到磁盘上。