`
老汉学编程
  • 浏览: 30766 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

selenium爬取网页的性能问题

阅读更多

5个浏览器窗口(5个线程),每小时3000个网页,理论上一台4C*8GB的台式机能达到每小时6-8000的网页(除掉带宽/对方防爬和对方服务器性能优越),对难搞的网站抓取性能还是不错的!

分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics