东坡下载:内容最丰富最安全的下载站!

帮助|文件类型库|最新更新|下载分类|排行榜

上传下载服务器软件远程监控网络相关主页浏览主页制作电子邮件网站优化网络储存常用浏览器迅雷百度云盘

首页网络软件网络相关 → 小米范网站批量爬虫工具 1.4 绿色免费版

小米范网站批量爬虫工具

小米范网站批量爬虫工具1.4 绿色免费版

  • 大小:61.2M
  • 语言:中文
  • 平台:WinAll
  • 更新:2016-09-28 16:4
  • 等级:
  • 类型:网络相关
  • 网站:暂无
  • 授权:免费软件
  • 厂商:
  • 产地:国产软件
好用好玩 50%(0)
坑爹 坑爹 50%(0)
软件介绍软件截图相关软件软件教程网友评论下载地址

网站辅助的小工具,它能针对网站进行快速批量的爬取,小米范网站批量爬虫工具能将爬取的URL进一步调用wvs、sqlmap、brutexss等工具进行检测,挺实用,也蛮简单,有需要的可以试试!

小米范网站批量爬虫工具怎么用

使用方法

随便点击下面的任一个文件

出现如下界面时,点任意键运行。

打开软件界面后,点击新建任务,输入要检测的URL。

设置子域名白名单,属于白名单域名的URL则自动保留并进行抓取。

设置并发站点、并发线程等参数,点击开始即可。

小米范网站批量爬虫工具工作流程

假设我们新建任务,放入100个URL作为爬虫的起始URL,那么具体的爬取过程如下:

1、针对这100个URL,按照是否同源进行合并,同源的URL则放入一个目标,并将这些URL作为这个源的起始URL。

2、针对每个目标进行爬取(默认并发5个目标),针对每个目标的起始URL采用浏览器点击抓包(默认每个目标最多开5个浏览器)+HTML解析的方式获取URL,浏览器点击在后台运行,没有界面,这里的浏览器点只是在点击后将发出去的请求URL记录,但并不真正发出去请求。

3、将前两步收集到的URL作为种子,进行传统的爬取,这里的爬取主要采用了webmagic框架,并对框架本身做了一点修改。另外每一个页面下载之前会进行爬取URL黑名单匹配,匹配到黑名单则跳过,下载到的每个页面提取出来的URL会进行子域名白名单匹配,匹配到白名单则会放入爬取队列。

针对爬到的URL可直接右键使用sqlmap、brutexss、panoptic、wvs进行安全检测,目前还在考虑再加入一些其他的检测工具。

此外也提供了目录扫描功能,在左侧树形结构的任意节点右键目录扫描会对当前选中节点所在的路径进行目录扫描。

PC官方
安卓官方手机版
IOS官方手机版

小米范网站批量爬虫工具截图

下载地址

小米范网站批量爬虫工具 1.4 绿色免费版

热门评论
最新评论
昵称:
表情: 高兴 可 汗 我不要 害羞 好 下下下 送花 屎 亲亲
字数: 0/500 (您的评论需要经过审核才能显示)

编辑推荐

报错

请简要描述您遇到的错误,我们将尽快予以修正。

转帖到论坛
轮坛转帖HTML方式

轮坛转帖UBB方式