jerryWebSpider是一个java爬虫实例集合,基于springboot构建,目前内含对tuwan网妹子图的爬虫。
出现了Python版本哦,请参阅"姊妹项目"!~~
2018年12月8日 初始提交
2018年12月17日 增加leshe网爬虫
2019年1月7日 原有tuwanSpider、lesheSpider由于接口升级等原因失效,作废。追加tuwanAlbumSpider和lesheAlbumSpider,对公开图片进行爬取
2019年1月23日 对tuwanAlbumSpider进行版本更新,利用新的接口漏洞对全站图片进行爬取
2019年2月21日 追加的tuwan序号为1286-1391的压缩包已更新到百度云
2019年2月22日 追加的tuwan序号为1292-1442的压缩包已更新到百度云
2019年2月27日 百度云资源被封禁,新的下载方式请见博客链接
2019年3月24日 追加基于jerryWebSpider的url获取逻辑而转化的python27版本
tuwan接口更新,此爬虫目前已失效,目前已无法直接下载压缩包,但可以逐张下载收费的图片,具体参见tuwanAlbumSpider。
(削除) 提供对tuwan网妹子图、音乐的抓取及下载功能,程序主要逻辑集中在task包下的TuwanSpiderTask类与TuwanImageDownloadTask类,入口为TuwanSpiderController。 (削除ここまで)
该爬虫提供对tuwan网妹子图的抓取及下载功能,程序主要逻辑集中在task包下的TuwanAlbumSpiderTask与TuwanAlbumImageDownloadTask类,入口为TuwanAlbumSpiderController。
leshe程序更新,需要密码,此爬虫目前已失效。
(削除) 提供对leshe网妹子图的抓取及下载功能,程序主要逻辑集中在task包下的LesheSpiderTask类与LesheImageDownloadTask类,入口为LesheSpiderController。 (削除ここまで)
提供对leshe网妹子图公开图片的抓取及下载功能,程序主要逻辑集中在task包下的LesheAlbumSpiderTask类与LesheAlbumImageDownloadTask类,入口为lesheAlbumSpiderController。
将代码clone到本地后。
1、使用navicat等工具新建mysql数据库,名称自定;
2、将db目录下的my_spider.sql导入数据库(该sql已经包括截止2019年01月23日爬取到的最新数据,内含34669张tuwan图片下载地址);
3、将项目导入idea或其他集成开发工具;
4、修改springboot配置文件application-dev.yml中的数据库配置及图片保存地址tuwan:album:imageStorePath;
5、启动项目;
6、图包地址爬取:访问http://你的IP:8088/tuwanAlbumSpider/startSpider?start=0&end=1500 即可对tuwan网id从0到1500的相册进行爬取;
7、图包批量下载:访问http://你的IP:8088/tuwanAlbumSpider/startDownLoadImage?start=1390&end=13901 可对前一步爬取到的图包进行下载,以本链接为例:下载从1390号图包开始,到1391号图包结束;
ps:系统默认会跳过已经下载过的图片,如果想重新下载需要将数据库中tuwan_album_images表对应记录的downloaded字段置为0
8、项目打包及服务器部署运行请自行搜索
将代码clone到本地后。
1、使用navicat等工具新建mysql数据库,名称自定;
2、将db目录下的my_spider.sql导入数据库(该sql已经包括截止2018年12月17日爬取到的最新数据),如在其他步骤中已经导入过该数据库则无需新建数据和导入数据库;
3、将项目导入idea或其他集成开发工具;
4、修改springboot配置文件application-dev.yml中的数据库配置及图包保存地址leshe:album:imageStorePath;
5、启动项目;
6、图包地址爬取:访问http://你的IP:8088/lesheAlbumSpider/startSpider 即可对全站公开图进行爬取;
7、图包批量下载:访问http://你的IP:8088/lesheAlbumSpider/startDownLoadImage 即可对前一步爬取到的图片进行下载;
8、项目打包及服务器部署运行请自行搜索
1、对tuwanAlbumSpider基于Python的实现
tuwan_crawle
作者:ignnonster
项目地址:https://github.com/bignnonster/tuwan_crawler
说明:基于jerryWebSpider的url获取逻辑而转化的python27版本。适用于没有java、mysql环境的同学。
以上案例、代码及说明仅供测试使用,请勿用于商业用途。如需转载请注明出处,如代码运行或测试过程中发现问题或bug请发起issues。
资源打包下载见