开源 企业版 高校版 私有云 模力方舟 AI 队友
代码拉取完成,页面将自动刷新
捐赠
捐赠前请先登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
3 Star 0 Fork 0

毛栗小舞狼/知识体系

加入 Gitee
与超过 1400万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
已有帐号? 立即登录
文件
master
分支 (1)
master
master
分支 (1)
master
克隆/下载
克隆/下载
提示
下载代码请复制以下命令到终端执行
为确保你提交的代码身份被 Gitee 正确识别,请执行以下命令完成配置
初次使用 SSH 协议进行代码克隆、推送等操作时,需按下述提示完成 SSH 配置
1 生成 RSA 密钥
2 获取 RSA 公钥内容,并配置到 SSH公钥
在 Gitee 上使用 SVN,请访问 使用指南
使用 HTTPS 协议时,命令行会出现如下账号密码验证步骤。基于安全考虑,Gitee 建议 配置并使用私人令牌 替代登录密码进行克隆、推送等操作
Username for 'https://gitee.com': userName
Password for 'https://userName@gitee.com': # 私人令牌
master
分支 (1)
master
learning
/
Python
/
Spider
/
SiteData.py
learning
/
Python
/
Spider
/
SiteData.py
SiteData.py 2.03 KB
一键复制 编辑 原始数据 按行查看 历史
毛栗小舞狼 提交于 2022年11月09日 12:00 +08:00 . 更新Spider
from abc import abstractmethod
from bs4 import BeautifulSoup
import FileUtil
import HtmlUtil
class Site:
def __init__(self):
self.file = ''
self.page_format = ''
self.post_selector = ''
@abstractmethod
def phasePage(self, response):
pass
# 2 to 2321
class Site3DM(Site):
def __init__(self):
super().__init__()
self.file = './data/Ex3DM.xlsx'
self.page_format = 'https://dl.3dmgame.com/all_all_{}_time/'
self.post_selector = 'div[class="listwrap"] > ul > li'
def phasePage(self, response):
rtn = ''
bs = BeautifulSoup(response.content, "lxml")
list_post = bs.select('div[class="listwrap"] > ul > li')
# Post解析测试
# print(list_post[9])
file = FileUtil.File3DM(self.file)
for i in range(2, len(list_post)):
post = list_post[i]
title_selector = post.select('div[class="bt"] > a')
title_txt = title_selector[0].contents[0]
# 获取到标题
# print(title_txt)
link_url = title_selector[0].attrs['href']
# 取得详情链接
# print(link_url)
img_selector = post.select('img')
img_url = img_selector[0].attrs['data-original']
# 取得图片链接
# print(img_url)
# 使用详情链接构造图片名称并下载图片
img_txt = link_url.split('/')[-1].split('.')[0]
HtmlUtil.download_pic(int(img_txt) % 100, img_txt + '.jpg', img_url)
tag_selector = post.select('li[class="li2"] > a')
tag_txt = ''
for i_tag in tag_selector:
# print(i_tag.contents[0], end=',')
tag_txt += i_tag.contents[0]
tag_txt += ',' # 标签之间逗号分隔
# 获取到标签
# print(tag_txt)
file.setPost([title_txt, link_url, img_txt, tag_txt])
file.save()
return rtn
Loading...
举报
举报成功
我们将于2个工作日内通过站内信反馈结果给你!
请认真填写举报原因,尽可能描述详细。
请选择举报类型
取消
发送
误判申诉

此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。

如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。

取消
提交

简介

个人学习资源仓库,用于组织以及留存各种学习资源和笔记。
暂无标签
Apache-2.0
使用 Apache-2.0 开源许可协议
取消

发行版

暂无发行版

贡献者

全部

近期动态

不能加载更多了
编辑仓库简介
简介内容
主页
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/goatton/learning.git
git@gitee.com:goatton/learning.git
goatton
learning
知识体系
master
点此查找更多帮助

搜索帮助

评论
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册

AltStyle によって変換されたページ (->オリジナル) /