小红书爬虫,抖音爬虫, 快手爬虫, B站爬虫, 微博爬虫

目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。

原理:利用playwright搭桥,保留登录成功后的上下文浏览器环境,通过执行JS表达式获取一些加密参数 通过使用此方式,免去了复现核心加密JS代码,逆向难度大大降低

使用方法

创建并激活 python 虚拟环境

# 进入项目根目录cdMediaCrawler# 创建虚拟环境python -m venv venv# macos & linux 激活虚拟环境sourcevenv/bin/activate# windows 激活虚拟环境venv\Scripts\activate

安装依赖库

pip3 install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

# 默认没有开启评论爬取模式,有需要请到配置文件中指定# 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论python main.py --platform xhs --lt qrcode --type search# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息python main.py --platform xhs --lt qrcode --type detail# 打开对应APP扫二维码登录# 其他平台爬虫使用示例, 执行下面的命令查看python main.py --help

数据保存

  • 支持保存到关系型数据库(Mysql、PgSQL等)
  • 支持保存到csv中(data/目录下)
  • 支持保存到json中(data/目录下)

下载链接:


免责声明:
本站提供的一切软件、教程和内容信息仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。本站信息来自网络收集整理,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑或手机中彻底删除上述内容。如果您喜欢该程序和内容,请支持正版,购买注册,得到更好的正版服务。我们非常重视版权问题,如有侵权请邮件与我们联系处理。敬请谅解!chigua6@foxmail.com


EiTalk Tech博客-QQ活动_资源分享-源码基地-项目分享-安卓绿色软件基地-小刀娱乐网 » 小红书爬虫,抖音爬虫, 快手爬虫, B站爬虫, 微博爬虫

发表回复

原创内容,转载请注明:EiTalk Tech博客-QQ活动_资源分享-源码基地-项目分享-安卓绿色软件基地-小刀娱乐网  [https://www.ei66.cn]  谢谢
本文链接地址: https://www.ei66.cn/1720/

提供最优质的资源集合

立即查看了解详情