qnloft
/
MediaCrawler
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
小红书笔记 | 评论爬虫、抖音视频 | 评论爬虫、快手视频 | 评论爬虫、B 站视频 ｜ 评论爬虫、微博帖子 ｜ 评论爬虫
156 Commits 2 Branches 0 Tags 21 MiB
Python 100%
Go to file
BaoZhuhan 4c20b02273 fix : 修复”常见问题.md“语法问题 2024-03-19 22:54:21 +08:00
base feat: 小红书支持通过博主ID采集笔记和评论，小红书type=search时支持配置按哪种排序方式获取笔记数据，小红书笔记增加视频地址和标签字段 2024-03-02 01:49:42 +08:00
config fix: 小红书创作者功能数据获取优化 2024-03-17 14:50:10 +08:00
docs fix : 修复”常见问题.md“语法问题 2024-03-19 22:54:21 +08:00
libs feat: 小红书笔记搜索，评论获取done 2023-06-12 20:37:24 +08:00
media_platform fix: 小红书创作者功能数据获取优化 2024-03-17 14:50:10 +08:00
proxy fix: 修复代理Bug 2024-01-13 15:50:02 +08:00
static/images doc: update README.md 2023-12-09 23:49:19 +08:00
store fix: 小红书创作者功能数据获取优化 2024-03-17 14:50:10 +08:00
test feat: 代理IP功能 Done 2023-12-08 00:10:04 +08:00
tools feat: update user-agent list 2024-03-17 01:03:56 +08:00
.gitattributes feat: 小红书笔记搜索，评论获取done 2023-06-12 20:37:24 +08:00
.gitignore feat: 代理IP缓存到redis中 2023-12-06 23:49:56 +08:00
LICENSE Initial commit 2023-06-09 20:14:34 +08:00
README.md docs: 增加赞助名单 2024-03-19 21:50:25 +08:00
db.py Revert "feat: add aerich for migrate db" 2024-03-02 23:05:34 +08:00
main.py feat: 小红书支持通过博主ID采集笔记和评论，小红书type=search时支持配置按哪种排序方式获取笔记数据，小红书笔记增加视频地址和标签字段 2024-03-02 01:49:42 +08:00
mypy.ini feat: 完善类型注释，增加 mypy 类型检测 2023-07-16 17:57:18 +08:00
recv_sms_notification.py fix: issue #22 2023-07-30 20:43:02 +08:00
requirements.txt refactor: 数据存储重构，分离不同类型的存储实现 2024-01-14 22:06:31 +08:00
var.py feat: 快手视频评论爬取done；数据保存到DB、CSV done 2023-11-26 21:43:39 +08:00

README.md

免责声明：

本仓库的所有内容仅供学习和参考之用，禁止用于商业用途。任何人或组织不得将本仓库的内容用于非法用途或侵犯他人合法权益。本仓库所涉及的爬虫技术仅用于学习和研究，不得用于对其他平台进行大规模爬虫或其他非法行为。对于因使用本仓库内容而引起的任何法律责任，本仓库不承担任何责任。使用本仓库的内容即表示您同意本免责声明的所有条款和条件。

仓库描述

小红书爬虫，抖音爬虫， 快手爬虫， B站爬虫， 微博爬虫...。
目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。

原理：利用playwright搭桥，保留登录成功后的上下文浏览器环境，通过执行JS表达式获取一些加密参数 通过使用此方式，免去了复现核心加密JS代码，逆向难度大大降低

爬虫技术交流群：949715256，同时欢迎大家贡献代码提交PR

视频配置教程：MediaCrawler视频入门教程

感谢下列Sponsors对本仓库赞助

全球ip代理超新星 IPCola, 全球ip代理超新星-官网图

你也可以通过注册这款免费的ChatGPT产品，帮我获取额外的GPT-4额度作为支持，也是我每天都在用的一款chrome效率插件，推荐给你，你也能获得免费额度。

整数智能《高级爬虫工程师》招聘

成为赞助者，展示你的产品在这里，联系作者：relakkes@gmail.com

功能列表

平台 Cookie 登录 二维码登录 指定创作者主页 关键词搜索 指定视频/帖子 ID 爬取 登录状态缓存 数据保存 IP 代理池 滑块验证码
小红书 ✅ ✅ ✅ ✅ ✅ ✅ ✅ ✅ ✕
抖音 ✅ ✅ ✕ ✅ ✅ ✅ ✅ ✅ ✅
快手 ✅ ✅ ✕ ✅ ✅ ✅ ✅ ✅ ✕
B 站 ✅ ✅ ✕ ✅ ✅ ✅ ✅ ✅ ✕
微博 ✅ ✅ ✕ ✅ ✅ ✅ ✅ ✅ ✕

使用方法

创建并激活 python 虚拟环境

# 进入项目根目录
cd MediaCrawler

# 创建虚拟环境
python -m venv venv

# macos & linux 激活虚拟环境
source venv/bin/activate

# windows 激活虚拟环境
venv\Scripts\activate

安装依赖库

pip3 install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

# 默认没有开启评论爬取模式，有需要请到配置文件中指定
# 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论
python main.py --platform xhs --lt qrcode --type search

# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息
python main.py --platform xhs --lt qrcode --type detail
  
# 打开对应APP扫二维码登录
  
# 其他平台爬虫使用示例, 执行下面的命令查看
python main.py --help

数据保存

  • 支持保存到关系型数据库（Mysql、PgSQL等）
  • 支持保存到csv中（data/目录下）
  • 支持保存到json中（data/目录下）

打赏

如果觉得项目不错的话可以打赏哦。您的支持就是我最大的动力！

打赏时您可以备注名称，我会将您添加至打赏列表中。

打赏-微信 打赏-支付宝

捐赠信息

PS：如果打赏时请备注捐赠者，如有遗漏请联系我添加（有时候消息多可能会漏掉，十分抱歉）

捐赠者 捐赠金额 捐赠日期
Nate Yang 20 元 2024-03-19
Tsen Ming 100 元 2024-03-18
*皓 50 元 2024-03-18
*刚 50 元 2024-03-18
*乐 20 元 2024-03-17
*木 20 元 2024-03-17
*诚 20 元 2024-03-17
Strem Gamer 20 元 2024-03-16
*鑫 20 元 2024-03-14
Yuzu 20 元 2024-03-07
**宁 100 元 2024-03-03
**媛 20 元 2024-03-03
Scarlett 20 元 2024-02-16
Asun 20 元 2024-01-30
何* 100 元 2024-01-21
allen 20 元 2024-01-10
llllll 20 元 2024-01-07
邝*元 20 元 2023-12-29
50chen 50 元 2023-12-22
xiongot 20 元 2023-12-17
atom.hu 20 元 2023-12-16
一呆 20 元 2023-12-01
坠落 50 元 2023-11-08

运行报错常见问题Q&A

遇到问题先自行搜索解决下，现在AI很火，用ChatGPT大多情况下能解决你的问题 免费的ChatGPT推荐

➡️➡️➡️ 常见问题

项目代码结构

➡️➡️➡️ 项目代码结构说明

手机号登录说明

➡️➡️➡️ 手机号登录说明

star 趋势图

  • 如果该项目对你有帮助，star一下 ❤️❤️❤️

Star History Chart

参考