小红书笔记 | 评论爬虫、抖音视频 | 评论爬虫、快手视频 | 评论爬虫、B 站视频｜评论爬虫、微博帖子｜评论爬虫

Go to file

Relakkes d392747fe7 fix: 移除orm的所有内容		2024-04-06 23:51:03 +08:00
base	feat: add abstract api client to all platform	2024-03-30 21:27:25 +08:00
config	refactor: IP代理池重构	2024-04-06 10:58:35 +08:00
docs	fix : 修复”常见问题.md“语法问题	2024-03-19 22:54:21 +08:00
libs	feat: 小红书笔记搜索，评论获取done	2023-06-12 20:37:24 +08:00
media_platform	chore: fix wrong log output when weibo crawler finished	2024-04-06 00:41:05 +08:00
proxy	docs: update README.md	2024-04-06 10:58:35 +08:00
schema	feat: add mysql table	2024-03-31 15:05:34 +08:00
static/images	style: rename image name	2024-04-06 12:23:55 +08:00
store	fix: 移除orm的所有内容	2024-04-06 23:51:03 +08:00
test	refactor: IP代理池重构	2024-04-06 10:58:35 +08:00
tools	feat: update user-agent list	2024-03-17 01:03:56 +08:00
.gitattributes	feat: 小红书笔记搜索，评论获取done	2023-06-12 20:37:24 +08:00
.gitignore	feat: 代理IP缓存到redis中	2023-12-06 23:49:56 +08:00
LICENSE	docs:更新许可证协议，不允许商用。	2024-04-03 12:34:34 +08:00
README.md	docs: update README.md	2024-04-06 10:58:35 +08:00
async_db.py	feat: db数据存储重构完成	2024-04-06 22:11:10 +08:00
db.py	feat: db数据存储重构完成	2024-04-06 22:11:10 +08:00
main.py	feat: 小红书支持通过博主ID采集笔记和评论，小红书type=search时支持配置按哪种排序方式获取笔记数据，小红书笔记增加视频地址和标签字段	2024-03-02 01:49:42 +08:00
mypy.ini	feat: 完善类型注释，增加 mypy 类型检测	2023-07-16 17:57:18 +08:00
recv_sms_notification.py	fix: issue #22	2023-07-30 20:43:02 +08:00
requirements.txt	chore: 移除tortise-orm依赖	2024-04-06 22:14:03 +08:00
var.py	feat: db数据存储重构完成	2024-04-06 22:11:10 +08:00

README.md

免责声明：

大家请以学习为目的使用本仓库，爬虫违法违规的案件：https://github.com/HiddenStrawberry/Crawler_Illegal_Cases_In_China

本仓库的所有内容仅供学习和参考之用，禁止用于商业用途。任何人或组织不得将本仓库的内容用于非法用途或侵犯他人合法权益。本仓库所涉及的爬虫技术仅用于学习和研究，不得用于对其他平台进行大规模爬虫或其他非法行为。对于因使用本仓库内容而引起的任何法律责任，本仓库不承担任何责任。使用本仓库的内容即表示您同意本免责声明的所有条款和条件。

点击查看更为详细的免责声明。点击跳转

仓库描述

小红书爬虫，抖音爬虫， 快手爬虫， B站爬虫， 微博爬虫...。
目前能抓取小红书、抖音、快手、B站、微博的视频、图片、评论、点赞、转发等信息。

原理：利用playwright搭桥，保留登录成功后的上下文浏览器环境，通过执行JS表达式获取一些加密参数通过使用此方式，免去了复现核心加密JS代码，逆向难度大大降低

我新开的爬虫教程Github仓库 CrawlerTutorial ，感兴趣的朋友可以关注一下，持续更新，主打一个免费.

MediaCrawler视频教程课程已录制完结，包含入门教程使用、源码剖析、如何参与开源项目并贡献代码、wechatpayv3 SDK开源仓库代码贡献、MediaCrawlerPro重构技术方案...
抖音学浪课程链接：https://v.douyin.com/iYeQFyAf/

感谢下列Sponsors对本仓库赞助

通过注册这个款免费的GPT助手，帮我获取GPT4额度作为支持。也是我每天在用的一款chrome AI助手插件

成为赞助者，展示你的产品在这里，联系作者：relakkes@gmail.com

功能列表

平台	Cookie 登录	二维码登录	手机号登录	关键词搜索	指定视频/帖子 ID 爬取	登录状态缓存	数据保存	IP 代理池	滑块验证码
小红书	✅	✅	✅	✅	✅	✅	✅	✅	✕
抖音	✅	✅	✅	✅	✅	✅	✅	✅	✅
快手	✅	✅	✕	✅	✅	✅	✅	✅	✕
B 站	✅	✅	✕	✅	✅	✅	✅	✅	✕
微博	✅	✅	✕	✅	✅	✅	✅	✅	✕

MediaCrawler爬虫项目交流群：

7天有效期，自动更新

使用方法

创建并激活 python 虚拟环境

# 进入项目根目录
cd MediaCrawler

# 创建虚拟环境
# 注意python 版本需要3.7 - 3.9 
python -m venv venv

# macos & linux 激活虚拟环境
source venv/bin/activate

# windows 激活虚拟环境
venv\Scripts\activate

安装依赖库

pip3 install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

# 从配置文件中读取关键词搜索相关的帖子并爬去帖子信息与评论
python main.py --platform xhs --lt qrcode --type search

# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息
python main.py --platform xhs --lt qrcode --type detail
  
# 打开对应APP扫二维码登录
  
# 其他平台爬虫使用示例, 执行下面的命令查看
python main.py --help

数据保存

支持保存到关系型数据库（Mysql、PgSQL等）
支持保存到csv中（data/目录下）
支持保存到json中（data/目录下）

打赏

免费开源不易，如果项目帮到你了，可以给我打赏哦，您的支持就是我最大的动力！

打赏-微信

打赏-支付宝

运行报错常见问题Q&A

遇到问题先自行搜索解决下，现在AI很火，用ChatGPT大多情况下能解决你的问题免费的ChatGPT

➡️➡️➡️ 常见问题

项目代码结构

➡️➡️➡️ 项目代码结构说明

手机号登录说明

➡️➡️➡️ 手机号登录说明

star 趋势图

如果该项目对你有帮助，star一下 ❤️❤️❤️

参考

xhs客户端 ReaJason的xhs仓库
短信转发参考仓库
内网穿透工具 ngrok

免责声明

1. 项目目的与性质

本项目（以下简称“本项目”）是作为一个技术研究与学习工具而创建的，旨在探索和学习网络数据采集技术。本项目专注于自媒体平台的数据爬取技术研究，旨在提供给学习者和研究者作为技术交流之用。

2. 法律合规性声明

本项目开发者（以下简称“开发者”）郑重提醒用户在下载、安装和使用本项目时，严格遵守中华人民共和国相关法律法规，包括但不限于《中华人民共和国网络安全法》、《中华人民共和国反间谍法》等所有适用的国家法律和政策。用户应自行承担一切因使用本项目而可能引起的法律责任。

3. 使用目的限制

本项目严禁用于任何非法目的或非学习、非研究的商业行为。本项目不得用于任何形式的非法侵入他人计算机系统，不得用于任何侵犯他人知识产权或其他合法权益的行为。用户应保证其使用本项目的目的纯属个人学习和技术研究，不得用于任何形式的非法活动。

4. 免责声明

开发者已尽最大努力确保本项目的正当性及安全性，但不对用户使用本项目可能引起的任何形式的直接或间接损失承担责任。包括但不限于由于使用本项目而导致的任何数据丢失、设备损坏、法律诉讼等。

5. 知识产权声明

本项目的知识产权归开发者所有。本项目受到著作权法和国际著作权条约以及其他知识产权法律和条约的保护。用户在遵守本声明及相关法律法规的前提下，可以下载和使用本项目。

6. 最终解释权

关于本项目的最终解释权归开发者所有。开发者保留随时更改或更新本免责声明的权利，恕不另行通知。

README.md Unescape Escape