qnloft
/
MediaCrawler
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
小红书笔记 | 评论爬虫、抖音视频 | 评论爬虫、快手视频 | 评论爬虫、B 站视频 ｜ 评论爬虫、微博帖子 ｜ 评论爬虫
407 Commits 2 Branches 0 Tags 21 MiB
Python 100%
Go to file
lyx0727 705b810269 fix: xhs验证码处理，跳转链接修复 2024-11-01 22:08:46 +08:00
.github/workflows docs: 在线文档support & 知识付费栏目汇聚 2024-09-19 16:54:19 +08:00
base chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
cache chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
cmd_arg chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
config chore: config update & xinqqiu img update 2024-10-24 15:35:34 +08:00
constant chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
docs chore: config update & xinqqiu img update 2024-10-24 15:35:34 +08:00
libs feat: update douyin abogus params 2024-09-27 14:58:10 +08:00
media_platform fix: xhs验证码处理，跳转链接修复 2024-11-01 22:08:46 +08:00
model fix: xhs帖子详情问题更新 2024-10-20 00:59:08 +08:00
proxy chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
schema feat: 知乎支持创作者主页数据爬取(回答、文章、视频) 2024-10-16 21:02:27 +08:00
store chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
test chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
tools fix: xhs帖子详情问题更新 2024-10-20 00:59:08 +08:00
.gitattributes feat: 小红书笔记搜索，评论获取done 2023-06-12 20:37:24 +08:00
.gitignore docs: 在线文档support & 知识付费栏目汇聚 2024-09-19 16:54:19 +08:00
LICENSE Update LICENSE 2024-10-18 03:27:00 +08:00
README.md docs: update README.md 2024-10-24 18:18:53 +08:00
async_db.py chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
db.py chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
main.py chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
mypy.ini feat: 完善类型注释，增加 mypy 类型检测 2023-07-16 17:57:18 +08:00
package-lock.json docs: 在线文档support & 知识付费栏目汇聚 2024-09-19 16:54:19 +08:00
package.json docs: 在线文档support & 知识付费栏目汇聚 2024-09-19 16:54:19 +08:00
recv_sms.py chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00
requirements.txt fix: lost pyexecjs dependecy in requirements.txt 2024-09-08 19:23:11 +08:00
var.py chore: 增加代码学习声明，严格禁止非法、禁止商业、不当用途 2024-10-20 00:43:25 +08:00

README.md

免责声明：

大家请以学习为目的使用本仓库⚠️⚠️⚠️⚠️，爬虫违法违规的案件

本仓库的所有内容仅供学习和参考之用，禁止用于商业用途。任何人或组织不得将本仓库的内容用于非法用途或侵犯他人合法权益。本仓库所涉及的爬虫技术仅用于学习和研究，不得用于对其他平台进行大规模爬虫或其他非法行为。对于因使用本仓库内容而引起的任何法律责任，本仓库不承担任何责任。使用本仓库的内容即表示您同意本免责声明的所有条款和条件。

点击查看更为详细的免责声明。点击跳转

仓库描述

小红书爬虫，抖音爬虫， 快手爬虫， B站爬虫， 微博爬虫，百度贴吧爬虫，知乎爬虫...。
目前能抓取小红书、抖音、快手、B站、微博、贴吧、知乎等平台的公开信息。

原理：利用playwright搭桥，保留登录成功后的上下文浏览器环境，通过执行JS表达式获取一些加密参数 通过使用此方式，免去了复现核心加密JS代码，逆向难度大大降低

MediaCrawler仓库白金赞助商: ⚡️【IPCola全球独家海外IP代理】⚡️新鲜的原生住宅代理，超高性价比，超多稀缺国家

功能列表

平台 关键词搜索 指定帖子ID爬取 二级评论 指定创作者主页 登录态缓存 IP代理池 生成评论词云图
小红书 ✅ ✅ ✅ ✅ ✅ ✅ ✅
抖音 ✅ ✅ ✅ ✅ ✅ ✅ ✅
快手 ✅ ✅ ✅ ✅ ✅ ✅ ✅
B 站 ✅ ✅ ✅ ✅ ✅ ✅ ✅
微博 ✅ ✅ ✅ ✅ ✅ ✅ ✅
贴吧 ✅ ✅ ✅ ✅ ✅ ✅ ✅
知乎 ✅ ❌ ✅ ✅ ✅ ✅ ✅

插播一下：MediaCrawlerPro重磅发布啦！！！

主打学习成熟项目的架构设计，不仅仅是爬虫，Pro中的其他代码设计思路也是值得学习，欢迎大家关注！！！

MediaCrawlerPro 版本已经重构出来了，相较于开源版本的优势：

  • 多账号+IP代理支持（重点！）
  • 去除Playwright依赖，使用更加简单
  • 支持linux部署（Docker docker-compose）
  • 代码重构优化，更加易读易维护（解耦JS签名逻辑）
  • 代码质量更高，对于构建更大型的爬虫项目更加友好
  • 完美的架构设计，更加易扩展，源码学习的价值更大

安装部署方法

开源不易，希望大家可以Star一下MediaCrawler仓库！！！！十分感谢！！！

创建并激活 python 虚拟环境

如果是爬取抖音和知乎，需要提前安装nodejs环境，版本大于等于：16即可 

# 进入项目根目录
cd MediaCrawler

# 创建虚拟环境
# 我的python版本是：3.9.6，requirements.txt中的库是基于这个版本的，如果是其他python版本，可能requirements.txt中的库不兼容，自行解决一下。
python -m venv venv

# macos & linux 激活虚拟环境
source venv/bin/activate

# windows 激活虚拟环境
venv\Scripts\activate

安装依赖库

pip install -r requirements.txt

安装 playwright浏览器驱动

playwright install

运行爬虫程序

### 项目默认是没有开启评论爬取模式，如需评论请在config/base_config.py中的 ENABLE_GET_COMMENTS 变量修改
### 一些其他支持项，也可以在config/base_config.py查看功能，写的有中文注释

# 从配置文件中读取关键词搜索相关的帖子并爬取帖子信息与评论
python main.py --platform xhs --lt qrcode --type search

# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息
python main.py --platform xhs --lt qrcode --type detail
  
# 打开对应APP扫二维码登录
  
# 其他平台爬虫使用示例，执行下面的命令查看
python main.py --help

数据保存

  • 支持关系型数据库Mysql中保存（需要提前创建数据库）
    • 执行 python db.py 初始化数据库数据库表结构（只在首次执行）
  • 支持保存到csv中（data/目录下）
  • 支持保存到json中（data/目录下）

其他常见问题可以查看在线文档

在线文档包含使用方法、常见问题、加入项目交流群等。 MediaCrawler在线文档

开发者服务

如果你对知识付费认可，可以看下下面我提供的付费服务，如果你是学生，请一定提前告知，会有优惠💰

感谢下列Sponsors对本仓库赞助

【IPCola全球独家海外IP代理】使用此处阿江专属推荐码注册：atxtupzfjhpbdbl ，获得10%金额补贴。

成为赞助者，可以将您产品展示在这里，每天获得大量曝光，联系作者微信：yzglan 或 email：relakkes@gmail.com

MediaCrawler项目微信交流群

加入微信交流群

打赏

如果觉得项目不错的话可以打赏哦。您的支持就是我最大的动力！

打赏时您可以备注名称，我会将您添加至打赏列表中。

打赏-微信 打赏-支付宝

查看打赏列表 MediaCrawler捐赠名单

爬虫入门课程

我新开的爬虫教程Github仓库 CrawlerTutorial ，感兴趣的朋友可以关注一下，持续更新，主打一个免费.

star 趋势图

  • 如果该项目对你有帮助，帮忙 star一下 ❤️❤️❤️，让更多的人看到MediaCrawler这个项目

Star History Chart

参考

免责声明

1. 项目目的与性质

本项目（以下简称“本项目”）是作为一个技术研究与学习工具而创建的，旨在探索和学习网络数据采集技术。本项目专注于自媒体平台的数据爬取技术研究，旨在提供给学习者和研究者作为技术交流之用。

2. 法律合规性声明

本项目开发者（以下简称“开发者”）郑重提醒用户在下载、安装和使用本项目时，严格遵守中华人民共和国相关法律法规，包括但不限于《中华人民共和国网络安全法》、《中华人民共和国反间谍法》等所有适用的国家法律和政策。用户应自行承担一切因使用本项目而可能引起的法律责任。

3. 使用目的限制

本项目严禁用于任何非法目的或非学习、非研究的商业行为。本项目不得用于任何形式的非法侵入他人计算机系统，不得用于任何侵犯他人知识产权或其他合法权益的行为。用户应保证其使用本项目的目的纯属个人学习和技术研究，不得用于任何形式的非法活动。

4. 免责声明

开发者已尽最大努力确保本项目的正当性及安全性，但不对用户使用本项目可能引起的任何形式的直接或间接损失承担责任。包括但不限于由于使用本项目而导致的任何数据丢失、设备损坏、法律诉讼等。

5. 知识产权声明

本项目的知识产权归开发者所有。本项目受到著作权法和国际著作权条约以及其他知识产权法律和条约的保护。用户在遵守本声明及相关法律法规的前提下，可以下载和使用本项目。

6. 最终解释权

关于本项目的最终解释权归开发者所有。开发者保留随时更改或更新本免责声明的权利，恕不另行通知。

感谢JetBrains提供的免费开源许可证支持

JetBrains