61 lines
2.3 KiB
Markdown
61 lines
2.3 KiB
Markdown
|
# MediaCrawler使用方法
|
|||
|
|
## 免责声明
|
|||
|
|
> **免责声明：**
|
|||
|
|
>
|
|||
|
|
> 大家请以学习为目的使用本仓库，爬虫违法违规的案件：https://github.com/HiddenStrawberry/Crawler_Illegal_Cases_In_China <br>
|
|||
|
|
>
|
|||
|
|
>本项目的所有内容仅供学习和参考之用，禁止用于商业用途。任何人或组织不得将本仓库的内容用于非法用途或侵犯他人合法权益。本仓库所涉及的爬虫技术仅用于学习和研究，不得用于对其他平台进行大规模爬虫或其他非法行为。对于因使用本仓库内容而引起的任何法律责任，本仓库不承担任何责任。使用本仓库的内容即表示您同意本免责声明的所有条款和条件。
|
|||
|
|
|
|||
|
|
|
|||
|
|
## 创建并激活 python 虚拟环境
|
|||
|
|
```shell
|
|||
|
|
# 进入项目根目录
|
|||
|
|
cd MediaCrawler
|
|||
|
|
|
|||
|
|
# 创建虚拟环境
|
|||
|
|
# 我的python版本是：3.9.6，requirements.txt中的库是基于这个版本的，如果是其他python版本，可能requirements.txt中的库不兼容，自行解决一下。
|
|||
|
|
python -m venv venv
|
|||
|
|
|
|||
|
|
# macos & linux 激活虚拟环境
|
|||
|
|
source venv/bin/activate
|
|||
|
|
|
|||
|
|
# windows 激活虚拟环境
|
|||
|
|
venv\Scripts\activate
|
|||
|
|
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 安装依赖库
|
|||
|
|
|
|||
|
|
```shell
|
|||
|
|
pip install -r requirements.txt
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 安装 playwright浏览器驱动
|
|||
|
|
|
|||
|
|
```shell
|
|||
|
|
playwright install
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 运行爬虫程序
|
|||
|
|
|
|||
|
|
```shell
|
|||
|
|
### 项目默认是没有开启评论爬取模式，如需评论请在config/base_config.py中的 ENABLE_GET_COMMENTS 变量修改
|
|||
|
|
### 一些其他支持项，也可以在config/base_config.py查看功能，写的有中文注释
|
|||
|
|
|
|||
|
|
# 从配置文件中读取关键词搜索相关的帖子并爬取帖子信息与评论
|
|||
|
|
python main.py --platform xhs --lt qrcode --type search
|
|||
|
|
|
|||
|
|
# 从配置文件中读取指定的帖子ID列表获取指定帖子的信息与评论信息
|
|||
|
|
python main.py --platform xhs --lt qrcode --type detail
|
|||
|
|
|
|||
|
|
# 打开对应APP扫二维码登录
|
|||
|
|
|
|||
|
|
# 其他平台爬虫使用示例，执行下面的命令查看
|
|||
|
|
python main.py --help
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 数据保存
|
|||
|
|
- 支持关系型数据库Mysql中保存（需要提前创建数据库）
|
|||
|
|
- 执行 `python db.py` 初始化数据库数据库表结构（只在首次执行）
|
|||
|
|
- 支持保存到csv中（data/目录下）
|
|||
|
|
- 支持保存到json中（data/目录下）
|