Scrapycw

Latest version: v0.4.4

Safety actively analyzes 619516 Python packages for vulnerabilities to keep your Python projects secure.

Scan your dependencies

Page 1 of 2

0.4.4

FIXED

- 修复关闭服务长时间未响应问题

0.4.3

UPDATED

- 更新 setup.py

0.4.1

FIXED

- 修改版本号

0.4.0

UPDATED

- 修改:修改代码结构,添加 service 层
- 修改:优化文档结构
- 修改:优化进程关闭方式,添加 Windows 支持
- 修改:优化服务进程后台进程,添加 Windows 支持
- 修改:`不兼容历史版本`, 重新设计数据表,需要删除数据库重新初始化数据库

ADDED

- 添加:爬虫列表查询添加查询全部爬虫
- 添加:命令行输出格式化参数
- 添加:添加日志解析,对爬虫运行情况进行监听,爬虫运行完成后进行日志解析,将解析结果保存到数据库。
- 添加:爬虫运行支持 Windows
- 添加:获取任务列表
- 添加:获取项目列表
- 添加:获取爬虫列表
- 添加:获取任务详细信息

0.3.0

UPDATED

- 修改:爬虫启动核心代码由原本 CrawlHelper 类的 get_json 方法修改为 SpiderHelper 的 crawl 方法
- 修改:爬虫列表查询核心代码由原本 SpiderListHelper 类的 get_json 方法修改为 SpiderHelper 的 list 方法
- 修改:修改查询爬虫列表响应结果格式,去除 spiders 中的 name 字段
- 修改:项目列表核心代码由原本 ProjectListHelper 类的 get_json 方法修改为 ProjectHelper 的 list 方法
- 修改:修改查询项目列表响应结果格式,去除 projects 中的 name 字段

ADDED

- 添加:使用命令行关闭爬虫
- 添加:使用web api关闭爬虫
- 添加:对scrapy Telnet接口设置连接超时时间配置
- 添加:暂停爬虫
- 添加:恢复爬虫
- 添加:pypi发布版本,可以使用pip安装环境
- 添加:可以配置 INIT_EACH_RUN 参数开启每次运行命令的时候都会初始化环境(尝试创建数据库、尝试创建运行目录)
- 添加:版本查询命令

0.1.1

FIXED

- 爬虫日志被关闭,现在启用

ADDED

- 可以使用api接口启动爬虫

Page 1 of 2

© 2024 Safety CLI Cybersecurity Inc. All Rights Reserved.