scrapydweb
ScrapydWeb 是一个用于管理 Scrapyd 集群 的 Web 应用,支持 Scrapy 日志分析与可视化。
- 集群管理:支持所有 Scrapyd JSON API,可分组、过滤节点,并通过点击操作批量执行命令。
- 日志分析:提供统计图表、进度可视化、日志分类等功能。
- 增强特性:自动打包、集成日志分析工具 LogParser、定时任务、监控告警、移动端适配、基础认证等。
- 安装:通过
pip install scrapydweb安装。 - 启动:运行
scrapydweb命令(首次启动会生成配置文件)。 - 访问:浏览器打开
http://127.0.0.1:5000(推荐使用 Chrome)。 - 前提条件:需先在所有主机上安装并启动 Scrapyd,配置
bind_address = 0.0.0.0以允许远程访问。
- 前端:Element、ECharts
- 后端:Flask
- 提供 Heroku 部署示例及测试方法。
- 支持通过 GitHub 参与贡献。