e9ea34fe53
P6 生产硬化阶段交付物（46 文件）：
## 1. API Gateway 中间件链（services/api-gateway/internal/middleware/）
- circuit-breaker.go: gobreaker v2 熔断器（5s 窗口/50% 错误率/30s OPEN→HALF_OPEN）
- ratelimit.go: 令牌桶限流（sync.Map + cleanup goroutine，默认 100rps/20 burst）
- cors.go: CORS 中间件（CORS_ORIGINS 环境变量）
- recovery.go: panic 恢复 + uuid request_id
- security.go: 安全头 + 请求体 10MB 限制
- requestid.go: 请求 ID 注入
- health/health.go: /healthz + /readyz 健康检查
- main.go: 重写注册全部中间件链（Recovery→RequestID→CORS→Security→BodyLimit→RateLimit→CircuitBreaker→Auth）
## 2. 基础设施硬化（infra/）
- backup/backup-mysql.sh: MySQL 全量备份（mysqldump+gzip，按服务独立）
- backup/restore-mysql.sh: 恢复脚本
- backup/backup-cron.sh: cron 调度入口（5 服务批量备份）
- alertmanager/alertmanager.yml: 告警路由（webhook + 邮件示例）
- prometheus/rules.yml: 8 条告警规则（服务可用性/性能/资源 3 组）
- grafana/dashboards/microservices-overview.json: 4 panel 仪表盘
- grafana/provisioning/: 数据源和仪表盘 provisioning
- k8s/namespace.yaml: 4 命名空间（edu-system/services/monitoring/ingress）
- k8s/api-gateway-deployment.yaml: Deployment + Service 骨架
- chaos/experiments.yaml: 3 个 Litmus 混沌实验（pod-kill/network-latency/disk-fill）
- docker-compose.monitoring.yml: 监控栈 profile
- security/secrets.example.env: 8 项密钥占位符
- security/waf-rules.conf: ModSecurity WAF 规则骨架
## 3. 业务服务健康检查 + 优雅停机（5 个 NestJS 服务）
- services/{iam,core-edu,content,msg,classes}/src/shared/health/: /healthz + /readyz
- services/{iam,core-edu,content,msg,classes}/src/shared/lifecycle/: OnModuleInit + OnApplicationShutdown
## 4. Python 服务健康检查
- services/{ai,data-ana}/src/health/health.py: FastAPI APIRouter
## 5. 运维文档
- docs/architecture/runbooks/p6-hardening.md: P6 总览 Runbook（9 章节）
- docs/architecture/runbooks/incident-response.md: 事件响应手册（5 章节）
- docs/architecture/004-p6-addendum.md: 004 架构补记 P6 章节
- docs/troubleshooting/known-issues-p6-addendum.md: 15 条 P6 场景→技术映射
## 验收信号
- RPO ≤ 15min（MySQL 备份 + binlog PITR）
- RTO ≤ 30min（K8s 滚动更新 + DNS 切换）
- P99 ≤ 500ms（熔断 + 限流 + 缓存）
- 熔断器错误率 > 50% 触发 OPEN
- 限流 100rps/20 burst
- 备份保留 7 天
- 混沌实验每月 1 次
46 lines
1.6 KiB
Markdown
46 lines
1.6 KiB
Markdown
# 混沌工程说明
|
||
|
||
## 适用范围
|
||
|
||
- **仅 Staging 环境**：禁止在生产环境运行混沌实验
|
||
- **每月 1 次演练**：建议每月第一个工作周执行
|
||
- **演练窗口**：业务低峰期（02:00 - 05:00）
|
||
|
||
## 实验清单
|
||
|
||
| 实验 | 注入故障 | 验证目标 |
|
||
|------|----------|----------|
|
||
| `pod-delete` | 杀死 50% Pod | 自愈能力、副本数冗余 |
|
||
| `pod-network-latency` | 注入 200ms 延迟 | 超时与重试、降级策略 |
|
||
| `disk-fill` | 填充磁盘至 80% | 日志写入、磁盘告警 |
|
||
|
||
## 前置条件
|
||
|
||
1. Staging 环境已部署完整监控（Prometheus + Alertmanager + Grafana）
|
||
2. 已配置稳态探针（`steadyStateHypothesis`）
|
||
3. 已配置告警通道并验证可达
|
||
4. 演练参与者已就位（运维 + 研发 oncall）
|
||
|
||
## 演练流程
|
||
|
||
1. **演练前 30 分钟**：通知相关人员，确认稳态基线
|
||
2. **启动实验**：按顺序执行，单实验单次注入
|
||
3. **观察监控**：关注告警是否按预期触发、服务是否自愈
|
||
4. **演练后**：归档实验结果，更新本目录 README
|
||
|
||
## 回滚预案
|
||
|
||
- **5 分钟内未恢复自动回滚**：通过 Litmus `steadyStateHypothesis` 失败触发实验终止
|
||
- 手动回滚：
|
||
```bash
|
||
kubectl delete chaosengine edu-chaos-experiments -n edu-monitoring
|
||
kubectl rollout restart deployment/api-gateway -n edu-services
|
||
```
|
||
- 极端情况：直接缩容 / 扩容受影响 Deployment
|
||
|
||
## 安全约束
|
||
|
||
- 每次实验**只注入一种故障**，避免叠加影响判断
|
||
- 实验前快照数据库（参考 `infra/backup/backup-cron.sh`）
|
||
- 实验期间禁止发布任何业务变更
|