nanChen/ai-security-xdr
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
38 Commits 3 Branches 0 Tags
e393350c8b39d7a3e38d595a6de945233885342d
Commit Graph

38 Commits

This Branch
This Branch
All Branches
Author SHA1 Message Date
王绍宏 e393350c8b feat(syslog): 增加普通通道字段截断并完善慢写诊断 
- 新增普通通道字段上限配置，默认2048个UTF-8字节，截断尾部保留标记
- 规则计算后执行截断，告警不应用新增2KB限制，原有256KB策略不变
- 非标原文、头部及详细原因应用新增限制，大日志通道和InfluxDB策略不变
- Retry/Replay按原始Topic识别通道，启动日志输出生效上限
- 补充达梦实际写入内容大小、最大行及最大字段诊断
- 慢日志默认阈值统一调整为1000毫秒，异常和失败仍记录
- 更新v4配置说明及回归测试

验证：JDK 8构建成功，250项测试通过
升级：替换JAR并重启，无需数据库或Kafka脚本
 2026-09-13 08:00:08 +08:00
王绍宏 8173c2ff3f perf(syslog): 统计异步化并按采样保留率自适应调整业务批量 
- 入口统计改用独立 Kafka 消费组，移除主消费同步统计写库
- DIRECT 模式入库计数改为事务提交后异步投递，取消事实事务内统计 Outbox 写入
- 采样审计、告警分钟桶通知改为后台处理，异常不阻断主消费或回滚告警
- RAW 基础业务批量默认 500，按保留率动态扩大，上限 3000
- 限制业务块字节数及规则任务数量，保留告警全量处理和整次 poll 完成后提交
- 细化 SLOW_SYSLOG_BATCH，补充批次关联、线程排队、数据库执行及提交耗时
- 更新 v4 升级说明，明确异步统计损失风险及现场验证方法

验证：JDK 8 构建成功，232 项测试通过。
升级：复用现有表和 Kafka Topic，无新增建表或建 Topic 脚本要求。
 2026-09-13 06:11:12 +08:00
王绍宏 44d327139b feat(syslog-consumer-rule): 补充慢批次消息长度统计 
- 记录Kafka批次消费消息条数
- 记录批次日志正文总字节数
- 记录批次内单条日志最大字节数
- 优先使用Kafka序列化长度，避免重复编码带来的额外开销
 2026-09-13 04:04:47 +08:00
王绍宏 c392f7b47f feat(syslog-consumer-rule): 增加慢批次全链路耗时诊断 
- 批次端到端耗时达到500ms时输出SLOW_SYSLOG_BATCH日志
- 记录入口统计、规则计算、InfluxDB和达梦写入的分阶段耗时
- 使用MANUAL_IMMEDIATE模式准确统计Kafka offset同步提交耗时
- 记录Kafka提交状态、异常类型和端到端总耗时
- 在常规批次日志中补充ingressMs
- 增加Kafka监听器ACK模式回归测试
 2026-09-13 04:01:01 +08:00
王绍宏 d3bc083b88 perf(syslog-consumer-rule): 消除达梦批写动态SQL性能瓶颈 
- 使用原生JDBC PreparedStatement执行标准化事实批写
- 按批次字段并集只生成一次INSERT语句
- 移除批写主路径逐行执行MyBatis OGNL动态SQL的开销
- 从达梦表元数据缓存合法列名和NULL字段类型
- 保留告警优先、事务一致性及失败隔离逻辑
- 默认关闭统计变更捕获时跳过无效MyBatis BatchSession
- 增加SQL规划、参数绑定和批量执行耗时指标
- 补充JDBC批写、字段白名单及参数绑定测试
 2026-09-13 03:05:42 +08:00
王绍宏 87fee6fe69 feat(syslog): 增加积压采样免采样窗口 
- 新增 start-lag-ms 配置，默认15分钟内全量保留
- 在15分钟至1小时之间按10级逐步降低保留率
- 延迟达到1小时后使用普通10%、非标20%的最低保留率
- 校验起始延迟必须小于最低保留率阈值
- 状态接口新增 start_lag_ms 配置展示
- 将采样策略版本升级为 v2
- 更新 Docker Compose 和 v4 升级配置说明
- 补充采样时间边界及非法配置单元测试
 2026-09-12 23:43:56 +08:00
王绍宏 c868e3befd feat(syslog): 优化大日志通道并增加异常连续消费兜底 
- 128 KiB 及以上日志默认进入大日志 Topic
- InfluxDB 原文及达梦大字段超过 256 KiB 时截断保存
- 截断内容追加 HB_XDR_TRUNCATED 标记
- InfluxDB 写入失败时继续执行规则解析和达梦写入
- 未知或系统性异常优先写入普通/大日志 DLT
- DLT 写入失败时记录特殊告警并提交 offset，避免阻塞后续消息
- DLT 失败等待时间默认限制为 1 秒
- 增加连续性放行、DLT 成功及失败监控指标
- 更新 Docker Compose、v3 升级文档及相关测试
 2026-09-12 19:24:58 +08:00
王绍宏 0e9e6656db feat(syslog): 优化大日志通道并增加异常连续消费兜底 
- 128 KiB 及以上日志默认进入大日志 Topic
- InfluxDB 原文及达梦大字段超过 256 KiB 时截断保存
- 截断内容追加 HB_XDR_TRUNCATED 标记
- InfluxDB 写入失败时继续执行规则解析和达梦写入
- 未知或系统性异常优先写入普通/大日志 DLT
- DLT 写入失败时记录特殊告警并提交 offset，避免阻塞后续消息
- DLT 失败等待时间默认限制为 1 秒
- 增加连续性放行、DLT 成功及失败监控指标
- 更新 Docker Compose、v3 升级文档及相关测试
 2026-09-12 19:22:52 +08:00
王绍宏 3b6c9e4714 fix(syslog-consumer-rule): 修复现场日志解析并补充升级工具 
- 支持设备头字段值包含空格，避免 WAF 等名称被误拆为无效键值对
- 将空字符串 cropper offset 按未配置处理，兼容历史标准化规则
- 增加设备头解析和空 offset 回归测试
- 增加统计物化 Topic 创建脚本
- 增加容器内 JAR 热替换脚本及操作说明
 2026-09-12 11:40:57 +08:00
王绍宏 c1472b9a95 fix(syslog-consumer-rule): 解耦统计物化并解决多实例达梦死锁 
- 将设备、规则和采集任务业务统计改为专用 Kafka Topic 异步物化
- 使用维度 ID 作为 Kafka key，保证同一统计维度串行更新
- 物化过程读取小型统计表精确值，确保重复消费不会重复计数
- 增加提交后发布、失败重试及定时小表对账补偿
- 固定日统计聚合键写入顺序，完善达梦死锁识别和事务重试
- JSON 解析失败直接转为非标日志，避免进入 DLT 重试链路
- 非标日志使用独立异步队列，不再阻塞正常消息 Kafka ACK
- Kafka 升级脚本新增 STATS.MATERIALIZE Topic
- 增加统计物化状态指标、配置示例及单元测试
 2026-09-11 20:42:22 +08:00
王绍宏 2def445537 fix(haobang-security-rule)修改json错误处理方式 2026-09-11 18:24:32 +08:00
王绍宏 77580ea0bf fix: 禁用连接本地达梦数据库的单元测试 2026-09-11 16:35:33 +08:00
王绍宏 ce473b2c7d perf(syslog-consumer-rule): 非标日志改为单线程异步批量写入 
- 非标写库结果不再参与 Kafka ACK
- 使用独立单线程和有界队列处理非标日志
- 非标数据按固定大小分批写入达梦
- 增加异步成功、失败和队列拒绝指标
- 补充异步解耦及批量写入测试

perf(syslog-consumer-rule): 按批次字段并集优化达梦批量写入

- 普通日志和告警日志按非空字段并集生成批写模板
- 为同批记录补齐缺失字段并绑定 NULL
- 使用 MyBatis ExecutorType.BATCH 复用 PreparedStatement
- 避免固定写入全部 373 个候选字段
- 非标日志保留固定 24 列多行批量写入
- 批量大小和非标队列容量默认调整为 500
- 补充字段并集与动态 SQL 一致性测试
 2026-09-11 15:44:48 +08:00
liujl 61863c469b 改成8m 2026-09-11 03:30:34 +08:00
王绍宏 6b4cfac79d [fix] kafka消息最大调整为4M 2026-09-11 03:13:41 +08:00
王绍宏 0837dd116a feat(api-pull): 完善全悉设备接入并修复 NDR 边界重复采集 
- 增加全悉设备 API 日志拉取及消费处理
- 完善全悉日志解析、字段映射和标准化逻辑
- NDR 采集窗口统一采用左闭右开规则
- 对设备秒级查询范围向外取整，并在本地精确过滤
- 区分接口原始返回数和实际接收数，保证分页偏移正确推进
- 补充时间窗口、边界过滤和分页推进测试
- 更新设备 API 拉取及对接说明文档
 2026-09-07 18:11:17 +08:00
yangyun 957f7193a3 fix: 移除消费者Hikari环境覆盖 2026-09-07 01:55:19 +08:00
yangyun 533e2f3c45 fix: 避免Hikari schema重复绑定 2026-09-07 01:51:54 +08:00
yangyun 8924a71090 fix: 避免Hikari配置在启动后重复绑定 2026-09-07 01:51:03 +08:00
yangyun e293a0a98c fix: 避免默认Hikari配置重复绑定 2026-09-07 01:48:36 +08:00
yangyun ba2991cd7a fix: 避免Hikari连接池启动后重复绑定 2026-09-07 01:44:18 +08:00
yangyun d565ac7beb fix: 绕过DM分区表rule_version列异常 2026-09-07 01:23:33 +08:00
王绍宏 00c0a1fb7f feat: 新增设备 API 拉取采集及配套处理能力 
- 接入 NDRServer 告警和流量日志，支持凭据与任务管理
- 支持分页拉取、窗口拆分、调度优先级及 WAL 持久化后推进断点
- 增加迟到告警规则重放，优化多条泛化规则选择和事件时间处理
- 补充回归测试、数据库升级脚本及部署文档
 2026-09-06 16:46:21 +08:00
王绍宏 b61ec2e37c - 修复 Kafka Listener 并发配置包含尾部空格时触发 NumberFormatException 的问题 
- 移除 SysLogProcessor 注解中对并发配置的直接字符串解析
- 改由 Kafka 容器工厂统一处理并发度配置
- 统一两个 consumer 模块各环境的并发配置格式
- 清理 application.properties 中可能影响类型转换的行尾空格
- 更新 Kafka 监听器拓扑回归测试，防止问题再次引入
 2026-09-02 13:54:13 +08:00
王绍宏 f53661931f feat(upgrade): 增加 升级脚本和部署说明 
- 新增达梦数据库结构、幂等索引、统计基线及校验脚本
- 新增 Docker Kafka Retry、DLT、Replay Topic 升级脚本
- 更新生产 Compose，启用 DIRECT 并关闭旧增量捕获和投影
- 补充数据库、Kafka、应用启动及验证说明
- 增加日志和本地生成文件忽略规则
 2026-08-24 15:09:36 +08:00
王绍宏 29445c6825 feat(syslog): 完成高吞吐可靠链路与统计存储优化 
- 新增接入 WAL、检查点、背压恢复及可靠分发机制，完善 Kafka 幂等发布、分区、重试、DLT 和补偿流程
- 引入规则预编译、批内快照及 JetCache/Caffeine 两级缓存，支持缓存失效广播、影子对账和执行指标
- 升级 InfluxDB V2 原始日志模型，统一接收时间与 Point 时间，支持按日 measurement、UUID 分桶及 V1/V2 双读
- 重构达梦标准化批量写入与统计链路，支持事务内直写、增量投影、幂等控制、窗口水位和日期切换
- 完善告警处理、配置校验、运行监控及测试覆盖
 2026-08-20 00:18:33 +08:00
nanChen a3852fc0f9 1、getStringArray 函数报错 
2、调整配置文件spring.datasource.hikari.leak-detection-threshold=300000 ，连接池泄露问题
3、修改关联分析规则批量插入记录的参数超过65535的限制，改用每批次1000条。
 2026-07-29 16:05:17 +08:00
nanChen 16b73dffee 1、适配部署环境变量自动注入 
2、适配南网达梦数据库安全版SQL语句Group by 不支持自定义函数
3、达梦数据库驱动改为达梦提供的指定版本
4、修改syslog-consumer模块yaml 文件kafka 变量名称
5、修改访问日志告警表新增4个字段，完善异常行为详情页面显示字段
 2026-07-22 18:50:44 +08:00
nanChen 5fe0e124bb 删除syslog-consumer 模块 target 编译生成目录 2026-05-28 15:16:41 +08:00
nanChen c80079ccf6 删除syslog-consumer-rule 模块的 target 编译生成目录 2026-05-28 15:14:41 +08:00
nanChen a168f74653 1、数据库PG切换为达梦的修改版本。 2026-05-28 14:58:00 +08:00
nanChen a360895292 1、新增功能探针联动处置、心跳在线检测 
2、syslog-consumer模块拆分 syslog-consumer-rule模块实现日志数据消费、解析、泛化入库。
 2026-05-28 14:30:06 +08:00
nanChen 19c563b3f3 1、新增降噪日志数据健康监测告警 
2、IP联动封禁功能完善
 2026-05-06 17:54:59 +08:00
nanChen 5e73c1c8f6 1、完善kafka 接收消息进行sm4 解密 
2、新增IP联动封禁相关的API接口，供探针模块进行调用。
 2026-05-06 17:30:21 +08:00
nanChen 206985a65e 1、完善推送kafka 的消息进行SM4加密 
2、新增探针侧进行IP联动封禁的功能
 2026-05-06 17:28:16 +08:00
nanChen c0063a5a44 关联分析规则-数据降噪 2026-03-18 18:00:25 +08:00
nanChen cf6b89ea94 1、修改算子运算结果后入库BUG 
2、根据设备ID获取设备IP、设备厂商、设备名称 信息补全标准化表
3、完善告警表字段内容：syslog_normal_alarm: http_url ->alarm: victim_web_url
 2026-01-26 15:20:46 +08:00
nanChen 6603c6f4a1 初次提交代码 2026-01-11 15:33:22 +08:00