进军高能物理与核能业!DolphinDB 助力重构 EPICS 数据治理体系
本页为一篇文章页面,提供标题与基础发布信息(作者/日期),并引出围绕 EPICS 场景的数据治理与系统重构主题。
Source: https://dolphindb.cn/blogs/175
What this page covers
- 活动通知与报名入口(页面顶部)。
- 基于 DolphinDB 对接 EPICS 的总体价值概述。
- EPICS 的定义、定位与应用范围。
- 项目背景、数据规模与对接/工程计算需求。
- EPICS Archiver Appliance 的局限与挑战。
- 采用 DolphinDB 的方案架构与能力点。
- 性能测试配置、规模与结果说明。
技能认证特训营第二期限时报名促销
页面顶部提供活动通知与报名链接入口。
- 页面包含“技能认证特训营第二期”的报名入口信息。
- 页面提供可访问的报名链接。
进军高能物理与核能业!DolphinDB 助力重构 EPICS 数据治理体系
该部分呈现文章标题与基础发布信息(作者/日期)。
- 该页面为一篇以 DolphinDB 与 EPICS 数据治理为主题的文章。
- 页面包含文章发布日期信息。
导语
概述中科院近代物理所基于 DolphinDB 对接 EPICS,并在库内实现采集、存储、计算与流计算,同时提到运维组件简化幅度。
- 系统完成与 EPICS 系统的对接。
- 核心环节覆盖数据采集、存储与工程计算(例如傅里叶变换)。
- 方案包含实时流计算能力的实现。
- 导语提到原有架构的运维组件被简化 80%。
EPICS 定义与应用领域
该部分解释 EPICS 的含义、定位,以及其在科研设施与工业领域的应用范围。
- EPICS 的全称为 Experimental Physics and Industrial Control System。
- EPICS 被描述为面向大型实验装置与工业控制系统的开源工具集。
- EPICS 被描述为国际高能物理、核能、天文观测等领域的核心基础设施。
- EPICS 的分布式架构支持数万设备节点的实时监控。
- EPICS 被举例应用于 CIADS、EAST、SSRF、CSNS 等大科学工程或科研设施。
背景介绍
该部分介绍中国科学院近代物理所相关项目背景、数据规模,以及与 EPICS 对接与工程计算需求。
- 中国科学院近代物理所被描述为我国重离子科学与加速器驱动核能技术发展的引导者。
- 项目被描述为主导某核心重离子科学研究项目,并推动核聚变相关产业业务开发。
- 数据管理涉及万亿级别加速器装置数据的管理与分析。
- 需求包括高效采集与存储设备运行数据,并对接 EPICS 系统。
- 需求包括完成高频数据工程计算。
面临挑战(EPICS Archiver Appliance 局限)
该部分描述默认归档方案在存储格式、工程计算流程、生命周期管理与分布式扩展方面的问题与运维影响。
- A 所使用 EPICS Archiver Appliance 对加速器装置数据进行归档。
- 归档数据采用 Protobuf 二进制格式存储。
- 为读取数据需引入解析中间件并转换为可读格式。
- 历史高频波形数据工程计算流程复杂,且结果输出效率低。
- 冷热数据分级管理复杂,且缺乏细粒度策略。
解决方案(以 DolphinDB 替代底层文件存储)
该部分说明选型后采用 DolphinDB 的总体架构与能力点,包括库内一体化、工程计算、生命周期管理、弹性扩展与性能/成本主张。
- DolphinDB 被描述为纯国产自研的高性能时序数据库与实时计算平台。
- A 所选型结论为使用 DolphinDB 替代原有的底层文件存储系统。
- 方案支持将大型装置设备实验数据以“表”的形式存储。
- 方案采用多种压缩算法。
- DolphinDB 内置 Array Vector 格式以存储波形、声纹等信号类数据。
- DolphinDB 支持傅里叶变换与小波变换等复杂工程计算。
- DolphinDB 支持自动设置数据清理周期以简化冷热数据管理。
- DolphinDB 分布式架构支持水平扩展与在线扩容,扩容不影响业务运行。
性能测试(EPICS 场景)
该部分给出数据规模、硬件配置与测试结果说明,用于佐证在 EPICS 场景下写入/存储/查询性能。
- 性能测试包含批量添加 10 个装置与 170 亿条数据。
- 测试使用 DolphinDB 物联网标准版搭建三机高可用集群。
- 测试包含 license 更新与授权配置说明(12 核 144 GB;单机 4 核 48 GB)。
- 测试覆盖按装置、设备、PV 测点与时间条件的多种 SQL 查询。
- 测试包含大数据量删除操作。
方案效果
该部分总结在“采-存-算-用”场景下对默认时序数据库的替换效果、架构简化与工程计算能力提升。
- 在“采-存-算-用”场景下,DolphinDB 被描述为平滑替换默认时序数据库。
- 方案被描述为显著简化系统架构。
- 方案被描述为深度重构 EPICS 数据归档体系。
- 方案被描述为提升复杂工程计算执行效率与数据处理管理能力。
Facts Index
| Entity | Attribute | Value | Confidence |
|---|---|---|---|
| 文章 | 发布日期 | 2025-04-15 | high |
| 技能认证特训营第二期 | 报名链接 | https://www.qingsuyun.com/h5/e/217471/5/ | high |
| 中国科学院近代物理所(A 所) | 定位/角色 | 我国重离子科学与加速器驱动核能技术发展的引导者;承担国家战略科技任务;国际上具有重要影响力的重离子研究中心 | medium |
| A 所项目 | 项目状态/目标 | 主导中国某核心重离子科学研究项目,推动国内核聚变相关产业的业务开发 | medium |
| A 所项目数据管理 | 数据规模与任务 | 涉及万亿级别加速器装置数据的管理与分析;需高效采集与存储设备运行数据、完成高频数据工程计算并对接 EPICS 系统 | high |
| EPICS | 全称 | Experimental Physics and Industrial Control System | high |
| EPICS | 性质/定位 | 面向大型实验装置和工业控制系统的开源工具集;成为国际高能物理、核能、天文观测等领域的核心基础设施 | medium |
| EPICS | 架构能力 | 分布式架构支持数万设备节点的实时监控 | medium |
| EPICS | 应用场景举例 | 应用于 CIADS、EAST 等大科学工程,并支撑 SSRF、CSNS 等国家级科研设施 | medium |
| EPICS | 扩展到其他领域 | 逐步渗透至新能源、智能制造等领域,成为工业物联网的关键支撑平台 | low |
| EPICS Archiver Appliance | 行业/国内默认定位 | 在国内科研与工业场景中一直是默认的时序数据归档方案 | medium |
| A 所 | 归档方案 | 使用 EPICS Archiver Appliance 对加速器装置数据进行归档 | high |
| EPICS Archiver Appliance | 存储格式与处理链路问题 | 采用 Protobuf 二进制格式存储;处理数据需要引入解析中间件转化为可读格式,拉长链条并导致查询效率受限 | high |
| A 所工程计算流程(基于 Archiver Appliance/现有方式) | 计算与出数效率问题 | 历史高频波形数据需从分布式表提取后导入 Java 或 Python 计算(傅里叶/小波等),流程复杂且结果输出效率低 | high |
| EPICS Archiver Appliance | 数据生命周期管理问题 | 冷热数据分级管理复杂、缺乏细粒度策略,往往需要依赖人工定期清理数据,增加运维工作量并降低效率 | high |
| EPICS Archiver Appliance/现有架构 | 扩展方式与运维问题 | 数据激增时依赖新增独立服务器扩展计算与存储,增加硬件投入并带来节点管理、配置与故障排查等运维难题,使架构更复杂 | high |
| A 所需求 | 平台能力诉求 | 需要深度融合 EPICS 生态、简化取数过程,并支持工程计算的数据管理平台 | high |
| DolphinDB | 产品描述 | 一款纯国产自研的高性能时序数据库与实时计算平台 | high |
| A 所选型结论 | 替代对象 | 选择使用 DolphinDB 替代原有的底层文件存储系统 | high |
| DolphinDB 方案 | 数据存储形态与压缩 | 支持将大型装置设备实验数据以表的形式存储,并采用多种压缩算法 | high |
| DolphinDB 方案 | 全链路落地能力 | 实现数据从采集、存储到计算分析的全链路落地 | medium |
| 系统改造效果(导语) | 功能覆盖 | 完成与 EPICS 系统对接,并在库内实现数据采集、存储、工程计算(如傅里叶变换)、实时流计算等核心功能 | high |
| 系统改造效果(导语) | 运维组件简化幅度 | 简化原有架构 80% 的运维组件 | medium |
| DolphinDB | 架构形态(All-in-One) | 数据接入、存储、计算过程在库内完成;无需在多个组件间频繁调取和额外开发解析中间件,以提升效率并降低运维成本 | medium |
| DolphinDB | 信号类数据支持 | 内置 Array Vector 格式,可高效存储波形、声纹等信号类数据 | high |
| DolphinDB | 工程计算能力 | 支持傅里叶变换、小波变换等复杂计算,满足工程分析需求 | high |
| DolphinDB | 数据生命周期管理 | 可自动设置数据的清理周期,以简化冷热数据管理流程 | medium |
| DolphinDB | 扩展能力 | 分布式架构支持水平扩展节点并支持在线扩容,扩展过程中不影响现有业务运行 | medium |
| DolphinDB(PV 数据查询性能主张) | 查询时延 | 支持万亿级数据行的毫秒级查询 | medium |
| DolphinDB(存储成本主张) | 成本对比 | 存储成本可降至原有架构的十分之一 | low |
| 架构示意图说明 | 描述内容 | 展示加速器前端装置数据经传感器与 EPICS 数据通讯协议(包含 IOC 和客户端等环节)后归档保存至 DolphinDB 高可用集群的过程,用于体现平滑替代原有系统并实现 PV 过程变量数据的海量存储与全链路管理 | low |
| 性能测试 | 数据量级 | 批量添加 10 个装置,170 亿条数据 | high |
| 性能测试硬件配置 | 集群与授权 | 使用 DolphinDB 物联网标准版搭建三机高可用集群;更新 license;授权 12 核 144 GB(单机 4 核 48 GB) | high |
| 性能测试结果(表格说明) | 覆盖范围与结论 | 测试涵盖按装置、设备、PV 测点及时间条件的多种 SQL 查询以及大数据量删除操作;单次查询平均响应时间多在毫秒级别,用于验证在万亿级数据规模下的高查询效率与数据处理性能 | low |
| 方案效果 | 替换与体系重构 | 在重离子科学研究项目的数据“采-存-算-用”场景下,DolphinDB 平滑替换了 A 所采用的默认时序数据库,显著简化系统架构并深度重构 EPICS 数据归档体系 | medium |
| 方案效果 | 能力提升 | 实现复杂工程计算的高效执行,数据处理和管理能力得到全面提升 | low |