10-100倍性能飞跃！DolphinDB Shark GPU 加速技术深度解析

What this page covers

• 技能认证特训营第二期报名入口与链接信息。
• 文章标题、作者/日期与 Shark 概述。
• 系列直播背景、主讲人信息与主题引入。
• GPU 并行优势与 Shark 的目标背景。
• Shark 的定义与优势维度。
• 三引擎架构：绿色、红色、蓝色模块。
• Demo：雪球期权定价与遗传规划示例。

技能认证特训营第二期报名入口

页面顶部提供限时报名相关信息，并给出报名链接。

• 本页包含“技能认证特训营第二期”的报名入口信息。
• 本页提供一个可访问的报名链接。

10-100倍性能飞跃！DolphinDB Shark GPU 加速技术深度解析

该部分给出文章标题、作者与发布日期，并概述 Shark 的 GPU 加速与三引擎架构。

• 页面包含作者署名与发布日期信息。
• Shark 被描述为 CPU-GPU 异构计算平台。
• 页面引入 Shark 的三引擎架构概念。

直播背景与主题引入

该部分介绍“DolphinDB 核心技术解密”系列直播、主讲人信息，并引出本期聚焦 Shark GPU 加速技术内核。

• 页面提到“DolphinDB 核心技术解密”系列直播。
• 页面给出直播主讲人的身份与姓名。
• 本期主题聚焦 Shark 的 GPU 加速技术内核。

AI 时代，GPU 的逆袭

该部分解释 GPU 相对 CPU 的并行优势与 GPU 加速兴起原因，并引出 Shark 的诞生与目标。

• GPU 加速被描述为利用 GPU 并行处理海量简单运算。
• 页面提到 GPU（GeForce 256）被提及的起源时间为 1999 年。
• 页面举例提到 GPU（H100）显存带宽可达 3TB/s。
• 页面描述 GPU 在特定任务上每瓦特性能是 CPU 的 10-20 倍。
• Shark 的目标是尽量不改或少改现有 CPU 代码以获得 GPU 加速。

Shark 是什么？

该部分将 Shark 描述为脚本到 GPU 机器码的转换与调度能力，并给出优势维度。

• Shark 被描述为将自定义函数转换为可在 GPU 上执行的机器码。
• Shark 被描述为可为回测引擎、流计算引擎等模块提供 GPU 计算能力。
• 页面描述其学习成本低，且无需改写 CUDA 代码。
• 页面描述其迁移成本低，可“脚本零修改，一行代码透明加速”。
• 页面描述其支持 DolphinDB 2000+ 算子全集。

Shark 三大引擎内核解剖

该部分描述 Shark 由绿色、红色、蓝色三大模块构成，用于实现 CPU 到 GPU 的无缝迁移。

• Shark 的三引擎架构包括绿色、红色、蓝色引擎。
• 绿色引擎被描述为“脚本→计算图”。
• 红色引擎被描述为“主机→设备异步传输”。
• 蓝色引擎被描述为“模板元编程算子”。

绿色引擎：脚本→计算图

该部分说明绿色引擎从 AST 预处理到构建数据流图、拓扑排序与引用计数的流程，并提到与 SIMT 并行模型的关系。

• 绿色引擎对 AST 做预处理以消除非局部控制流。
• return、break 等被替换为 flag 与 if/else 条件分支。
• 绿色引擎将 AST 转换为数据流图（DFG）。
• 数据流图会进行静态分析优化后执行。
• 使用拓扑排序安排任务顺序。
• 使用引用计数以便及时释放内存。
• 页面给出 SIMT（单指令多线程）的定义。
• 页面表述 Shark 数据流图节点与 SIMT 映射相关。

红色引擎：主机→设备

该部分说明异构计算中的数据拷贝与 IO 瓶颈，并介绍自研异步拷贝引擎 sharkMemCpyAsync 的方法与收益。

• 页面指出 IO 相比计算是瓶颈，且需要从主机端复制数据。
• 页面描述 cudaMemcpyAsync 对普通内存块在虚拟内存系统下仍可能同步拷贝。
• 页面提到自研异步拷贝引擎名称为 sharkMemCpyAsync。
• 方法之一是用小块锁页内存作暂存缓冲并流水化拷贝到 GPU。
• 方法之一包含使用独立线程将普通内存搬到锁页内存。
• 方法之一包含从锁页内存到 GPU 的异步拷贝。
• 方法之一是使用多个拷贝线程以减小抖动影响。
• 页面给出测试结论：可额外获得约 10% 性能提升。

蓝色引擎：算子实现+多硬件支持

该部分解释为支持大量算子与多类型、多形态而采用的分层实现方式，并讨论模板元编程带来的收益与权衡。

• 页面提到投入支持 2000+ 个数据分析算子。
• 页面列出需要支持的 7 种类型：bool、char、short、int、long、float、double。
• 页面列出需要支持的 4 种数据形式：标量、向量、矩阵、表。
• 页面提出核心要求之一是“零拷贝”。
• 页面提出不能有任何临时变量的约束。
• 页面描述函数实现的三层结构：多态转发层、数据视图层、算法实现层。
• 页面描述模板元编程用于枚举类型/形式组合以生成代码。
• 页面指出模板元编程可能导致编译速度变慢与代码膨胀。

Demo 展示

该部分给出雪球期权定价与遗传规划示例，展示 Shark 的使用方式与性能相关结论，并包含后续直播预告主题。

• 雪球期权定价案例主要通过数值模拟求解。
• 雪球期权定价案例一般使用蒙特卡洛方法采样。
• 页面给出规模：100 万次蒙特卡洛模拟。
• 页面给出结果：Shark 实现 16.7 倍加速。
• 页面表述：数据量越大时性能优势越明显。
• 遗传规划（GP）案例被用于金融领域的因子挖掘。
• 页面描述：不改造整体 GP 框架，仅将最耗时部分交给 GPU。
• 页面描述：可直接定义 @gpu 函数作为适应度函数。
• 页面描述：可用 @gpu 函数自定义黑盒函数作为因子。
• 页面预告后续直播将聚焦低延时技术与实践。

关于 Shark

该部分总结 Shark 的定位、@gpu 零/少改动迁移方式、适用任务特征、应用场景与咨询方式。

• Shark 被描述为 CPU-GPU 高性能异构计算引擎。
• 页面表述其专注于释放 GPU 的通用计算潜能。
• 页面描述：在自定义函数前添加 @gpu 标签可实现零代码迁移/无缝迁移。
• 页面表述：无需 CUDA 相关二次开发即可获得性能提升。
• 适用任务特征包括：子任务多、并行度高。
• 适用任务特征包括：输入输出数据量少、计算量大。
• 页面举例科研场景：蒙特卡洛仿真。
• 页面提到金融落地场景：基于遗传算法的因子挖掘。
• 页面提到金融落地场景：大规模因子计算。
• 页面提到金融落地场景：场外衍生品定价。
• 页面提供 Shark 加速 Demo 咨询联系方式。

Facts index