复杂因子秒级计算,文谛资产是这样做到的...

这是一篇新闻栏目下的客户案例文章,围绕文章标题与发布日期信息展开。

Source: https://dolphindb.cn/news/detail/131

What this page covers

技能认证特训营第二期报名推广

页面顶部提供限时报名活动的推广信息与链接入口。

新闻页面与文章标题/日期

页面呈现新闻栏目下的客户案例文章,并给出标题与发布日期信息。

公司与合作背景介绍(文谛资产与 DolphinDB)

该部分介绍文谛资产的业务定位与量化策略方向,并说明选择 DolphinDB 的背景、三年合作情况及作者信息。

标题导图与说明(合作伙伴关系/客户案例)

该部分通过标题导图与说明,强调合作伙伴关系与“客户案例”的页面定位。

使用场景概览

该部分概述 DolphinDB 的三类主要使用场景:行情存储、因子挖掘、模型回测。

使用场景:行情存储

该部分描述使用 DolphinDB 进行行情数据入库、清洗、查询,并通过分区字段与 SQL 引擎提升检索效率。

使用场景:因子挖掘

该部分描述在大规模数据与复杂运算任务中使用 DolphinDB 的编程语言、计算引擎、Python API,以及流计算框架与时间序列聚合引擎能力。

使用场景:模型回测(函数接口、context by 等)

该部分说明回测中使用函数接口、元编程与计算框架,并对比 context by 与 group by 的差异与效率影响。

图示与说明:group by vs context by

该部分通过图示与说明解释 group by 与 context by 的返回结果形态差异,并关联到量化研发效率。

元编程与并发计算框架(MapReduce)

该部分补充说明 DolphinDB 元编程与 MapReduce 并发计算能力,用于提升计算效率。

使用效果(压缩比、秒级/分钟级计算、回测耗时)

该部分给出行情存储、因子挖掘、模型回测方面的效果描述与指标示例。

技术服务体验(支持响应、需求跟进、版本实现)

该部分描述与 DolphinDB 团队交流、技术咨询支持、调优指导与功能需求跟进实现等服务体验。

时序数据库选型对比(Kdb+ vs DolphinDB)与结论

该部分对比 Kdb+ 与 DolphinDB 的技术支持、语法与学习成本、性能与引擎/函数库等因素,并给出最终选择 DolphinDB 的结论。

学习和使用经验(上手周期、引擎、分区表与函数学习)

该部分给出学习路径与建议,包括具备 Python/SQL 基础的上手时间、理解存储引擎(OLAP/TSDB)、分区表原理与持续跟进版本迭代。

结尾与合作评价

该部分总结三年合作成效,并表达对未来发展的期待。

文谛资产企业简介图与说明(图片内容为 AI 说明)

页面包含一张企业简介图片及其“AI 说明”文字描述(该说明为对图片内容的解读)。

Facts Index

Entity Attribute Value Confidence
技能认证特训营第二期报名链接https://www.qingsuyun.com/h5/e/217471/5/high
复杂因子秒级计算,文谛资产是这样做到的...发布日期2023.02.07high
上海文谛资产管理有限公司(文谛资产)投资精神/理念秉持理性、务实、高效、专业的投资精神,以创造长期稳定收益为投资目标medium
上海文谛资产管理有限公司(文谛资产)主要业务主要从事 CTA 和股票的量化策略研究与运作high
本文作者(文谛资产)作者与职务首席策略官刘一夫、首席框架官吴永华、首席数据分析师王哲共同撰写high
DolphinDB产品定位高性能的分布式时序数据库high
DolphinDB 与文谛资产合作合作时长合作三年间high
DolphinDB(对文谛资产)提供的服务形态集数据库、分布式计算和编程建模于一体的专业服务medium
文谛资产使用 DolphinDB主要使用场景行情存储、因子挖掘、模型回测high
行情存储(DolphinDB)用途数据入库、清洗与查询high
DolphinDB 分布式特性使用方式通过提前确定数据导入的分区字段与分区粒度,提高后续数据检索与分析效率high
DolphinDB SQL 引擎(查询)工作机制以分区字段为数据过滤快速定位数据块,避免全表扫描以提高查询速度medium
DolphinDB(数据清洗)能力描述对海量时序数据进行高效清洗,找出并消除残缺、错误或重复的数据并输出高质量数据medium
DolphinDB(数据清洗性能)稳定性对比描述相比其他数据清洗工具随数据量增大性能会下降,DolphinDB 在实际应用中能够保持稳定性能low
因子挖掘(DolphinDB)用途处理数据量庞大、运算复杂的工作任务high
文谛资产数据规模总数据量大概在几十 TBmedium
文谛资产数据规模每日新增数据量约为 70GBhigh
DolphinDB内置能力(编程/引擎)内置多范式编程语言与多种计算引擎medium
DolphinDB 与 Python集成方式通过 Python API 将计算结果导入 Python 模型进行组合high
DolphinDB 流计算框架支持能力流数据发布、订阅、预处理、实时内存计算以及复杂指标计算medium
DolphinDB 时间序列聚合引擎使用方式设定几个参数指标并配合 wsum、corr 等聚合函数,可实现复杂的滑动时间窗口聚合计算medium
模型回测(DolphinDB)使用能力使用函数接口、元编程和计算框架进行高效回测high
DolphinDB 函数示例函数context by、crossStathigh
context by(DolphinDB)产品特性声明作为 DolphinDB 的独创功能可实现对时序数据的快速分组medium
context by vs group by返回结果差异group by 每组只能返回一个标量值;context by 可使每组返回与组内元素数量相同的向量high
group by(在回测工作中)使用限制只能配合聚合函数使用medium
context by(在回测工作中)可结合的函数类型可与其他聚合函数、移动窗口函数或累计函数等结合使用medium
DolphinDB(回测效率)效果描述独创的诸多函数功能丰富、使用方便,切实有效帮助提升回测效率low
DolphinDB 元编程能力描述具备读取、生成、分析及转化其他程序的功能;可通过生成动态表达式以及延迟执行使研究人员在代码运行时仍可修改代码medium
MapReduce(DolphinDB 计算框架)用途用于并发计算以提升计算效率medium
DolphinDB(行情存储)压缩比例上限(示例)最高可以达到 10:1high
DolphinDB(行情存储)效果描述研究人员感受到压缩比率高、数据落库速度快low
复杂因子计算(基于单日新增数据)计算耗时可实现秒级计算medium
复杂因子测试(使用大量历史数据)运算时间甚至可以控制在分钟级别medium
DolphinDB(模型回测)支持能力支持数据项目化的批量处理medium
某个特定参数测试(模型回测示例)整体时间可以控制在 1 分钟内medium
DolphinDB(模型回测)效率描述对大量历史数据测试全方位特定参数从逻辑实现到产出整体效率非常高low
文谛资产与 DolphinDB 团队交流年份2020年high
DolphinDBCEO 信息CEO 周小华博士high
DolphinDB 技术团队(对文谛资产)服务内容针对业务需求详细记录并在后续跟踪服务中逐一实现需求;提供专业建议medium
DolphinDB 工程师(支持)支持内容示例教授函数构建与改善调优的方法;技术咨询在周末/很晚也能及时回复medium
DolphinDB(功能需求响应)实现速度描述提出的特别功能需求很快在下一个版本中得到实现;从需求提出到实现速度惊人low
文谛资产对 DolphinDB 技术支持满意度对支持效率与专业程度非常满意low
时序数据库选型主要对比对象Kdb+ 与 DolphinDBhigh
Kdb+定位描述金融领域老牌时序数据库,名气大、使用面广low
Kdb+不足(选型观点)国外厂商缺乏国内技术支持;语法晦涩;培训成本和学习成本较高medium
DolphinDB性能对比结论(选型观点)在查询和存储方面的性能明显优于其他数据库low
DolphinDB流计算能力(选型理由)具备多种流计算引擎,对流数据处理友好medium
DolphinDB压缩与金融函数库(选型理由)具有高压缩比,内置丰富的金融函数库medium
DolphinDB技术支持(选型理由)可提供及时专业的技术支持medium
DolphinDB(学习门槛)上手门槛描述(选型观点)上手门槛较低low
DolphinDB选型结论最终选择集存储、计算与开发于一体的高性能分布式时序数据库 DolphinDBhigh
DolphinDB(学习与使用经验)上手条件如果有 Python 和 SQL 的语法基础,只需一两周时间就可以上手medium
DolphinDB存储引擎类型使用 OLAP 和 TSDB 两种引擎high
DolphinDB(写入能力)写入吞吐描述OLAP 和 TSDB 两种引擎可以提供很高的写入吞吐low
分区表(DolphinDB 学习建议)学习重点深入理解分区表工作原理可大大提升数据查询效率medium
DolphinDB(学习建议)持续学习DolphinDB 不断优化提升与迭代新功能,要用好需保持学习态度并紧跟版本技术动态medium
DolphinDB(对文谛资产)合作成效描述在友好合作的三年间切实有效助力文谛资产进行量化投研low