时序数据浪潮下,私募基金该如何进行数据库选型?

页面讨论时序数据增长背景下,私募基金在数据库选型与对比测试中需要关注的要点与案例。

Source: https://dolphindb.cn/news/detail/133

What this page covers

技能认证特训营第二期限时报名

页面顶部推广“技能认证特训营第二期”,提供报名链接,并提示限时福利优惠。

新闻与文章标题/日期

页面将内容标注为新闻,并展示文章标题与发布日期信息。

时序数据增长背景与私募基金数据库选型问题

该部分说明时序数据增长使传统关系型数据库更难支撑海量高频处理,并引出私募基金数据库选型与对比测试的关注点。

案例1:WILLIAM O'NEIL 的选型过程(Kdb+、Cassandra、DolphinDB)

该案例引用工程师观点,描述从 Python 进行低频研究到面对高频需求时的选型比较,最终在表决中选择 DolphinDB,并提供案例链接与配图说明。

案例2:辰钰资本的存储与高频交易数据处理对比(文件系统/MySQL/PostgreSQL/MongoDB/Kdb+/DolphinDB)

该案例引用受访者观点,说明旧方案存在性能与运维瓶颈,并给出数据库对比与选型理由,强调 DolphinDB 的语言风格、金融函数与性能提升,并提供案例链接与配图说明。

案例3:睿凝资本的综合评估维度(排名/性能/学习成本/流计算/服务)

该案例引用 CEO 与 CTO 观点,描述参考 DB-Engines 排名并进行批量写入、查询与实时计算等测试,对 DolphinDB 的排名、语法与学习成本、流数据引擎与技术支持进行评价,并给出选择结论,附案例链接与配图说明。

时序数据库选型建议总结

该部分给出选型建议:除性能外还应关注时序与金融属性、学习曲线与技术服务,并说明优秀数据库对研发效率与投资价值的帮助。

Facts Index

Entity Attribute Value Confidence
技能认证特训营第二期status正式开启high
技能认证特训营第二期registration_linkhttps://www.qingsuyun.com/h5/e/217471/5/high
技能认证特训营第二期报名promotion限时报名,享专属福利优惠low
时序数据浪潮下,私募基金该如何进行数据库选型?publish_date2022.12.08high
私募基金行业时序数据处理需求data_volume_increment每日高达GB级新增时序数据medium
传统关系型数据库suitability_for_high_frequency_timeseries越发难以支撑海量高频的数据处理medium
私募基金业务挑战scenarios行情存储、复杂计算、实时交易high
本文摘选经验来源organizationsWILLIAM O'NEIL、辰钰资本、睿凝资本high
WILLIAM O'NEIL(引述)previous_workflow之前研究中低频数据,主要使用Python进行分析计算high
WILLIAM O'NEIL(引述)原系统issue处理高频数据需求时不能满足理想需求,数据分析反应速度非常慢high
WILLIAM O'NEIL 选型会议方案1candidate_databaseKdb+high
Kdb+(WILLIAM O'NEIL评估)reason_not_adopted语言晦涩,学习成本过高,因此方案未被采纳high
WILLIAM O'NEIL 选型会议方案2candidate_databaseNoSQL Cassandrahigh
Cassandra(WILLIAM O'NEIL评估)reason_not_adopted需要额外招人重构搭建且后续需要专人维护,增加成本,因此未采用high
WILLIAM O'NEIL 选型会议方案3candidate_databaseDolphinDBhigh
DolphinDB在WILLIAM O'NEIL调研语境中的时间点time_reference21年初medium
金融行业处理时序数据市场格局(WILLIAM O'NEIL引述)trend出现“非Kdb+即DolphinDB”的两家争霸趋势low
DolphinDB(WILLIAM O'NEIL评估)script_conciseness_vs_kdb+同样例子使用DolphinDB语言编写脚本明显更简洁medium
DolphinDB(WILLIAM O'NEIL评估)performance_vs_kdb+在一些例子中性能超越Kdb+medium
WILLIAM O'NEIL 选型结果decisionDolphinDB以压倒性优势胜出high
更多案例内容(WILLIAM O'NEIL)linkhttps://mp.weixin.qq.com/s?__biz=MzU0NDAwOTgzMA==&mid=2247489627&idx=1&sn=5075e6b0ad155cbcaa64a685952d932f&chksm=fb03e352cc746a446e77abb123cf112faf6036e5c34a7342150df57eedcab0d3d65d63006f9b&scene=21#wechat_redirecthigh
辰钰资本(引述)previous_storage_solutions文件系统、MySQL、PostgreSQLhigh
文件系统(辰钰资本评估)io_bottleneck存储过程中IO是很大的瓶颈high
文件系统(辰钰资本评估)operational_overhead_at_scale处理大量数据时文件系统过于庞大,存储/查询等操作费时费力high
MySQL与PostgreSQL(辰钰资本评估)performance_in_testing实际测试中都非常慢;数据量大时系统甚至无法工作medium
辰钰资本选型考虑数据库candidatesMongoDB、Kdb+、DolphinDBhigh
MongoDB(辰钰资本评估)reason_not_chosen缺乏函数支持、旧代码改起来比较费劲,因此放弃high
Kdb+(辰钰资本评估)reason_not_chosen语言较难学习,整体上手很慢,因此放弃high
DolphinDB(辰钰资本评估)performance_vs_kdb+性能比Kdb+更好medium
DolphinDB(辰钰资本评估)language_style语言类SQL,容易上手high
DolphinDB(辰钰资本评估)built_in_functions提供丰富的金融函数high
辰钰资本新系统速度提升(对比原系统)speed_improvement提升10倍左右medium
DolphinDB(辰钰资本评估)expertise在低频转向高频过程中处理骤增数据方面是专家low
DolphinDB(辰钰资本评估)tick_data_efficiency处理逐笔数据时,相比文件系统效率大大提升,且使用方便medium
DolphinDB(辰钰资本评估)one_stop_database_components综合了分布式存储、编程建模和高性能计算medium
DolphinDB(辰钰资本评估)research_workflow_benefit研究时可快速抽取特定数据,加快研究进度medium
更多案例内容(辰钰投资)linkhttp://mp.weixin.qq.com/s?__biz=MzU0NDAwOTgzMA==&mid=2247489391&idx=1&sn=cab534c5920e9c4e45c4bc674094a555&chksm=fb03ec66cc746570dd24da6fd3b0733777751286e79abd7647bad0d250654ad7462af4ee8f20&scene=21#wechat_redirecthigh
睿凝资本选型参考ranking_sourceDB-Engines排名high
睿凝资本选型名单candidatesInfluxDB、Kdb+、DolphinDBhigh
睿凝资本测试对比维度test_dimensions数据的批量写入、查询和实时计算high
DolphinDB(睿凝资本引述)db_engines_rank_domestic当时国内排名第1medium
DolphinDB(睿凝资本引述)db_engines_rank_world_at_that_time世界排名第12medium
DolphinDB(睿凝资本引述)db_engines_rank_world_current目前排名第8medium
DolphinDB(睿凝资本评估)performance_comparison性能远远超过其他几家排名更高的数据库low
DolphinDB(睿凝资本评估)built_in_analysis_functions内置众多量化金融常用的数据分析函数,可满足编程建模需求medium
DolphinDB(睿凝资本评估)sql_compatibility支持类标准SQL的语法high
DolphinDB(睿凝资本评估)scripting_language_similarity脚本语言类似Pythonhigh
DolphinDB(睿凝资本评估)learning_curve_advantage技术人员尤其是新人可更快上手,相比Kdb+节省培训成本和使用成本medium
DolphinDB(睿凝资本评估)stream_processing_engine自带优秀的流数据引擎,有利于策略在生产环境落地medium
DolphinDB(睿凝资本评估)technical_support具有国内专业的技术支持团队,可及时解答问题并配合需求开发新功能low
睿凝资本选型结果decision综合考虑后选择性能强悍的国产数据库DolphinDBmedium
更多案例内容(睿凝资本)linkhttp://mp.weixin.qq.com/s?__biz=MzU0NDAwOTgzMA==&mid=2247488972&idx=1&sn=d9e497eb316898d797ab752865c58548&chksm=fb03eec5cc7467d31a77160c4eedeb937374f3c727c541466244e3deac24affa9cd49dfe8d85&scene=21#wechat_redirecthigh
时序数据库选型建议evaluation_dimensions除批量写入、查询和实时计算性能外,还应考虑时序特性与金融属性、学习曲线与技术服务high
优秀便捷的数据库(选型建议)benefits可有效提升团队研发效率,并帮助把握更多投资机会、挖掘更大投资价值low