multifactorial_model文件夹中是目前最完整的。
版本1和2是初级的实现。对数据库进行了多次操作,更多的是考虑功能,性能问题暂时作为次要的。
版本3是改进版本,对原始数据可以实现自动获取、存储、计算衍生指标并存储。除此之外,还可以对数据进行自动清洗,包括缺失数据补全(由于wind对单次数据请求量的的限制,需要多种补全方式),异常值的修正。最后计算某一月末的所有股票的各个指标的t值、correlation相关性系数,并存储到csv文件中。
版本4中会更多的使用pandas和sql语句实现功能,以提高性能。
原先: 所有数据存储到mysql数据中,每次计算新指标时,从数据库中取出、运算、写入数据表中,每一个指标的运算都要重复取出、运算、写入的过程 优点:内存消耗低 缺点: 多次操作数据库,耗时长
将数据表的所有数据按照股票代码,分次取出该股票代码对应的从ipodate开始到2016年12月31日的所有指标的数据,连续多年的数据如果一次无法取出,那就分年份取出该股票的数据。 最终用pandas的to_sql可以将所有数据存入数据库。
加减乘除可以在直接构造sql语句,在mysql里面进行操作。而且对空值,可以用sql语句指定处理方式。SQL ISNULL()、NVL()、IFNULL() 和 COALESCE() 函数
从数据表中按照股票代码用pandas的方法从数据表中取出多年的所有数据,用pandas的方法对数据进行运算。所有的衍生指标的计算,缺失值,异常值,标准化的运算和处理直接在内存中进行,最终将得到的dataframe结果用to_sql存入另一个新的数据表中。
优点: 计算速度会加快 缺点: 有潜在的内存耗尽的风险
- 利用Spark进行数据清洗、预处理、因子计算、回归检验、策略回测
- 针对数据存储部分,如果要拓展到海外市场,比如美股、港股等,可以考虑用hbase和hive,对海量数据的操作会比Mysql性能要好。
- 针对选股策略,可以考虑用尝试Spark MLlib中的机器学习算法。
可以采用: (1)pandas的rolling_max, rolling_min, rolling_corr, rolling_std函数
- PyTables是Python与HDF5数据库/文件标准的结合,专门为优化I/O操作的性能,最大限度地利用可用硬件而设计。该库的导入名称为tables。
- PyTables数据库可以有许多表,且支持压缩和索引,以及表的重要查询。此外,还可以高效地存储NumPy数组,并且有自己独特的类数组数据结构。
- PyTables和pandas都可以处理复杂的类SQL查询,且对操作速度进行了优化。
- PyTables提供基于文件的数据库格式,‘一定要记住提交’,SQLite3中commit命令在PyTables中由flush方法实现。
- !!!PyTables支持内存外计算,所以可以实现不适合于内存的基于数组的计算。 (在之前的project中很多指标的计算是在内存中基于数组,速度很慢,且自己要处理复杂的滑动窗口等不必要的工作量。回头看去年的project,真是操之过急,没有设计好最佳实现)
被xx量化dis程序耗时长后,痛定思痛,准备下面做法: 将代码中涉及for循环处理的地方,统一改成矩阵运算,
当然也怪自己没有及时迭代项目,更改耗时部分的运算方式。