>> 中信期货-商品量化专题报告:时序预测系列(二),如何利用Transformer~based模型对价格进行“天气预报”-230411
| 上传日期: |
2023/4/11 |
大小: |
2342KB |
| 格式: |
pdf 共31页 |
来源: |
中信期货 |
| 评级: |
-- |
作者: |
蒋可欣 |
| 下载权限: |
无限制-登录即可下载 |
|
|
在上一篇报告中,介绍了如何利用RNN系列算法对价格进行单元单步预测,本文围绕多元长序列预测展开,尝试实现类似于天气预报的预测效果。RNN系列算法具有较强长期依赖性不适用于长序列预测,因此本文选择具有超强信息提取能力的Transformer模型为落脚点展开讨论。然而由于Transformer模型存在过高计算复杂度这一瓶颈,因此本文从近两年顶会论文中挑选出三个基于Transformer的改良模型(Informer、Autoformer和FEDformer)分别进行了介绍和测试对比。 为测试模型的有效性和泛化能力,本文在CU、IF和T三个期货品种的主力合约上进行了测试。在测试中分别利用过去20/40/60个交易日的交易数据(开盘价、最低价、最高价、成交量和收盘价)对三个合约接下来5/10/20/40/60个交易日的收盘价进行预测。经预测发现,FEDformer模型的预测结果几乎在所有情况中都是最优的,MSE和MAE最低达到0.028和0.129,价格时序信噪比较低,利用傅里叶变换将价格从时域转换到频域进行预测不仅能更好地捕捉全局信息,还能过滤掉信号中的噪音。同时,使用小波增强模块能捕捉到频率出现的时间信息,再次加强FEDformer模型对短序列的预测能力 此外,我们还发现在输入信息和输出信息较短的情况下,过高计算复杂度对Transformer模型的负面影响并不大,在很多测试中,Transformer的预测精度甚至高于Autoformer和Informer模型,但在稳定性和普适性上还是逊于FEDformer模型。 风险提示:本报告中所涉及的算法和模型应用仅为回溯举例,并不构成推荐建议。
|
|