虽然现在市面卖的成品衣柜花样全、款式多，但是对于整体的实用性和房屋的搭配效果而言，往往还是比定制衣柜要逊色很多。所以很多人装修时，都喜欢找木工师傅来家里给自己卧室定制本站

程序员如何借助 AI 开挂股票神预测？｜ 技术头条本站

　　【导语】用深度学习预测股票价格不是一个新话题，随着技术的不断发展，大家一直在不断尝试新技术。这次教程中，作者设计了一个强强联合型模型来预测股票价格，为什么这么形容？作者设计了一个 GAN 模型，其生成网络为 LSTM 模型用来预测时间序列数据、CNN 模型作判别网络，用 BERT 模型作为情绪分析模型。带有高斯过程的贝叶斯优化和深度强化学习方法来获得 GAN 的超参数。为什么创建这样的组合？都将在下面的内容中为大家进行一一解答。

　　这篇教程的篇幅很长，为了让大家能对重要技术内容一目了然，作者在开始加入了层级清晰的目录，主要从【背景】、【数据特征】、【GAN 模型架构】、【超参数优化】等几大方面进行全面讲解。

　　在今天的任务中，预测的是高盛公司（本文中会简称为 GS）的股票变化趋势，使用 2010 年 1 月 1 日至 2018 年 12 月 31 日的日收盘价作为训练（七年）和测试（两年）数据。

　　成功训练一个 GAN 最棘手的部分是获得正确的超参数。为此，作者使用 Bayesian optimisation（带有高斯过程的贝叶斯优化）和用于决定何时以及如何改变 GAN 的超参数的深层强化学习（DRL），在创建强化学习过程中，将使用一些最新技术，如 RAINBOW 和 PPO。

　　此外，在模型中还使用许多不同类型的输入数据。随着股票的历史交易数据和技术指标，设计了一些技术方法，如使用 NLP 中的 BERT 来创建情绪分析模型（作为基本面分析的来源），以及用傅立叶变换（Fourier transforms）提取总体趋势方向、识别其他高级特征的栈式自动编码器（ Stacked autoencoder）；采用特征投资组合寻找相关资产；采用 ARIMA 方法进行股票函数近似。实际上，这些技术都是为了尽可能多的获取关于股票的信息、模式、依赖关系等等。

　　开发环境和框架选择 MXNet 和其高级 API（Gluon）创建所有的神经网络，并在多个 GPU 上进行训练。

　　通过上面的技术背景介绍，相信大家已经感觉到想准确预测是一项非常复杂的任务，影响股票变化的事件、条件或因素等实在是太多了。所以，想更好的了解这些先决条件，还需要先做几个重要的假设：（1）市场不是 100% 的随机；（2）历史重复；（3）市场遵循人们的理性行为；（4）市场是“完美的”。

　　首先，要了解什么因素会影响 GS 的股票价格波动，需要包含尽可能多的信息（从不同的方面和角度）。将使用 1585 天的日数据来训练各种算法（70% 的数据），并预测另外 680 天的结果（测试数据）。然后，将预测结果与测试数据进行比较。每种类型的数据（亦称为特征）将在后面的部分中详细解释。

　　a.相关资产：涉及商品、外汇、指数、固定收益证券等各类资产数据；影响高盛公司股票价格趋势的外部因素又有很多，并且很复杂，包括竞争对手、客户、全球经济、地缘形势、财政和货币政策等等，这些因素还会相互产生影响。选择合适的相关资产是非常重要的：

　　（1）首先是和 GS 相似的公司，如将摩根大通（JPMorgan Chase）和摩根士丹利（Morgan Stanley）等加入数据集。

　　（5）货币，全球贸易多次反映在货币流动中，使用一篮子货币（如美元-日元、英镑-美元等）作为特征。

　　b.技术指标：许多投资人都会关注技术指标，在这里，把最受欢迎的指标作为独立特征，包括 7 天和 21 天波动平均值、指数波动平均、Momentum、MACD 等 12项技术指标。

　　c.基本面分析：无论股票涨跌，这都是一个非常重要的数据。分析时会用到两个特征：公司业绩报告和新闻将引导的一些趋势，因此通过分析新闻来准确预测市场的情绪也是一项非常重要的工作，所以这次的方法中，将使用 BERT 来构建情绪分析模型，提取股票新闻中的情绪倾向。最后采用 sigmoid 归一化，结果介于 0 到 1 之间，（0 表示负面情绪，1 表示正面情绪），每一天都会创建一个平均每日分数作为一个特征添加。

　　使用的是 MXNet 中 Gluon NLP 库中所提供的经过预训练的 BERT 模型，大家可以尝试一下。此前我们也为大家介绍过简单易上手的 Gluon，详情可参考营长亲自上手的教程。

　　d.傅里叶变换：利用每日收盘价，创建傅立叶变换，以获得几个长期和短期趋势。使用这些变换消除大量的噪声，获得真实股票波动的近似值。有了趋势近似，可以帮助 LSTM 网络更准确地选择其预测趋势。

　　f.Stacked autoencoders（栈式自动编码器）：上面提到的一些特征是研究人员经过几十年的研究发现的，但是还是会忽视一些隐藏的关联特征，由此，Stacked autoencoders 就可以解决这个问题，通过学习每个隐藏层，发现更多新特征（可能有些是我们无法发现，理解的）。这次没有把 RELU 作为激活函数，而是使用了 GELU，也可以用于 BERT 模型中。至于为什么选择 GELU，大家可以在原文中看到作者给出的和 RELU 对比的实例。

　　g.深度无监督学习：用于期权定价中的异常检测，将再使用一个特征：每天都会增加高盛股票90天看涨期权的价格。期权定价本身结合了很多数据。期权合约的价格取决于股票的未来价值(分析师也试图预测价格，以便为看涨期权得出最准确的价格)。使用深度无监督学习(自组织映射)，尝试发现出现异常的每日价格。异常(如价格的剧烈变化)可能表明出现了一个事件，这有助于LSTM了解整体股票模式。

　　h.对数据的“质量”进行统计检查：确保数据质量对模型来说非常重要，因此要执行以下几个简单的检验，如异方差、多重共线性、Serial correlation 等。

　　i.确定特征重要性：采用 XGBoost 算法。这么多的特征，必须考虑是否所有这些都真正地指示了 GS 股票波动方向。例如，数据集中包括其变化可能意味着经济变化的 LIBOR，而这又可能暗示 GS 股票将会发生波动，因此需要对此预测进行测试，在众多的测试方法中，本教程中选择了 XGBoost，其在分类和回归问题上都提供了很好的结果。

　　最后一步，使用主成分分析（PCA）创建特征组合，以减少自动编码器生成特征的维数。在自动编码器中创建了 112 个特征，不过高维特征对我们的价值更大，所以在这 112 个特征的基础上通过 PCA 创建高维的特征组合，减少数据维度。不过，这也是我们提出的实验性方法。

　　GAN 最多被应用在创作逼真的图像、画作和视频剪辑等。对预测时间序列数据的应用并不多。但这两者的思想都是类似的。我们希望预测未来的股票价格，GS 的股票波动和行为应该大致相同(除非开始以完全不同的方式运作，或者经济急剧变化)。因此，希望“生成”的数据与已经拥有的历史交易数据分布相似，当然不是完全相同。在这个例子中将使用 LSTM 作为时间序列生成模型，CNN 作为判别模型。

　　关于 RNN、LSTM 等模型的基础介绍这里不多做赘述，主要聚焦在 RNN 在时间序列数据上的应用，因为它们可以跟踪所有以前的数据点，并且可以捕获经过时间发展的模式。可以通过裁剪解 RNN 梯度消失或梯度爆炸问题。

　　在精度方面，LSTM 和 GRU 的结果相差不多，但是 GRU 使用的训练参数要比 LSTM 少，计算强度也要小。

　　LSTM架构非常简单：一个LSTM层，包含112个输入单元(数据集中有112个特征)和500个隐藏单元；一个以每日股价为输出的 Dense 层；采用 Xavier 初始化，使用 L1 损失函数

　　学习率是非常重要的参数之一，每个优化器设置学习率，如 SGD、Adam 或 RMSProp 在训练神经网络时至关重要，因为它既控制着网络的收敛速度，又控制着网络的最终性能，接下来就要确定每个阶段的学习率。

　　防止过拟合，注意总损失也是要在训练模型中非常重要的一个问题。不仅在生成器中的 LSTM 模型，判别器中的 CNN 模型、自动编码器中都使用了几种防止过拟合的技术：

　　b.正则化，或权重惩罚：最常用的两种正则化技术是L1 和 L2 正则法。L1对离散值更有鲁棒性，当数据稀疏时使用，可得到特征重要性。因此，在股票价格预测这个应用案例中将使用 L1 正则法。

　　建立复杂神经网络时，另一个重要的考虑因素是偏差-方差权衡。训练网络的误差基本上是偏差、方差和不可约误差 σ(噪声和随机性引起的误差)的函数。

　　a.偏差（Bias）：偏差衡量一个经过训练的（训练数据集）算法对未见数据的概括能力。高偏差(欠拟合)意味着模型在隐藏数据上不能很好地工作。

　　CNN 网络在提取隐藏特征等工作上具有优势，那如何应用于这个任务中？大家不妨尝试一下，数据点行程小趋势，小趋势行程大趋势，趋势反之形成模式，而 CNN 在此用检测特征的能力来提取 GS 股价趋势中的模式信息。

　　经过 200 次 GAN 训练后，将记录 MAE（LSTM、GG 中的误差函数）并作为奖励值传递给强化学习（RL）模型，以决定是否用同一组超参数来改变保持训练的超参数，如果RL决定更新超参数，它将调用 Bayes 优化库。

　　为什么在超参数优化中使用强化学习？股票市场一直在变化。即使能够训练 GAN 和 LSTM 来创造非常精确的结果，结果也只能在一定的时间内有效。也就是说，我们需要不断优化整个过程。为了优化这一过程，可以添加或删除特征，或改进深度学习模型。改进模型的最重要的方法之一就是通过超参数。一旦找到了一组特定的超参数，就需要决定何时修改它们，以及何时使用已经知道的集合(探索或利用)。此外，股票市场代表了一个依赖于数百万参数的连续空间。

　　使用无模型的 RL 算法，原因很明显，我们不知道整个环境，因此没有关于环境如何工作的定义模型（如果存在，就不需要预测股票价格的变化）。使用两个细分的无模型RL：策略优化（Policy Optimization）和 Q-Learning。构建 RL 算法的一个关键方面是精确设置奖励。它必须捕捉环境的所有方面以及代理与环境的交互。

　　b.策略优化：这里采用近端策略优化（Proximal Policy Optimization, PPO），在决策优化中，学习从某一状态采取的行动。(如果使用诸如Actor/Critic之类的方法，也会了解处于给定状态的价值。

　　可见，作者在把各路强模型联合打造的结果还是非常优秀的。不过作者还尝试创建一个 RL 环境，用于测试决定何时以及如何进行交易的交易算法。GAN 的输出将是此环境中的一个参数，虽然这些都不能完全做到预测的作用，但是在实际任务中不断尝试新技术还是很有意义的，期待作者后续工作可以带来更好的结果。完整详细教程还可以访问 Github 项目：

本站 同事没钱装修直接住进毛坯房，而且屋子里面太乱，其实他可以重新布局，定址定位，网线用卡钉卡一下，横平竖直，被子叠板正一点，好好布置下这样也有家的氛围，而且用不了多少钱，更主要的是女