复杂数据集中因果关系的度量及其在金融领域的应用

2022-5-5 08:45:19

Article复杂数据集中因果关系的度量，以及金融数据的应用Anna Zaremb1，*和Tomaso Aste1，2伦敦大学学院计算机科学系，伦敦高尔街，伦敦WC1E 6BT，英国系统风险中心，伦敦经济和政治科学学院，伦敦WC2AE，英国*通信作者；电子邮件：A。Zaremba@cs.ucl.ac.uk;电话：+44-0-20-3108-1305；传真：+44-0-20-7387-1397。熵16（2014）2309-2349。内政部：10.3390/e16042309。摘要：本文研究了金融时间序列的因果结构。我们专注于测量因果关系的三种主要方法：线性Granger因果关系、Granger因果关系的核推广（基于岭回归和互协方差算子的Hilbert–Schmidt范数）和转移熵，检查每种方法并比较其理论性质，特别注意捕捉非线性因果关系的能力。我们还介绍了应用非对称度量而非对称依赖度量的理论益处。我们将这些测量应用于一系列模拟和真实数据。模拟数据集是使用双变量和多变量设置，以线性和几种类型的非线性相关性生成的。对真实金融数据的应用突出了实际困难以及这些方法的潜力。我们使用两个真实数据集：（1）美国通货膨胀和一个月伦敦银行同业拆借利率；（2）以下货币的标准普尔数据和汇率：澳元兑日元、加元兑日元、新西兰元兑日元、澳元兑瑞士法郎、加元兑瑞士法郎、新西兰元兑瑞士法郎。总的来说，我们得出的结论是，在所有情况下，没有一种方法可以被认为是最好的，并且每种方法都有其最佳适用范围。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:22

我们还强调了有待改进和未来研究的领域。关键词：因果关系；格兰杰因果关系；Geweke的因果关系度量，转移熵；岭回归；互协方差运算符1。导言了解时间序列之间的相关性对于几乎所有复杂系统的研究都至关重要，能够在金融数据中描述因果关系结构对金融机构非常有益。本文集中讨论了四种可以被称为“统计因果关系”的衡量标准。Pearl[1]提出的“基于干预的因果关系”与Granger[2]提出的“统计因果关系”之间存在重要区别。第一个概念结合了统计数据和非统计数据，允许回答问题，比如“如果我们给患者用药，即干预，他们的生存机会会增加吗？”。统计因果关系不能回答这样的问题，因为它不涉及干预的概念，只涉及数据分析工具。因此，统计意义上的因果关系是一种依赖关系，我们根据对时间结构的了解以及因果关系必须先于因果关系的概念来推断方向。它对金融数据很有用，因为它通常被建模为一个随机过程的单一实现：在这种情况下，我们不能像Pearl那样谈论干预。如果Y的未来可以更好地用Y和X的过去而不是仅仅用Y的过去来解释，我们说X在统计（格兰杰）因果关系的意义上导致Y。我们将使用不同的模型扩展并进一步形式化这个概念。引用Pearl的话，“在每一个因果性声明背后，必然存在一些因果性假设，这些假设在联合分布中是不可识别的，因此在观察研究中是不可检验的”（[1]，第40页）。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:25

Pearl强调需要明确区分统计术语和因果术语，虽然我们不遵循他的术语，但我们同意，重要的是要记住，统计因果关系无法发现“真正的原因”。统计因果关系可以被认为是一种依赖关系，用于描述统计因果关系的一些方法源自用于测试独立性的方法。选择最有用的描述因果关系的方法必须基于数据的特征，我们对数据了解得越多，就可以做出更好的选择。就金融数据而言，最大的问题是缺乏平稳性和噪音。如果我们还认为这种依赖性可能表现出非线性，那么模型选择就成为一个需要更好理解的重要因素。本文的目的是对现有的几种因果关系量化方法进行广泛分析。本文的组织结构如下：在第2节中，我们提供了有关这些方法的所有背景信息，以及文献综述。在第3节中，我们描述了实践方面、实现细节、测试方法以及对合成数据的测试结果；第4节介绍了财务和其他应用。在第5节中，我们将介绍这些方法、应用和前景。第6节包含一个简短的总结。最后，在附录A-E中，我们提供了数学背景和其他补充材料。2.研究方法：文献综述。1.

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:28

因果关系的定义，方法维纳[3]在1956年的一篇论文中首次提到因果关系是一种可以估计的属性：“对于两个同时测量的信号，如果我们使用第二个信号的过去信息比使用没有它的信息更好地预测第一个信号，那么我们称第二个信号为第一个信号的因果关系。”2003年诺贝尔经济学奖得主克莱夫·格兰杰（Clive Granger）在1963年[4]和1969年[5]引入了这一概念的首次实际实施。格兰杰将因果关系定义为随机过程的线性自回归模型。格兰杰描述了一个原因应该具有的主要属性：它应该发生在效应之前，并且应该包含关于效应的独特信息，而这些信息不包含在其他变量中。格兰杰在他的著作中深入讨论了因果关系的含义，以及他引入的统计概念与确定性因果关系的区别。2.1.1. Granger因果关系在最普遍的意义上，如果在考虑第一个信号时可以更好地预测第二个信号，我们可以说第一个信号导致第二个信号。如果引入时间概念，且第一个信号先于第二个信号，则为格兰杰因果关系。在这两个信号同时出现的情况下，我们将使用瞬时耦合这一术语。Geweke在1982年[6]和1984年[7]发表的两项研究扩展了Granger的原始想法，包括反馈和瞬时因果关系（瞬时耦合）的想法。Gewekee定义了衡量因果关系和瞬时耦合的指标，包括有无副信息。虽然Geweke引入的指数只是用于量化格兰杰因果关系的少数几种替代方法之一，但这些论文及其引入的措施对于我们处理因果关系至关重要。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

大多数88

2022-5-5 08:45:32

Geweke定义了线性反馈的度量，代替Granger使用的因果关系强度，这是文献中流行的替代Granger因果关系度量之一[8]。我们使用源自[9]的符号和定义，并对其进行概括。设{Xt}，{Yt}，{Zt}为三个随机过程。对于任何时间序列，使用下标t，如在Xt中，它将被理解为与时间t相关联的随机变量，而使用上标t，如在Xt中，它将被理解为直到时间t的随机变量的集合。因此，我们使用Xt和XTA来实现这些随机变量。定义1（格兰杰因果关系）Y不会格兰杰导致X，相对于所有t的边信息Z和IFF∈ Z:PXt | Xt-1，Yt-k、 Zt-1.= PXt | Xt-Zt，1-1., （1）其中k是任意自然数，P（···）代表条件概率分布。如果k=0，我们认为Y不会瞬间导致X（瞬时耦合）：PXt | Xt-1，Yt，Zt-1.= PXt | Xt-1，Zt-1.. （2）在双变量情况下，边信息Zt-1，将被省略。所提出的瞬时耦合定义方法是可行的，但它只是几种替代定义中的一种，没有一种是先验最优的。安布拉德[10]建议包括Zt而不是Zt-1确保测量避免混淆[11]X和Y与X和Z的瞬时耦合。定义1非常笼统，没有规定分配的平等性应如何评估。最初的格兰杰因果关系公式是根据最小平方预测值的残差方差[5]。有很多方法可以测试这一点；在这里，我们将在很大程度上遵循[9]中的方法。让我们从介绍（格兰杰）因果关系的度量开始，该度量最初由格韦克在[6,7]中提出。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

点击查看更多内容…

2022-5-5 08:45:35

设{Xt}，{Yt}为两个单变量随机过程，{Zt}为多变量过程（该设置可推广为包括多变量{Xt}，{Yt}）。我们假设向量自回归表示；因此，我们假设{Xt}可以用以下一般方式建模：Xt=LX（Xt-1） +LY X（Yt）-1） +LZX（Zt）-1） +εX，t（3），其中LX，lyx，lzx是线性函数。在等式（3）中，我们允许一些函数Lo，处处等于零。例如，如果我们在模型（3）中使用{Xt}而没有任何限制，并且使用相同的模型，但添加了LY X=0:Xt=~LX（Xt）的限制-1） +LZX（Zt）-1） +εX，t（4），然后我们可以用Geweke因果度量公式量化包含{Yt}在解释{Xt}时的有用性，公式如下：→XkZ=logvar（Xt | Xt-Zt，1-1） var（Xt | Xt-1，Yt-Zt，1-1） =logvar（△εX，t）var（εX，t）。（5）类似地，Geweke对瞬时因果关系（瞬时耦合）的测量定义为：FY·XkZ=logvar（Xt | Xt-Zt，1-1） var（Xt | Xt-1，Yt，Zt-1） =logvar（△εX，t）var（^εX，t），（6）其中^εX，t与另一个可能的模型相关，其中考虑了Y的过去和现在：Xt=^LX（Xt）-1） ^LY X（Yt）+^LZX（Zt）-1） +εX，t。在下一节中，我们将使用核方法对Geweke的测度进行推广。2.1.2.

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

大多数88

2022-5-5 08:45:38

基于Geweke量化因果关系的线性方法，我们在这里介绍了一种非线性度量，它使用机器学习的“核技巧”来推广线性模型。从机器学习的角度来看，有大量关于因果推理的文献。最初，人们的兴趣集中在独立性测试[12-16]；但后来，人们认识到独立性和非因果关系是相关的，测试一个的方法可以用于测试另一个[14,17]。特别是在过去几年中，核化已成为许多领域推广线性算法的流行方法。核方法的主要思想是变量之间的非线性关系可以变成变量函数之间的线性关系。这可以通过将数据嵌入（隐式）希尔伯特空间并在该空间中搜索有意义的线性关系来实现。核方法的主要要求是数据不能单独呈现，而只能以数据点之间的成对比较的方式呈现。作为两个变量的函数，核函数可以解释为一个比较函数。它也可以被认为是内积的推广，这样内积就可以在变量的函数之间取；这些函数称为“特征映射”。2012年，Ambrard等人发表了这篇论文[9]，据我们所知，这是第一篇建议使用岭回归推广格兰杰因果关系的论文。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:41

从某种程度上说，这种晚发展是令人惊讶的，因为岭回归是一种成熟的推广线性回归和引入核的方法；它有一个非常清晰的解释，良好的计算性能和一个简单的优化参数的方法。孙晓海在[18]中提出了另一种对格兰杰因果关系进行核处理的方法。Sun建议在特征空间中使用所谓条件交叉协方差算子（见定义3）的Hilber–Schmidt范数的平方根来测量预测误差，并使用置换测试来量化可预测性的改善。虽然本文描述的两种内核方法都不是基于Sun的文章，但它们密切相关。特别是，希尔伯特-施密特标准化条件独立性准则（HSNCIC）的概念与Sun探索的类似。Marinazzo等人[19]描述了另一种格兰杰因果关系核化方法。下面，我们遵循[20]中的方法。有关函数分析和希尔伯特空间的补充信息，请参见附录B。让我们用S=（x，…，xn）表示一组来自过程{Xt}的n个观测值。我们假设每个观测值xi都是某个集合X的一个元素。为了分析数据，并使用“内核技巧”：我们创建了一个数据集S的表示，它使用成对比较k:X×X→ 集合点的R，而不是单个点。然后，集合S用n×n comparisonski，j=k（xi，xj）表示。定义2（正定义核）函数k:X×X→ R被称为正有限核，仅当它是对称的，即，x、 x∈ X，k（X，X）=k（X，X）和正（半）定义，即：十、xn∈ 十、Ccn∈ RnXi=1nXj=1icjk（xi，xj）>0。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:44

（7）从今往后，我们将使用内核的名称，而不是正（半）定义的内核。定理1对于空间X上的任何核k，存在一个Hilbert空间F和一个映射φ：X→ F，使得[20]：k（x，x）=hφ（x），φ（x）i，对于任何x，x∈ X，（8）其中hu，vi，u，v∈ F表示F中的内积。上述定理给出了定义核的另一种方法。它展示了我们如何创建一个内核，前提是我们有一个特性映射。因为最简单的特征映射是一个单位映射，这个定理证明了内积是一个核。内核技巧是一个简单而普遍的原则，它基于这样一个事实：内核可以被认为是一种更简单的产品。内核技巧可以表述如下[20]：“向量数据的任何算法，如果只能用向量之间的点积来表示，则可以在与任何内核相关的特征空间中隐式执行，方法是用内核求值替换每个点积。”在以下两个部分中，我们将说明核技巧在两个应用中的使用：（1）线性回归格兰杰因果关系的非线性情况的扩展；（2）对非线性情况下的协方差和偏相关等概念的重新表述。2.1.3. Geweke因果关系测度的核化在这里，我们将展示再生核Hilbert空间理论如何应用于广义Granger因果关系的线性测度，正如Geweke所提出的。为此，我们将使用岭回归的标准理论。首先，让我们回到之前问题的模型公式（方程式3）。我们假设{Xt}、{Yt}是两个单变量随机过程，{Zt}是一个多元随机过程。现在我们假设有一组观测值S={（x，y，z），…，（xn，yn，zn）}，xt，yt∈R、 zt∈ Rk。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:48

我们的目标是找到描述给定数据集S的最佳线性函数f。这个想法类似于线性Geweke的度量：从替代模型的比较中推断因果关系。特别是，建立了四种不同点之间的函数关系模型：（1）XT和它自己的过去之间的函数关系；（2）在xt和xt的过去之间，yt；（3）在XT和过去的XT，zt之间；（4）在xt和xt，yt，zt的过去之间。为了对所有四个模型有一个统一的表示法，引入了一个新变量w，用WISYMBOLING表示xi本身，或（xi，yi），或（xi，zi）或（xi，yi，zi）。因此，数据之间的函数关系可以写为：对于所有t，xt’f（wt-pt-1），其中wt-pt-1是从时间t之前的p滞后中采集的样本，例如WT-pt-1=（重量）-p、 wt-p+1，wt-1). 例如，在w代表所有三个时间序列的情况下：-pt-1=（xt）-p、 yt-p、 zt-p、 xt-p+1，yt-p+1，zt-p+1，xt-1，yt-1，zt-1). 一般来说，p可以代表一个有限的滞后，但对于任何实际情况，都可以合理地假设一个有限的滞后，因此，wt-pt-1.∈ 十、其中，如果w=X，则通常为d=p，如果w=（X，y），则为d=2p；如果w=（X，y，z），则为d=2p+kp。最小二乘回归（如前面讨论的线性格兰杰因果关系）涉及寻找面积值权重向量β，例如xt\'^xt=（wt-pt-1） Tβ，即选择权向量β，以最小化平方误差。β的维数取决于w的维数；这是一个标量，在w=x的最简单情况下，x是单变量的。众所周知，最小二乘回归的缺点包括：样本量小，效果差，当数据线性独立且过度拟合时，没有解决方案。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:51

这些问题可以通过在成本函数中增加额外的成本，惩罚系数权重过大的情况来解决。这种代价被称为正则化器[21]或正则化项，它在均方误差和权重向量的平方范数之间引入了一种折衷。正则化成本函数现在是：β*= argminβmnXi=p+1（（wi-圆周率-1） Tβ- xi）+γβTβ，（9）m=n- p表示更简洁的符号。与最小二乘回归权重类似，岭回归（在附录A中获得）的解可以写成原始权重β的形式*:β*= （WTW+γmIm）-1WTx，（10）其中我们使用矩阵符号W=（（wp）T，（wp+1）T。。。，（wn）-pn-1） T）T，或者换句话说，一个包含wp，wp+1，…，行的矩阵。。。，wn-pn-1.x=（xp+1，x2，t，…，xn）t；im表示一个大小为m×m的单位矩阵。然而，我们希望能够应用核方法，它要求数据以内积的形式表示，而不是以单个数据点的形式表示。如附录A所述，权重β可以表示为数据点的线性组合：对于某些α，β=WTα。第二种表示法得到了对偶解α*, 这可以用WWTand来表示，它依赖于正则化子γ：α*= （WWT+γmIm）-1x，（11）这是我们可以应用内核技巧的地方，这将允许我们将内核引入上述回归设置。为此，我们引入了核相似函数k，并将其应用于W的元素。通过对W的每一行核函数的求值建立的Gram矩阵表示为Kw:（Kw）i，j=k（wi-圆周率-1，wj-pj-1）对于i，j=p+1···n.（12）核函数k具有相关的线性算子kw=k（·，w）。再中心定理（附录B）允许我们将最小化（9）的结果表示为核算子的线性组合[9]。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:55

最佳预测现在可以按照以下方式用双重权重来编写：^xt=kw（wt-pt-1） T（千瓦+γ毫米）-1x。（13）均方预测误差可以通过对整个实现集进行平均来计算：varK（Xt | Wt-1） =mlXj=1（xj- ^xj）=m（Kwα*- x） T（Kwα）*- x），（14）其中^xjdenotes为xj的固定值。与方程（5）中的Geweke指数类似，我们现在使用上述框架定义了Geweke因果关系和瞬时耦合的核指标：GY→XkZ=logvarK（Xt | Xt-Zt，1-1）瓦克（Xt | Xt）-1，Yt-Zt，1-1） GY·XkZ=logvarK（Xt | Xt-Zt，1-1）瓦克（Xt | Xt）-1，Yt，Zt-1）（15）以这种方式将Geweke的因果关系度量扩展到非线性情况。2.1.4. Hilbert–Schmidt归一化条件独立性准则方差可用于分析二阶相关性，在高斯分布变量的特殊情况下，零协方差相当于独立性。1959年，Renyi[22]指出，为了评估随机变量X和Y之间的独立性，可以使用如下定义的最大相关性：S（X，Y）=supf，g（corr（f（X），g（Y））（16）其中f和g是任何Borel可测函数，f（X）和g（Y）对其具有确定的正相关性。最大相关性具有Renyi为适当的相关性度量所假设的所有属性；最重要的是，当且仅当变量X和Y独立时，它等于零。然而，最大相关性的概念并不实用，因为甚至可能不存在可以达到最大值的函数fand g[22]。然而，这个概念已经被用作一些基于内核的依赖性方法的基础，例如内核约束协方差[23]。本节需要一些功能分析和机器学习的背景知识。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:45:58

为了完整性，Hilbert–Schmidt范数和算子、张量积和均值元素的定义见附录B和下文[13,15]。交叉协方差算子类似于协方差矩阵，但为特征图定义。定义3（互协方差算子）互协方差算子是线性算子∑XY:HY→ Hx与联合测量PXY有关，定义为：∑XY:=EXY[（φ（X）- uX）（φ（Y）- uY）]=EXY[φ（X） φ（Y）]- uX uY（17）我们使用符号的地方对于张量积，μ表示平均嵌入（定义见附录B）。应用于Hx的两个元素的交叉协方差算符对协方差进行了恒压：hf，∑XYgiHX=Cov（f（X），g（Y））（18）符号和假设如下[13,18]：HXdenotes由严格正的核kX:X×X诱导的再生核希尔伯特空间（RKHS）→ R、与HYand kY类似，X是X上的一个随机变量；Y是Y上的一个随机变量，（X，Y）是X×Y上的一个随机向量。我们假设X和Y是拓扑空间，可测性是关于相关σ定义的-场地。边际分布用PX，py表示，而（X，Y）的联合分布用PXY表示。期望值EX、Ey和EXY分别表示对PX、Py和PXY的期望值。为了确保HX和Hy分别包含在L（PX）和L（PY）中，我们只考虑随机向量（X，Y），因此期望值EX[kX（X，X）]和EY[kY（Y，Y）]是有限的。正如互协方差算子与协方差相关，我们可以定义一个与偏相关相关的算子：定义4（归一化条件互协方差算子[15]）使用互协方差算子，我们可以用以下方式定义归一化条件互协方差算子：VXY | Z=∑-1/2XX∑XY- ∑XZ∑-1/2ZZ∑ZY∑-1/2Y Y（19）Gretton等人。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

kedemingshi

2022-5-5 08:46:01

[13] 说明对于足够丰富的RKHS（我们所说的“足够丰富”是指普适的，即X上具有上确界范数的连续函数意义上的稠密[24]），交叉协方差算子的零范数等价于独立性，可以写成：⊥⊥ Y<==> ∑XY=0（20），其中0表示空运算符。这种等价性是使用希尔伯特-施密特独立性标准（HSIC）作为独立性度量的前提（有关HSIC的信息，请参阅附录C）。文献[15]表明，归一化条件交叉协方差算子和条件独立性之间存在类似于（20）的关系，可以写成：X⊥⊥ Y|Z<==> V（XZ）（yz）|Z=0（21），其中由（yz）和（XZ）表示扩展变量。因此，有人建议将条件互协方差算子的希尔伯特-施密特范数作为条件独立性的度量。使用归一化算子的优点是，边缘算子对它的影响小于非归一化算子，同时保留了所有关于依赖性的信息。这与相关性和协方差之间的差异有关。定义5（Hilbert–Schmidt归一化条件独立性准则（HSNCIC）我们将HSNCIC定义为归一化条件互协方差算子的平方Hilbert–Schmidt范数，V（XZ）（Y Z）| Z:HSNCIC:=kV（XZ）（Y Z）|ZkHS（22），其中k·Khsde指出了附录B中定义的算子的Hilbert–Schmidt范数。对于样本S={（x，Y，Z），…，（xn，yn，zn）}，HSNCIC有一个估计量，它既是向前的，又有良好的收敛性[15,25]。如附录D所示，可以通过以下步骤确定所有成分的经验估计值来获得：首先确定均值元素^m（n）x和^m（n），并使用它们确定经验互协方差算子∑（n）XY。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:04

随后，使用∑（n）XY，以及以相同方式获得的∑（n）xx和∑（n）Y，定义经验规范化互协方差算子的∑（n）XY。注意，vxy要求反转∑Y和∑XX；因此，为了确保可再验证性，添加了正则化子nλIn。下一步是从^V（n）XY、^V（n）XZand和^V（n）ZY构造估计器^V（n）XY |Z。最后，构造^V（n）zy的希尔伯特-施密特范数的估计如下：HSNCICn:=tr[r（XZ）r（yz）- 2R（XZ）R（yz）RZ+R（XZ）RZR（yz）RZ]（23），其中tr表示矩阵的轨迹，RU=KU（KU+nλI）-而KU（i，j）=k（ui，uj）是一个语法矩阵。该估计器取决于正则化参数λ，而正则化参数λ又取决于样本大小。当反转有限秩运算符时，正则化是必要的。2.1.5. Transfer EntropyLet us现在引入了一种替代的非线性信息论因果关系度量方法，该方法被广泛使用，并为我们提供了与以前方法的独立比较。2000年，Schreiber建议将因果关系作为一种信息传递，从信息理论的角度来衡量。他将这种测量称为“转移熵”[26]。转移熵已经成为许多物理学家和生物学家的热门话题，关于转移熵在神经科学中的应用有大量文献。我们参考[27]了解一个最先进的工具箱，它可以预测传递熵。Max Lungarella等人在[28]中对转移熵和其他测量变量时间序列因果关系的方法进行了比较，包括扩展Granger因果关系、非线性Granger因果关系、可预测性改进和两个相似性指数。Ambrard等人对Granger因果关系和定向信息之间的关系进行了详细的回顾。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:08

[10] ，而从网络理论的角度来处理这个话题，请参考toAmblard和Michel[29]。转移熵被设计用来测量P（Xt | Xt）与广义马尔可夫性质的偏离-1，Yt-1） =P（Xt | Xt）-1). 从双变量情况下格兰杰因果关系的定义（1），即忽略边信息{Zt}，我们可以看到格兰杰非因果关系应该意味着零转移熵（Barnett等人[30]证明了高斯变量的线性相关性和forGeweke的格兰杰因果关系公式）。转移熵与香农熵以及香农互信息相关，并且可以根据香农熵进行分解：定义6（互信息）假设U、V是概率分布PU（ui）、PV（vi）和联合分布PUV（ui、vi）的离散随机变量。然后，互信息I（U，V）定义为：I（U，V）=Xi，jPU（ui，vj）logPUV（ui，vj）PU（ui）PV（vj）=H（U）- H（U | V）（24）与H（U）=-PiPU（ui）log PU（ui）香农熵和H（U | V）=Pi，jPUV（ui，vj）logPV（vj）PUV（ui，vj）香农条件熵。对于独立随机变量，互信息为零。因此，对交互信息的解释是，它可以量化随机变量之间缺乏独立性，特别吸引人的是，它以非线性的方式进行量化。然而，作为一种对称测量，互信息不能提供任何关于依赖方向的信息。包括方向信息在内的互信息的自然扩展是传递熵。Schreiber认为，香农熵测度族是静态概率分布的性质，而转移熵是对多个系统的推广，并根据转移概率定义[26]。我们假设X，Y是随机变量。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:12

如前所述，Xt代表点t处的值，Xt代表点t之前的值集合。定义7（传递熵）传递熵TY→Xis定义为：TY→X=H（Xt | Xt-1) - H（Xt | Xt）-1，Yt-1）（25）转移熵可以推广到多元系统，例如[30]定义条件转移熵→X | Z=H（Xt | Xt，Zt）- H（Xt | Xt，Yt，Zt）。在本文中，我们将只在两个变量的情况下计算转移熵。这是因为计算已经涉及到对三个变量（Xt、Xt、Yt）联合分布的估计，对于我们在金融应用中使用的时间序列长度，估计更多变量的联合分布是不切实际的。3.测试3。1.排列测试首先让我们强调，在一般情况下，之前引入的因果关系度量不应用作绝对值，而应用于比较。虽然我们观察到，平均而言，增加耦合强度会增加因果关系的值，但除非数据是以线性相关性和小噪声生成的，否则结果会有很大的偏差。因此，我们需要一种评估措施重要性的方法，作为评估因果关系本身重要性的方法。为了实现这个目标，我们将使用置换测试，遵循[9,18,25]中的方法。置换检验是指一种统计显著性检验，在这种检验中，我们使用随机置换来获得检验统计量在无效假设下的分布。我们希望比较分析数据和“随机”数据的因果关系测量值，并得出结论，前者显著更高。我们认为，破坏时间顺序也应该破坏任何潜在的因果关系，因为统计因果关系依赖于时间的概念。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

kedemingshi

2022-5-5 08:46:15

因此，我们在保持x和z的顺序不变的情况下，创建了Hby的分布。更准确地说，让π。。。，πnr可以是一组随机排列。然后，我们考虑yπj（t），而不是yt，得到一组测量值GYπj→X | | zt可以用作零假设GY的估计量→X | | Z.只有在大多数排列中，基于shuf fled（代理）数据的因果关系度量值小于原始数据的因果关系度量值时，我们才会接受因果关系假设。这通过定义如下的p值进行量化：p=nrnrXj=11（GYπj→X | | Z>GY→X | | Z）（26）根据使用的排列数量，我们建议接受显著性水平等于0.05或0.01的因果关系假设。在我们的实验中，我们报告了重叠移动窗口的单个p值或一组p值。后者在分析噪声和非平稳数据时特别有用。在没有太多可用数据的情况下，我们不认为使用任何类型的二次抽样（如[9,18,25]所建议的）就测试的威力而言是有益的。3.2. 模拟数据测试3。2.1. 线性二元示例在将这些方法应用于实际数据之前，谨慎的做法是验证它们是否适用于具有已知且简单依赖结构的数据。我们在一个数据集上测试了这些方法，该数据集包含八个时间序列，在不同的滞后和一些瞬时耦合下具有相对简单的因果结构。我们使用这四种方法试图捕捉依赖结构，并找出哪些标签显示了依赖性。通过首先从阿加西分布中生成一组八个时间序列（相关矩阵如表1a所示）来模拟数据。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:19

随后，将一些序列移动一个、两个或三个时间步，以获得以下“因果”关系：x←→ xat Lag0，即两个变量的瞬时耦合，x→ xat滞后1，x→ xat滞后1，x→ xat-Lag2，x→ xat滞后3，x→ xat滞后1，x→ xat滞后2，x→ xat滞后1。网络结构如图1所示，而因果关系出现的滞后时间如表1b所示。数据的长度是250。表1。模拟数据的依赖结构。（a）用于生成测试数据的相关矩阵；（b）滞后于真正的相关性发生的时间，解释为列变量导致行变量。1.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 1 1 0.1 1 1 0.1 1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.0.7 0.0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 0.1 1 0.1 0.1 1 1 0.1 1 1 0.1 1 1 0.1 1 0.1 0.1 0.1 0.1 0.1 1 0.1 1 0.1 0.1 0.1 0.1 0.1 1 0.1 1 0.1 0.1 0.1 0.1 0.1 1 1 1 1 0.1 0.1 0.1 0.1 1 1 1 0.1 0.1 1 0.1 0.1 1 1 1 1 1 1 0.1 0.7 0.7 0.7 1（a）ts1 ts2 ts3 ts4 ts5 ts6 ts7 TS8 ts1×0ts2 0×ts3×-1ts4 1×ts5×-1-2-3ts6 1×-1-2ts7 2 1×-1ts8 3 2 1×（b）图1。八个模拟时间序列之间因果关系的方向性。绿线代表因果关系，箭头表示方向；红线表示瞬时耦合。TS1TS2TS3TS4TS5TS6TS7TS8为了本文描述的实验，我们使用了来自多个来源的代码：我们为核化Geweke的度量和传递熵开发的Matlab代码，Granger因果关系GCCA的开放访问Matlab工具箱[31,32]，以及Sohan Seth[25,33]提供的开放访问Matlab代码。为了计算Geweke测度和核化Geweke测度，我们使用了相同的代码，前者使用线性核，后者使用高斯核。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:22

正则化对（线性）Geweke测量的影响可以忽略不计，结果与GCCA代码获得的结果具有可比性，主要区别在于我们的代码允许的滞后范围选择更灵活。对于[2]范围内的正则化值网格，岭回归的参数可以通过n倍交叉验证（见附录E）计算-40, · · · , 2-26]和内核大小在[2，··，2]范围内，或固定在预设水平，对结果没有明显影响。Transferentropy利用简单的直方图来估计分布。计算HSNCIC和执行p值测试的代码包含了Seth[25]编写的框架。对框架进行了分析，以适应一些新功能；在HSNCIC的参数选择中，排列测试的实现也从旋转变为实际排列[34]，如下[25]，其中内核的大小设置为中值样本间距离，正则性设置为10-3.我们的目标是在没有先验信息的情况下发现因果结构，并检测因果关系发生的滞后。这是通过应用所有三种因果关系度量来实现的，具有以下滞后集：{[1]- 10]}, {[1 - 20]}, {[1 - 5], [6 - 10], [11 - 15]}, {[1 - 3], [4 - 6], [7 - 9]}; 最后，所有四项指标均为单滞后{0,1,2,3,4}。这些范围用于线性和kernelisedGeweke的度量和HSNCIC，但不用于转移熵，在当前框架下，只有单个滞后可用。使用五组滞后，我们可以分析使用与变量“真实”动态对应的滞后不同的滞后范围的影响。表2显示的结果：滞后1的四个感兴趣指标的p值。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:25

下面，我们分别给出每种方法的结论，同时给出两种Geweke的测量方法。Geweke的测量：两个Geweke的测量结果表现类似，这是预期的，因为数据是用线性依赖关系模拟的。对于存在因果方向的所有滞后范围（包括最大范围[1-20]），正确识别了因果关系。对于较短的范围{[1]- 5], [1 - 3] 对于单个滞后{0,1,2,3}，这两个度量报告了所有现有因果方向的p值为零。这意味着这些测量能够精确地检测出存在因果方向的标签，包括滞后0，即瞬时耦合。然而，在排列数等于200且可接受水平为0.01的情况下，这两种方法仅检测到所需的因果关系，但无法拒绝0.05水平的一些虚假因果关系。转移熵：根据设计，这种方法一次只能分析一个滞后。它本身也是低的，由于这两个原因，当需要考虑大范围的滞后时，它将是无效的。此外，它不能用于瞬时耦合。为了检测这种情况，我们采用了交互信息方法。对于滞后{1,2,3}，转移熵报告了所有相关因果方向的零p值。然而，它未能拒绝伪方向1→ 7，p值为0。01.对于滞后{0}，在应用互信息的情况下，瞬时耦合x←→ X被正确识别，p值为零。HSNCIC：由于速度缓慢，HSNCIC对于最大范围的滞后是不切实际的。更重要的是，HSNCIC在包含超过一个滞后的任何滞后范围内的表现都不令人满意。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:28

这是非常令人失望的，因为设计表明HSNCIC应该能够处理边信息和高维变量。即使是小范围[1]- -3] ，HSNCIC正确地只识别了x→ 兴奋。然而，当一次分析一个滞后时，它确实正确地识别了所有的因果关系，报告的p值为零。这表明，对于具有一个以上滞后或两个以上时间序列的数据，HSNCIC是不可靠的。HSNCIC也不是为检测瞬时耦合而设计的。表2。滞后1的四个测量值的p值。从左上到右下：Geweke测量（Gc）、核化Geweke测量（kG）、传递熵（TE）、HSNCIC（HS）。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:33

所有方法均正确检索到了所有LAG 1因果关系。1.0 0.0 0 0.49 0 0.49 0 0.49 0 0.0 0 0.49 0 0.49 0 0.49 0 0.41 0 0.0 0 0.78 0.0 0.0 0 0.0 0 0 0.0 0 0.0 0 0 0.0 0 0 0.0 0 0 0 0.0 0 0 0 0 0.0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0.78 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0.78 0 0 0 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0.0.63 0.68 0.87 0×kG ts1 ts2 ts3 ts4 ts5 ts6 ts7 ts8ts1×0.920 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 9 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 8 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 6 ts7 ts8ts1×0.59 0.53 0.60 0.34 0.91 0.38 0.66ts2 0.48×0.860 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0.82ts2 1.00×0.80 0.61 0.85 0.34 0.02 0.72ts3 0.90 0.95×0.180.59 0.47 0.21 0.19ts4 0.90 0.29 0×0.31 0.81 0.26 0.31ts5 0.75 0.59 0.77 0.14×0.71 0.85 0.46ts6 0.64 0.88 0.75 0.79 0×0.71 0.79ts7 0.38 0.13 0.75 0.24 0.75 0×0.60ts8 0.90 0.55 0.46 0.73 0.78 0×从本实验中，我们得出结论，具有线性和高斯核的Geweke测度提供了最佳性能，不容易出现滞后错误，而且似乎最实用。另外两个指标，转移熵和HSNCIC，在一次分析一个滞后时提供了良好的性能。在第3.2.2节中。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:36

我们展示了[9]中一项测试的结果，该测试调查了在引入线性和非线性依赖关系的数据中区分直接因果关系和非直接因果关系的能力。我们参考[25]了解适用于线性格兰杰因果关系和HSNCIC的各种测试结果。我们测试了所有四种方法，并在很大程度上复制了[25]的结果；然而，我们使用了较少数量的排列和实现，并且我们获得了较低的真实因果方向的接受率，尤其是对于HSNCIC。从所有这些测试中，我们得出结论，在大多数情况下，线性因果关系可以通过所有测量来检测，但当存在更多滞后或维度时，HSNCIC除外。Granger因果关系可以检测一些非线性用途，尤其是当它们可以用线性函数近似时。在不同滞后存在因果效应的情况下，转移熵会产生更多虚假的因果关系。HSNCIC无法接受最大维度；在一些实验中，这种方法在三维和四维问题上表现良好；在另一些例子中，三维空间被证明太多了。可能最重要的结论是，参数的选择最终成为了格韦克衡量标准的关键。对于一些测试，比如前面描述的模拟八个时间序列数据，内核的大小并不起重要作用，但在某些情况下，内核的大小至关重要，可以检测因果关系。然而，没有适用于所有类型数据的内核大小。3.2.2. 非线性多变量示例我们的第二个示例遵循Ambrard[9]提出的示例，涉及一个具有线性和非线性因果关系的系统。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:40

除了介绍推广格兰杰因果关系的好处外，这个例子还展示了考虑旁侧信息对区分直接原因和间接原因的潜在影响。时间序列的真实动态如下所示：xt=axt-1+ x、 tyt=byt-1+dxt-1+ y、 tzt=czt-1+eyt-1+ z、 t（27），其中参数的选择方式如下：a=0.2，b=0.5，c=0.8，d=0.8，e=0.7，变量x、 t，y、 t，z、平均值和单位方差为零的皮重i.i.d.高斯分布。通过设置，我们知道我们有以下因果链x→ Y→ z（x对y的非线性效应），因此，存在间接因果关系x→ z、我们计算了核化Geweke测度Gx→赞德Gx→z |评估因果关系。我们重复实验500次，每次产生一个长度为500的时间序列。我们选择二者的叠加，即我们考虑滞后范围[1]- -2]. 为了评估使用kernelised而不是线性Granger因果关系的效果，我们对高斯核和线性kernelk（x，y）=xTy进行了每个实验。使用线性核几乎等同于使用线性Geweke测度。我们为Gx获得了一组500个测量值→赞德Gx→z | y，每一个都以高斯和线性角运行。结果如图2-4所示。正如所料，Gx→z | y没有检测到任何因果关系，无论选择了哪个内核。当不考虑任何附带信息时，我们应该看到间接因果关系x→ z被捡起；然而，这仅适用于高斯核的核化Geweke和HSNCIC。由于相关性是非线性的，线性的Geweke测度没有检测到它。图2。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:45

测量值的直方图Gx→z（红脸），Gx→z | y（蓝色面），使用线性核（即，等效的Granger因果关系）使用核化的Geweke进行计算。0 0.01 0.02 0.03 0.040500100150200250Gx->z（蓝色）和Gx->z | | y（红色）频率计数（总数500）图3。测量值的直方图Gx→z（红脸），Gx→z | y（蓝面），使用高斯核，通过核化的Geweke计算。-0.1 0.1 0.2 0.3 0.4 0.5 0.6 0.7020406080100120140Gx->z（蓝色）和Gx->z | | y（红色）频率计数（总数500）图4。测量值的直方图Gx→z（红脸），Gx→z | y（蓝脸），用希尔伯特-施密特标准化条件独立性标准（HSNCIC）计算。0.20.40.6 0.8 1 1.2 1.4 1.6 1.8 205101520253035Gx->z（蓝色）和Gx->本文定义的z | | y（红色）频率计数（总计500）传递熵不允许旁侧信息，因此，我们得到的结果是一个与零显著不同的分布（图5）。图5。测量值的直方图Gx→z（红脸），Gx→z | y（蓝面），用转移熵计算。0.8 1.2 1.4 1.6 1.8 205101520253035Gx->z（蓝色）仅频率计数（总数500）4。应用格兰杰因果关系是作为一个计量经济学概念引入的，多年来，它主要用于经济应用。在大约30年的相对较少的承认之后，因果关系的概念开始在许多科学学科中获得重大意义。格兰杰因果关系及其推广和替代公式变得流行起来，尤其是在神经科学领域，但在气候学和生理学领域[29,35–39]。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2022-5-5 08:46:48

该方法已成功应用于这些领域，尤其是神经科学领域，这是因为这些领域中常见数据的特点，而且高斯分布和/或线性相关性的假设通常是合理的[40]。金融时间序列通常不是这样。4.1. 在金融和经济的应用中，有许多工具专门用于建模依赖，主要用于对称依赖，如相关性/协方差、协整、copula，以及在较小程度上的互信息【41–44】。然而，在我们希望降低问题维度的各种情况下（例如，选择要投资的工具子集，为因子模型选择变量子集等），因果关系结构的知识有助于选择最相关的维度。此外，使用因果时间序列（或贝叶斯模型中的贝叶斯先验或图形模型中的双亲[1,45]）进行预测有助于预测“未来而非过去”。金融数据通常与生物学、物理学等领域中最常用的分析数据具有不同的特征。在金融领域，典型的情况是，研究人员只有一个长的、多变量的序列可供使用，而在生物学领域，尽管实验可能很昂贵，但很可能会有很多实验，而且通常，可以合理地假设它们是独立分布的（i.i.d.）。在神经科学等学科中经常被认为是合理的线性依赖或高斯分布假设，通常被认为对金融时间序列无效。此外，许多研究人员指出，平稳性通常不适用于此类数据。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

大多数88

2022-5-5 08:46:51

由于因果关系方法在大多数情况下假定平稳性，因此放宽这一要求显然是未来研究的一个重要方向。在下面的章节中，我们描述了将因果方法应用于两组财务数据的结果。4.1.1. 长期以来，经济学家一直在研究利率和通货膨胀。关于同一国家或地区的通货膨胀与名义或实际利率之间的关系，有大量研究，其中一些研究利用了格兰杰因果关系工具（例如，[46]）。在本实验中，我们分析了相关值，即美国消费者价格指数（U.S.CPI）和伦敦银行同业拆借利率（Libor）利率指数。伦敦银行同业拆借利率通常被银行和其他金融机构用作基准利率，是一个重要的经济指标。它不是一种与任何国家相关的货币措施，也不反映任何制度性规定，例如，与美联储设定利率的情况相比。相反，它反映了设定利率的银行对风险的某种程度的评估。因此，我们问，我们是否检测到这两个经济指标中的一个在统计意义上导致另一个？我们对从汤森路透获得的1986年1月31日至2013年10月31日的月度数据进行了分析。用于该分析的实现和参数值与模拟示例中的类似（第3.2节）。我们使用了线性和高斯角的核化Geweke测度。岭回归的参数处于[2，···，2]或asa中值范围内的预设水平。我们调查了大小分别为25、50、100和250的时间窗口。

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝