结合平稳分布的表达式，具有平稳分布π和转移矩阵Pijc的平稳马尔可夫过程的熵率可以简化为：h∞=Xiπi·Xj-Pij·logPij！（2.23）2.3.4熵的大小为了测量由于传递熵而产生的信息增益量，我们遵循Marschinski和Kantz（2002），根据REA（添加的相对解释）度量将信息增益与这些序列的熵联系起来，定义如下：REA（m，l）≡泰→X（m，l）H（X | X-1.十、-（m） ）（2.24）在这里，由传递熵测量的从Y到X的信息流与基于X的条件块熵的信息总流相关。不同的是，它通过在已经观察X时观察X和Y的历史来测量额外的信息增益。使用传递熵的定义，wearrive在以下形式下（m，l）=H（X | X-1.十、-m、 Y型-1.Y-l） H（X | X-1.十、-m）- 1（2.25）如果Y的过去历史没有为预测X添加信息，则h（X | X-1.十、-m、 Y型-1.Y-l） =H（X | X-1.十、-m） REA为零。为了了解REA的预期水平，我们直接引用了Marschinski和Kantz（2002）的结果。使用DAX预测道琼斯工业指数（Dow JonesIndustrial）的REA（使用一分钟的刻度数据）估计为3 symboldiscretization的0.4%。2.4近似熵（ApEn）引入了各种信息度量，以补充我们对随机时间序列的理解。在一系列文章中，Pincus（1991）开发了一种新的基于近似熵的数学方法来测量时间序列中的规律性。2.4.1定义u是一个数字序列，u（1）。u（N），长度为N。给定一个非负数字m和m≤ N、 我们形成子序列x（i）的m-块≡ （u（i），u（i+1），u（i+m-1)).

用d（x（i），x（j））测量两个块之间的距离≡最大值=1,2，。。。m（| u（i+k- 1) - u（j+k- 1） |），因此它是块体之间点位差异的最大值。给定一个正实数r，我们计算给定块x（i）距离小于r的块x（j）的分数，并将其命名为Cmi（r）。公式（2.26）给出了形式定义，其基于Pincus（1991）、Pincus（1995）、Pincus和Huang（1992）等。Heaviside函数Θ计算距离d低于阈值r的实例：Cmi（r）=N- m+1N-m+1Xj=1Θ（r- d（x（i），x（j））（2.26）Φm（r）=N- m+1N-m+1Xi=1logCmi（r）（2.27），方程式（2.27）中定义了Φm（r），近似熵ApEn（m，r，N）定义为：ApEn（m，r，N）（u）=Φm（r）- Φm+1（r），m≥ 0（2.28）ApEn（0，r，N）（u）=-Φ（r）（2.29）ApEn（m，r，N）始终定义良好。在方程式（2.26）中，当块的分数<r时，始终计算块与自身的距离d（xi，xi）。So Cmi（r）≥ 因此，Cmi（r）的对数永远不会确定。以下扩展说明ApEn衡量特定模式的接近程度。-ApEn（m，r，N）（u）=Φm+1（r）- Φm（r）=N- 明尼苏达州-mXi=1logCm+1i（r）-N- m+1N-m+1Xi=1logCmi（r）≈N- 明尼苏达州-mXi=1logCm+1i（r）- logCmi（r）=N- 明尼苏达州-mXi=1日志Cm+1i（r）Cmi（r）（2.30）最后一行是所有m区块上| u（j+m）条件概率对数的平均值-u（i+m）|<r，假设| u（j+k）-u（i+k）|<r对于所有k=0，1。m级-因此，近似熵衡量的是一种对数可能性，即m个观测值接近的模式序列在下次比较时保持接近。ApEn衡量持久性、相关性和规律性。如果Cm+1i（r）等于Cmi（r），则ApEn=0，并且存在强序列依赖性。因此，ApEn值越低，持久性和自相关性越高。

ApEn值越高，意味着持久性越差，观察结果越独立。图2.4:AR（1）过程的ApEn。具有各种自回归系数ρ=0，…，的AR（1）过程的近似熵ApEn（N=200，m=1），0.9.我们可以导出近似熵的另一种有用表示。我们已经在方程（2.30）中表明，m=1的近似熵ApEn（m=1，r，N）可以重新表示为两个块在扩展一个元素时保持闭合的预期对数似然。假设随机过程的平稳性，我们可以减少ApEn（m=1，r，N）中的计算数量，如下所示：ApEn（1，r，N）（u）=Φ- Φ(2.31)(2.30)=-N- 1N-1Xi=1logCi（r）Ci（r）（2.32）N→∞=- E日志C（r）C（r）（2.33）此外，Pincus（1991）发现了许多过程中ApEn的分析表达式。对于iid分布随机变量，ApEn（m，r）由以下定理给出。密度函数为f（x）的iid过程的定理，对于任意m，ApEn（m，r）=-Zf（y）·日志Zz=y+rz=y-rf（z）dzdy（2.34）例如，考虑一阶自回归过程AR（1），如下：Xk=ρ·Xk-1+ kk=0、1、2。（2.35）对于ρ=0，0.1。0.9，绘制了长度为200的1000条路径的蒙特卡罗模拟。图2.4描述了产生的带有标准误差的近似熵估计。对于较高的相关值ρ，近似性较低。最大ApEn值适用于ρ=0的随机游走过程。对于ρ=0.9，ApEn下降至0.65[位]。这表明持久性是近似熵测度敏感的特征。2.4.2 ApEn估计Rukhin（2000）表明，ApEn渐近收敛到N的卡方分布→ ∞. 特别是对于大小为N、块大小为m和常数为c的iid二元值序列=-3ln2，ApEn（m，N）与m收敛为χ分布-2自由度为N→ ∞.

对于有限样本，ApEn是一个有偏差的统计数据。小样本偏差可以用一个正态分布的随机变量N（0，σ）来说明，样本长度从20到500不等，每个都有1000条模拟路径。图2.5右侧显示了该随机游动的ApEn估计值的平均值和标准误差。阈值r设置为样本标准偏差的20%。随着样本长度N的增加，ApEn的平均值从（m=2，r=0.2σ，N=20）=0.11[位]增加到（m=2，r=0.2σ，N=500）=1.44[位]。对于小样本，ApEn的低估是显而易见的。我们可以从图2.5中看到，随着样本长度接近1，ApEn接近0。鉴于这种小样本偏差，可以增加阈值r作为一种反措施。但有一个更大的r，分布中的信息丢失了。小样本偏差还意味着，只有当样本长度N相同时，ApEn之间的比较才有意义。此外，Pincus（2008）研究了各种股权指数的ApEn（m，r，N），得出结论，参数m=1，2和过滤阈值图2.5：ApEn与m=1，5和N=20。左：滚动90天窗口（m=1，…5，r=0.2^σ）（SP500）时间序列。右图：不同样本大小和标准误差的随机游动的估计ApEn图。0.1^σ ≤ r≤ 0.25^σ，其中^σ为样品的标准偏差，可产生良好的结果。为了构造统计界，第五章采用了自举方法。bootstrapping方法通常涉及多次重新整理数据，并使用bootstrapping模拟中平均的近似熵估计来估计偏差和计算有效ApEn。然而，重新处理数据也会破坏单变量时间序列内的相关性。

更接近的方法是标准的块引导，其中使用固定块长度的块重采样。这就是这里采用的方法。在图2.5中估计随机行走的开放度时，引导标准误差显示为图中ApEn估计值周围的灰色带。样本长度越小，标准误差越大。第三章提款的双变量分析在本章中，我们使用互信息和传递熵来分析欧元/美元和英镑/美元的大额提款/提款之间的依赖关系。尽管我们的样本期间记录了各种危机事件，但我们没有发现这种货币对存在极端依赖。欧元/美元和英镑/美元的大额支取/支取依赖性较弱。然而，转移熵显示了欧元/美元和英镑/美元之间的信息流。3.1简介金融时间序列提取（提取）定义为从本地最大值（最小值）到下一个本地最小值（最大值）的累积回报。绘制是一种时间序列功能，它包括提取和提取，没有规则的时间戳。它提供了不同市场制度的统计依赖性方面。提款的概念很重要，不仅从理论角度来看，而且在金融行业的各种情况下也很重要，例如在资产管理中，提款往往会推动赎回。对于受按市值计价限制的买入并持有投资组合，延长提款期可能会导致不必要的清算和投资组合的重新调整。此外，大额提款可能通过投资组合保险和基金转售触发反馈机制，这有可能推动价格进一步下跌。

对提取的研究已经引起了相当大的关注，并记录了金融时间序列中提取的许多经验特性。Johansen和Sornette（2001）提出了一个崩溃理论，该理论解释了几乎所有时间序列都适用的下降/上升。他们声称，下降/上升可以用一个定义明确的微观结构过渡阶段的开始来解释，该阶段的特征是每天下降的突然持续出现，加上下降的相关幅度增加。这就解释了为什么价格变化在大多数情况下似乎是独立的，但在特殊情况下，可能会出现连续的相关性和放大效应，从而产生提取/提取异常值。据我们所知，尚未对金融时间序列中的提取（提取）关系进行研究。Rebonato和Gaspari（2006）在个案基础上对美国不同到期日利率的大额提款/提现是否相互一致进行了定性研究。但到目前为止，尚未提出定量措施来分析这些提取/提取。检测和衡量金融时间序列之间的相互作用是金融和经济学研究的一个关键领域。关于线性依赖，例如，向量自回归模型中存在相关和互相关度量及其更一般的公式。最近，copula方法被用来模拟时间序列之间更一般形式的依赖关系，并取得了一定的成功（McNeil、Frey和Embrechts（2005））。但是，这些工具不适合对提取/提取的依赖性进行建模。从返回到绘图时出现的一个障碍是时间被压缩，并且不再等距分布。

与同步测量的时间序列不同的是，两个时间序列产生的绘图通常会进行非常不同的计时。另一个障碍是，经常有人认为，大规模下降/上升是由非线性机制产生的。市场参与者对市场状况压力不足的羊群效应、投资组合保险的积极反馈以及市场压力时期的流动性波动都会导致非线性价格动态（Sornette（2003））。作为标准模型的替代方案，信息理论方法已成功应用于金融和其他领域，以应对上述问题。特别是，传递熵测量序列之间的信息流，并检测序列之间的细微依赖关系。这是一个基于传递概率的Kullback-Leibler距离（Schreiber（2000））的无模型度量。另一方面，互信息是时间序列的数量相关性和互相关类型相关性。它还广泛用于金融领域（戈兰（2008）、迪奥尼西奥（Dionisio）、梅内泽斯（Menezes）和门德斯（Mendes）（2004））。在本章中，我们使用信息论工具分析欧元/美元和英镑/美元的大额提款和大额提款是如何相互关联的。具体而言，交互信息度量用于分析同期相关性（即同一小时或同一天）或特定时滞。转移熵用于测量一个时间序列中的大量下降和上升对另一个时间序列中的大量下降和上升的影响。我们的结果表明，欧元/美元和英镑/美元的大额提款之间的关系弱于依赖关系。有关更多详细信息，请参见Tsay（2010）。例如，参见Marschinski和Kantz（2002）、Kwon和Yang（2008b）、Jizba、Kleinert和Shefaat（2011）。在相同序列的返回之间。

当考虑序列之间的时滞时，依赖性的强度显著下降。另一方面，转移熵表明两个系列中的大抽签之间存在信息流动。这种信息溢出效应从英镑/美元到欧元/美元略强于反向。本章结构如下。第3.2节回顾了与分析相关的文献。它涵盖了关于提取/提取的主要研究以及熵测度和信息理论工具的一些最新金融应用。第3.3节描述了使用的数据并讨论了其统计特性。第2章介绍了本研究中使用的各种信息论工具，第3.4节简要回顾了这些工具。本节还介绍了将图纸转换为符号序列的方法。第3.5节介绍并讨论了相关性分析的结果。我们在第3.6节中进行了总结，并提出了未来研究的可能方向。3.2相关文献3.2.1提取文献在Johansen、Ledoit和Sornette（2000）提出的微观结构模型中，代理人在正常和危机市场条件下做出不同的反应，在市场反弹和崩盘期间产生不同的模仿、羊群效应和正反馈模式，留下不同的“自相关性”和依赖性特征。作者声称，提款中的异常值始于突然出现和持续的每日价格下跌，再加上下跌的相关幅度增加。因此，在“正常”市场条件下，价格变化在大多数时间内似乎是独立的，但在特殊情况下，可能会出现连续的相关性和放大效应，从而产生下降异常值。给定一个时间序列，下降被定义为连续的负回报序列。

因此，提款被定义为一系列不间断的积极回报。具体而言，提取（drawup）是从一个本地最大值（最小值）到下一个本地最小值（最大值）的累积回报。对于本章的其余部分，除非另有说明，我们通常使用提款来指代提款和提款。正如Johansen、Ledoit和Sornette（2000年）以及Johansen和Sornette（2001年）所述，Draws在Sornette的理论中，在捕捉不同市场制度下的市场依赖性方面发挥着重要作用。继Johansen和Sornette（2001）之后，从特定长度的下降开始，观察到D级下降持续n个时间单位的概率与topn（D）成正比∝Z-∞dxp（x）···Z-∞dxnp（xn）δD-nXi=1xi（3.1）其中δ是δ函数，δ（D-方程（3.1）右侧的Pni=1xi）确保总和在所有可能的运行持续时间n上∈ N- {0}.由于水位下降原则上可以持续任意数量的时段，我们需要将所有可能的持续时间相加，以得出水位下降的概率，其大小取决于n，如下所示：p（D）=pupd∞Xn=1Z-∞dxp（x）···Z-∞dxnp（xn）δD-nXi=1xi（3.2）其中pd=R-∞p（x）dx是观察到负价格变化的概率，pu=1- Pd是正的对应项，而术语pupden则确保了分布的正态性。通过渐近分析并假设iid回报，水位下降概率密度函数p（D）的分析表达式具有指数分布（Johansen和Sornette（2001））：p（D）=Dexp(-|D | D）；D=-pupdZ公司-∞xp（x）dx（3.3）δ是一个带r的函数+∞-∞δ（x- a） f（x）dx=f（a）dha是水位下降特征尺寸的自然解释。Sornetteet等人。

将指数分布扩展到下面方程（3.4）中的拉伸指数分布，以使用渐近分析中泰勒级数展开中的额外项来解释较慢的衰减尾：Pse（D）=De-（| D |χ）z（3.4）方程（3.4）可以拟合峰度小于（z>1）或大于（z<1）的分布，而不是简单的指数分布。参数z和χ简洁地描述了分布：χ值越大，“典型”水位下降越大；z值越小，尾部越厚，出现较大水位下降的相对可能性越大。Rebonato和Gaspari（2006）表明，对于相同和独立的高斯回报，预期的下降幅度为E[D]高斯=4σ√2π，adraw内的预期日降d，E[d]高斯=2σ√2π.与提取和提取密切相关的概念是运行，定义为一系列正（或负）价格变化。Mood（1940）和其他人获得了关于arun长度（与抽签持续时间无关）的结果。我们用ld表示运行或下降的长度。任意选择的支取正好由ld=n个价格变动组成的概率可以计算为给定初始下移，进一步n个价格变动的概率-1步和结束上移如下：P（ld=n）=pu·pn-1d（3.5），其中pu为上移概率，pd为下移概率，pu+pd=1，返回序列{x，…xn}。应用Mood（1940）更一般的结果，可以计算n个价格变化时间序列中的预期运行次数E【Nrun】。这是givenasE[Nrun]=2npu（1- pu）+pu+（1）- pu）（3.6）对于普通硬币，pu=pd=，因此预期的运行次数为E[Nrun]=2n++=n+1。

对于大的n，这大约是lyn。对于pu=pd=的公平合理硬币的独立抛投，抽奖的预期长度和方差为1/2=2（3.7）var[ld]pu=pd=1/2=2（3.8）。在回顾了抽奖的基本理论结果后，我们回顾了Johansen在一系列论文中记录的金融市场抽奖的经验结果，Ledoit和Sornette（JLS）关于道琼斯工业平均指数、富时100指数、不同市场的一些单名股票、外汇美元/马克、美元/日元、美元/瑞士法郎和金价的每日变化。JLS发现，方程式（3.4）中引入的修正指数分布适用于高达98%的权益和大部分财务回报的提取和提取。最大下降的剩余1%-2%不能用简单指数或拉伸指数来解释。股票指数、股票价格、外汇汇率和大宗商品价格普遍出现比预期高出三倍的提款，CAC40是极少数例外。JLS表明，这些绘图是属于不同类别的异常值。只有一半的时间序列研究了草拟中的参展商异常值。此外，与提款相比，提款的a^z（见表3.1）更接近简单指数情况。提款的特征规模χ在一个资产类别内是稳定的，但在不同的资产类别中有所不同。FX作为一个组，具有最小的χ，并且具有z值≈ 0.84至0.91（见表3.1），对应于肥尾分布。对于股票指数，典型的价格变动有χ≈ 提取和提取的利率为1.05%-2.1%，高于外汇利率。例如，见索内特（2003）、约翰森和索内特（2001）以及约翰森和索内特（2000）。支取的z系数与货币的z系数范围相同，即0.80到0.90，但支取的z系数接近1，即。

简单指数分布。对于单个股票，特征大小要大得多，χ≈ 1.91%-7.61%。对于水位上升和水位下降，指数z都接近1。股票指数、黄金和外汇汇率的z<1指数与厚尾的每日回报分布相一致。与此不同的是，美国大型股票的减持分布≈ 1，与具有正常尾部大小的每日收益分布兼容。支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取支取0.987±0.022微软1.04±0.03 1.01±0.03 5y1.127±0.025 1.050±0.024Cisco 1.16±0.04 1.21±0.04 10y 1.154±0.025 1.052±0.023通用电气1.02±0.02 1.02±0.02 20y 1.188±0.025 1.060±0.024英特尔1.06±0.03 1.21±0.03 30y 1.144±0.026 1.063±0.023表3.1：外汇、股票和利率市场提款报告指数分布对于外汇的提取和提取，z（±标准误差），Johansen和Sornette（2001）的精选美国股票和利率回报。JLS认为，这种异常巨大的下降只能用罕见且连续的每日降幅来解释。当市场进入一个关键阶段时，就会发生这种情况，在这个阶段的过渡会导致理性、知情的交易者和吵闹、模仿的交易者之间的不同行为。Sornette（2003）引用了羊群行为和市场参与者模仿大多数人作为最佳策略，作为市场参与者不同特征的例子。

正是市场参与者之间互动模式的改变触发了价格变动的机制变化，产生了不同的系列相关性和幅度。其他行业惯例，如组合保险和保证金要求，进一步加剧了市场压力期间的羊群行为。Rebonato和Gaspari（2006年）对美国伦敦银行同业拆借利率和掉期利率的提取进行了广泛的研究，发现在短期利率中，无论是提取还是提取，都存在大量的异常值。总的来说，当水位下降的z系数接近1，水位下降超过1时，建议使用细尾（见表3.1）。与独立价格变动的无效假设相比，长度1的运行（即时价格反转）比预期的更频繁。另一方面，长度2和3的梯段比预期的要少。Rebonato和Gaspari（2006）对美元利率市场的研究是对提款的唯一双变量分析。众所周知，PCA分析的第一个特征向量占利率期限结构变动的80%-90%。该研究提供了一些证据，证明短期利率（3m、6m和1y）、中期利率（2y、5y和10y）和长期利率（20y和30y）区块内同时出现提款，但区块之间没有。特别是，短期利率中的九笔大额提款均未与其他两个区块的任何大额提款相关联。3.2.2熵计量经济学文献基于Shannon（1948）的信息理论的一个重要时间序列工具开始受到金融研究界的关注。这一研究领域的关键是找到与噪声相关的最佳数据编码。

这是一种分析不确定性下的信息或关系的非参数方法。Darbellay和Wuertz（2000）使用互信息来估计30分钟收益率对DEM/美元汇率和道琼斯工业平均指数每日收益率的依赖性。作者指出，在滚动固定窗口中衡量的回报率和波动率并不是独立的。Schreiber（2000）将互信息扩展到转移熵的概念中，转移熵考虑了转移概率。传递熵在检测系统间的信息流方面特别有用，自那以后，它在不同认知领域（如神经学和生态学）的时间序列多元分析中得到了应用。Marschinski和Kantz（2002）将传递熵应用于金融时间序列，他们在2000年5月至2001年6月期间的一分钟间隔内，发现了从道琼斯工业平均指数到DAX股票指数的信息流动证据。任何来自反向方向的信息都不太明显。Kwon和Yang（2008b）使用转移熵，并为25个综合股票指数的日收益率之间的信息流找到经验证据。来自美国和欧洲市场的传出转移熵值最高，似乎主要流向亚洲和太平洋地区。大陆内信息流不如大陆间信息流显著。同样，Kwonand Yang（2008a）发现了25种股票指数的每日回报率与各自市场的单名股票回报率之间信息流动的经验证据。Dimp Fl和Huergo（2011）使用转移熵，发现CDS和债券利差之间存在双向信息流的证据，从CDS市场到债券市场的信息转移略高。

由于缺乏acointegration关系，无法使用向量错误校正模型对数据进行建模。此外，还建立了从VIXto到iTraxx的单向信息流。Jizba、Kleinert和Shefat（2011）使用R'enyi熵S（R）q将转移熵扩展为R'enyi转移熵。S（R）q（定义如下）是有限集X上分布P的一系列熵测度，并按q>0的顺序进行索引：S（R）q（P）=1- qlogXx∈Xpq（x）（3.9）与香农熵不同，通过参数q的控制，R’enyi熵可以强调分布的不同部分，而不一定平等地考虑整个潜在的经验价格分布。A q∈ （0，1）聚焦于分布的尾部，当q>1时，聚焦于分布的主要部分。R’enyi转移熵是根据1990年至2009年期间欧洲、美国和亚洲的11个股票指数的日收益率进行估计的。作者发现，美国和欧洲市场更容易受到亚太地区价格动荡的影响，而不是相反。3.3计算2001年1月3日至2012年7月27日期间每日收盘和每小时欧元/美元和英镑/美元汇率的数据日志返回。每日观察3017次，每小时观察71039次。图3.1:2001年1月3日至2012年7月27日期间的欧元/美元、英镑/美元时间序列每日欧元/美元和英镑/美元汇率。样本期包括不同的市场制度和一些重大经济事件，如2007年的金融危机。表3.2列出了汇率回报和提取/提取的统计数据。表3.2的前四行报告了各自返回序列的四个第一中心矩（u，u，u，u）。

每日序列的平均值与两种货币对的每小时序列的平均值相当，每天24小时采样。在Chosen样本期内，欧元和英镑对美元均升值（更多每日收盘价来自彭博社。每小时数据可从www.fxhistoricaldata.com.EURUSD（h）gbpsud（h）EURUSD（d）gbpsud（d）Panel A：样本时刻u[10]下载-6] 3.624 0.644 86.413 15.937u0.002 0.002 0.007 0.006u0.07-0.263 0.006-0.306u12.814 15.481 4.201 5.33uρ0.6730 0.6736面板B：高斯模型高斯=4σ/√2π [10-3] 2.15 2.04 10.44 9.41E[d]高斯=2σ/√2π [10-3] 1.08 1.02 5.22 4.71 C组：提款统计，提款E[D]/E[D]=E[ld]1.98 1.96 1.85 1.98E[U]/E[U]=E[lu]2.02 2.01 1.96 2.04E[D][10-3] 1.7566 1.6288 9.2321 8.8101E[单位][10-3] 1.7711 1.6314 9.5508 8.8623σ（D）[10-3] 2.0492 1.9979 9.2219 9.4067σ（U）[10-3] 2.0533 1.9449 8.9 8.41σ（ld）1.33 1.31 1.26 1.36面板D：最大提款，提款最大D.D.%]2.68 3.93 7.94 10.68最大D.D日期05-Jan-09 08:00 24-Oct-08 07:00 29-Sep-08 17-Oct-08最大D.u.%]3.11 3 10.93 5.62最大D.u日期13-Nov-08 19:00 28-Oct-08 18:00 10-Dec-08 28-Oct-08表3.2欧元/美元和英镑/美元返回并提取统计数据。前四个样本矩^u。估计每小时（h）和每日（d）时间序列的μu。ρ是每小时和每日序列中货币对之间的相关性。在B组中，我们报告了预期的降水量E[D]高斯和日降水量E[D]高斯和iid高斯回波。C组列出了预计长度E[ld（E[lu）量级E[D]（E[U]）、标准偏差σ（D）（σ（U））和长度标准偏差σ（ld）。

panelD中报告了时间序列中最大的水位下降和水位上升，以及震级和开始时间。欧元兑英镑）对这两种货币对均产生积极影响。欧元/美元小时序列的波动率（u）可与每日序列相比较（应用时间标度的平方根）。对于英镑/美元系列，小时系列比每日系列波动更大。欧元/美元呈正偏态，反映出尽管存在欧洲主权危机，但在样本期内欧元普遍升值。英镑/美元呈负偏态，主要是由于2008年的大幅波动。所有序列的峰度都高于4，这是指每小时的收益率高于每日的收益率。对于每日和每小时数据，两种汇率之间的无条件相关性^ρ为0.673。表3.2下面板中报告了四个时间序列中的提款和提款统计数据。对于所有序列，如果序列是正态分布iid过程，则平均拉伸幅度低于，即[D]≤E[D]高斯，E[U]≤ 高斯。水位下降的平均长度低于高斯情况下的E[ld]≤ 除欧元/美元（h）英镑/美元（h）欧元/美元（d）英镑/美元（d）A组：提款^z（d）0.993 0.98 1.145 1.121σ^z（d）0.005 0.005 0.029 0.025^χ（d）[10-3] 1.765 1.616 10.03 9.255σ^χ（D）[10-3] 0.012 0.011 0.254 0.249面板B：图纸^z（U）0.986 0.959 1.026 1.033σ^z（U）0.005 0.005 0.022 0.025^χ（U）[10-3] 1.745 1.595 9.332 8.932σ^χ（U）[10-3] 0.011 0.011 0.268 0.256表3.3：拉长指数分布用于提取（提取），拉长指数Pse（D）=De-（| D |χ）zis使用最大似然法估计。每小时和每日系列的形状参数^z和尺寸参数^χ报告用于面板A中的提取和面板B中的提取。

继Rebonato和Gaspari（2006）之后，我们使用刀切程序计算估计值的标准误差。每日欧元/美元系列。大部分提款的长度为| ld |≤ E[ld]+σ（ld）≈ 3.3期间和类似数字适用于提款。平均水位下降幅度略低于平均水位上升幅度E【D】<E【U】。对于这两种货币对，每日系列中最大的抽奖发生在2008年秋季，即2007年开始的金融危机最严重的时候（表3.2中的D组）。每日欧元/美元系列的最大跌幅始于2008年9月29日，持续了六天，这是由对欧洲金融体系的新担忧引发的。两个月后，持续六天的最大规模提款于2008年12月10日开始，当时美联储将短期利率降至历史低点。2008年10月17日，观察到每日英镑/美元的最大降幅。由于宏观经济环境和对英国银行业的担忧，这场交易持续了七天，处于英镑抛售期。紧随其后，10月28日出现了持续三天的市场回调，形成了英镑/美元每日收益系列中最大的提款。所有系列的预期下降长度均低于高斯情形，E【ld】<2，这表明价格有反转趋势。除每日欧元/美元外，所有提款的预期长度都略高于高斯情况下的预期长度，E[ld]>2。表3.3显示了基于最大似然法的修正指数分布的形状参数^z和尺寸参数^χ，该分布符合水位下降和水位上升。这种方法已知是渐近无偏的，但需要大样本。估计误差^σ是通过自举技术计算的（见Rebonto和Gaspari（2006））。

通过将数据子集替换为从估计参数指定的指数分布中提取的数据，可以重复生成新的数据集。每日收益率的drawshape参数^z>1超过两个标准差。这表明尾巴比简单的指数分布要细。另一方面，日收益率序列图呈现出一个^z形状，该形状在简单指数分布的两个标准差范围内。同样，每小时水位下降的估计形状^z（D）在简单指数的两个标准偏差范围内。对于小时序列的绘制，^z（U）<1乘以两个以上的标准偏差，这表明尾部比简单指数更厚。对于每日和每小时的水位下降，确定预期水位E【D】的特征量表^χ（D）在平均值的两个标准偏差范围内，即|E【D】- ^χ（D）|<2·σχ（D）。同样的情况也适用于每日提取，但不适用于每小时提取，这低于预期提取E【U】。3.4信息论方法3.4.1熵测度在第二章中，我们介绍了熵测度、互信息和转移熵。这使我们能够检测时间序列之间的相关性和互相关效应。联合分布p（X，Y）的两个随机变量X和Y的互信息I（X；Y）定义为I（X；Y）=-Xx号∈十、 y型∈Yp（x，y）·logp（x，y）p（x）p（y）（3.10）互信息测量从观测中减少x的不确定性。我们在第2章中进一步看到，在一个观测值中引入时间延迟并不能区分实际交换的信息与对输入信号的共同响应或由外部因素驱动的共同历史。为了检测信息溢出，我们使用转移熵代替。设p（x。

xn）表示观察子序列（x，…xn）的可能性，则传递熵是决定性的→X（m，l）=Xp（xt，…xtm，ytm-l+1，ytm）·logp（xtm+1 | xt，…xtm，ytm-l+1，ytm）p（xtm+1 | xt，…xtm）（3.11），其中xt和YT表示时间t时X和Y的离散状态。参数SM和l分别表示X和Y中包含的过去观测值的数量。虽然互信息量化与X（或Y）的偏差是独立的，但传递熵量化与X的偏差仅由其自身的历史（通过条件概率）或Y的历史确定。与互惠信息不同，传递熵→X（m，l）不是对称的，只考虑源自变量Y的统计相关性，而不考虑来自公共信号的统计相关性。在文献中，基于核密度方法Schreiber（2000）、Blumentrit和Schmid（2011）以及最大似然方法Paninski（2003），对连续变量的传递熵和互信息进行了估计。在本章中，我们处理的是市场观察到的离散收益，离散值的数量对于任何实际目的来说都太高，需要在计算熵测度之前大幅减少。在本章中，所使用的分区是出于经济考虑，重点关注特定的市场情况，如大规模的提取和提取，这可能会或可能不会导致每个分区的边际概率相等。以返回序列为例，如图3.2所示，有九个时间步。图中第二行描述了{r，…，r}形式的缩编，缩编{D，…，D}。例如，连续的负值返回r、r、rform一次提取D。

这九个收益是图3.2：离散化示例具有绘制状态和离散化结果的九个收益的较大时间序列的一部分。我们希望将其放入分区中。在这里，至少有两种不同的方法来划分数据。第一种方法是遵循文献（如第3.2.2节所述），根据回报的大小将单个回报映射到分区（或字母）。设q（a，b）表示b置信水平下a的分位数。第一种方法是将收益映射如下：dr（rt）=如果rt<q（rt，0.33），则为0；如果q（rt，0.33），则为1≤ rt公司≤ q（rt，0.66）2如果rt>q（rt，0.66）（3.12），由于ris是唯一一个绝对值为负值且较大的回报，因此它很可能是九个回报中唯一一个映射到字母“0”的回报。其他八个回报在绝对值上很小，很可能映射到字母“1”。该映射的结果如图3.2所示为“离散化收益”。或者，由于我们对大额提款和提款感兴趣，我们可以根据其特定类型提款的成员资格来映射收益，而不是单个收益的大小：dD（rt）=如果D（rt）<q（D，0.05），则为0；如果q（D，0.05），则为1≤ D（rt）≤ q（D，0.95）2如果D（rt）>q（D，0.95）（3.13），其中D（rt）表示拉伸的大小，q（D，0.05）是拉伸分布的5%分位数，类似地，q（D，0.95）位于95%分位数。这意味着字母“0”与较大的提取相关联，字母“2”与较大的提取相关联，字母“1”具有所有具有较小提取大小的提取。因此，很可能在我们的示例中，D中的所有返回（即r，rand r）都将映射到字母“0”，而其他六个返回（r，r，r，rand r）将映射到字母“1”。九份申报表中没有大幅度的提款。

该映射结果如图3.2所示为“离散化绘制”。在前一种情况下，每个分区（或字母）的边际概率将是相同的。对于第二种方法，即我们在这里采用的方法，不能保证边际概率相等，这将取决于抽签规模的分布。让X→ A是离散化的随机变量，其中所有值都组合到M=| A |框中。离散概率分布的熵可以通过计算落入每个箱子的X的相对频率来计算。我们称之为naive熵估计器的估计器可以计算如下。^Hnaive=-MXi=1pi·log（pi）=-MXi=1niN·log（niN）=log（N）-NXini·log（ni）（3.14）如果样本量N很小，统计函数会对熵估计产生偏差，从而产生向下的偏差。格拉斯伯格（2003）对这种“小样本”偏差进行了修正。假设所有pi 1，建议的新估计量Hψ如下：^Hψ=lnN-NMXi=1ni·ψ（ni）（3.15）ψ（x）=d（lnΓ（x））dx，Γ（0，x）=Z∞e-xttdt（3.16）我们将在第3.5.2节中使用此估计器。根据特定的分区选择，各个进程的熵将发生变化。在此，离散化方案（3.13）中分位数的选择决定了将映射过程中的绘制状态的符号。在QT较低的情况下，由于符号分布更不均匀，预计单个过程的熵较低。Q分位数越高，相应的熵越高。这组三个字母的符号序列中的最大熵由均匀三符号分布的熵给出：-3··log（）=1.585。两种汇率的熵估计值如表3.4所示。

从表3.4中可以看出，最大熵是通过分位数q的划分得到的≈ 0.225，q=1- q≈ 0.775，低于q=。这种情况是因为在离散化中使用了绘制分布的分位数，而不是绘制状态分布的分位数。由于较大的绘制倾向于归属于较小的绘制，从绘制大小定义的分区移动到基于离散绘制状态的分区，将导致分区向较大绘制“倾斜”。传递熵，如方程（3.11）所定义，使用历史块上的熵来确定过程是否相互影响。在本节的剩余部分，我们讨论了H（X | X）的一些结构特征-1.十、-（m+1）），通过离散化定义的汇率过程。图3.3显示了每日欧元/美元提款状态的条件区块熵和区块熵。左图是一个分位数为q=0.05、q=0.95的分区，重点放在大型绘图上。右图表示更为等概率的划分，分位数q=0.15，q=0.85。

绝对水平相差2倍，这可以通过符号分布的熵来解释，其中^Hq=0.05（欧元/美元）=0.968分位数q：0.025 0.050 0.075 0.100 0.125 0.150 0.175 0.200 0.225 0.250面板A：每日系列^HEUR/美元（d）0.674 0.968 1.164 1.308 1.411 1 1 1.483 1.531 1.561 1 1 1.58 1.585^HGBP/美元（d）0.66 0.968 1.163 1.315 1.412 1.478 1.532 1.562 1 2 1.58 1.585面板B：小时系列^HEUR/美元（h）0.597 0.89 1.095 1.247 1.362 1.446 1.507 1.549 1.574 1.585^HGBP/美元（h）0.593 0.888 1.0881.242 1.357 1.442 1.504 1.547 1.572 1.584表3.4：每日和每小时欧元/美元和英镑/美元的熵^H分区定义如等式（3.13）所示，分位数q的值范围为：dD（rt）=如果D（rt）<q（D，q），则为0；如果q（D，q），则为1≤ D（rt）≤ q（D，1- q） 2如果D（rt）>q（D，q），且^Hq=0.15（欧元/美元）=1.48（见表3.4）。图3.3：块熵欧元/美元该图显示了无条件H（X，X-1.十、-（m+1））和条件块熵H（X | X-1.十、-（m+1）），对于欧元/美元离散时间序列上m=1到m=9的历史长度。使用了两种离散格式。左侧q=0.05，右侧q=0.15。q=0.05时的条件熵下降速度比q=0.15时的慢。这与抽签长度为E【lD】的结论一致≈ 2（见表3.2 E【ld】、E【lu】的行），但前提是提款处于较高的分位数q=0.05、0.95，欧元/美元提款的平均长度可估计为E【ld | D<q（D，0.1）】=4.03±1.65，而提款的平均长度可估计为E【lu | U>q（U，0.9）】=4.21±1.93。这些结果综合起来表明，大部分大型图纸的长度不超过4.03+1.65≈ 5.68 4.21 + 1.93 ≈ 6.14. 因此，我们希望看到条件块熵在长度超过6.14时达到平台。

我们将这里的讨论限定为每日欧元/美元系列，因为英镑/美元系列和每小时系列的图片非常相似。3.5实证结果3.5.1欧元/美元和英镑/美元提款之间的相关性我们估计了等式（3.10）中的相互信息，τ=-8.8使用（3.13）中的离散化方案计算每日和每小时汇率回报。对于每日序列和每小时序列，样本量分别约为3000和70000，使用（3.14）中M=3（对于三个字母“0”、“1”、“2”）的naive估计量来估计互信息I。作为对阈值选择（q=0.05，q=1）的稳健性检查- q=0.95）对于离散化方案，我们还根据其他阈值选择计算了互信息。表3.5中报告了每日汇率回报的结果（q=0.045、0.050、0.055），并绘制在图3.4中。从表3.5和图3.4可以清楚地看出，相互信息在τ=0时最高，在τ6=0时急剧下降。对于相同的τ，τ<3的相互信息大于τ>0，表明欧元/美元相对于英镑/美元处于领先地位。为了了解互信息估计对特定分区选择的敏感性，选择了不同的分位数来估计互信息。在表3.5的第二列和第四列中，我们报告了分位数集（q=0.045，q=0.955）和（q=0.055，q=0.945）的估计互信息。在图3.4的右侧，我们报告了滞后τ=-2.-1，0，+1，+2，分位数范围为q=0.025到q=0.35，这近似于等概率情况。表示互信息估计的曲线是连续的，在特定分位数处没有尖峰。

这在一定程度上保证了分位数的选择不会实质上改变结论。从图3.4^I（Xt，Yt）的右侧也可以清楚地看到-τ） ^I（Xt，Yt-τ),q=0.050lagτq=0.045 q=0.050 q=0.055u（^I（X，Yshu）±σu（^I（XB，YB）|ρ=0.67±^σu（^I（XB，YB）|ρ=0.5±^σ+4 0.00842 0.00871 0.00973 0.00289±0.00203 0.05831±0.04773 0.03105±0.02221+3 0.0101 703 0.01806 0.02037 0.00288±0.00203 0.07152±0.04389 0.03766±0.01956+2 0.03545 0.03876 0.04383 0.00289±0.00203 0.08884±0.03524 0.04595±0.01427+1 0.05595 0.062660.07181 0.00286 ± 0.00198 0.10822 ± 0.02336 0.05398 ± 0.009010 0.07187 0.0832 0.09617 0.00283 ± 0.00194 0.12536 ± 0.01992 0.06029 ± 0.00897-1 0.04303 0.04926 0.05633 0.00275 ± 0.00192 0.10822 ± 0.02336 0.05398 ± 0.00901-2 0.01879 0.02087 0.02278 0.00273 ± 0.00191 0.08884 ± 0.03524 0.04595 ± 0.01427-3 0.00657 0.00718 0.00771 0.00273 ± 0.00189 0.07152 ± 0.04389 0.03766 ± 0.01956-4 0.00415 0.00377 0.00398 0.00272±0.00188 0.05831±0.04773 0.03105±0.02221表3.5：互信息（每日回报）在前三列中，报告了dailyreturn系列离散时间序列的估计互信息^I（欧元/美元，英镑/美元+τ）。离散化方案（3.13）使用分位数q=0.050，并作为分位数q=0.045、0.055的稳健性检查。在最后三列中，给出了三个过程的数值模拟结果。u（^I（X，Yshu）表示该值，其中一个离散时间序列被压缩，破坏了任何相关或互相关信息。在u（^I（XB，YB）|ρ=0.67,0.5列中，使用离散化方案（3.13）计算相关过程的交互信息，相关系数ρ=0.67,0.5。该互信息在滞后τ=0时最高，而在分配滞后时显著较低。

与其他分位数值相比，q=0.055和q=0.125之间的信息增加更高。接下来，我们将经验估计与两个相关高斯过程产生的模拟结果进行比较。对于每个模拟的时间序列，基于离散化方案（3.13）计算绘制状态，并应用naive估计器。一个模拟集中使用的相关系数是两个收益序列欧元/美元和英镑/美元的估计无条件相关性，其ρ=0.673（见表3.2）。这使我们能够在高斯回报的简化假设下，定量描述时间序列中相关性对绘图依赖性的排他性影响。结果如图3.4和表3.5第六列所示。在所有滞后条件下，模拟状态的互信息始终显著高于经验序列。一对经验绘制状态序列的较低互信息表明，与具有相同相关系数的一对相关高斯过程相比，经验序列中的大型绘制显示出更高程度的独立性。如果在模拟中考虑进一步的互相关关系，预计模拟图和经验图之间的差异将更大。图3.4：互信息（每日回报）左图显示了滞后τ的^I（欧元/美元，英镑/美元+τ）=-8, . . . + 8和模拟高斯过程。右图^I（欧元/美元+τ，英镑/美元）表示滞后τ=-2, . . . + 2和显示的各种离散化QI。规格如表3.5所示。模拟了另一对相关高斯过程，其相关性较低，^ρ=0.5。特定因子是在实验不同的相关性后设定的，目的是在滞后τ=0时对互信息有一个下界。

该模拟的结果也显示在图3.4和表3.5的第七列中。滞后0时，互信息低于经验序列的互信息。此外，在这种设置中，滞后τ6=0时的互信息比经验序列的情况低得多。滞后时间τ∈ {0，1}，模拟对的交互信息高于经验序列的相应交互信息。为了量化估计熵（互信息）时的误差，我们重新估计了两个给定时间序列的互信息，但其中一个下面的返回序列是shu-free。shu-free的结果是去除序列之间的任何相关性和互相关。此外，任何自相关信息也会被破坏，导致不同的绘图分布。这是迭代完成的，生成一个shu-free ed系列的示例。离散化程序适用于所有的shu峈ed系列，互信息计算并在图中表示为I（Xshu峈ed，Y）。^I（Xt，Yt）的平均值和标准误差-τ） ^I（Xt，Yt-τ） ，q=0.050lagτq=0.045 q=0.050 q=0.055u（^I（X，Yshu）±^σ[10-3]+5 0.0054 0.00535 0.00538 0.11361 ± 0.081+4 0.01163 0.01157 0.01131 0.1123 ± 0.079+3 0.02479 0.02441 0.02409 0.11351 ± 0.08+2 0.05141 0.05184 0.05274 0.11517 ± 0.081+1 0.09124 0.09409 0.09865 0.11619 ± 0.0830 0.13581 0.14376 0.15415 0.11131 ± 0.079-1 0.08763 0.09058 0.09585 0.1114 ± 0.078-2 0.04873 0.04992 0.05228 0.11103 ± 0.077-3 0.0234 0.02408 0.02529 0.1116 ± 0.077-4 0.01134 0.01182 0.01255 0.11147±0.079-5 0.00598 0.00633 0.00663 0.11182±0.081表3.6：小时回报的互信息在前三列中，报告了离散化小时回报序列的估计互信息^I（欧元/美元，英镑/美元+τ）。

离散化方案（3.13）已在分位数q=0.050时使用，并在分位数q=0.045、0.055时用作稳健性检查。u（^I（X，Yshuêed）显示值，其中一个离散化时间序列被刷新，破坏了任何相关或互相关关系。计算了松脂样品。图3.4中的左图显示了平均值以及经验时间序列的估计互信息。滞后τ=-4, . . . + 表3.5中报告了4个。从图3.4可以看出，shu’ed系列的互信息非常低。仅适用于滞后|τ|≥ 6经验系列的互信息^I是否低于shuêed系列中包含的互信息水平。我们对小时汇率重复上述程序，并在表3.6中报告结果。小时关系的结果与上述每日回报的结果相似，互信息I在τ=0时达到峰值，而τ6=0时下降。τ<0时的I略高于τ>0时的等效|τ|。与每日收益一样，我们测试了结果对分位数选择的敏感性。表3.6显示了不同滞后τ=-5, . . . + 每小时序列的估计^I包含的信息水平高于τ=0和其他短|τ|的每日绘制状态序列。因此，在同期和短期滞后时，小时回报率之间存在较强的依赖性。3.5.2欧元/美元提取和英镑/美元转移熵之间的信息流可以表示为两个区块熵的差异，如等式（3.11）所示。

在这里，我们使用方程（3.13）中定义的三字母划分和方程（3.15）中的格拉斯伯格估计量^Hψ来估计转移熵。由于小样本的传递熵不为零，我们遵循Marschinskiand Kantz（2002）的方法，通过bootstrappingmethod估计平均值和标准误差，包括重新调整预测序列，并破坏其所有时间序列模式。该过程重复足够多次，然后计算平均值u（^Tsh）和标准偏差σ，调整后的有效传递熵（ET）计算为：ETY→X（m，l）≡ 泰→X（m，l）- u（^Tsh）（3.17）表示ETY→X（m，l），m指的是X中自己过去历史的长度，l指的是Y过去历史的长度，用于预测X。ET form=1。4且l=1。4如图3.5所示。表3.7和表3.8中列出了更重要案例（即，由最暗块表示）的详细统计数据。从图3.5中，我们注意到，对于固定的m，ET通常随着l的增加而增加。另一方面，对于相同的l，如果可以使用X自身的过去更有效地预测X，则ET可能会随着减少而减少。对于图3.5、表3.7和表3.8所示的结果，我们得出的结论是，欧元/美元的最大值→英镑/美元，m=2，l=4，而对于^ETGBP/美元→欧元/美元，m=1，l=4。从这两种汇率的^ET金额来看，从英镑/美元到欧元/美元的信息流略多于从英镑/美元到欧元/美元的信息流。请注意，图3.5中的有效传递熵为负值，这是因为从shu-free ing得到的估计传递熵高于原始时间序列。