因此，它更灵活，因为更新相当于独立地计算f和g的近似运算符。A、 7.2收敛与停止准则在传统拉格朗日函数Lhas为鞍点的假设下，可以证明残差r（k）收敛于零，目标函数fx（k）+ g级z（k）到最佳值f（x？）+g（z？），和对偶变量λ（k）到对偶最优点。然而，收敛速度未知，原始变量x（k）和z（k）不一定收敛到最优值x？和z？。然而，在有界约束的Markowitz优化的背景下，Raghunathan和Dicarano（2014）的结果可用于获得原始变量的线性收敛性。通常，根据残差确定停止标准：r（k）6 εs（k）6ε，其中r（k）=Ax（k）+Bz（k）- c和s（k）=ДA>Bz（k）- z（k-1). 执行此停止标准时的典型值为ε=ε=10-18.A.7.3惩罚参数和初始化无论选择惩罚参数φ>0，收敛结果保持不变。但是，选择Дa会影响融合的速度（Ghadimi等人，2015；Giselson和Boyd，2017）。在实践中，每次迭代时可能会更改惩罚参数Д，这意味着用Д（k）代替Д，缩放双变量ukis等于λ（k）/Д（k）。这可以提高收敛性，并使性能独立于initialchoiceД（0）。为了在实践中更新Д（k），He et al.（2000）和Wang and Liao（2001）提供了一个简单而有效的方案。一方面，ADMM中的x和z更新基本上避免了对r（k）. 因此，如果Д（k）较大，r（k）倾向于变小。另一方面，s（k）与Д呈线性关系。因此，如果Д（k）很小，s（k）很小（和r（k）可能很大）。

保持r（k）和s（k）在系数u内，可以考虑：Д（k+1）=τИ（k）如果r（k）> us（k）Д（k）/τifs（k）> ur（k）ν（k）否则，其中u、τ和τ是大于1的参数。在实践中，我们使用Д（0）=1，u（0）=0，u=10和τ=τ=2。我们可以将s（k+1）解释为双重可行性条件的残差：0∈ f（x？）+A> λ？和0∈ g（z？）+B> λ？（Boyd等人，2011年）。Robo AdvisorsA强大的资产配置。7.4 Tikhonov正则化让我们考虑Tikhonov问题：x？=arg minkAx公司- bk+%kΓ（x- x） k（38）s.t。kxkq6 cqx=bAx 6 bx-6 x 6 x+其中q∈ [1, ∞). 我们注意到：Ohm=nx公司∈ 注册护士：kxkq6 cqoOhm= {x∈ Rn:Ax=b}Ohm= {x∈ Rn：Ax>b}Ohm=x个∈ 注册护士：x-6 x 6 x+我们定义：f（x）=kAx- bk+%kΓ（x- x） k+1Ohm（x） 和：g（x）=1Ohm（x） +1个Ohm（x） +1个Ohm（x） 蒂霍诺夫问题变成：{x？，z？}=参数最小值f（x）+g（z）s.t.x- z=0因此，ADMM算法为：x（k+1）=arg minf（x）+Д（k）x个- z（k）+u（k）z（k+1）=参数最小值g（z）+Д（k）x（k+1）- z+u（k）u（k+1）=u（k）+x（k+1）- z（k+1）我们注意到，我们可以将第二步替换为：z（k+1）=P{g（z）<∞}x（k+1）+u（k）其中P{g（z）<∞}x（k+1）+u（k）是x（k+1）+u（k）在凸集{z）上的正交投影∈ Rn:g（z）<∞}.使用此公式，x步是显式的，而z步是计算凸集上的正交投影。正交投影的显式公式见第55页附录A.8。x步也由以下公式给出：A> A+%Γ>Γ+Д（k）InA>Ax（k+1）λ=A> b+%Γ>Γx+Д（k）z（k）- u（k）bRobo AdvisorsA强大的资产配置。7.5混合正则化我们现在将Tikhonov问题的目标函数替换为：x？=arg minkAx公司- bk+%kΓ（x- x） k+p%pkΓp（x- x） kpp（39），其中p 6=2。

这些约束条件与Tikhonov问题的约束条件相同。我们定义：f（x）=kAx- bk+%kΓ（x- x） k级+Ohm（x） +1个Ohm（x） +1个Ohm（x） +1个Ohm（x） 和：g（z）=p%PKZKPPL- Lpproblem变为：{x？，z？}=arg最小值f（x）+g（z）s.t.Γp（x- x）- z=0根据此规范，ADMM算法为：x（k+1）=arg minf（x）+Д（k）Γpx- z（k）- Γpx+u（k）z（k+1）=参数最小值g（z）+Д（k）Γpx（k+1）- z- Γpx+u（k）u（k+1）=u（k）+Γpx（k+1）- z（k+1）- Γpxx步骤包括最小化二次约束问题。如果不施加不等式约束，则可以明确地将其带出。否则，x步可以由另一个ADMM执行。z步包括在点z=Γpx（k+1）处计算λkzkppa的近端算子-Γpx+u（k），λ=%p/p^1（k）. 函数f（x）和g（z）的其他选择会导致计算受约束的近端算子或x 7的近端算子→ kΓpxkpp。后者没有明确的公式，除非Γpis正交的正倍数（Beck，2017）。我们的选择使得p的z步显式∈ {1，2，3，4，5}，并且对于任何p>1都是可计算的。A、 7.6基数约束ADMM算法也可用于发现权重最多不为零的投资组合。让我们介绍n-稀疏向量集Z:Z=x个∈ Rn |卡x 6 n，x-6 x 6 x+（40）我们考虑增广Tikohnov问题：x？=arg minkAx公司- bk+%kΓ（x- x） k（41）s.t。x个∈ Ohm∩ Ohm∩ Ohm∩ OhmΓ（x- x）∈ ZRobust AdvisorsZou和Hastie（2005）的资产配置问题（39）已被引入，p=1为凸松弛问题（41）。约束x∈ Z受到惩罚%kΓ（x- x） k必须选择惩罚参数%的强度作为满足约束卡x 6 n的最小值（Hastie et al.，2009）。非凸集Z上的投影存在并且是显式的（但可能不是唯一的）。Diamond等人。

（2018）表明：PZ（v）=POhm（v（n）），其中v（n）i=viif i∈ 一、 如果I 6，则v（n）I=0∈ 一、 I是最大值| vi |和P的一组指数Ohm投影到Ohm= {x∈ 注册护士：x-6 x 6 x+}。如前所述，我们有：f（x）=kAx- bk+%kΓ（x- x） k级+Ohm（x） +1个Ohm（x） +1个Ohm（x） +1个Ohm（x） 和：g（z）=1Z（z），带约束Γ（x- x） =z。根据该规范，ADMM算法为：x（k+1）=arg minf（x）+Д（k）Γpx- z（k）- Γpx+u（k）z（k+1）=PZΓx（k+1）- Γx+u（k）u（k+1）=u（k）+Γx（k+1）- z（k+1）- Γx因此，z步是明确的。ADMM不一定会收敛，当它收敛时，也不一定会收敛到最佳点。与凸情况相反，算法的可能收敛性取决于X的初始值和惩罚参数Д（k）。在非凸环境中，可将ADMM视为局部优化方法，可使用具有凸松弛和约束的局部邻居搜索方法来获得算法的收敛性（Diamond等人，2018）。A、 8近似算子和投影如前所示，ADMM算法的z步通常计算范数的近似算子或简单凸集交集上的投影。我们回顾了主动资产管理中最有用的案例，并请读者参考Parikh andBoyd（2014）、Beck（2017）和Combettes and M¨uller（2018）以获取更多示例。在大多数情况下，近端操作符是显式的，或者包含在确定区域值函数的零点中。A、 8.1近端手术的定义let f:Rn→ R∪ {+∞} 是一个适当的闭凸函数。

近端手术ProxF（v）：Rn→ Rnis定义：proxf（v）=x？=arg minxf（x）+kx- vk公司（42）由于函数fv（x）=f（x）+kx- VKI是强凸的，它对每个v都有一个唯一的极小值∈ Rn（Beck，2017；Parikh和Boyd，2014）。机器人咨询的稳健资产配置如果我们想计算λf（x）+1的近端算子Ohm（x） 对于λ>0，必须求解：x？=arg minxλf（x）+kx- vk公司s、 t.x公司∈ Ohm在λ=0的情况下，我们必须确定正交投影POhm（v） 集合中的vOhm.在λ>0的情况下，根据f（x）的正则性和约束集的存在/不存在，我们可以使用不同的优化算法Ohm （Nocedal和Wright，2006年）。A、 8.2 lpnorm为了计算f（x）=λpkxkpp的近端算子，我们可以假设维数为n=1，即x 7→ kxkppis完全可分离：fv（x）=λp | x | p+（x- v） p=1的情况是标准情况。当p>1且λ>0时，fv（x）的导数为：fv（x）=λ符号（x）| x | p-1+x- 因为fv（x）是关于x的一个增函数，我们得到了一个唯一的最小值。我们得出以下结果：f（x）proxf（v）λkxkSλ（v）=（| v |- λ1)  符号（v）λpkxkppf-1λ，p（v），其中fλ，p:R→ R是奇数双射函数，定义如下：x>0 fλ，p（x）=λxp-可对p进行1+xExplicit计算∈ {2, 3, 4, 5}. 特别是，我们有：f-1λ，2（v）=1+λvv∈ 兰特：f-1λ，3（v）=λ-+r+λv！已知三次和四次方程的显式公式，因此F的显式表达式-1λ、4（v）和f-可写入1λ，5（v）。在图13中，我们报告了x 7的近端操作→ λpkxkppin多个p值的一维，λ=1。我们验证f-1λ，p（v）是一个奇数函数。近似算子Sλ（v）=f-1λ，1（v）被称为软阈值算子。对于非凸情况，近端映射的值不是唯一的（p<1）。P=2的近端运算符是斜率为1/2的直线。

我们还注意到，在v=1时，对于p<2和p>2，近端算子的凸性是不同的。作为P（X）=Xq+X的伽罗瓦群- c代表c∈ Q和Q>5，可能不可解，无法为f提供明确的公式-1λ，p（v），当p>6时。然而，对分法总是可以用来计算f-1λ，p（v）表示任何p>1，牛顿算法表示p>2。机器人咨询的稳健资产配置图13:PKxKPP-4-3-2-1 1 2 3 4-2-1.5-1-0.50.511.52A的近端操作员。8.3情况f（x）=1Ohm（x） 如果我们假设f（x）=1Ohm（x） 在哪里Ohm 是（凸）集，我们有：proxf（v）=arg minxOhm（x） +kx- vk公司= POhm（v） 其中POhm（v） 是标准投影。我们在这里给出了用于投资组合优化的一些多面体的结果：Ohm POhm（v） Ax=bv- A+（Av- b） a>x=b v-a> 五- b卡卡>x 6 b v-a> 五- b+卡卡克斯-6 x 6 x+v 1{x-6 v 6 x+}+x- 1{v<x-} + x个+ 1{v>x+}如果f是范数，那么f*（x） =1B（x），其中B是双范数f的单位球。见Parikh和Boyd（2014）和Beck（2017）。范数lpa和lqa是对偶的当且仅当指数{p，q}∈ [1, ∞) 是H？older共轭物（p-1+q-1= 1).机器人咨询的稳健资产配置因此，Moreau分解产生：proxλf（v）=v- λPBλv也就是说，我们只使用标准球上的投影。L的球∞norm是box约束的一种特殊情况。对于Lnorm，到单位球的正交投影为：PB（v）=（对于kvk6，kvk>1v，VKVK6 1对于Lnorm，到单位球的投影不太直接。

由以下公式得出：PB（v）=符号（v） （| v |- λ1），其中λ满足：k | v |- λ1k=1（43）方程（43）可通过双截面算法或投影次梯度法求解（Duchi et al.，2008）。备注8还请注意，Lball和单纯形上的投影是等效问题，应用对称性x 7的两倍→ -x、 凸集交点上的投影就是这样一个例子，其中，邻近算子的计算简化为确定实值函数的零。例如，两个球相交处的投影Bp∩ bq是投影到由{x:f（x）6 R}定义的子级集的一种特殊情况，其中f（x）=kxkq+1Bp（x）。实际上，我们考虑一个非空的Lpball bp和一个非空的Lqball Bq。正交投影Ohm在十字路口Ohm = 英国石油公司∩ BQ由：P给出Ohm（五）=PBp（v）如果PBp（v）∈ 如果PBp（v），则为Bqproxf（v）/∈ bq其中f（x）=λ？kxkpandλ？是一个标量，因此proxf（v）∈ BQ何处Bq是Bq的边界。我们现在考虑v在凸集交集上的投影Ohm 和超平面=x个∈ Rn，a∈ Rn \\{0}| a>x=b.

我们有：x？=酸碱度∩Ohm（v） =arg最小值∈H∩Ohmkx公司- VK保留约束x∈ Ohm 隐式的，我们可以写出这个问题的部分拉格朗日函数：L（x，λ）=kx- vk+λa> x个- b=kx公司- （五）- λa）k+λa> 五- b-λkak（44）如果向量v具有有序分量，则λ的值是显式的。机器人顾问的稳健资产配置强对偶性，x？当且仅当存在标量λ时，最优解是吗？∈ r满足：x？∈ arg minx∈OhmL（x，λ？）x呢？∈ HUsing方程（44），我们得到：x？=POhm（五）- λ?a） x呢？∈ λ在哪里？是方程的解：a>POhm（五）- λ?a） =b最后一个公式的特殊情况是对标准单纯形的投影Ohm = Rn+，两个非空球的交点Ohm = 英国石油公司∩BQ和超平面Ohm =x个∈ Rn | 1>x=0.A、 9 Tikhonov正则化压力统计的推导我们有：X>X=X>-德克萨斯州-t+xtx>t：X>Y=X>-泰-Sherman Morrison Woodbury公式得出：^β-t型=X>-德克萨斯州-t+%ΓΓ>-1X>-泰-t型=十> X+%ΓΓ>- xtx>t-1.十> Y型- xtyt公司=S（%）-1.- xtx>t-1.十> Y型- xtyt公司=S（%）+S（%）xtx>tS（%）1- x> tS（%）xt十> Y型- xtyt公司= S（%）X>Y- S（%）xtyt+S（%）xtx>tS（%）1- x> tS（%）xtX>Y-S（%）xtx>tS（%）1- x> tS（%）xtxtytWe表示zt=x>tS（%）xt。由于^β=S（%）X>Y，我们得到：X>t^β-t=x>t^β- ztyt+zt1- ztx>t^β-zt1- ztyt最后，我们得到：yt- x> t^β-t=yt1+zt+zt1- zt公司- x> t^β1+zt1- zt公司= 年初至今1.- zt公司- x> t^β1.- zt公司=1.- x> tS（%）xt（yt- x> t^β）假设u和v是两个向量，A是可逆方阵。因此：A+uv>-1=A-1.-1+v>A-1uA-1伏>A-1 Robo AdvisorsIt的反对资产分配如下：PRESS统计等于：PRESS（%）=TXt=1年初至今- x> t^β-t型=TXt=1年初至今- x> t^β1.- x> tS（%）xtB黑色的随身听模型B。1计算隐含风险溢价，我们考虑以下优化问题：x？（γ） =arg minx>∑x- γx>（u- r1）s.t。

1> x=1未标度解为：x？=γΣ-1(u - r1）给定初始配置x，我们推断，如果预期回报向量由：|u=r+γ∑xb定义，则该投资组合是最优的。假设我们知道初始配置的夏普比率，我们推断：|u=r+SR（x | r）∑xpx>∑x（45）我们从资本资产定价模型中检索到一个基本结果。在最佳情况下，风险溢价与边际风险成比例（Roncalli，2013）。B、 2预期回报的条件分布Black和Litterman（1992）指出，资产回报的向量Rtof遵循高斯分布：Rt~ N（￠u，∑m），其中￠u是与分配X相关的隐含预期收益，∑mis资产收益的市场协方差矩阵。为了明确投资组合经理的观点，他们假设它们是由以下关系给出的：P Rt=Q+ε（46），其中P是（k×n）矩阵，Q是（k×1）向量，ε~ N（0，∑ε）是维数k的高斯向量。投资组合经理的k视图可以用绝对或相关项表示。因此，预期收益Rt和视图νt=P Rt的联合分布- ε由以下关系式给出：Rtνt~ NuPu,∑m∑mP>P∑mP∑mP>+ε机器人咨询的稳健资产配置通过应用条件期望公式，我们得到：(R)u=E[Rt |νt=Q]=u+∑mP>P∑mP>+ε∑-1（Q- P|u）和：(R)∑=Eh（Rt- u）（Rt- (R)u）>|νt=Qi=∑m- ∑mP>P∑mP>+ε∑-1P∑mt条件预期收益的向量|u有两个分量：1。第一个分量对应于隐含预期收益的向量≯u。2、第二个分量是考虑不平衡（Q）的修正项- 管理者的观点和市场的观点之间的差异。同样，条件协方差矩阵有两个分量。

的确，我们有：“∑”=In+∑mP>∑-1εP-1∑m=Σ-1m+P>∑-1εP-1（47）同样，条件协方差矩阵是经理视图的市场协方差矩阵∑和协方差矩阵∑ε的加权平均值。B、 3绝对视图如果投资组合经理指定绝对视图，则相当于施加P=INADQ=u。我们推断：(R)u=在里面- ∑m（∑m+∑ε）-1.u+σm（∑m+σε）-1u和：∑=m（∑m+ε）-1∑ε如果我们考虑（未标度）最优投资组合'x，我们得到：'x=γ'∑-1u= γΣ-1ε（∑m＋∑ε）∑-1米在里面- ∑m（∑m+∑ε）-1.u+σm（∑m+σε）-1u= Σ-1m∑x+x，其中x是基于经理观点的均值-方差优化投资组合。特别是，如果∑m=∑，那么最优投资组合'x就是SAA投资组合'x和MVO投资组合'x的总和。参见第47页附录A.3。设A、B和C三个相容矩阵。我们有：AB>BAB>-1B=I-I+AB>C-1B级-1我们提醒您：A-1+B-1=B-1（A+B）A-1 Robo AdvisorsLet∑的可靠资产配置为经验协方差矩阵。如果我们假设∑m=τ710∑和∑ε=τ710∑，我们得到：‘||||Μ+u和：‘∑=τ710∑因此，条件预期回报率是隐含预期回报率和管理者观点之间的平均值，而条件协方差矩阵与经验协方差矩阵成比例。特别是，如果τ设置为1，则资产波动率按√2、这种类型的参数化是一个真正的问题，因为它大大减少了资产回报的方差矩阵。我们现在考虑第二种方法，∑m=^∑和∑ε=τ∑。因此：(R)u=τ1+τрu+1+τu（48）和：(R)∑=τ1+τ∑当τ→ 0，我们验证了条件期望倾向于管理者的视图。

然而，协方差矩阵也趋向于零矩阵（见图14）。再次，我们注意到管理者观点的权重与协方差矩阵的缩减之间存在套利。在实践中，我们希望控制管理者观点的贡献，而不必修改资产回报的协方差矩阵。