我们证明了通过验证调整的套索在n>p时是一致的，只要（en/p）→ ∞,Rnt（btrain | Xt，Yt）P→ infbR（b | X，Y）和RNS（b列车| Xs，Ys）P→infbR（b | X，Y），这意味着（1/nt）ketkand（1/ns）keskall收敛到相同的极限。因此，（1/nt）ketk（1/ns）keskP-→ 1、同样（4/ns）eTsXs∞P→0，kbtraink→ kβk和 →0、AlsobyP→ Xβif（n/p）→ ∞.因此XbLassoL→ Xβ/nkXsk> ρkkρXTXρkknskXsKntketk（1-√)-nskesk公司+ns系列eTsXs∞kbtraink+。因此ρkKntketk（1-√)-nskesk公司+ns系列eTsXs∞kbtraink+。通过Minkowski不等式，上述可以简化为Btrain- bLassokvuutρntketk（1-√)-ρnskesk+rρnskeTsXsk∞kbtraink公司+ρβ证明。推论3。（一致性whenn>p。）如果n>p，极值估计bTrainis“最坏情况”的OLS估计量。我们证明，对于n>p/nskXqs，通过交叉验证调谐的套索是一致的k> ρqkkρq（Xqs）T（Xqs）对于交叉验证套索，KKXq=1nskXqsKntketk（1-√)-KKXq=1nsEQ+KKXq=1nsEQTXqs∞B列车+意味着kkxq=1ρqkKntketk（1-√)-KKXq=1nsEQ+KKXq=1nsEQTXqs∞B列车+ 。用ρ表示minqρqbyρ*,ρ*KKXq=1kkKKXq=1ρqkk、 因此，ρ*KKXq=1kKntketk（1-√)-KKXq=1nsEQ+KKXq=1nsEQTXqs∞B列车+ impliesKKXq=1B列车- 布拉索nt·ρ*ketk（1-√)-KKXq=1ns·ρ*EQ+KKXq=1ns·ρ*EQTXqs∞B列车+ρ*. （11） 上面的方程是边界forEkhE（Xks，Yks）hB列车- 布拉索二、N→ ∞B列车→ bLassobtrainβLbLassoβLProof。定理4。n<pn<p OLS估计是不可行的，因为extxis不是满秩的，而传统的/nkxk> ρk定理3中的kβ可能无效/nkXsk> eρkkb∈ {bλ}b雨水/ntkYt-XTBKNUN在受限特征值条件下。N→ ∞Rempbrain | Xnt，YntP→ infbRb | X，YRempbtrain | Xns，YnsP→infbR（b | X，Y），表示（1/n）ketkand（1/n）keskall收敛到相同的极限。因此，（1/n）ketk-（1/n）keskP→0

同时（4/n）eTsXs∞P→0，kbtrainkP→ kβk和 → 0.也由*P→ Xβif（n/p）→ ∞. 因此，XbLassoL→ Xβ。对于OLS，（1/n）kXsk> eρkk、 其中ρ是xtx的最小限制特征值。与定理3类似，定理2证明中的方程（2）可以简化为B应变- bLassokvuuteρntketk（1-√)-eρnskesk+reρnskeTsXsk∞kbtraink公司+eρ.由于Tropp（2004）和Zhang（2009）证明了前向选择回归是一致的，因此极值估计和Lasso估计渐近收敛于β。证据推论4。（一致性whenn<p.）在这个证明中，我们表明，在交叉验证下，定理4的一个非常相似的界也适用于Lasso。如上所述，用eρ表示minqeρqq*,eρ*KKXq=1kkKKXq=1eρqkk、 因此，eρ*KKXq=1kKntketk1-√-KKXq=1nsEQ+KKXq=1nsEQTXqs∞B列车+ Meinshausen和Yu（2009）发展了一种受限特征值条件，他们称之为稀疏特征值条件。IMPLIESKXQ=1B列车- 布拉索nt·eρ*ketk1-√-KKXq=1ns·eρ*EQ+KKXq=1ns·eρ*EQTXqs∞B列车+eρ*. （12） 上面的方程是边界forEkhE（Xks，Yks）hB列车- 布拉索二、N→ ∞B列车→ bLassobtraintoβ在L中（Tropp，2004；Zhang，2009），Blasso也在LAppendix 2正向选择回归算法1中收敛到β。标准化Y和变量Xj，j=1，p2。从Y=u3开始回归。将与u相关度最大的变量添加到回归中，并估计Y=Xb+u4。umost recent变量添加到模型中小于一些预设值。CV Lasso算法1。设置λ=02。Ta测试集S3。计算T上的Lasso估计量bλ，并计算S4上Xbλ的GE。将λ增加预设步长，重复2和3，直到bλ=05。

选择使GE最小化的bλ，并将其表示为bLassoAppendix 3B3B4B4B5B6B7B8B9B10202468101214（a）Lasso EstimatesB1B2B3B4B5B6B7B9B10202468101214（b）OLS estimates相对的GR频率（c）直方图图5：DGP n=250，p=200B1B2B3B4B5B6B8B9B1010505101520的估计和GR箱线图（a）套索估计SB1B2B3B4B5B6B7B9B1010505101520（b）OLS估计相对频率（c） GR直方图图6：DGP n=250，p=250b1b2b3b4b5b6b7b8b9b10202468101214的估计和GR箱线图（a）套索估计SB1B2B3B4B5B6B7B9B10202468101214（b）FSR估计相对频率（c） GR直方图图7：DGP n=250，p=300b1b2b3b4b5b6b7b8b9b10202468101214的估计和GR箱线图（a）套索估计SB1B2B3B4B5B6B7B9B10202468101214（b）FSR估计相对频率（c） GR直方图图8:DGP n=250，p=500的估计值和GR的箱线图