Towards Understanding the Importance of Shortcut
      Connections in Residual Networks

     Tianyi Liu     Minshuo Chen     Mo Zhou            Simon S. Du
    Georgia Tech     Georgia Tech     Duke University    Institute for Advanced Study
                Enlu Zhou                Tuo Zhao
               Georgia Tech              Georgia Tech

                         Abstract
       Residual Network (ResNet) is undoubtedly a milestone in deep learning. ResNet is
       equipped with shortcu ...