Painless Stochastic Gradient:
  Interpolation, Line-Search, and Convergence Rates

          Sharan Vaswani                Aaron Mishkin
       Mila, Université de Montréal         University of British Columbia
        Issam Laradji                  Mark Schmidt
     University of British Columbia        University of British Columbia, 1QBit
         Element AI               CCAI Affiliate Chair (Amii)
          Gauthier Gidel              Simon Lacoste-Julien
       Mila, Université de Montr ...