PowerSGD: Practical Low-Rank
  Gradient Compression for Distributed Optimization

     Thijs Vogels         Sai Praneeth Karimireddy         Martin Jaggi
      EPFL                EPFL               EPFL
   Lausanne, Switzerland       Lausanne, Switzerland       Lausanne, Switzerland
  thijs.vogels@epfl.ch       sai.karimrieddy@epfl.ch       martin.jaggi@epfl.ch

                        Abstract
     We study lossy gradient compression methods to alleviate the communication bot-
     tleneck in  ...