Supermasks in Superposition

   Mitchell Wortsman     Vivek Ramanujan     Rosanne Liu    Aniruddha Kembhavi
  University of Washington   Allen Institute for AI  ML Collective    Allen Institute for AI
      Mohammad Rastegari        Jason Yosinski          Ali Farhadi
      University of Washington     ML Collective       University of Washington

                        Abstract
      We present the Supermasks in Superposition (SupSup) model, capable of sequen-
      tially learning thousand ...