Outline
01 什么是对比学习
02 典型对比学习模型
03 对比学习视角来看召回/粗排模型
什么是对比学习:渊源与谱系
度量学习:
Bert:自监督
正例拉近,负例推远
对比学习
对比学习:自监督版本的度量学习?
什么是对比学习:一个抽象的对比学习系统
Loss Function:InfoNCE
什么是对比学习:一个抽象的对比学习系统
关键问题:
1.正例怎么构造?负例怎么构造?
2.映射函数f怎么设计?
3.损失函数怎么设计?
什么是对比学习:典型例子-SimCLR
要做L2Norm
关键问题:
1.正例怎么构造?负例怎么构造?
2.映射函数f怎么设计?
3.损失函数怎么设计?
什么是对比学习:怎样是一个不好的对比学习系统?
我要我们在一起
关键问题:如何防止模型坍塌?
什么是对比学习:怎 ...
附件列表