infonce公式 InfoNCE的公式如下: Lq=−log∑i=0kexp(q⋅ki/τ)exp(q⋅k+ /τ)L_q = -log \frac{\sum_{i=0}^k exp(q\cdot k_i / \tau)}{exp(q\cdot k_+ / \tau)}Lq =−log∑i=0k exp(q⋅ki /τ)exp(q⋅k+ /τ) 在SimCLR等对比学习中,模型结构会有上下两个分支,先...
infonce loss公式的写法 InfoNCE Loss的公式如下: InfoNCE Loss = - 1/N ∑ i=1 N log(A+/A++B-) 其中,N是样本的数量,qi是查询样本i的编码向量,ki+是与查询样本i相对应的正样本的编码向量,ki-是与查询样本i不对应的负样本的编码向量,τ是温度系数,用于调节相似度得分的分布。 这个公式中,分子只包含...