+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++
listwise方法一般从建立objective function角度不同分为最小化loss function和直接优化IR meature(MAP,NDCG)两类方法。一些学者证明二者的关系,一些IR meature 的变形如(1-NDCG)是loss function 的上界。而由于直接优化IR meature的方法缺乏些理论支持,又一些meature是非连续的,不便于优化,所以通过优化loss function 的方法更被接受。下面是三种主流的基于loss function 的方法,都是MSRA提出的。
RankCosine (IP&M 2007) 以truth rank和所得的rank间的cosine相似度作为loss function。
ListNet(ICML2007)以truth rank和所得的rank排列间的KL距离作为loss function。
ListMLE(ICML2008)以似然函数作为loss function。
合理的loss function 是机器学习的关键,提出ListMLE的文章同样介绍了什