当前位置: 代码迷 >> 综合 >> Batch Nuclear-norm Maximization under Label Insufficient Situations梗概
  详细解决方案

Batch Nuclear-norm Maximization under Label Insufficient Situations梗概

热度:76   发布时间:2024-02-07 19:10:53.0

梗概

在一些标签不足的情况下,决策边界上的很多样本无法得到较为准确的分类。常见的解决办法是最小化香农熵。但是这种办法会使得边界样本分类到样本数多的类别中,这样就使得分类的多样性降低。文章还提到了F范数与香农熵的单调性是相反的,因此也可以用最大化F范数来解决这个问题。

每个批次的类别向量构成一个矩阵。因为每个批次是随机采样的,因此各个矩阵可以通过最大化秩来保证多样性。也就是通过最大化线性无关向量的个数。

为了同时约束判别性和多样性,发现可以通过矩阵秩同时约束这两个特性。
对于判别性,因为F范数越大,判别性越好,又因为矩阵秩大于F范数,因此矩阵秩也越大。

在这里插入图片描述
对于多样性,因为矩阵秩越大,代表多样性越好。
在这里插入图片描述
综上,矩阵秩可以同时约束这两个特性。

注:
[0.9,0.1]与[0.1,0.9]线性无关,
[0.9,0.1]与[0.8,0.2]近似线性相关。
那么预测类别数也就是矩阵中最大的线性无关向量数,即矩阵的秩。线性无关向量数越多,预测类别数也越多。

  相关解决方案