To gain insights on the properties o(P_k) and (N_k), LIFT chooses to employ clustering techniques which have been widely used as stand-alone tools for data analysis
原作者用的K-Means. 自然使用K-Means就必须考虑一个合适的(k)值, 这个选定确实是一个比较麻烦的是, 原作者采用了一种启发式的算法:[m_{k}^{+}=m_{k}^{-}=leftlceil r cdot min left{left|mathcal{P}_{k}right|,left|mathcal{N}_{k}right|right}rightrceil tag{2}] 这里的(m_{k}^{+})代表集合(mathcal{P}_k)的K-Means的(k)值, (m_{k}^{-})代表集合(mathcal{N}_k)的. 这里的(r)是一个ratio, 是用来确定聚类的比例. 这里正负样本的聚类中心的个数((k))是相同的, 这个很好解决了类不平衡的问题.
Multi-label learning tasks usually encounter the issue of class-imbalance [59], where the number of positive instances for each class label is much smaller than the number of negative ones, i.e. (|P_{k}| ≪ |N_{k}|). To mitigate potential risks brought by the class-imbalance problem, LIFT sets equivalent number of clusters for (P_{k}) and (N_{k}), i.e. (m_{k}^{+}=m_{k}^{-}=m_{k}). In this way, clustering information gained from positive instances as well as negative instances are treated with equal importance.
于是我们可以得到2个相同数目的聚类中心集合 ({p^{k}_{1},p^{k}_{2},dots,p^{k}_{m^{+}_k}})与({n^{k}_{1},n^{k}_{2},dots,n^{k}_{m^{-}_k}}). 每个值都代表一个(d)维度向量, 现在我们任意取出一个原数据集中的实例(boldsymbol{x}), 可以分别求得其到这(2m_k)个聚类中心的距离, 然后将这(2m_k)个聚类中心构成一个全新的(1times 2m_k)的关于(k)的实例(phi_{k}(boldsymbol{x})):[ phi_{k}(boldsymbol{x})= {left[dleft(boldsymbol{x}, boldsymbol{p}_{1}^{k}right), cdots, dleft(boldsymbol{x}, boldsymbol{p}_{m_{k}}^{k}right), dleft(boldsymbol{x}, boldsymbol{n}_{1}^{k}right), cdots, dleft(boldsymbol{x}, boldsymbol{n}_{m_{k}}^{k}right)right]} tag{3} ] 这种构建的性特征集就是关于标签(l_k)的" label-specific features ", 原文修饰这个结构: " which can be served as appropriate building blocks (prototypes) for the construction of label-specific features. "
注: 通过在网络中查询这句话的时候, 得到几个信息, 了解到这里提到的"appropriate building blocks"可能是因为在做映射的时候可以将原特征分为一个一个的"块"进行映射, 当最后一个"块"内数据量不够一个块的数量是有相关的特殊处理. (这个细节可能需要后期看代码再理解完善一下解释)
通过这番折腾可以发现, 最终我们的(n times d)的矩阵(mathbf{X})就转变为(n times 2m_k). 同时因为我们仅仅选定了标签(l_k), 所以新的标签矩阵只有(n times 1)那么大, 如此来看, 我们似乎构造出了一个二分类问题, 准确说是任意某原实例(数据行)(x_{j})关于标签(l_k)的一个临时数据集为(n times 2m_k)的二分类问题.
