Métodos de aprendizagem multirrótulo podem ser agrupados em duas categorias: transformação do problema e adaptação do algoritmo (TSOUMAKAS; KATAKIS; VLAHAVAS, 2010).
O primeiro grupo de métodos são algoritmos independentes – abordagem independente de algoritmo. Eles transformam a tarefa de aprendizagem em um ou mais problemas de classificação simples (classificação plana), para o qual existe um grande grupo de algoritmos de aprendizagem. A Figura 8 mostra um exemplo dessa abordagem em que (a) é ilustrado um problema de classificação no qual um documento pode pertencer à classe “Física” ou à classe “Ciência da Computação”, mas nunca as duas ao mesmo tempo, enquanto (b) ilustra um exemplo de classificação multirrótulo, em que os documentos pertencentes simultaneamente às duas classes são classificados como “Física Computacional”.
Figura 8 – (a) Típico problema de classificação. (b) Problema de classificação multirrótulo
Fonte: Cerri (2010)
O segundo grupo de métodos estende algoritmos de aprendizagem específicos – abordagem dependente de algoritmo. Estes algoritmos utilizam aprendizado através de Árvores de Decisão, classificadores KNN, Redes Neurais Artificiais (RNA), Máquinas de Vetores de Suporte (SVMs), Algoritmos Genéticos (AG) e outros.
O Quadro 1 apresenta um conjunto de dados multirrótulo que consiste de quatro exemplos contendo uma ou mais classes: 𝜆1, 𝜆2, 𝜆3, 𝜆4. Como a
transformação afeta apenas o rótulo, para os quadros seguintes, contendo as etapas de transformação (Figura 9), serão desconsiderados os atributos por simplicidade de apresentação.
Quadro 1 – Conjunto de dados multirrótulo
Exemplo Atributos Rótulo
1 𝒙𝟏 {𝜆1, 𝜆4}
2 𝒙𝟐 {𝜆3, 𝜆4}
3 𝒙𝟑 {𝜆1}
4 𝒙𝟒 {𝜆2, 𝜆3, 𝜆4} Fonte: Tsoumakas, Katakis e Vlahavas (2010)
Existem muitos métodos de transformações simples que podem ser usados para converter exemplos de entrada multirrótulo em simples-rótulo (classificação plana) (BOUTELL et al, 2004).
Um classificador simples-rótulo que apresenta o resultado através de distribuição de probabilidade sobre todas as classes pode ser utilizado na aprendizagem das posições das classes. A classe com a maior probabilidade terá a primeira posição, a classe com a segunda maior probabilidade terá a segunda posição, e assim por diante.
A transformação cópia (copy) substitui cada exemplo multirrótulo (xi, Yi) com |Yi| exemplos (xi, λj), para cada λj ϵ Yi. Uma variação dessa transformação, chamada cópia por peso (copy-weight), associa um peso de |Y1
i| para cada um dos exemplos
produzidos. A etapa de seleção (select) da transformação substitui Yi com um de seus membros. Esse rótulo pode ser mais (select-max) ou menos (select-min) frequente entre todos os exemplos. Também pode ser selecionado aleatoriamente (select-random). Finalmente, a transformação ignorada (ignore) simplesmente descarta exemplos de entrada multirrótulo (TSOUMAKAS, KATAKIS; VLAHAVAS, 2010). A Figura 9 mostra os dados transformados utilizando os métodos descritos – (a) cópia, (b) cópia por peso, (c) seleção máxima, (d) seleção mínima, (e) seleção aleatória e (f) ignorada.
Figura 9 – Transformação dos dados do Quadro 1
Fonte: Tsoumakas, Katakis e Vlahavas (2010)
2.3.1.1 Abordagem independente de algoritmo
Os métodos de classificação multirrótulo independentes de algoritmos podem ser utilizados com qualquer algoritmo de classificação. Nesta abordagem, um problema de classificação multirrótulo é normalmente transformado em um conjunto de problemas simples-rótulo. Esta transformação pode ser tanto baseada nos rótulos de classes quanto nos próprios exemplos de treinamento (CARVALHO; FREITAS, 2009).
A Tabela 1 apresenta uma comparação dessas técnicas, em que L representa o número de classes, 𝑙𝑖 representa o número de classes que rotulam o i- ésimo exemplo e K representa o número de classes do conjunto de dados que rotulam pelo menos um exemplo multirrótulo. Pode-se notar, pela tabela, que as técnicas diferem principalmente quanto à reversibilidade, ao número de classificadores utilizados, e ao tamanho do conjunto de dados após sua transformação (CERRI, 2010).
Tabela 1 – Comparação das técnicas independentes de algoritmo
Técnica de Transformação Reversibilidade N. Classificadores N. Exemplos
Baseada nos rótulos SIM L Se mantém
Eliminação de exemplos NÃO Se mantém Reduz
Criação de rótulos SIM Se mantém Se mantém
Simplificação de rótulos Depende do critério Se mantém Se mantém
Decomp.: método aditivo SIM K Aumenta
Decomp.: método multiplicativo SIM Π𝑙𝑖 Aumenta Fonte: Cerri (2010)
2.3.1.2 Abordagem dependente de algoritmo
Como o nome desta abordagem sugere, os métodos são baseados em algoritmos específicos. A vantagem desta abordagem é que, concentrando-se em apenas um algoritmo, o método pode apresentar melhor desempenho em problemas do mundo real do que abordagens independentes de algoritmos (CARVALHO; FREITAS, 2009).
As abordagens dependentes de algoritmos mais comuns para classificação multirrótulo relacionadas com este trabalho são: uma extensão alternativa de AD, chamada Árvore de Decisão Alternada, e uma técnica do KNN chamada Multi-label KNN (ML-KNN). As próximas seções serão dedicadas para conceituar brevemente as duas técnicas tidas como dependentes de algoritmos.
2.3.1.2.1 Árvores de decisão alternada
Uma extensão alternativa do algoritmo de AD para problemas de classificação multirrótulo foi proposto em Comité et al (2003), chamada de “Árvore de Decisão Alternada” (Alternating Decision Tree (ADT)). Essa técnica é uma generalização das ADs e seu princípio indutivo é baseado no método boosting de Freund e Schapire (1995). Esse algoritmo estende o ADT pela decomposição de problemas multiclasse usando a abordagem um-contra-todos (CARVALHO; FREITAS, 2009).
Outro trabalho que utiliza ADs foi proposto por Clare e King (2001). Neste, os autores modificaram o algoritmo C4.5 de Quinlan (1993) para a classificação de proteínas de acordo com suas funções. O algoritmo C4.5 define os nós da AD através de uma medida chamada entropia, que pode ser definida como sendo o grau de pureza desse conjunto de nós. Os autores modificaram a fórmula dessa medida, originalmente elaborada para problemas simples-rótulo, de maneira a permitir seu uso em problemas multirrótulo. Outra modificação feita pelos autores foi à utilização dos nós-folha da árvore para representar conjuntos de rótulos de classes. Quando um nó-folha, alcançado na classificação de um exemplo, contém um conjunto de
classes, uma regra separada é produzida para cada classe (CARVALHO; FREITAS, 2009).
2.3.1.2.2 ML-KNN
Em Zhang e Zhou (2005) é proposta uma nova técnica para classificação multirrótulo baseada no algoritmo KNN, chamada ML-KNN (Multi-label KNN). Nessa técnica, para cada exemplo, as classes associadas com os K exemplos vizinhos mais próximos são recuperadas, e é feita uma contagem dos vizinhos associados a cada classe. Então, o princípio maximum a posteriori Saridis (1983) é utilizado para definir o conjunto de classes de um novo exemplo (CERRI, 2010).