Section II. Définitions de l’étendue de la vie privée
B. Méthode classique de l’énumération de l’étendue de la vie privée
Os dois principais tipos de aprendizagem de máquina são o não-supervisionado e o supervisio- nado. Na aprendizagem não-supervisionada, há somente os dados brutos, sem nenhuma caracterís- tica a ser supostamente prevista. Os algorítimos não-supervisionados são utilizados para descoberta de padrões nos dados em geral, revelando sua estrutura subjacente. Um exemplo de aprendizagem não supervisionada são os algorítimos de clusterização que procuram desmembrar um conjunto de dados em grupos "naturais". Na aprendizagem supervisionada, os dados de treinamento consistem em algumas características e um rótulo ou valor-alvo pré-definido associado a elas. O objetivo dos algorítimos é descobrir algum modo de estimar esse valor-alvo. Como, por exemplo, a partir de amostra de sangue de pacientes médicos, pode-se obter informações do que está contido no sangue, verificando se esses pacientes tinham câncer, para que posteriormente se possa verificar o que há no sangue de futuros pacientes, com o objetivo de avaliar seu risco de câncer (Cady,2017). Outro exemplo é o caso deste estudo, onde os valores-alvo são a situação normal ou a situação de distress de bancos em que serão associadas características (variáveis independentes) a cada uma dessas situações, de maneira que, a partir do levantamento das características de outros novos bancos, seja possível inferir se estão em situação de distress ou não.
A análise de dados em estatística e em econometria podem ser divididas em 4 categorias: 1) previsão, 2) sumarização, 3) estimação e 4) testes de hipóteses. Já a aprendizagem de máquina está preocupada principalmente com previsão, sumarização e, particularmente, com encontrar padrões interessantes nos dados. Ou seja, geralmente, econometristas, estatísticos e especialistas em aprendizagem de máquina estão procurando conhecimentos que possam ser extraídos dos dados. E boa parte da econometria aplicada está voltada para a detecção e sumarização de relacionamentos entre os dados, sendo que sua ferramenta mais comum é a análise de regressão. Do mesmo modo, a aprendizagem de máquina oferece um conjunto de ferramentas capazes de sumarizar de maneira útil vários tipos de relações não-lineares detectadas nos dados (Varian,2014).
Nesta parte, será apresentada uma breve descrição das técnicas de aprendizagem de máquina que foram utilizadas no estudo para alocar os bancos individuais à classe dos bancos em situação normal (0) ou à classe dos bancos com vulnerabilidades (1), usando o conjunto de indicadores adotados no estudo.
Segundo Varian (2014), que apresenta uma comparação entre as técnicas econométricas, estatísticas e de aprendizagem de máquina, as técnicas de aprendizagem de máquina tais como árvores de decisão, support vector machines, redes neurais, deep learning, dentre outras, permitem maneiras mais eficazes para modelar relações complexas.
Árvores de Decisão e Random Forest
SegundoBreiman et al. (1984), árvore de decisão é uma estrutura de ramificação que representa um conjunto de regras, distinguindo valores de uma forma hierárquica. A idéia principal por trás da árvore de decisão é simples: em cada nó de ramificação, é determinado o melhor valor de separação para cada variável independente e a segmentação da amostra é baseada no melhor desses valores. Isto pode ser conseguido através de um conjunto de condições de segmentação do tipo se-então (if-then) que permitem uma previsão ou classificação precisas dos casos. Para cada nó pai, o nó
filho esquerdo corresponde aos pontos que satisfazem a condição e o nó filho direito corresponde aos pontos que não satisfazem a condição. Obviamente, a divisão dos ramos pode continuar até que todos os casos sejam classificados corretamente, mas provavelmente isso resultaria em "excesso de ajuste"(overfitting) em uma determinada amostra, fazendo com que haja uma capacidade reduzida para classificar novas observações com precisão. Uma forma de controlar a divisão é continuar até que todos os nós terminais, sejam puros ou não, contenham mais do que um número mínimo especificado (ou proporção) de casos. A árvore obtida a partir deste procedimento pode então ser podada para obter uma árvore final que tenha uma taxa de erro próxima de uma mínima estimada
Ioannidis et al. (2010).
As florestas aleatórias (random forests) são uma variante das árvores de decisão que melhoram significativamente a precisão da classificação ao construir um grande número de árvores ao invés de uma única árvore (Breiman , 2001). As florestas aleatórias evitam o problema de overfitting, usando variáveis de entrada selecionadas aleatoriamente para dividir cada nó, funcionando melhor com grandes conjuntos de dados, são flexíveis e simples e podem ser aplicadas a diversos tipos de análises, como a classificação e regressão (Tanaka et al.,2016).
O algorítimo de random forest divide aleatoriamente toda a amostra de treinamento em várias subamostras de treinamento de tamanho menor (bootstrap) e uma árvore de decisão é construída para cada uma dessas subamostras aleatórias com variáveis também selecionadas aleatoriamente. A floresta é composta por várias árvores que contribuem para a classificação com um voto. Assim, as florestas aleatórias possuem uma melhor precisão na classificação por meio de um grande número de árvores ao invés de uma única árvore, apresentando melhores habilidades de generalização por sua robustez contra o overfitting (Tanaka et al.,2016).
Support Vector Machine– SVM
O Support Vector Machine (SVM) é uma técnica de aprendizagem de máquina supervisionada criada por Vapnik (1982) que utiliza o Princípio da Minimização estrutural do Risco (Structu- ral Risk Minimization) que executa um balanceamento entre o erro de treinamento e o erro de generalização (habilidade de classificar corretamente os dados que não pertencem a amostra de treinamento), proporcionando empiricamente um desempenho melhor e evitando o problema de overfitting(Cao e Tay,2001;Papadimitriou et al.,2014).
Aproximadamente, a ideia básica de uma SVM é selecionar um pequeno número de pontos de dados a partir do conjunto de dados, chamados de vetores de suporte (support vectors) que podem definir um hiperplano separando as duas classes de observações. Quando o problema não é linearmente separável, à SVM é acoplada com um procedimento de mapeamento não linear de kernel, projetando os pontos de dados para um espaço de dimensão superior, chamado de espaço de características, em que as classes são linearmente separáveis (Papadimitriou et al.,2014).
O hiperplano ótimo é selecionado como a fronteira de decisão que classifica cada vetor de dados para sua classe correta e tendo a distância máxima de ambas as classes. Na Figura 4.1, os vetores de suporte estão representados com os contornos pronunciados, as linhas de margem (definindo a distância entre o hiperplano e cada classe) está representada com linhas contínuas e o hiperplano é representado pela linha tracejada.
Figura 4.1: Seleção do hiperplano e vetores de suporte. Os vetores de suporte estão representados com
o contorno pronunciado. As linhas de margem são representadas por linhas contínuas e o hiperplano é representado pela linha tracejada.
Fonte:Papadimitriou et al. (2014).