RELEASE 3: APPLICATION PROGRAMMER'S REFERENCE (MACRO LEVEL) (PROG PROD 5740~XXl AND 5746=XX3)

Classes morfossintáticas, classes gramaticais ou parts-of-speech (POS), termo mais utilizado no PLN, são úteis porque descrevem o comportamento sintático local de uma palavra e das palavras que a cercam. Por exemplo, saber se uma palavra é um verbo ou um nome permite que se possa predizer quais são os seus possíveis vizinhos (JURAFSKY; MARTIN, 2017). Além disso, tais informações permitem que se identifiquem diversas questões relacionadas à estrutura sintática na qual essa palavra se encontra. Por isso, a tarefa de atribuir etiquetas que explicitem as classes morfossintáticas das palavras é fundamental também para realizar a análise sintática. No PLN, essa tarefa é chamada de etiquetação morfossintática automática (em inglês, POS tagging), que é executada pelos POS taggers.

Porém, antes de saber como funciona essa ferramenta, é importante compreender quais são as classes morfossintáticas que as palavras podem ter. Tradicionalmente, essas classes são definidas a partir de características morfológicas e da função que uma palavra exerce na frase. Diferentemente das funções sintáticas, atribuídas a pares ou a conjuntos de palavras em termos das relações estabelecidas entre elas, as classes morfossintáticas se referem a cada palavra individualmente e estão relacionadas ao seu sentido em contexto, à função exercida e/ou às variações permitidas (p. ex., flexão, derivação, invariabilidade), levando em conta as suas propriedades distribucionais e morfológicas. A divisão das classes morfossintáticas depende em grande medida da teoria linguística utilizada como base e da língua em questão.

Em geral, considera-se que há dois tipos de classes: as fechadas, que englobam uma lista finita de palavras, a qual dificilmente aumenta (como as preposições); e as abertas, que crescem

constantemente conforme a evolução da língua (como substantivos e verbos). Os elementos das classes fechadas também recebem o nome de palavras funcionais, enquanto aqueles que pertencem a classes abertas são chamados de palavras lexicais ou de conteúdo. Tradicionalmente, em português, consideram-se as seguintes classes: substantivos/nomes, adjetivos, verbos, advérbios, pronomes, artigos/determinantes, preposições, conjunções, numerais e interjeições. Algumas delas ainda podem ser subdivididas, como substantivos comuns e próprios; advérbios de tempo, modo, local; pronomes pessoais, demonstrativos, possessivos, entre outras divisões possíveis. Há inúmeras críticas a essa divisão, bem como diversas propostas de categorias, mas essa importante discussão não será aprofundada aqui, uma vez que o foco desta seção são as definições utilizadas pelas ferramentas computacionais. Voltando à tarefa de etiquetação morfossintática automática, segundo Jurafsky e Martin (2017), POS tagging é o processo de atribuir automaticamente etiquetas de POS a cada palavra em um texto de entrada. Como as etiquetas em geral também são atribuídas aos sinais de pontuação, tais textos precisam passar por uma etapa de tokenização, que significa identificar e separar cada token (isto é, cada palavra, sinal de pontuação, contração, abreviação, sigla), identificando, por exemplo, se um ponto indica final de sentença ou faz parte de uma abreviação ou um numeral. Como uma mesma palavra pode fazer parte de classes morfossintáticas diferentes, dependendo do seu contexto e do seu sentido (por exemplo, a palavra se, que pode ser um pronome reflexivo ou uma conjunção), uma importante questão no desenvolvimento de POS taggers é a desambiguação, isto é, identificar a etiqueta correta a ser atribuída a uma palavra ambígua (que tem mais de uma possibilidade de POS). A ferramenta precisa, então, escolher a etiqueta adequada de cada palavra, considerando o seu contexto de uso. Ainda de acordo com Jurafsky e Martin (2017), no corpus Brown, por exemplo, cujo conjunto de etiquetas é composto por 45 POS tags do inglês, 15% dos types (palavras diferentes) e 67% dos tokens (todas as palavras) são ambíguos. Logo, tais ferramentas precisam ser projetadas para levar em conta o contexto das palavras e a frequência de ocorrência de determinada POS em uma língua para que se obtenham bons resultados na tarefa de POS tagging.

No que se refere ao conjunto de etiquetas (as classes morfossintáticas ou POS), o desenvolvimento de um POS tagger considera uma teoria linguística específica ou os objetivos de determinada tarefa para defini-lo. Esse conjunto pode conter mais ou menos classes, dependendo da abordagem, e deverá ser disponibilizado junto à documentação da ferramenta. Às vezes, também, são os projetos para a construção de corpora anotados que definem as etiquetas, como é o caso do Penn Treebank II, do inglês, com 41 etiquetas, e dos corpora do Universal Dependencies (UD), com 17 etiquetas de POS (NIVRE et al., 2016) em mais de 90

línguas (incluindo o português). Esse último projeto busca desenvolver um padrão multilíngue de anotação gramatical consistente e construir bancos de árvores sintáticas (treebanks).

Em função da sua importância para a tarefa de parsing, muitos dos parsers já têm embutido no seu sistema um POS tagger. Os parsers desenvolvidos no contexto do UD, como o parser por dependências UDPipe (STRAKA; HAJIČ; STRAKOVÁ, 2016), em geral já contam com um POS tagger e um analisador morfológico, que traz informações como gênero, número, pessoa, tempo, modo e subdivisões como tipo de pronome, de forma verbal, de determinante, entre outras questões específicas de cada classe. Essas informações são essenciais para que se possa fazer a análise sintática automática de uma sentença. Atualmente, taggers multilíngues embutidos em parsers têm demonstrado excelente desempenho, com acurácia de 97–98%, errando principalmente nas etiquetas que também geram dúvidas e discussões em análises humanas.

A Figura 2 mostra um exemplo de saída do POS tagging embutido no parser UDPipe, obtida na plataforma on-line da ferramenta18.

Figura 2 – Plataforma on-line do parser UDPipe com a saída do POS tagger.

A plataforma on-line permite a seleção da versão do modelo que se pretende usar, da língua e do corpus de treinamento do modelo. Além disso, pode-se escolher entre utilizar apenas a ferramenta de tokenização e POS tagging, ou se se quer acrescentar o parsing. A entrada pode ser uma sentença escrita diretamente na plataforma, ou um arquivo de texto. Para a saída, pode-

se escolher a visualização no formato CONLL-U, em tabela ou diretamente na representação visual, como na Figura 2. Para facilitar a visualização das POS tags utilizadas para a sentença de entrada, o recorte da Figura 3 mostra apenas a saída do POS tagger.

Figura 3 – Saída do POS tagger embutido no UDPipe.

Vê-se que o tokenizador identificou cada um dos elementos, separando a contração à em preposição (ADP) e determinante (DET), e etiquetou também os sinais de pontuação. Além disso, o substantivo Maria foi etiquetado como nome próprio (PROPN). A seção seguinte explicita a tarefa de parsing, que toma como base as etiquetas atribuídas pelo POS tagger.