Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Mineração de Textos com Java

Mineração de Textos com Java

A Mineração de Textos é uma das subáreas da Inteligência Artificial que tem como objetivo extrair padrões e conhecimento útil em textos. Para isso, utilizamos uma série de técnicas de Processamento de Linguagem Natural (PLN). O objetivo do PLN é fornecer aos computadores a capacidade de entender esses textos, criar resumos e até aprender conceitos com os textos processados. Nesta palestra, irei apresentar um case em que apliquei técnicas de machine learning e PLN para minerar notícias da BBC utilizando o algoritmo k-means (implementado por mim em Java) e python para o pré-processamento dos dados.

Carla Vieira

July 16, 2019
Tweet

More Decks by Carla Vieira

Other Decks in Technology

Transcript

  1. Quem sou eu? Carla Vieira Graduanda e Aluna Especial de

    SI – USP Coordenadora do Perifacode Evangelista de Inteligência Artificial e Ética carlavieira.dev @carlaprvieira
  2. Agenda • Conceitos básicos de Machine Learning • Workflow da

    mineração de textos • Apresentação de um case de mineração de textos • Conclusões
  3. O que é Mineração de Dados? Data Mining define o

    processo automatizado de captura e análise de grandes conjuntos de dados para extrair um significado, sendo usado tanto para descrever características do passado como para predizer tendências para o futuro.
  4. “Um dado não vira informação se você não souber o

    que ele significa; uma informação não vira conhecimento se você não enxergar relevância nela e conhecimento não serve pra nada se não aplicá-lo de maneira apropriada.”
  5. Conceituação INTELIGÊNCIA ARTIFICIAL MACHINE LEARNING DEEP LEARNING Programas com habilidade

    de agir como humanos Algoritmos com habilidade de aprender sem programação expressa Redes neurais artificiais que aprendem através de um grande volume de dados 1950 1980 2010
  6. “Um programa de computador aprende se ele é capaz de

    melhorar seu desempenho em determinada tarefa, sob alguma medida de avaliação, a partir de experiências passadas.” (Tom Mitchell)
  7. PLN x Mineração de Textos Processamento de Linguagem Natural Reconhecimento

    de Fala Sistemas de diálogo (chatbots) Tradução Mineração de textos Agrupamento Classificação Descoberta de Padrões
  8. Etapas da mineração de textos Pré-processamento - Limpeza; - Formatação;

    - Redução complexidade e dimensões dos dados Algoritmo Pós-processamento - Execução do algoritmo - Análise dos resultados;
  9. Classificação do problema Clusterização "Divides objects based on unknown features.

    Machine chooses the best way" Fonte: https://vas3k.com/blog/machine_learning/
  10. Início Determinar o número (k) de clusters Determinar centróides Calcular

    a distância dos objetos aos centróides Agrupar os objetos aos clusters Convergiu? Fim SIM NÃO
  11. k=5

  12. k=5

  13. k=5

  14. k=5

  15. k=5

  16. k=5

  17. k=5

  18. k=5

  19. k=5

  20. Seleção de dados Dados Dados de interesse Seleção Corpora BBC

    (2225 notícias em inglês) 20.246 termos distintos http://mlg.ucd.ie/howmanytopics/index.html
  21. Etapas do pré-processamento Case Folding 1 Tokenização 2 Remoção de

    stop words 3 Redução ao radical 4 Corte de termos 5
  22. 1) Case Folding Converter todas as palavras para minúsculas ou

    maiúsculas Por quê? A mesma palavra seria contada muitas vezes por diferentes escritas Exemplo: Amor e amor (seriam consideradas palavras diferentes)
  23. 2) Tokenização 1) u.s foi transformado em usa; 2) palavras

    compostas com hífen foram unidas; 3) expressões que continham subtraço (_) foram separadas Tokens com menos de 3 caracteres foram retirados da lista from nltk import regexp_tokenize
  24. 3) Remoção de stop words O que são stop words

    (ou palavras vazias)? Lista de stop words da NLTK a, agora, ainda, alguém, algum, alguma, meus, minha, minhas, muita, muitas, muito, muitos, na, não, nas, nem, nenhum, a, able, about, across, after, all, almost, also, am, among, an, and, any, are, as, at, be, because, been, but, by, can, cannot, from nltk.corpus import stopwords
  25. 4) Redução ao radical (Stemming) Playing Plays Played Play Play

    Play Radical comum é ‘play’ from nltk import SnowballStemmer
  26. 5) Corte de termos Termo aparece em menos de 3

    textos Termo aparece em mais de 35% dos textos Termo é excluído da lista
  27. Representação TF Texto 0 termo 0 termo 1 termo 2

    ….. termo n 2 0 5 0 15 7 0 1 1 0 1 1 0 1 0 0 0 1 0 0 1 1 1 0 1 Texto 1 Texto 2 Texto …. Texto 2225
  28. // iniciacao aleatoria dos centroides iniciarCentroides(centroides, numClusters, tamCorpus); do {

    // limpar as variaveis que armazenam os grupos limparGrupos(grupos); //determinar o centroide de cada elemento adicionaNoCluster(centroides, pontos, grupos); novosCentroides = new ArrayList <Coordinate>(); //calculo dos novos centroides novosCentroides = novosCentros (centroides, grupos, novosCentroides); epocas --; } while(condicaoDeParada (centroides,novosCentroides) && epocas > 0);
  29. //inicializando o vetor de centroides aleatorios public void iniciarCentroides(ArrayList <Coordinate>

    centroides, int numClusters, int tamCorpus) { for(int i = 0; i < numClusters; i++) { Coordinate centro = new Coordinate(); double [] coordenadas = new double[dimensao]; //definindo aleatoriamente as coordenadas de cada centro for(int j = 0; j < dimensao; j++){ coordenadas[j] = random.nextInt((int)(maiorValor[j]+1)); } centro.setCoordenadas(coordenadas); centroides.add(i, centro); } }
  30. public void adicionaNoCluster(ArrayList <Coordinate> centroides, ArrayList <Coordinate> pontos, Coordinate [][]

    grupos) { double menorDist; int cluster; for(int p = 0; p < pontos.size(); p++) { menorDist = Double.MAX_VALUE; cluster = 0; //para cada ponto encontrar o centroide mais proximo for(int c = 0; c < centroides.size(); c++) { double distAtual = distancias(pontos.get(p), centroides.get(c)); if(distAtual < menorDist) { menorDist = distAtual; cluster = c; pontos.get(p).setClusters(cluster); } } //adiciona esse ponto no cluster mais proximo for(int i = 0; i < pontos.size(); i++) { if(grupos[cluster][i] == null) { grupos[cluster][i] = pontos.get(p); break; } } }
  31. public ArrayList<Coordinate> novosCentros (ArrayList <Coordinate> centroides, Coordinate [][] grupos, ArrayList

    <Coordinate> novosCentroides){ int c; for(int k = 0; k < centroides.size(); k++) { double [] novaCoordenada = new double[dimensao]; for(int j = 0; j < dimensao; j ++){ Coordinate centro = centroides.get(k); novaCoordenada[j] = centro.getCoordenadas()[j]; } for(int i = 0; i < dimensao; i ++){ for(c = 0; c < tamCorpus && grupos[k][c] != null; c++) { novaCoordenada[i] = Math.abs(novaCoordenada[i] + grupos[k][c].getCoordenadas()[i]); } novaCoordenada[i] = novaCoordenada[i]/(c+1); } Coordinate novoCentro = new Coordinate(novaCoordenada); novosCentroides.add(k, novoCentro); } return novosCentroides; }
  32. Kmeans.java Leitura dos dados Execução do algoritmo Arquivos para pós-

    processamento lercsv( ) : void lerPalavrasCorpus( ) : void executarKmeans( ) : void iniciarCentroides( ) : void adicionaNoCluster( ) : void distanciaEuclidiana( ) : double similaridadeCoseno( ) : double distancias( ) : double novosCentros : ArrayList<Coordinate> condicaoDeParada( ) : boolean limparGrupos( ) : void gerarArquivoCsvGrafico( ) : void gerarArquivoCsv( ) : void gerarArquivoNuvemPalavra( ) : void gerarLogFinal( ) : void
  33. Saídas do algoritmo Log de execução Para cada iteração do

    algoritmo, como os textos foram agrupados
  34. Saídas do algoritmo Silhouette - cálculo do quão bem representado

    aquele texto está no grupo 1 -1 0 Bem classificado no grupo Mal classificado no grupo () - distância do dado a todos os demais dados do seu grupo () - distância do dado a todos os demais dados que não pertencem ao seu grupo
  35. Saídas do algoritmo Arquivos para pós-processamento Nuvem de palavras para

    cada grupo https://worditout.com/word-cloud/create
  36. Python x Java 1. Syntax 2. Community Support 3. Documentation

    4. Performance Java: ~3 minutos de execução | Python: ~10 minutos
  37. Referências Introdução aos fundamentos de Machine Learning • https://www.freecodecamp.org/news/a-history-of-machine-translation-from-the-cold-war-to- deep-learning-f1d335ce8b5/

    • https://vas3k.com/blog/machine_learning/ • https://sebastianraschka.com/blog/2015/why-python.html • https://towardsdatascience.com/do-you-know-how-to-choose-the-right-machine-learning- algorithm-among-7-different-types-295d0b0c7f60
  38. Referências Python • https://www.cursoemvideo.com/course/curso-python-3/ • https://paulovasconcellos.com.br/10-bibliotecas-de-data-science-para-python-que- ningu%C3%A9m-te-conta-706ec3c4fcef • https://cappra.com.br/2018/12/27/data-thinking-2019/ •

    https://discuss.analyticsvidhya.com/t/difference-between-nlp-and-text-mining/2977/2 • https://www.infoq.com/br/presentations/processamento-de-linguagem-natural-com-deep- learning/ • https://github.com/fernandojvdasilva/nlp-python-lectures