SlideShare uma empresa Scribd logo
1 de 56
Baixar para ler offline
An´alise dos Modelos
SCAP, Vetorial e Okapi BM25 para
Atribui¸c˜ao de Autoria de C´odigo Fonte
em Cursos de Programa¸c˜ao
Juliane dos Santos Silva1
Prof. Dr. Sergio Cleger Tamayo1
Prof. MSc. M´arcio Palheta Piedade2
Engenharia de Computa¸c˜ao
1Universidade do Estado do Amazonas (UEA)
2Universidade Federal do Amazonas (UFAM)
16 de junho de 2016
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
1 Introdu¸c˜ao
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
2 Fundamentos
3 Experimentos
4 Resultados
5 Conclus˜ao
6 Publica¸c˜ao referente a este trabalho
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Quem ´e o autor?
“Com grandes poderes vˆem grandes responsabilidades...”
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Quem ´e o autor?
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Quem ´e o autor?
Atribuir autoria ´e dizer quem ´e o autor de uma obra,
considerando uma base conhecida de obras e seus autores.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Quem ´e o autor do c´odigo fonte?
Atribuir autoria prum c´odigo fonte ´e dizer quem ´e o autor de
um c´odigo, considerando uma base de c´odigos e seus autores.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Um detalhe: c´odigos fonte tem umas particularidades
Regras de sintaxe;
Reuso de trechos de c´odigos entre programas;
Fun¸c˜oes de indenta¸c˜ao e autoformata¸c˜ao.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Um detalhe: c´odigos fonte tem umas particularidades
Regras de sintaxe;
Reuso de trechos de c´odigos entre programas;
Fun¸c˜oes de indenta¸c˜ao e autoformata¸c˜ao.
Ent˜ao,
como dizer que um c´odigo foi feito por tal pessoa?
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Como dizer que um c´odigo foi feito por tal pessoa?
Por RI, redes neurais, aprendizagem de m´aquina,...
Uma das abordagens mais eficazes atualmente ´e a Source
Code Author Profile (SCAP), proposta por Frantzeskou;
Um modelo focado em ambientes acadˆemicos ´e proposto por
Palheta.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
SCAP ´e uma solu¸c˜ao, s´o que...
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
SCAP ´e uma solu¸c˜ao, s´o que...
A abordagem SCAP n˜ao foi analisada para...
Pequenas cole¸c˜oes
de c´odigos
Mesmo grupo de
tarefas
Diferentes graus
de maturidade
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
SCAP ´e uma solu¸c˜ao, s´o que...
A abordagem SCAP n˜ao foi analisada para...
Pequenas cole¸c˜oes
de c´odigos
Mesmo grupo de
tarefas
Diferentes graus
de maturidade
Caracter´ısticas recorrentes de bases acadˆemicas.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Quest˜oes de pesquisa
Qual o desempenho da abordagem SCAP quando aplicada a
bases acadˆemicas?
Qual o desempenho dos modelos cl´assicos de RI (vetorial,
Okapi BM25) nessa situa¸c˜ao?
Quando o cen´ario acadˆemico ´e considerado, o SCAP
continua sendo o mais eficiente?
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Objetivo geral
Analisar e comparar o desempenho
dos modelos SCAP, vetorial e Okapi BM25
em rela¸c˜ao a atribui¸c˜ao de autoria em bases acadˆemicas.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Quest˜oes de pesquisa
Objetivo geral
Objetivos espec´ıficos
Objetivos espec´ıficos
Implementar trˆes m´aquinas de busca, utilizando os modelos
SCAP, vetorial e Okapi BM25 em conjunto com a t´ecnica
de n-gramas de caracteres consecutivos;
Variar os parˆametros dos modelos para identificar quando
eles melhor desempenham;
Analisar a acur´acia dos modelos com bases acadˆemicas.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
An´alise dos Modelos
SCAP, Vetorial e Okapi BM25 para
Atribui¸c˜ao de Autoria de C´odigo Fonte
em Cursos de Programa¸c˜ao
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Um parˆenteses: n-gramas
Exemplo: a palavra VIDA
2-gramas do exemplo (n = 2): VI, ID, DA.
N-grama ´e uma sequˆencia de n-caracteres consecutivos, que
fazem parte de uma string maior.
Onde n indica o tamanho da substring gerada.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Mas como atribuir autoria a um c´odigo fonte?
SCAP, vetorial e Okapi BM25 trabalham com Recupera¸c˜ao de
Informa¸c˜ao (RI).
RI lida com a representa¸c˜ao, a organiza¸c˜ao e o acesso a itens de
informa¸c˜ao.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Recupera¸c˜ao de Informa¸c˜ao - Indexa¸c˜ao
RI lida com a representa¸c˜ao, a organiza¸c˜ao e o acesso a itens.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Recupera¸c˜ao de Informa¸c˜ao - Indexa¸c˜ao
RI lida com a representa¸c˜ao, a organiza¸c˜ao e o acesso a itens.
Atribuir autoria ´e dizer quem ´e o autor de uma obra,
considerando uma base conhecida de obras.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Recupera¸c˜ao de Informa¸c˜ao - Ranqueamento
RI lida com a representa¸c˜ao, a organiza¸c˜ao e o acesso a itens.
Dada uma obra, atribuir autoria ´e dizer quem ´e o autor dessa obra.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Recupera¸c˜ao de Informa¸c˜ao - Indexa¸c˜ao de c´odigo
RI lida com a representa¸c˜ao, a organiza¸c˜ao e o acesso a itens.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Recupera¸c˜ao de Informa¸c˜ao - Ranqueamento de c´odigo
RI lida com a representa¸c˜ao, a organiza¸c˜ao e o acesso a itens.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Concatena os c´odigos por autor;
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Concatena os c´odigos por autor;
Exemplo de c´odigos da autora ”Juliane”...
C´odigo 1: public void
C´odigo 2: von
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Concatena os c´odigos por autor;
Exemplo de c´odigos da autora ”Juliane”...
C´odigo 1: public void
C´odigo 2: von
C´odigos concatenados: public void von
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Extrai todos os n-gramas `a n´ıvel de caracter, incluindo
espa¸co, t, n;
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Extrai todos os n-gramas `a n´ıvel de caracter, incluindo
espa¸co, t, n;
Considerando n = 2...
C´odigos concatenados: public void von
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Extrai todos os n-gramas `a n´ıvel de caracter, incluindo
espa¸co, t, n;
Considerando n = 2...
C´odigos concatenados: public void von
2-gramas do c´odigo: pu, ub, bl, li, ic, c , v, vo, oi, id, d , v, vo, on
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Ordena decrescentemente os n-gramas por frequˆencia;
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Ordena decrescentemente os n-gramas por frequˆencia;
2-gramas do c´odigo: pu, ub, bl, li, ic, c , v, vo, oi, id, d , v, vo, on,
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Ordena decrescentemente os n-gramas por frequˆencia;
2-gramas do c´odigo: pu, ub, bl, li, ic, c , v, vo, oi, id, d , v, vo, on,
Por frequˆencia: pu: 1, ub: 1, bl: 1, li: 1, ic: 1, c : 1, v: 2, vo: 2, oi: 1,
id: 1, d : 1, on: 1
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Ordena decrescentemente os n-gramas por frequˆencia;
2-gramas do c´odigo: pu, ub, bl, li, ic, c , v, vo, oi, id, d , v, vo, on,
Por frequˆencia: pu: 1, ub: 1, bl: 1, li: 1, ic: 1, c : 1, v: 2, vo: 2, oi: 1,
id: 1, d : 1, on: 1
Decrescentemente: v: 2, vo: 2, pu: 1, ub: 1, bl: 1, li: 1, ic: 1, c : 1,
oi: 1, id: 1, d : 1, on: 1
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Mant´em os L n-gramas.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Mant´em os L n-gramas.
Considerando L = 3...
Decrescentemente: v: 2, vo: 2, pu: 1, ub: 1, bl: 1, li: 1, ic: 1, c : 1,
oi: 1, id: 1, d : 1, on: 1
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Extra¸c˜ao de caracter´ısticas
Mant´em os L n-gramas.
Considerando L = 3...
Decrescentemente: v: 2, vo: 2, pu: 1, ub: 1, bl: 1, li: 1, ic: 1, c : 1,
oi: 1, id: 1, d : 1, on: 1
3 2-gramas do c´odigo: v: 2, vo: 2, pu: 1
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Simplified Profile (SP)
3 2-gramas do c´odigo: v: 2, vo: 2, pu: 1
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Simplified Profile (SP)
3 2-gramas do c´odigo: v: 2, vo: 2, pu: 1
Esse L n-gramas ´e o Simplified Profile (SP) do autor.
Usado no SCAP e nos demais modelos desta pesquisa.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Ranqueamento
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
SCAP - Ranqueamento
Simplified Profile Intersection (SPI)
SPI = SPA ∩ SPP
SPA ´e o perfil de um autor;
SPP ´e o perfil de uma consulta.
O autor classificado ´e o que alcan¸ca o maior n´umero de
intersec¸c˜oes com a consulta.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Vetorial - Ranqueamento
Cada termo possui um peso em rela¸c˜ao a um documento;
Cada documento ´e representado como um vetor de termos;
Vetores num espa¸co vetorial n-dimensional.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Vetorial - Ranqueamento
A distˆancia vetorial ´e usada como medida de similaridade.
O cosseno do ˆangulo entre o vetor de um autor e o da consulta.
sim(dj , q) =
dj • q
|dj | × |q|
(1)
O numerador representa o produto interno dos dois vetores;
O denominador representa o produto da norma dos dois
vetores.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Okapi BM25 - Ranqueamento
sim(dj , q) =
n
i=1
IDF(qi ) ·
tf (qi , d) · (k1 + 1)
tf (qi , d) + k1 · (1 − b) + b · |d|
|davg |
(2)
IDF(qi ) representa a raridade do termo na cole¸c˜ao;
tf (qi , d) representa a importˆancia do termo no documento;
Fatores de suaviza¸c˜ao do tamanho do documento.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Cole¸c˜oes de c´odigos testadas
INICIANTE 1 (944)
Local/ED
Disciplina obrigat´oria;
Alunos matriculados;
Certo grau de certeza
de autoria.
INICIANTE 2 (239)
USP/ED
Idem INICIANTE 1;
.h passado pelo prof.;
C´odigos muito bem
comentados.
AVANC¸ADA (270)
USP/Maratona
Treinamento;
Alunos volunt´arios;
Alto grau de certeza
de autoria.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
M´etodo dos experimentos
1 Extra´ımos as caracter´ısticas, variando os valores de n e L;
n 6, 10, 14
L infinito, omitindo n-gramas com frequˆencia = 1
2 Aplica¸c˜ao do modelo da vez (SCAP, vetorial, BM25);
3 Cada documento da cole¸c˜ao foi usado como consulta;
4 Documento-consulta foi removido da cole¸c˜ao.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Avalia¸c˜ao dos resultados
Dada uma consulta q, o autor do c´odigo no topo do ranque de
respostas ´e o autor de q.
Acur ´acia = N ´umero de acertos
N ´umero de consultas
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Resultados - INICIANTE 1
Os trˆes modelos acertaram metade dos autores da cole¸c˜ao e erraram a outra metade.
O SCAP com n = 10 apresentou a melhor acur´acia; e o BM25 com n = 14, a menor.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Resultados - INICIANTE 2
O SCAP apresentou os menores resultados dos experimentos.
O vetorial com n = 10 apresentou o melhor resultado.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Resultados - AVANC¸ADA
O SCAP apresentou resultados equivalentes aos alcan¸cados nos experimentos de
Frantzeskou et al.; maior com n = 10.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Compara¸c˜ao entre os modelos propostos
´E mais dif´ıcil atribuir autoria para cole¸c˜ao INICIANTE.
A cole¸c˜ao AVANC¸ADA apresentou bons resultados quando aplicada aos trˆes m´etodos.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Compara¸c˜ao entre os modelos propostos
O SCAP produziu os melhores resultados para a cole¸c˜ao INICIANTE 1 e AVANC¸ADA.
Os melhores resultados estavam associados a n = 10.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Conclus˜ao
Qual o desempenho dos modelos SCAP, vetorial e Okapi
BM25 quando aplicada a bases acadˆemicas?
As cole¸c˜oes de programas de alunos iniciantes representam
um problema mais dif´ıcil de resolver.
A cole¸c˜ao de alunos avan¸cados produziu bons resultados
quando aplicada aos trˆes m´etodos.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Conclus˜ao
Quando o cen´ario acadˆemico ´e considerado, o SCAP
continua sendo o mais eficiente?
O SCAP produziu o melhor resultado para as cole¸c˜oes
INICIANTE 1 e AVANC¸ADA, 53,7% e 87,8% de acur´acia,
respectivamente.
Quanto ao tamanho n do n-gramas, os melhores resultados
estavam associados a n = 10.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
Introdu¸c˜ao
Fundamentos
Experimentos
Resultados
Conclus˜ao
Publica¸c˜ao referente a este trabalho
Artigo
SANTOS SILVA, J.; CLEGER TAMAYO, S.; PALHETA, M.;
An´alise da Abordagem SCAP para Atribui¸c˜ao de Autoria de C´odigo
Fonte em Cursos de Programa¸c˜ao. Anais do Encontro Regional
de Computa¸c˜ao e Sistemas de Informa¸c˜ao - ENCOSIS 2016 -
ISSN: 2238-5096, p´aginas 25-33.
Juliane Silva An´alise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribui¸c˜ao de Autoria de C´odigo Fonte em Cursos de
An´alise dos Modelos
SCAP, Vetorial e Okapi BM25 para
Atribui¸c˜ao de Autoria de C´odigo Fonte
em Cursos de Programa¸c˜ao
Juliane dos Santos Silva1
Prof. Dr. Sergio Cleger Tamayo1
Prof. MSc. M´arcio Palheta Piedade2
Engenharia de Computa¸c˜ao
1Universidade do Estado do Amazonas (UEA)
2Universidade Federal do Amazonas (UFAM)
16 de junho de 2016

Mais conteúdo relacionado

Destaque

54º Encontro de Evangelização de Espíritos - Fato do Espírito
54º Encontro de Evangelização de Espíritos - Fato do Espírito54º Encontro de Evangelização de Espíritos - Fato do Espírito
54º Encontro de Evangelização de Espíritos - Fato do Espíritocak_sacramento
 
Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...
Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...
Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...Cynthia Castro
 
E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...
E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...
E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...Ernesto Costa Santos
 
Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016
Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016
Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016Cynthia Castro
 
Cities Of Bombay And London
Cities Of Bombay And LondonCities Of Bombay And London
Cities Of Bombay And LondonAustinSabu
 
Inversión en Francia 2016
Inversión en Francia 2016Inversión en Francia 2016
Inversión en Francia 2016Pro Francia
 
ESE - Capítulo VII - Bem-aventurados os pobres de espírito
ESE - Capítulo VII - Bem-aventurados os pobres de espíritoESE - Capítulo VII - Bem-aventurados os pobres de espírito
ESE - Capítulo VII - Bem-aventurados os pobres de espíritogrupodepaisceb
 
Qua a tua obra?
Qua a tua obra?Qua a tua obra?
Qua a tua obra?CEENA_SS
 
Shanghai, the biggest city in China
Shanghai, the biggest city in ChinaShanghai, the biggest city in China
Shanghai, the biggest city in ChinaRen
 
DOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDAS
DOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDASDOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDAS
DOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDASR Gómez
 
Acupuntura em Ortopedia
Acupuntura em OrtopediaAcupuntura em Ortopedia
Acupuntura em Ortopediaruben4l
 

Destaque (15)

54º Encontro de Evangelização de Espíritos - Fato do Espírito
54º Encontro de Evangelização de Espíritos - Fato do Espírito54º Encontro de Evangelização de Espíritos - Fato do Espírito
54º Encontro de Evangelização de Espíritos - Fato do Espírito
 
Sebastianmorocho act.4
Sebastianmorocho act.4Sebastianmorocho act.4
Sebastianmorocho act.4
 
Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...
Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...
Seminário Memórias de Um Suicida - Capítulo IV - Jerônimo de Araújo Silveira ...
 
E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...
E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...
E-Book 9 - Utilização de Vendedores de Alta Performance na Multiplicação do C...
 
Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016
Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016
Seminário Memórias de Um Suicida - Capítulo I - O Vale dos Suicidas - 22-02-2016
 
Cities Of Bombay And London
Cities Of Bombay And LondonCities Of Bombay And London
Cities Of Bombay And London
 
Inversión en Francia 2016
Inversión en Francia 2016Inversión en Francia 2016
Inversión en Francia 2016
 
ESE - Capítulo VII - Bem-aventurados os pobres de espírito
ESE - Capítulo VII - Bem-aventurados os pobres de espíritoESE - Capítulo VII - Bem-aventurados os pobres de espírito
ESE - Capítulo VII - Bem-aventurados os pobres de espírito
 
Qua a tua obra?
Qua a tua obra?Qua a tua obra?
Qua a tua obra?
 
Shanghai, the biggest city in China
Shanghai, the biggest city in ChinaShanghai, the biggest city in China
Shanghai, the biggest city in China
 
Jornada estereotipos
Jornada estereotiposJornada estereotipos
Jornada estereotipos
 
DOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDAS
DOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDASDOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDAS
DOZE PEDRAS PARA EDIFICAR O ALTAR DO SENHOR EM NOSSAS VIDAS
 
IN THE EYE OF THE CUSTOMER
IN THE EYE OF THE CUSTOMERIN THE EYE OF THE CUSTOMER
IN THE EYE OF THE CUSTOMER
 
Acupuntura em Ortopedia
Acupuntura em OrtopediaAcupuntura em Ortopedia
Acupuntura em Ortopedia
 
La convivencia
La convivenciaLa convivencia
La convivencia
 

Mais de Juliane Silva

Arquitetura ARM - Raspberry Pi
Arquitetura ARM - Raspberry PiArquitetura ARM - Raspberry Pi
Arquitetura ARM - Raspberry PiJuliane Silva
 
Processamento de Documento Multimídia
Processamento de Documento MultimídiaProcessamento de Documento Multimídia
Processamento de Documento MultimídiaJuliane Silva
 
Padrão de Projeto - Decorator
Padrão de Projeto - DecoratorPadrão de Projeto - Decorator
Padrão de Projeto - DecoratorJuliane Silva
 
O Mítico Homem-Mês
O Mítico Homem-MêsO Mítico Homem-Mês
O Mítico Homem-MêsJuliane Silva
 

Mais de Juliane Silva (8)

Arquitetura ARM - Raspberry Pi
Arquitetura ARM - Raspberry PiArquitetura ARM - Raspberry Pi
Arquitetura ARM - Raspberry Pi
 
Conversores D/A
Conversores D/AConversores D/A
Conversores D/A
 
Processamento de Documento Multimídia
Processamento de Documento MultimídiaProcessamento de Documento Multimídia
Processamento de Documento Multimídia
 
Globus Toolkit
Globus ToolkitGlobus Toolkit
Globus Toolkit
 
Simple Factory
Simple FactorySimple Factory
Simple Factory
 
Padrão de Projeto - Decorator
Padrão de Projeto - DecoratorPadrão de Projeto - Decorator
Padrão de Projeto - Decorator
 
Framework Yii
Framework YiiFramework Yii
Framework Yii
 
O Mítico Homem-Mês
O Mítico Homem-MêsO Mítico Homem-Mês
O Mítico Homem-Mês
 

Análise dos Modelos SCAP, Vetorial e Okapi BM25 para Atribuição de Autoria de Código Fonte em Cursos de Programação