MOS (Mean Opinion Score)
Avaliação Subjetiva pelo MOS
Mestrado em Engenharia de Telecomunicações
Seminário sobre temas de estudo
Orientador: Carlos Pedroso
Aluno: Paulo Silveira
Degradação da qualidade do vídeo
• Métodos de compressão com perdas introduz distorções cuja
visibilidade depende muito do conteúdo.
• Estes artefatos resultam em degradação da qualidade percebida.
• Os parâmetros com forte influência sobre a qualidade do vídeo
estão relacionados com a codificação.
 (a taxa de bits, taxa de quadros e resolução).
• Assim, a questão da satisfação do usuário em correlação com o
parâmetro de codificação tem aumentado.
O porque da qualidade de imagem?
• Imagens digitais estão sujeitas a uma larga variedade de
distorções durante a
transmissão, aquisição, processamento, compressão, armazena
gem e reprodução, as quais podem resultar na degradação da
qualidade visual de uma imagem.
• Como exemplo o uso da redução da largura de banda pode
degradar a qualidade durante o processo de quantização
(perdas na compressão).
• O objetivo final da compressão de dados é a de remover a
redundância do sinal de origem. Portanto, ela reduz os não
requeridos bits que representam a informação contida dentro da
fonte de sinal.
Descomprimido Comprimido
(22 KB, 12:1)
Comprimido
(6 KB, 43:1)
Media de pontuação de opinião
Descrição do conceito do MOS (Mean Opinion Score):
• Uma referencia comum usada para determinar a qualidade de
vídeo.
• Representa os resultados da combinação de um conjunto de
características retirados dos dados de vídeo degradados para
avaliação da qualidade. Todas as características deste conjunto
influenciam a qualidade do vídeo.
• É um fator importante para determinar o valor do QoS.
Medida do MOS:
• Uma taxa de uma serie de arquivos
de vídeo delineadas por um conjunto
de espectadores, utilizando uma escala que varia de 1 até 5.
• Calcula-se a media de pontuação de opinião para cada arquivo de
vídeo.
Condições:
• Dezesseis ou mais espectadores (amostra adequada).
• Para reduzir a variabilidade, os testes incluem arquivos de
referencia que são aceitos pela indústria para a pontuação do MOS.
Distribuição e qualidade do vídeo
Dependências do MOS numa interface de transmissão
• Métricas de distribuição de vídeo quantificam o impacto de
queda, de repetição ou quadros de vídeo fora de sequencia.
 Erros de distribuição de vídeo são causados em larga escala por
perda de pacotes ou atrasos no enlace (BER, FER, FR, HR etc.).
• Métricas de qualidade de vídeo quantificam o impacto dos
artefatos de vídeo na percepção do usuário final.
 Artefatos de vídeo são causados por perda de pacotes.
 Diferentes tipos de codec e conteúdo traduzem os níveis de perda
de pacotes para diferentes níveis de qualidade de vídeo.
• Classificação do MOS de acordo com a escala da ASCOM:
O que é a avaliação de qualidade de imagem?
• A qualidade de imagem é uma característica de uma imagem
que mede a degradação da imagem percebida.
• Ela desempenha um papel importante em várias aplicações de
processamento de imagem.
• Objetivo da avaliação de qualidade de imagem é fornecer
métricas de qualidade que podem predizer a qualidade de
imagem percebida automaticamente.
• Dois tipos de avaliação de qualidade de imagem:
 Avaliação subjetiva da qualidade
 Avaliação objetiva da qualidade
Medida da qualidade subjetiva
• Qualidade de imagem subjetiva está preocupado em como a
imagem é percebida por um observador e dar a sua opinião
sobre uma determinada imagem.
• A média de pontuação por opinião (MOS) tem sido utilizado para
a avaliação subjetiva da qualidade por muitos anos.
• No padrão de teste subjetivo, nenhum dos observadores
classifica a qualidade dos arquivos de vídeo sobre o meio de
comunicação que está sendo testado.
• Aplicações de análise de qualidade da saída de vídeo é a
pontuação da media da opinião (MOS) que representa a
conclusão e a percepção da qualidade de vídeo esperada pelo
usuário.
Exemplo de pontuação do MOS
• O MOS é gerado pelo resultado da média de um conjunto
padrão de testes subjetivos.
• O MOS é um indicador da qualidade da imagem percebida.
Mean Opinion Score (MOS)
MOS
Qualidad
e
Deterioração
5 Excelente Imperceptível
4 Bom Perceptível mas não irritante
3 Razoável Levemente irritante
2 Ruidoso Irritante
1 Pessimo Muito irritante
Objetivo da medida da qualidade
• Os modelos matemáticos que aproximam os resultados da
avaliação subjetiva da qualidade.
• O objetivo da avaliação objetiva é desenvolver a medida.
quantitativa que pode prever a qualidade de imagem percebida.
• Ela desempenha diversas funções:
 Para monitorar e controlar a qualidade de imagem para sistemas de
controle de qualidade.
 Como índice de referencia para os sistemas de processamento de
imagem.
 Para otimizar os algoritmos e parâmetros.
 Para prever a qualidade de vídeo usando uma combinação das
aplicações dos parâmetros da camada física para todos os tipos de
conteúdo.
Objetivo da avaliação
• Três tipos de avaliação objetiva.
• É classificada de acordo com a disponibilidade de uma imagem
original com o qual a imagem distorcida deve ser comparada.
 Referência completa - (FR)
o Clipes sem distorções iniciais não estão sempre disponíveis.
o Situações difíceis de sincronização entre o sinal sem distorções
e o sinal distorcido (pode ter perda de quadros).
 Nenhuma referencia - (NR)
o Muito poucas implementações.
o Problemas semelhantes aos de Referência Completa.
 Referencia reduzida - (RR)
o Usualmente especifico do codec.
Métricas de qualidade com referencia completa
• MSE e PSNR: as métricas de qualidade de vídeo
mais utilizados durante os últimos 20 anos.
• SSIM: nova métrica (foi sugerido em 2004) que
apresenta melhores resultados do que PSNR, com
complexidade computacional razoável aumentando.
• Um grande esforço tem sido feito para desenvolver
novos objetivos de medidas de qualidade para a
imagem (vídeo) que incorporem medidas de
qualidade de percepção, considerando o sistema
visual humano (HVS) como característica.
Sistema visual humano - HVS
• Avaliação de qualidade (QA) dos algoritmos preveem a qualidade
visual, comparando um sinal distorcido contra uma
referência, tipicamente pela modelagem do sistema visual
humano.
• A avaliação da qualidade da imagem é baseado em modelos
bem definidos matematicamente que podem predizer a qualidade
da imagem percebida entre a imagem de referência e uma
imagem distorcida.
• Estes métodos de medição consideram (HVS) as características
dos sistemas visuais humanos, na tentativa de incorporar
medidas de qualidade de percepção.
Erro Médio Quadrático (MSE)
• MSE e PSNR são definidos como:
• Em que x é a imagem original e y é a imagem distorcida. M e N
são as largura e altura de uma imagem. L é a gama dinâmica
dos valores de pixel.
• Se o MSE diminui para zero, o correspondente pixel-a-pixel das
imagens torna-se perfeita.
• Se o MSE é suficientemente pequeno, isto corresponde a uma
imagem descomprimida de alta qualidade.
• Também em valores gerais, MSE aumenta à medida que a taxa
de compressão aumenta.
Diferentes Distorções para Valores do MSE
1) Imagem Original - MSE=0
2) MSE=306 3) MSE=309 4) MSE=309
5) MSE=313 6) MSE=309 7) MSE=308
Índice de similaridade estrutural (SSIM)
• Recente abordagem proposta para a avaliação da qualidade da
imagem.
• Método para medir a semelhança entre duas imagens. Métrica
de referência completa.
• Valor situa-se entre [0,1].
• O SSIM é projetado para melhorar as métricas
tradicionais, como PSNR e MSE, que provaram ser
inconsistentes com a percepção do olho humano.
Sistema de Medida
SSIM
Imagens com níveis de qualidade diferentes
Classificação do conteúdo de vídeo
Vídeo Não Editado
(Bruto)
Extração de
Característica
Temporal
Estimativa do
Tipo de Conteúdo
Extração de
Característica
Espacial
Conteúdo
Característica
temporal:
Medida pelo
movimento de um
clip de vídeo e é
dado pelo valor da
soma da diferença
absoluta.
Característica Espacial:
Blockiness, blurriness e
luminosidade entre os
quadros atuais e anteriores.
Estimativa Tipo Conteúdo:
Hierárquico e pela analise
de cluster K-means
análise de cluster..
Classificação do conteúdo de vídeo
• Dados divididos em 38%.
• Classificadas em três grupos, em uma estrutura clara que é
constituída.
Exemplo de previsão da qualidade de vídeo
• Modelo de previsão de qualidade de vídeo não-intrusiva para
H.264 sobre redes em termos do MOS.
Configuração da simulação
• Codec utilizado H.264.
• Tamanho do pacote definido para 1024 bytes.
• O valor MOS é calculado a partir do PSNR para conversão.
• conversão
Correlação entre QoE e QoS
• O gráfico mostra a correlação entre a QoE e QoS da rede. Para a
rede de parâmetros QoS, a largura de banda varia de 1 Mbit / s
para ilimitado, o atraso de 0 ms a 100 ms e a taxa de perda de
pacotes a partir de 0% a 8%.
Referencias
1) Z. Wang, H. R. Sheikh and A. C. Bovik, “Objective video quality
assessment”, Chapter 41 in The handbook of video databases:
design and applications, B. Furht and O. Marqure, ed., CRC
Press, pp. 1041-1078, September 2003.
http://www.cns.nyu.edu/~zwang/files/papers/QA_hvd_bookchapter.
pdf
2)http://media.wiley.com/product_data/excerpt/99/04705184/04705
18499.pdf
3) http://en.wikipedia.org/wiki/Subjective_video_quality
4) H. R. Sheikh, A. C. Bovik, and G. de Veciana, "An Information
Fidelity Criterion for Image Quality Assessment Using Natural
Scene Statistics," IEEE Transactions on Image Processing, in
Publication, May 2005.
5)http://www.cns.nyu.edu/~zwang/files/research/quality_index/dem
o_lena.html
6) http://live.ece.utexas.edu/research/Quality/vif.htm
Referencias
7) http://www.ece.uwaterloo.ca/~z70wang/research/ssim/
8) http://en.wikipedia.org/wiki/Mean_Opinion_Score
9) http://www-ee.uta.edu/dip
10) http://www.tech.plymouth.ac.uk/spmc
11) http://www.ict-adamantium.eu/

Avaliação Subjetiva pelo MOS (Mean Opinion Score)

  • 1.
    MOS (Mean OpinionScore) Avaliação Subjetiva pelo MOS Mestrado em Engenharia de Telecomunicações Seminário sobre temas de estudo Orientador: Carlos Pedroso Aluno: Paulo Silveira
  • 2.
    Degradação da qualidadedo vídeo • Métodos de compressão com perdas introduz distorções cuja visibilidade depende muito do conteúdo. • Estes artefatos resultam em degradação da qualidade percebida. • Os parâmetros com forte influência sobre a qualidade do vídeo estão relacionados com a codificação.  (a taxa de bits, taxa de quadros e resolução). • Assim, a questão da satisfação do usuário em correlação com o parâmetro de codificação tem aumentado.
  • 3.
    O porque daqualidade de imagem? • Imagens digitais estão sujeitas a uma larga variedade de distorções durante a transmissão, aquisição, processamento, compressão, armazena gem e reprodução, as quais podem resultar na degradação da qualidade visual de uma imagem. • Como exemplo o uso da redução da largura de banda pode degradar a qualidade durante o processo de quantização (perdas na compressão). • O objetivo final da compressão de dados é a de remover a redundância do sinal de origem. Portanto, ela reduz os não requeridos bits que representam a informação contida dentro da fonte de sinal. Descomprimido Comprimido (22 KB, 12:1) Comprimido (6 KB, 43:1)
  • 4.
    Media de pontuaçãode opinião Descrição do conceito do MOS (Mean Opinion Score): • Uma referencia comum usada para determinar a qualidade de vídeo. • Representa os resultados da combinação de um conjunto de características retirados dos dados de vídeo degradados para avaliação da qualidade. Todas as características deste conjunto influenciam a qualidade do vídeo. • É um fator importante para determinar o valor do QoS. Medida do MOS: • Uma taxa de uma serie de arquivos de vídeo delineadas por um conjunto de espectadores, utilizando uma escala que varia de 1 até 5. • Calcula-se a media de pontuação de opinião para cada arquivo de vídeo. Condições: • Dezesseis ou mais espectadores (amostra adequada). • Para reduzir a variabilidade, os testes incluem arquivos de referencia que são aceitos pela indústria para a pontuação do MOS.
  • 5.
    Distribuição e qualidadedo vídeo Dependências do MOS numa interface de transmissão • Métricas de distribuição de vídeo quantificam o impacto de queda, de repetição ou quadros de vídeo fora de sequencia.  Erros de distribuição de vídeo são causados em larga escala por perda de pacotes ou atrasos no enlace (BER, FER, FR, HR etc.). • Métricas de qualidade de vídeo quantificam o impacto dos artefatos de vídeo na percepção do usuário final.  Artefatos de vídeo são causados por perda de pacotes.  Diferentes tipos de codec e conteúdo traduzem os níveis de perda de pacotes para diferentes níveis de qualidade de vídeo. • Classificação do MOS de acordo com a escala da ASCOM:
  • 6.
    O que éa avaliação de qualidade de imagem? • A qualidade de imagem é uma característica de uma imagem que mede a degradação da imagem percebida. • Ela desempenha um papel importante em várias aplicações de processamento de imagem. • Objetivo da avaliação de qualidade de imagem é fornecer métricas de qualidade que podem predizer a qualidade de imagem percebida automaticamente. • Dois tipos de avaliação de qualidade de imagem:  Avaliação subjetiva da qualidade  Avaliação objetiva da qualidade
  • 7.
    Medida da qualidadesubjetiva • Qualidade de imagem subjetiva está preocupado em como a imagem é percebida por um observador e dar a sua opinião sobre uma determinada imagem. • A média de pontuação por opinião (MOS) tem sido utilizado para a avaliação subjetiva da qualidade por muitos anos. • No padrão de teste subjetivo, nenhum dos observadores classifica a qualidade dos arquivos de vídeo sobre o meio de comunicação que está sendo testado. • Aplicações de análise de qualidade da saída de vídeo é a pontuação da media da opinião (MOS) que representa a conclusão e a percepção da qualidade de vídeo esperada pelo usuário.
  • 8.
    Exemplo de pontuaçãodo MOS • O MOS é gerado pelo resultado da média de um conjunto padrão de testes subjetivos. • O MOS é um indicador da qualidade da imagem percebida. Mean Opinion Score (MOS) MOS Qualidad e Deterioração 5 Excelente Imperceptível 4 Bom Perceptível mas não irritante 3 Razoável Levemente irritante 2 Ruidoso Irritante 1 Pessimo Muito irritante
  • 9.
    Objetivo da medidada qualidade • Os modelos matemáticos que aproximam os resultados da avaliação subjetiva da qualidade. • O objetivo da avaliação objetiva é desenvolver a medida. quantitativa que pode prever a qualidade de imagem percebida. • Ela desempenha diversas funções:  Para monitorar e controlar a qualidade de imagem para sistemas de controle de qualidade.  Como índice de referencia para os sistemas de processamento de imagem.  Para otimizar os algoritmos e parâmetros.  Para prever a qualidade de vídeo usando uma combinação das aplicações dos parâmetros da camada física para todos os tipos de conteúdo.
  • 10.
    Objetivo da avaliação •Três tipos de avaliação objetiva. • É classificada de acordo com a disponibilidade de uma imagem original com o qual a imagem distorcida deve ser comparada.  Referência completa - (FR) o Clipes sem distorções iniciais não estão sempre disponíveis. o Situações difíceis de sincronização entre o sinal sem distorções e o sinal distorcido (pode ter perda de quadros).  Nenhuma referencia - (NR) o Muito poucas implementações. o Problemas semelhantes aos de Referência Completa.  Referencia reduzida - (RR) o Usualmente especifico do codec.
  • 11.
    Métricas de qualidadecom referencia completa • MSE e PSNR: as métricas de qualidade de vídeo mais utilizados durante os últimos 20 anos. • SSIM: nova métrica (foi sugerido em 2004) que apresenta melhores resultados do que PSNR, com complexidade computacional razoável aumentando. • Um grande esforço tem sido feito para desenvolver novos objetivos de medidas de qualidade para a imagem (vídeo) que incorporem medidas de qualidade de percepção, considerando o sistema visual humano (HVS) como característica.
  • 12.
    Sistema visual humano- HVS • Avaliação de qualidade (QA) dos algoritmos preveem a qualidade visual, comparando um sinal distorcido contra uma referência, tipicamente pela modelagem do sistema visual humano. • A avaliação da qualidade da imagem é baseado em modelos bem definidos matematicamente que podem predizer a qualidade da imagem percebida entre a imagem de referência e uma imagem distorcida. • Estes métodos de medição consideram (HVS) as características dos sistemas visuais humanos, na tentativa de incorporar medidas de qualidade de percepção.
  • 13.
    Erro Médio Quadrático(MSE) • MSE e PSNR são definidos como: • Em que x é a imagem original e y é a imagem distorcida. M e N são as largura e altura de uma imagem. L é a gama dinâmica dos valores de pixel. • Se o MSE diminui para zero, o correspondente pixel-a-pixel das imagens torna-se perfeita. • Se o MSE é suficientemente pequeno, isto corresponde a uma imagem descomprimida de alta qualidade. • Também em valores gerais, MSE aumenta à medida que a taxa de compressão aumenta.
  • 14.
    Diferentes Distorções paraValores do MSE 1) Imagem Original - MSE=0 2) MSE=306 3) MSE=309 4) MSE=309 5) MSE=313 6) MSE=309 7) MSE=308
  • 15.
    Índice de similaridadeestrutural (SSIM) • Recente abordagem proposta para a avaliação da qualidade da imagem. • Método para medir a semelhança entre duas imagens. Métrica de referência completa. • Valor situa-se entre [0,1]. • O SSIM é projetado para melhorar as métricas tradicionais, como PSNR e MSE, que provaram ser inconsistentes com a percepção do olho humano. Sistema de Medida SSIM
  • 16.
    Imagens com níveisde qualidade diferentes
  • 17.
    Classificação do conteúdode vídeo Vídeo Não Editado (Bruto) Extração de Característica Temporal Estimativa do Tipo de Conteúdo Extração de Característica Espacial Conteúdo Característica temporal: Medida pelo movimento de um clip de vídeo e é dado pelo valor da soma da diferença absoluta. Característica Espacial: Blockiness, blurriness e luminosidade entre os quadros atuais e anteriores. Estimativa Tipo Conteúdo: Hierárquico e pela analise de cluster K-means análise de cluster..
  • 18.
    Classificação do conteúdode vídeo • Dados divididos em 38%. • Classificadas em três grupos, em uma estrutura clara que é constituída.
  • 19.
    Exemplo de previsãoda qualidade de vídeo • Modelo de previsão de qualidade de vídeo não-intrusiva para H.264 sobre redes em termos do MOS.
  • 20.
    Configuração da simulação •Codec utilizado H.264. • Tamanho do pacote definido para 1024 bytes. • O valor MOS é calculado a partir do PSNR para conversão. • conversão
  • 21.
    Correlação entre QoEe QoS • O gráfico mostra a correlação entre a QoE e QoS da rede. Para a rede de parâmetros QoS, a largura de banda varia de 1 Mbit / s para ilimitado, o atraso de 0 ms a 100 ms e a taxa de perda de pacotes a partir de 0% a 8%.
  • 22.
    Referencias 1) Z. Wang,H. R. Sheikh and A. C. Bovik, “Objective video quality assessment”, Chapter 41 in The handbook of video databases: design and applications, B. Furht and O. Marqure, ed., CRC Press, pp. 1041-1078, September 2003. http://www.cns.nyu.edu/~zwang/files/papers/QA_hvd_bookchapter. pdf 2)http://media.wiley.com/product_data/excerpt/99/04705184/04705 18499.pdf 3) http://en.wikipedia.org/wiki/Subjective_video_quality 4) H. R. Sheikh, A. C. Bovik, and G. de Veciana, "An Information Fidelity Criterion for Image Quality Assessment Using Natural Scene Statistics," IEEE Transactions on Image Processing, in Publication, May 2005. 5)http://www.cns.nyu.edu/~zwang/files/research/quality_index/dem o_lena.html 6) http://live.ece.utexas.edu/research/Quality/vif.htm
  • 23.
    Referencias 7) http://www.ece.uwaterloo.ca/~z70wang/research/ssim/ 8) http://en.wikipedia.org/wiki/Mean_Opinion_Score 9)http://www-ee.uta.edu/dip 10) http://www.tech.plymouth.ac.uk/spmc 11) http://www.ict-adamantium.eu/