Complexidade de Algoritmos, Notação assintótica, Algoritmos polinomiais e intratáveis

Complexidade de Algoritmos:
Tempo e espaço; Notação
assintótica; Algoritmos
polinomiais e intratáveis
Professor: José Fernando Rodrigues Júnior
Universidade de São Paulo
http://www.icmc.usp.br/pessoas/junio

 Introdução
 Algoritmos e funções
 Notação Assintótica – Interpretação
matemática
 Notação Assintótica – Aplicação a algoritmos
 Notação Assintótica – Interpretação
algorítmica
 Notação Assintótica – Limitações
 Notação Assintótica – Um indicador geral
 Algoritmos Polinomiais e Exponenciais
 Conclusões

Introdução
Porquê o estudo da Complexidade?
 Escolher entre vários algoritmos o mais eficiente;
 Desenvolver algoritmos mais eficientes;
 Complexidade Computacional - torna possível
determinar se a definição de determinado algoritmo é
viável.

Algoritmos e Funções
Todo algoritmo define uma função matemática
f(n)= # de instruções
Ex.:
void Algoritmo1(int n){
int contador = 0;
for(int i = 0; I < n; I++){
contador++;
}
}
 n passos para terminar

Ex.:
int contador = 0;
for(int i = 0; i < n; i++){
for(int j = 0; j < n; j++){
contador++;
}
}
}
 n*n passos para terminar

Ex.:
int contador = 0;
for(int i = 0; i < n; i++){
for(int j = 0; j < n; j++){
for(int k = 0; k < n; k++){
contador++;
}
}
}
}
 n*n*n passos para terminar

Algoritmo1 Algoritmo2 Algoritmo3
n = 1 1 1 1
n = 10 10 102 103
n = 1000 103 106 109
n = 106 106 1012 1018
f(n) = n f(n) = n2 f(n) = n3

Qual algoritmo você escolheria?
R.: basta olhar na função definida por cada
algoritmo
A função de um algoritmo  melhor algoritmo para
um dado problema
Fatores: tempo de processamento, memória,
acessos a disco, largura de banda, entre outros

A prática de se reduzir um algoritmo a uma função
matemática denomina-se
“Análise de complexidade de algoritmos”

Mas como se faz a análise de um algoritmo,
matematicamente falando?
R.: Notação Assintótica: como estabelecer uma
relação de ordem entre funções matemáticas?
Funções não são números!

Notação Assintótica – Interpretação
matemática
 Caracterização de funções de 3 maneiras:
 limites assintóticos superior, inferior e estrito

matemática
1) Limite assintótico superior: O(g(n))
Uma função f(n) = O(g(n)), se f(n) ≤ c1*g(n) para uma
constante c1 > 0 e para n ≥ n0
n0

matemática
2) Limite assintótico inferior: W(g(n))
Uma função f(n) = W(g(n)), se f(n) ≥ c1*g(n) para uma
constante c1 > 0 e para n ≥ n0

matemática
3) Limite assintótico estrito: q(g(n))
Uma função f(n) = q(g(n)), se c1*g(n) ≤ f(n) ≤ c2*g(n)
para um constantes c1 e c2 > 0 e para n ≥ n0

matemática
Principais limites assintóticos:
O(1) < O(logn) < O(n) < O(nlogn) < O(n2) < O(2n)

Notação Assintótica
Aplicação a algoritmos
Exemplo: suponha um algoritmo para calcular a
soma de uma seqüência de números

AlgForcaBruta(int n){
soma = 0
for(i = 1 to n)
soma = soma + i
}
 1
 n
 n
 Custo total: 1 + n + n = 2n + 1
 f(n) = 2n + 1

AlgInstataneo(int n){
soma = n*(n+1)/2
 4
}
 Custo total: 4
 f(n) = 4

AlgBobo(int n){
soma = 0
for(i = 0 to n){
for(j = 1 to i){
soma = soma + 1
}
}
}
 1
 n
 n((n+1)/2)
 n((n+1)/2)
 Custo total: 1 + n + n((n+1)/2) + n((n+1)/2)
 f(n) = n2 + n +1

O que temos então:
 AlgForcaBruta: f(n) = 2n + 1
 AlgInstantaneo: f(n) = 4
 AlgBobo: f(n) = n2 + n +1

O AlgForcaBruta tem complexidade
f(n) = q(g(n))= q(n) , isto é, g(n) = n
Mas por quê, se f(n) = 2n + 1?
R.: segundo a definição de limite assintótico estrito
c1*g(n) ≤ f(n) ≤ c2*g(n) temos:
1*n ≤ f(n) = 2n + 1 ≤ 3*n

O AlgInstantaneo tem complexidade
f(n) = q(g(n))= q(1) , isto é, g(n) = 1
Mas por quê, se f(n) = 4?
3*1 ≤ f(n) = 4 ≤ 5*1

O AlgBobo tem complexidade
f(n) = q(g(n))= q(n2) , isto é, g(n) = n2
Mas por quê, se f(n) = n2 + n + 1?
1* n2 ≤ f(n) = n2 + n + 1 ≤ 2* n2

O que temos então:
AlgForcaBruta: f(n) = 2n + 1 = q(n)
AlgInstantaneo: f(n) = 4 = q(1)
AlgBobo: f(n) = n2 + n +1 = q(n2)
Analisando-se o que a notação assintótica define,
verificam-se dois fatos:

Analisando-se o que a notação assintótica define,
verificam-se dois fatos:
1) A notação assintótica não está interessada na
função específica f(n), mas na sua taxa de
crescimento com relação a n. As constantes da
função f(n) são ignoradas.
2) Os termos de mais baixa ordem são ignorados.

Mas por quê os termos de mais baixa ordem são
ignorados?
R.: a notação considera valores de n arbitrariamente
grandes. Se f(n) < h(n), então f(n)
lim
n¥ = 0
h(n)
Ex.: f(n) = n2 > h(n) = n
para n = 1010, temos n = 1010 = 0
n2 10100
~

Interpretação algorítmica
Os limites assintóticos têm a seguinte interpretação
com relação a algoritmos.
Dado um algoritmo com função f(n)...

• Limite assintótico superior: O(g(n))
Indica que não importam quais as circunstâncias,
f(n) ≤ g(n) sempre
“g(n) é o pior que o meu algoritmo pode fazer”

Exemplo: algoritmo de ordenação Quicksort
Possíveis circunstâncias:
1) ordenar uma seqüência que já está em ordem
o Quicksort tem custo n2
2) ordenar uma seqüência totalmente embaralhada
o Quicksort tem custo n*logn
 como n2 é o pior que o Quicksort pode fazer, ele
terá sempre
f(n) ≤ n2  O(n2)

• Limite assintótico inferior: W(g(n))
f(n) ≥ g(n) sempre
“g(n) é o melhor que o meu algoritmo pode fazer”

Exemplo: algoritmo de ordenação Quicksort
1) ordenar uma seqüência que já está em ordem
o Quicksort demora n2
2) ordenar uma seqüência totalmente embaralhada
o Quicksort demora n*logn
 como n*logn é o melhor que o Quicksort pode
fazer, ele terá sempre
f(n) ≥ n*logn  W(n*logn)

• Limite assintótico estrito: q(g(n))
c1g(n) ≤ f(n) ≤ c2g(n) sempre
“meu algoritmo não faz nem pior, nem melhor
que g(n)”

Exemplo: algoritmo de ordenação Heapsort
1) seqüência já ordenada  custo n*logn
2) seqüência em ordem inversa  custo n*logn
3) seqüência totalmente embaralhada custo n*logn
 em todos os casos n*logn é sempre o que o meu
algoritmo faz
c1n*logn ≤ f(n) ≤ c2n*logn  q(n*logn)

• Pior caso, melhor caso e caso médio
Exemplo: algoritmo de ordenação Insertion-sort
Possíveis circunstâncias
1) seqüência já ordenada  custo n
2) seqüência em ordem inversa  custo n2
3) seqüência toda embaralhada  custo n + d, tal
que d é o número de operações de rearranjo

• Para o Insertion-sort valem as seguintes afirmações:
• ele é, ao mesmo tempo, O(n2) e W(n)
• considerando-se apenas as melhores entradas,
pode-se dizer:
“q(n) no melhor caso”
• considerando-se apenas as piores entradas, pode-se
dizer:
“q(n2) no pior caso”
• considerando-se apenas as demais entradas, que
são a maioria mais provável, pode-se dizer:
“q(n + d) no caso médio”

1) já ordenada  custo n
2) em ordem inversa  custo n2
3) toda embaralhada  custo n + d

pode-se dizer:
dizer:

Intuição geral:
pode-se dizer:
dizer:
• quando se diz:
“um algoritmo tem complexidade x”
isso é válido para TODAS as entradas
• quando se diz:
“um algoritmo tem complexidade x em tal caso”
isso é válido para TODAS as entradas que constituem
aquele caso

Limitações
• Como se pode ver, a notação assintótica tem
expressividade limitada
1) por si só, ela não apresenta dados a respeito da
qualidade da entrada
2) a notação oculta fatores importantes que podem
fazer diferença na escolha de um algoritmo
Por exemplo:
se um algoritmo tem complexidade n2 = q(n2)
e outro algoritmo tem complexidade 100n = q(n)
 entradas de tamanho até 100, é melhor usar o
primeiro algoritmo, pois n2 ≤ 100n, para n ≤ 100

Limitações
• Como se pode ver, a notação assintótica tem
expressividade limitada
1) por si só, ela não apresenta dados a respeito da
qualidade da entrada
2) a É notação preciso oculta conhecer fatores bem o importantes problema que que se
podem
fazer tem, diferença para que na se escolha possa fazer de um uma algoritmo
boa
Por exemplo:
escolha.
se um algoritmo tem complexidade n2 = q(n2)
e outro algoritmo tem complexidade 100n = q(n)
 entradas de tamanho até 100, é melhor usar o
primeiro algoritmo, pois n2 ≤ 100n, para n ≤ 100

Um indicador geral
• Usada para indicar os requisitos de qualquer fator
que creça como uma função de n. Os principais
são:
• tempo, como já visto
• o espaço de memória
• o número de acessos a disco
• a largura de banda

Algoritmos Polinomiais e
Exponenciais

Algoritmos Polinomiais e
Exponenciais
Suponha-se um algoritmo com ordem O(2n)
 para n = 100
 um computador que realiza 212 operações/segundo
 tempo total: 4*1010 anos!!!

Conclusões
• A análise de complexidade depende da
compreensão de dois fatores:
• interpretação matemática
• interpretação algorítmica
• Deve-se sempre lembrar que existem outras
dimensões envolvidas na análise, como qualidade
da entrada e arquitetura computacional
• A análise assintótica fornece um bom parâmetro,
mas não deve ser o único a ser considerado

Complexidade de Algoritmos, Notação assintótica, Algoritmos polinomiais e intratáveis

Mais conteúdo relacionado

Mais procurados

Destaque

Semelhante a Complexidade de Algoritmos, Notação assintótica, Algoritmos polinomiais e intratáveis

Mais de Universidade de São Paulo

Último

Complexidade de Algoritmos, Notação assintótica, Algoritmos polinomiais e intratáveis