Regressão - aula 03/04

13.600 visualizações

Publicada em

0 comentários
9 gostaram
Estatísticas
Notas
  • Seja o primeiro a comentar

Sem downloads
Visualizações
Visualizações totais
13.600
No SlideShare
0
A partir de incorporações
0
Número de incorporações
12
Ações
Compartilhamentos
0
Downloads
278
Comentários
0
Gostaram
9
Incorporações 0
Nenhuma incorporação

Nenhuma nota no slide

Regressão - aula 03/04

  1. 1. Análise deRegressão:Extensões e regressão múltipla Rodrigo de Sá Análise de Regressão:Extensões Extensões e regressão múltiplaRegressãomúltipla -estimaçãoRegressãomúltipla - Rodrigo de Sáinferência Fundação de Economia e Estatística, 2011
  2. 2. Livro texto Análise deRegressão:Extensões e regressão múltipla Rodrigo de Sá Damodar GujaratiExtensõesRegressãomúltipla - Econometria Básica 3ª ed. 2005.estimaçãoRegressãomúltipla -inferência
  3. 3. Regressão pela origem Análise deRegressão:Extensões e regressão Há ocasiões que a Teoria Econômica diz que o melhor múltipla Rodrigo de Sá modelo a ser utilizado é Yi = β1 Xi + ui .Extensões Nesse modelo, o intercepto é igual a zero, ou seja, aRegressão regressão passa pela origem.múltipla -estimaçãoRegressãomúltipla -inferência
  4. 4. Regressão pela origem Análise deRegressão:Extensões e regressão Há ocasiões que a Teoria Econômica diz que o melhor múltipla Rodrigo de Sá modelo a ser utilizado é Yi = β1 Xi + ui .Extensões Nesse modelo, o intercepto é igual a zero, ou seja, aRegressão regressão passa pela origem.múltipla -estimaçãoRegressão Por exemplo, temos o Capital Asset Pricing Modelmúltipla -inferência (CAPM). No CAPM, o retorno de um ativo i e o retorno da carteira de mercado são relacionados pela fórmula (ERi − rf ) = βi (ERm − rf ).
  5. 5. Regressão pela origem: visualização Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: CAPM
  6. 6. Regressão pela origem: propriedades Análise deRegressão:Extensões e regressão múltipla Estimador da inclinação Rodrigo de Sá ˆ XY i i β1 = X2 iExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência
  7. 7. Regressão pela origem: propriedades Análise deRegressão:Extensões e regressão múltipla Estimador da inclinação Rodrigo de Sá ˆ XY i i β1 = X2 iExtensõesRegressãomúltipla -estimação A soma dos resíduos não é necessariamente igual a zero,Regressão como no caso com intercepto. O r 2 não precisa ser positivo.múltipla -inferência Usa-se o r 2 ajustado. Pode ser mais interessante utilizar a regressão convencional, com intercepto.
  8. 8. Modelo log-linear (log-log) Análise deRegressão:Extensões e regressão múltipla Rodrigo de Linearização Sá Considere o modelo de regressão exponencialExtensõesRegressãomúltipla -estimação Y = β0 X β e i i 1 uiRegressãomúltipla - ln Y = ln β0 + β1 ln X + u i i iinferência Y ∗ = α + β1 X ∗ + u i i i onde Yi∗ = ln Yi , Xi∗ = ln Xi e α = ln β0 .
  9. 9. log-log: propriedades Análise deRegressão:Extensões e No modelo log-log, a inclinação β1 meda a regressão múltipla ELASTICIDADE de Y em relação a X . Rodrigo de Elasticidade é a variação percentual em Y dada uma Sá variação percentual em X (variação pequena, assim comoExtensões no conceito de derivada).Regressãomúltipla -estimaçãoRegressãomúltipla -inferência
  10. 10. log-log: propriedades Análise deRegressão:Extensões e No modelo log-log, a inclinação β1 meda a regressão múltipla ELASTICIDADE de Y em relação a X . Rodrigo de Elasticidade é a variação percentual em Y dada uma Sá variação percentual em X (variação pequena, assim comoExtensões no conceito de derivada).Regressão Elasticidademúltipla -estimaçãoRegressãomúltipla -inferência variação % em Y β1 = variação % em X ∆Y /Y β1 = ∆X /X ∆Y X = ∆X Y
  11. 11. log-log: exemplo Análise deRegressão:Extensões e regressão múltipla Rodrigo de Sá Considere um modelo de demanda de um certo produto:ExtensõesRegressão Y é a quantidade demandada;múltipla -estimação X é o preço.Regressão Regredindo as duas variáveis em log, β1 será amúltipla -inferência elasticidade-preço do produto.
  12. 12. log-log: visualização Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Elasticidade
  13. 13. Modelo log-lin Análise deRegressão:Extensões e regressão múltipla Linearização Rodrigo de Sá Considera a equação do crescimento (ou juros compostos)Extensões Y = Y0 (1 + r )tRegressãomúltipla - testimaçãoRegressão ln Yt = ln Y0 + t ln (1 + r ) ln Y = β0 + β1 t + utmúltipla -inferência t onde β0 = ln Y0 , β1 = ln (1 + r ) e r é a taxa de crescimento ou taxa de juros.
  14. 14. log-lin: propriedades Análise deRegressão:Extensões e No modelo log-lin, a inclinação β1 mede a variação regressão múltipla proporcional (ou relativa) constante em Y para uma dada Rodrigo de variação absoluta do regressor. Sá variação % em YExtensõesRegressão β1 =múltipla -estimação variação absoluta em XRegressão ∆Y /Y =múltipla -inferência ∆X
  15. 15. log-lin: propriedades Análise deRegressão:Extensões e No modelo log-lin, a inclinação β1 mede a variação regressão múltipla proporcional (ou relativa) constante em Y para uma dada Rodrigo de variação absoluta do regressor. Sá variação % em YExtensõesRegressão β1 =múltipla -estimação variação absoluta em XRegressão ∆Y /Y =múltipla -inferência ∆X Caso o regressor seja o tempo, t , a inclinação mede a taxa de crescimento da variável Y . Note que a taxa de crescimento é constante neste modelo. Para o cálculo desse modelo, a variável deve ser estacionária.
  16. 16. log-lin: exemplo Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Exemplo - taxa de crescimento
  17. 17. Modelo lin-log Análise deRegressão:Extensões e regressão múltipla Rodrigo de lin-log SáExtensões Y i = β0 + β1 ln Xi + uiRegressãomúltipla - variação absoluta em Y β1 = variação % em Xestimação ∆YRegressãomúltipla -inferência = ∆X /X Assim, se X crescer 1%, Y crescerá β1 unidades.
  18. 18. Modelos recíprocos Análise deRegressão:Extensões e regressão múltipla Rodrigo de Sá Modelo recíproco 1Extensões Y = β0 + β1 + uiRegressão i X imúltipla -estimaçãoRegressãomúltipla -inferência
  19. 19. Modelos recíprocos Análise deRegressão:Extensões e regressão múltipla Rodrigo de Sá Modelo recíproco 1Extensões Y = β0 + β1 + uiRegressão i X imúltipla -estimaçãoRegressãomúltipla - Propriedade: conforme X aumenta indenidamenteinferência o termo β1 (1/X ) se aproxima de zero. i Y se aproxima do valor-limite ou assintótico β0 .
  20. 20. Modelos recíprocos: grácos Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Modelo recíproco
  21. 21. Modelos recíprocos: curva de Phillips Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Curva de Phillips
  22. 22. Síntese das formas funcionais Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Modelos, inclinações e elasticidades
  23. 23. Regressão múltipla Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressão Regressão de três variáveismúltipla -estimação Y = β0 + β1 X1 + β2 X2 + u i i i iRegressãomúltipla -inferência
  24. 24. Hipótese - ausência de colinearidade Análise deRegressão:Extensões e regressão múltipla Dentre as 10 hipóteses do modelo clássico de regressão Rodrigo de Sá linear, é importante ressaltar a hipótese da AUSÊNCIA DEExtensões COLINEARIDADE (exata) entre as variáveis X .Regressãomúltipla -estimaçãoRegressãomúltipla -inferência
  25. 25. Hipótese - ausência de colinearidade Análise deRegressão:Extensões e regressão múltipla Dentre as 10 hipóteses do modelo clássico de regressão Rodrigo de Sá linear, é importante ressaltar a hipótese da AUSÊNCIA DEExtensões COLINEARIDADE (exata) entre as variáveis X .Regressãomúltipla - Quando uma variável explicativa tem correlação com outra,estimaçãoRegressão dizemos que elas são COLINEARES ou LINEARMENTEmúltipla -inferência DEPENDENTES. Colinearidade perfeita existe quando HÁ RELAÇÃO LINEAR EXATA ENTRE as variáveis explicativas, X3 = a + bX2 .
  26. 26. Colinearidade perfeita Análise deRegressão:Extensões e regressão múltipla Rodrigo de Sá Efeito da colinearidade perfeitaExtensõesRegressãomúltipla - X2i = 2X1iestimação Yi = β0 + β1 X1i + β2 X2i + uiRegressãomúltipla -inferência = β0 + (β1 + 2β2 ) X1i + ui = β0 + αX1i + ui
  27. 27. Interpretação Análise deRegressão:Extensões e regressão múltipla Rodrigo de Tomando a esperança em ambos os lados SáExtensões E (Y |X1 , X2 ) = β0 + β1 X1 + β2 X2 i i i i iRegressãomúltipla -estimaçãoRegressãomúltipla -inferência
  28. 28. Interpretação Análise deRegressão:Extensões e regressão múltipla Rodrigo de Tomando a esperança em ambos os lados SáExtensões E (Y |X1 , X2 ) = β0 + β1 X1 + β2 X2 i i i i iRegressão β1 mede a mudança no valor médio de Y , E (Yi |X1i , X2i ),múltipla -estimaçãoRegressão por variação unitária em X1 , mantendo constante todas as outras variáveis explicativas (X2 ).múltipla -inferência Isto é, fornece o efeito DIRETO ou LÍQUIDO da mudança em X1 .
  29. 29. Propriedades dos estimadores de MQO Análise deRegressão:Extensões e regressão múltipla A reta (superfície) de regressão passa pelas médias Y , X 1 Rodrigo de SáExtensões e X 2.Regressão O valor médio do Yi estimado é igual ao valor médio do Yimúltipla -estimação verdadeiro.Regressãomúltipla - A soma dos resíduos é igual a zero.inferência Os resíduos não tem correlação com nenhuma das variáveis explicativas.
  30. 30. Propriedades dos estimadores de MQO Análise deRegressão:Extensões e regressão múltipla As variâncias dos estimadores de MQO são diretamente Rodrigo de proporcionais a σ 2 . Os estimadores são MELNV (não viesados e de variância SáExtensões mínima).Regressãomúltipla -estimaçãoRegressãomúltipla -inferência
  31. 31. Propriedades dos estimadores de MQO Análise deRegressão:Extensões e regressão múltipla As variâncias dos estimadores de MQO são diretamente Rodrigo de proporcionais a σ 2 . Os estimadores são MELNV (não viesados e de variância SáExtensões mínima).Regressão Conforme aumenta r12 (o coeciente de correlação entremúltipla -estimaçãoRegressãomúltipla - X1 e X2 ), as variâncias de β1 e β2 aumentam. ˆ ˆinferência No limite, quando r12 = 1, as variâncias de β1 e β2 se ˆ ˆ tornam innitas. Quanto mais correlacionadas forem as variáveis explicativas, mais difícil ca fazermos testes sobre os seus efeitos (isolados).
  32. 32. R 2 e R 2 ajustado Análise deRegressão:Extensões e regressão múltipla Chamamos de R 2 o COEFICIENTE MÚLTIPLO DE Rodrigo de DETERMINAÇÃO, semelhante ao r 2 do caso univariado. SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência
  33. 33. R 2 e R 2 ajustado Análise deRegressão:Extensões e regressão múltipla Chamamos de R 2 o COEFICIENTE MÚLTIPLO DE Rodrigo de DETERMINAÇÃO, semelhante ao r 2 do caso univariado. SáExtensões Uma propriedade do R 2 é que ele é uma função nãoRegressão decrescente do número de variáveis explicativas. Quando o número de regressores aumento, o R 2 quasemúltipla -estimaçãoRegressão invariavelmente aumenta, e nunca diminui.múltipla -inferência Uma variável adicional X não diminuirá o R 2 .
  34. 34. R 2 e R 2 ajustado Análise deRegressão:Extensões e regressão múltipla Chamamos de R 2 o COEFICIENTE MÚLTIPLO DE Rodrigo de DETERMINAÇÃO, semelhante ao r 2 do caso univariado. SáExtensões Uma propriedade do R 2 é que ele é uma função nãoRegressão decrescente do número de variáveis explicativas. Quando o número de regressores aumento, o R 2 quasemúltipla -estimaçãoRegressão invariavelmente aumenta, e nunca diminui.múltipla -inferência Uma variável adicional X não diminuirá o R 2 . Assim devemos ser cautelosos ao usar o R 2 para compararmos modelos com um número diferente de variáveis.
  35. 35. R 2 e R 2 ajustado Análise deRegressão:Extensões e regressão 2 múltipla O R 2 ajustado R leva em conta o número de variáveis Rodrigo de Sá para melhorar a comparação.Extensões 2 u 2 / (n − k ) ˆ R =1− i y 2 / (n − 1)Regressãomúltipla - iestimaçãoRegressãomúltipla -inferência
  36. 36. R 2 e R 2 ajustado Análise deRegressão:Extensões e regressão 2 múltipla O R 2 ajustado R leva em conta o número de variáveis Rodrigo de Sá para melhorar a comparação.Extensões 2 u 2 / (n − k ) ˆ R =1− i y 2 / (n − 1)Regressãomúltipla - iestimação O R 2 ajustado pode ser menor do que um e é menor doRegressãomúltipla - que o O R 2 não ajustado quando k 1.inferência
  37. 37. R 2 e R 2 ajustado Análise deRegressão:Extensões e regressão 2 múltipla O R 2 ajustado R leva em conta o número de variáveis Rodrigo de Sá para melhorar a comparação.Extensões 2 u 2 / (n − k ) ˆ R =1− i y 2 / (n − 1)Regressãomúltipla - iestimação O R 2 ajustado pode ser menor do que um e é menor doRegressãomúltipla - que o O R 2 não ajustado quando k 1.inferência Mesmo com o O R 2 ajustado deve-se tomar cuidado ao usá-lo para comparar dois ou mais modelos concorrentes.
  38. 38. Exemplo: função de produção Cobb-Douglas Análise deRegressão: Linearização Seja a seguinte função de produção, onde Y é o produto, X1 éExtensões e regressão o trabalho e X2 é o capital. múltipla Rodrigo de SáExtensões Y i = β0 X1i1 X2i2 e u β β iRegressãomúltipla -estimação ln Y i = ln β0 + β1 ln X1i + β2 ln X2i + uiRegressãomúltipla -inferência
  39. 39. Exemplo: função de produção Cobb-Douglas Análise deRegressão: Linearização Seja a seguinte função de produção, onde Y é o produto, X1 éExtensões e regressão o trabalho e X2 é o capital. múltipla Rodrigo de SáExtensões Y i = β0 X1i1 X2i2 e u β β iRegressãomúltipla -estimação ln Y i = ln β0 + β1 ln X1i + β2 ln X2i + uiRegressãomúltipla - Esse é um modelo log-log.inferência β1 é a elasticidade parcial do produto em relação ao insumo trabalho, isto é, mede a variação percentual no produto para uma variação de 1% na quantidade de trabalho, mantendo contante o capital. Analogamente, β2 é a elasticidade parcial do produto em relação ao insumo capital. A soma β1 + β2 nos informa sobre os RETORNOS DE ESCALA.
  40. 40. Exemplo: função de produção Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Produto real, dias-trabalho e capital no setor agrícola de Taiwan
  41. 41. Exemplo: função de produção Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Produto real, dias-trabalho e capital no setor agrícola de Taiwan
  42. 42. Modelo de regressão polinomial Análise deRegressão:Extensões e regressão múltipla Rodrigo de Regressão polinomial de k -ésimo grau SáExtensões Y = β0 + β1 X + β2 X 2 + . . . + β X + u i i i k i k iRegressãomúltipla -estimaçãoRegressãomúltipla -inferência
  43. 43. Modelo de regressão polinomial Análise deRegressão:Extensões e regressão múltipla Rodrigo de Regressão polinomial de k -ésimo grau SáExtensões Y = β0 + β1 X + β2 X 2 + . . . + β X + u i i i k i k iRegressãomúltipla -estimação Polinômios aproximam bem funções contínuasRegressão (aumentando k ). Há apenas uma variável explicativa (X ).múltipla -inferência X , X 2 , X 3 , . . . são correlacionados, mas não apresentam correlação perfeita.
  44. 44. Exemplo: função custo total Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Função custo total
  45. 45. Exemplo: função custo total Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Função custo total
  46. 46. Exemplo: função custo total Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressão Figura: Função custo totalmúltipla -inferência
  47. 47. Outra vez a hipótese da normalidade Análise deRegressão:Extensões e regressão múltipla Rodrigo de Sá Assim como na regressão simples, supondo a normalidade dos resíduos, os estimadores de MQO da regressãoExtensões múltipla são os melhores estimadores não viesados.Regressãomúltipla - Os estimadores dos betas são normalmente distribuídosestimaçãoRegressão com esperança igual ao valor verdadeiro do parâmetromúltipla -inferência populacional. Para cada um dos estimadores, pode-se aplicar o teste t, como no caso simples.
  48. 48. Teste de hipótese individuais Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensões Pode-se testar uma certa hipótese sobre um estimador de regressão parcial INDIVIDUALMENTE.Regressãomúltipla -estimaçãoRegressão Funciona de maneira idêntica à regressão simples.múltipla -inferência
  49. 49. Teste de signicância global Análise deRegressão:Extensões e regressão múltipla Rodrigo de Consideremos a hipótese H0 : β1 = β2 = 0. Sá A hipótese nula é uma hipótese conjunta de que β1 e β2Extensões são conjunta ou simultaneamente iguais a zero.Regressãomúltipla -estimação Este teste é um teste de SIGNIFICÂNCIA GLOBAL da retaRegressão de regressão observada ou estimada, isto é, se Y temmúltipla -inferência relação linear tanto com X1 quanto com X2 . Testar esta hipótese não é o mesmo que testar a signicância de cada um dos parâmetros individualmente!
  50. 50. Teste de signicância global: teste F Análise deRegressão:Extensões e regressão múltipla Dada a impossibilidade de testar a signicância dos parâmetros isoladamente, outra abordagem é necessária. Rodrigo de SáExtensões A alternativa é o teste F.Regressãomúltipla -estimaçãoRegressãomúltipla -inferência
  51. 51. Teste de signicância global: teste F Análise deRegressão:Extensões e regressão múltipla Dada a impossibilidade de testar a signicância dos parâmetros isoladamente, outra abordagem é necessária. Rodrigo de SáExtensões A alternativa é o teste F.Regressãomúltipla -estimação Pode-se mostrar que, sob a hipótese nula β1 = β2 = 0, aRegressão variável F tem distribuição F com 2 e n − 3 graus demúltipla -inferência liberdade. SQE / (k − 1) F= SQR / (n − k )
  52. 52. ANOVA Análise deRegressão:Extensões e regressão múltipla Rodrigo de SáExtensõesRegressãomúltipla -estimaçãoRegressãomúltipla -inferência Figura: Tabela de análise de variância (ANOVA)

×