Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão

O envelope simulado é um método da análise de diagnóstico, utilizado para avaliar a veracidade da hipótese referente a distribuição de probabilidade assumida para a variável resposta em um modelo de regressão. Neste trabalho, descrevemos alguns procedimentos para a sua obtenção e, posteriormente, pr...

Full description

Bibliographic Details
Main Author: Fernandes, Victor Vinicius
Other Authors: Pereira, Gustavo Henrique de Araujo
Format: Others
Language:pt
Published: Biblioteca Digitais de Teses e Dissertações da USP 2019
Subjects:
Online Access:http://www.teses.usp.br/teses/disponiveis/104/104131/tde-07082019-113800/
id ndltd-usp.br-oai-teses.usp.br-tde-07082019-113800
record_format oai_dc
spelling ndltd-usp.br-oai-teses.usp.br-tde-07082019-1138002019-08-21T04:40:38Z Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão Contributions on the simulated envelope for diagnostic analysis in regression models Fernandes, Victor Vinicius Análise de diagnóstico Diagnostic analysis Gráfico de probabilidade normal Modelos de regressão Monte Carlo simulation Normal probability plot Regression models Residual Resíduo Simulação de Monte Carlo O envelope simulado é um método da análise de diagnóstico, utilizado para avaliar a veracidade da hipótese referente a distribuição de probabilidade assumida para a variável resposta em um modelo de regressão. Neste trabalho, descrevemos alguns procedimentos para a sua obtenção e, posteriormente, propomos um método para a rejeição do modelo a partir do envelope. No intuito de comparar nosso procedimento com as demais propostas, realizamos um estudo de simulação de Monte Carlo em duas classes de modelos de regressão. Os resultados apontam que o método proposto apresenta boa performance, uma vez que o mesmo fornece taxas estáveis de rejeição do modelo sob a distribuição correta. Já para as demais metodologias, além de possuírem um custo computacional maior, a taxa de rejeição do modelo correto cresce conforme aumenta-se o tamanho amostral. Complementando os resultados, realizamos também a comparação do gráfico de probabilidade normal e meio normal com envelope através de simulações de Monte Carlo. Os estudos sugeriram que, de maneira geral, o gráfico normal demonstrou melhor desempenho, principalmente com a utilização do procedimento proposto. Por fim, aplicamos a dados reais, provenientes da Pesquisa Nacional de Saúde (PNS) de 2013, nosso método de rejeição do modelo e as demais propostas. Constatou-se que para estes dados, nosso método sugeriu uma decisão contrária a fornecida pelos outros procedimentos. The simulated envelope is a diagnostic analysis method used to evaluate the hypothesis about the probability distribution assumed for the response variable in a regression model. In this work, we describe some procedures to obtain the simulated envelope and, later, we propose a method to decide if we should reject a model using the envelope. In order to compare our procedure with other proposals, we performed a Monte Carlo simulation study in two classes of regression models. The results indicate that the proposed method presents good performance, since it provides stable rejection rates of the model under the correct distribution. About other methodologies, besides having a higher computational cost, the rejection rate under the correct model increases as the sample size rises. In addition, we also compare the full normal plot and the half normal plot with envelope using Monte Carlo simulations studies. The results suggest that, in general, the full normal plot performs better, especially with the proposed procedure. Finally, we apply our decision method and the other proposals to real data from the National Health Survey (Brazil) of 2013. To these data, our method suggested a different decision from that one provided by the other procedures. Biblioteca Digitais de Teses e Dissertações da USP Pereira, Gustavo Henrique de Araujo 2019-04-30 Dissertação de Mestrado application/pdf http://www.teses.usp.br/teses/disponiveis/104/104131/tde-07082019-113800/ pt Liberar o conteúdo para acesso público.
collection NDLTD
language pt
format Others
sources NDLTD
topic Análise de diagnóstico
Diagnostic analysis
Gráfico de probabilidade normal
Modelos de regressão
Monte Carlo simulation
Normal probability plot
Regression models
Residual
Resíduo
Simulação de Monte Carlo
spellingShingle Análise de diagnóstico
Diagnostic analysis
Gráfico de probabilidade normal
Modelos de regressão
Monte Carlo simulation
Normal probability plot
Regression models
Residual
Resíduo
Simulação de Monte Carlo
Fernandes, Victor Vinicius
Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão
description O envelope simulado é um método da análise de diagnóstico, utilizado para avaliar a veracidade da hipótese referente a distribuição de probabilidade assumida para a variável resposta em um modelo de regressão. Neste trabalho, descrevemos alguns procedimentos para a sua obtenção e, posteriormente, propomos um método para a rejeição do modelo a partir do envelope. No intuito de comparar nosso procedimento com as demais propostas, realizamos um estudo de simulação de Monte Carlo em duas classes de modelos de regressão. Os resultados apontam que o método proposto apresenta boa performance, uma vez que o mesmo fornece taxas estáveis de rejeição do modelo sob a distribuição correta. Já para as demais metodologias, além de possuírem um custo computacional maior, a taxa de rejeição do modelo correto cresce conforme aumenta-se o tamanho amostral. Complementando os resultados, realizamos também a comparação do gráfico de probabilidade normal e meio normal com envelope através de simulações de Monte Carlo. Os estudos sugeriram que, de maneira geral, o gráfico normal demonstrou melhor desempenho, principalmente com a utilização do procedimento proposto. Por fim, aplicamos a dados reais, provenientes da Pesquisa Nacional de Saúde (PNS) de 2013, nosso método de rejeição do modelo e as demais propostas. Constatou-se que para estes dados, nosso método sugeriu uma decisão contrária a fornecida pelos outros procedimentos. === The simulated envelope is a diagnostic analysis method used to evaluate the hypothesis about the probability distribution assumed for the response variable in a regression model. In this work, we describe some procedures to obtain the simulated envelope and, later, we propose a method to decide if we should reject a model using the envelope. In order to compare our procedure with other proposals, we performed a Monte Carlo simulation study in two classes of regression models. The results indicate that the proposed method presents good performance, since it provides stable rejection rates of the model under the correct distribution. About other methodologies, besides having a higher computational cost, the rejection rate under the correct model increases as the sample size rises. In addition, we also compare the full normal plot and the half normal plot with envelope using Monte Carlo simulations studies. The results suggest that, in general, the full normal plot performs better, especially with the proposed procedure. Finally, we apply our decision method and the other proposals to real data from the National Health Survey (Brazil) of 2013. To these data, our method suggested a different decision from that one provided by the other procedures.
author2 Pereira, Gustavo Henrique de Araujo
author_facet Pereira, Gustavo Henrique de Araujo
Fernandes, Victor Vinicius
author Fernandes, Victor Vinicius
author_sort Fernandes, Victor Vinicius
title Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão
title_short Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão
title_full Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão
title_fullStr Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão
title_full_unstemmed Contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão
title_sort contribuições sobre o envelope simulado na análise de diagnóstico em modelos de regressão
publisher Biblioteca Digitais de Teses e Dissertações da USP
publishDate 2019
url http://www.teses.usp.br/teses/disponiveis/104/104131/tde-07082019-113800/
work_keys_str_mv AT fernandesvictorvinicius contribuicoessobreoenvelopesimuladonaanalisedediagnosticoemmodelosderegressao
AT fernandesvictorvinicius contributionsonthesimulatedenvelopefordiagnosticanalysisinregressionmodels
_version_ 1719236115359072256