Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos

Entre as técnicas de análise exploratória de dados espaciais encontram-se os indicadores de associação espacial, que mensuram o grau de dependência espacial dos dados analisados e são aplicáveis apenas a dados quantitativos. Outro procedimento disponível é a geoestatística, a qual se baseia no v...

Full description

Bibliographic Details
Main Author: Cláudia Cristina Baptista Ramos Naizer
Other Authors: Cira Souza Pitombo
Language:Portuguese
Published: Universidade de São Paulo 2018
Subjects:
Online Access:http://www.teses.usp.br/teses/disponiveis/18/18144/tde-31052018-192234/
id ndltd-IBICT-oai-teses.usp.br-tde-31052018-192234
record_format oai_dc
collection NDLTD
language Portuguese
sources NDLTD
topic Análise exploratória de dados espaciais
Geoestatística
Índice de Moran
LISA
Variograma
Exploratory spatial data analysis
Geoestatistics
LISA
Moran's I
Variogram
spellingShingle Análise exploratória de dados espaciais
Geoestatística
Índice de Moran
LISA
Variograma
Exploratory spatial data analysis
Geoestatistics
LISA
Moran's I
Variogram
Cláudia Cristina Baptista Ramos Naizer
Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos
description Entre as técnicas de análise exploratória de dados espaciais encontram-se os indicadores de associação espacial, que mensuram o grau de dependência espacial dos dados analisados e são aplicáveis apenas a dados quantitativos. Outro procedimento disponível é a geoestatística, a qual se baseia no variograma, descrevendo quantitativa e qualitativamente a estrutura espacial de determinada variável. Neste trabalho, utilizam-se conceitos do variograma para desenvolver um indicador de associação espacial global (SIVAR-G) e um indicador de associação espacial local (SIVAR-L). São utilizados dois bancos de dados: dados binários de escolha modal de uma Cidade Fictícia e dados de média de viagens por modo automóvel por domicílio para um recorte da região central da cidade de São Paulo (Pesquisa de Mobilidade 2012). Em ambos os casos, o indicador global, para diferentes vizinhanças, foi calculado com base em valores padronizados, provenientes do variograma experimental e teórico. Em seguida, aplicou-se um teste de hipótese baseado em pseudo-significância para avaliar a significância do indicador proposto previamente. Por fim, os resultados do indicador proposto foram comparados ao índice de Moran, calculado com os mesmos parâmetros. Para o indicador local, foi elaborado um procedimento similar, porém os cálculos foram feitos pontualmente. Cada observação do banco de dados teve um variograma experimental calculado e um variograma teórico modelado para uma análise omniderecional. Um teste de hipótese similar ao do indicador global foi desenvolvido e aplicado. Assim obtiveram-se indicadores de associação espacial local ponto a ponto. Conclui-se que o indicador SIVAR-G possui desempenho satisfatório na estimação de associação espacial para dados contínuos e binários, mostrando-se sensível a anisotropia dos dados. O indicador SIVAR-L é capaz de identificar \"bolsões\" de associação espacial. É aplicável a dados contínuos e binários. Os indicadores propostos permitem a modelagem de variogramas teóricos globais e locais, fornecendo uma maior riqueza de detalhes da estrutura espacial dos dados. Os indicadores SIVAR baseiam-se na dissimilaridade espacial, enquanto o índice de Moran e LISA baseiam-se na similaridade espacial. === Among the exploratory spatial data analysis tools, there are the indicators of spatial association, which measure the degree of spatial dependence of the analyzed data and can be applied to quantitative data. Other procedure available is the geoestatistics, which is based on the variogram, describing quantitatively and qualitatively the spatial structure of a variable. The aim of this thesis is to use the concept of the variogram to develop a global indicator of spatial association (SIVAR-G) and a local indicator of spatial association (SIVAR-L). Two data bases were used: binary data of travel mode choice of a hypothetical city and mean of automobile trips by household to a region of São Paulo\'s center (Mobility Survey, 2012). In both cases, the global indicator, for different neighborhoods, was calculated based on standardized values, derived from the experimental and theoretical variogram. Then, a pseudo-significance test was applied to evaluate the significance of the previously proposed indicator. The results of the proposed indicator were compared to Moran\'s I, calculated with the same parameters. For the local indicator, it was made a similar procedure, however the calculation was punctual. For each observation of the database, it was calculated experimental variogram and adjusted a theoretical variogram for a omnidirectional analysis. A hypothesis test similar to the one applied in the global indicator was developed and applied. Therefore, it was obtained local indicators point by point. It was concluded that the indicator SIVAR-G has a satisfactory performance for spatial association of binary and continuous data, with sensibility for anisotropy cases. The SIVAR-L indicator is able to identify spatial association pockets and outliers. The local indicator is suitable for continuous and binary data. The developed indicators allow the modeling of theoretical global and local variograms, providing more details of the spatial structure of the data. The SIVAR indicators are based on spatial dissimilarity, while the Moran and LISA index are based on spatial similarity.
author2 Cira Souza Pitombo
author_facet Cira Souza Pitombo
Cláudia Cristina Baptista Ramos Naizer
author Cláudia Cristina Baptista Ramos Naizer
author_sort Cláudia Cristina Baptista Ramos Naizer
title Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos
title_short Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos
title_full Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos
title_fullStr Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos
title_full_unstemmed Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos
title_sort procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos
publisher Universidade de São Paulo
publishDate 2018
url http://www.teses.usp.br/teses/disponiveis/18/18144/tde-31052018-192234/
work_keys_str_mv AT claudiacristinabaptistaramosnaizer procedimentometodologicoparapropostadeindicadoresdeassociacaoespacialglobalelocalatravesdeconceitosvariograficos
AT claudiacristinabaptistaramosnaizer methodologicalprocedureforproposalofglobalandlocalindicatorsofspatialassociationbasedonvariographicconcepts
_version_ 1718957213852106752
spelling ndltd-IBICT-oai-teses.usp.br-tde-31052018-1922342019-01-22T02:55:15Z Procedimento metodológico para proposta de indicadores de associação espacial global e local através de conceitos variográficos Methodological procedure for proposal of global and local indicators of spatial association based on variographic concepts Cláudia Cristina Baptista Ramos Naizer Cira Souza Pitombo Flávia da Fonseca Feitosa Gustavo Garcia Manzato Análise exploratória de dados espaciais Geoestatística Índice de Moran LISA Variograma Exploratory spatial data analysis Geoestatistics LISA Moran's I Variogram Entre as técnicas de análise exploratória de dados espaciais encontram-se os indicadores de associação espacial, que mensuram o grau de dependência espacial dos dados analisados e são aplicáveis apenas a dados quantitativos. Outro procedimento disponível é a geoestatística, a qual se baseia no variograma, descrevendo quantitativa e qualitativamente a estrutura espacial de determinada variável. Neste trabalho, utilizam-se conceitos do variograma para desenvolver um indicador de associação espacial global (SIVAR-G) e um indicador de associação espacial local (SIVAR-L). São utilizados dois bancos de dados: dados binários de escolha modal de uma Cidade Fictícia e dados de média de viagens por modo automóvel por domicílio para um recorte da região central da cidade de São Paulo (Pesquisa de Mobilidade 2012). Em ambos os casos, o indicador global, para diferentes vizinhanças, foi calculado com base em valores padronizados, provenientes do variograma experimental e teórico. Em seguida, aplicou-se um teste de hipótese baseado em pseudo-significância para avaliar a significância do indicador proposto previamente. Por fim, os resultados do indicador proposto foram comparados ao índice de Moran, calculado com os mesmos parâmetros. Para o indicador local, foi elaborado um procedimento similar, porém os cálculos foram feitos pontualmente. Cada observação do banco de dados teve um variograma experimental calculado e um variograma teórico modelado para uma análise omniderecional. Um teste de hipótese similar ao do indicador global foi desenvolvido e aplicado. Assim obtiveram-se indicadores de associação espacial local ponto a ponto. Conclui-se que o indicador SIVAR-G possui desempenho satisfatório na estimação de associação espacial para dados contínuos e binários, mostrando-se sensível a anisotropia dos dados. O indicador SIVAR-L é capaz de identificar \"bolsões\" de associação espacial. É aplicável a dados contínuos e binários. Os indicadores propostos permitem a modelagem de variogramas teóricos globais e locais, fornecendo uma maior riqueza de detalhes da estrutura espacial dos dados. Os indicadores SIVAR baseiam-se na dissimilaridade espacial, enquanto o índice de Moran e LISA baseiam-se na similaridade espacial. Among the exploratory spatial data analysis tools, there are the indicators of spatial association, which measure the degree of spatial dependence of the analyzed data and can be applied to quantitative data. Other procedure available is the geoestatistics, which is based on the variogram, describing quantitatively and qualitatively the spatial structure of a variable. The aim of this thesis is to use the concept of the variogram to develop a global indicator of spatial association (SIVAR-G) and a local indicator of spatial association (SIVAR-L). Two data bases were used: binary data of travel mode choice of a hypothetical city and mean of automobile trips by household to a region of São Paulo\'s center (Mobility Survey, 2012). In both cases, the global indicator, for different neighborhoods, was calculated based on standardized values, derived from the experimental and theoretical variogram. Then, a pseudo-significance test was applied to evaluate the significance of the previously proposed indicator. The results of the proposed indicator were compared to Moran\'s I, calculated with the same parameters. For the local indicator, it was made a similar procedure, however the calculation was punctual. For each observation of the database, it was calculated experimental variogram and adjusted a theoretical variogram for a omnidirectional analysis. A hypothesis test similar to the one applied in the global indicator was developed and applied. Therefore, it was obtained local indicators point by point. It was concluded that the indicator SIVAR-G has a satisfactory performance for spatial association of binary and continuous data, with sensibility for anisotropy cases. The SIVAR-L indicator is able to identify spatial association pockets and outliers. The local indicator is suitable for continuous and binary data. The developed indicators allow the modeling of theoretical global and local variograms, providing more details of the spatial structure of the data. The SIVAR indicators are based on spatial dissimilarity, while the Moran and LISA index are based on spatial similarity. 2018-03-16 info:eu-repo/semantics/publishedVersion info:eu-repo/semantics/masterThesis http://www.teses.usp.br/teses/disponiveis/18/18144/tde-31052018-192234/ por info:eu-repo/semantics/openAccess Universidade de São Paulo Engenharia de Transportes USP BR reponame:Biblioteca Digital de Teses e Dissertações da USP instname:Universidade de São Paulo instacron:USP