AN OUTLIER DETECTION METHOD IN GEODETIC NETWORKS BASED ON THE ORIGINAL OBSERVATIONS

Abstract

The observations in geodetic networks are measured repetitively and in the network adjustment step, the mean values of these original observations are used. The mean operator is a kind of Least Square Estimation (LSE). LSE provides optimal results when random errors are normally distributed. If one of the original repetitive observations has outlier, the magnitude of this outlier will decrease because the mean value of these original observations is used in the network adjustment and outlier detection. In this case, the reliability of the outlier detection methods decreases, too. Since the original repetitive observations are independent, they can be used in the adjustment model instead of the estimating mean value of them. In this study, to show the effects of the estimating mean value of the original repetitive observations, a leveling network that contains both outward run and backward run observations were simulated. Tests for outlier, Huber and Danish methods were applied to two different cases. First, the mean values of the original observations (outward run and return run) were used; and then all original observations were considered in the outlier detection. The reliabilities of the methods were measured by Mean Succes Rate. According to the obtained results, the second case has more reliable results than first case.As observações nas redes geodésicas são medidas repetitivamente, e na fase de ajustamento, os valores médios destas observações originais são usados. O operador "média", é um tipo de estimador de mínimos quadrados (LSE). O LSE oferece resultados ótimos quando os erros aleatórios são normalmente distribuídos. Se uma das observações repetitivas originais tem outlier, a magnitude deste outlierdiminui porque o valor médio das observações originais é usado no ajustamento da rede e consequentemente, na detecção de outliera confiabilidade do método também diminui. Uma vez que as observações repetitivas originais são independentes, elas próprias podem ser usadas no método de ajustamento ao invés do valor médio estimado. Neste estudo, para mostrar os efeitos do valor médio estimado das observações repetitivas originais, uma rede de nivelamento que contém ambas as observações de ida e volta dos percursos foi simulada com outliers. Para testar a detecção dos mesmos, os métodos Huber e Danish foram aplicados em dois casos diferentes. Primeiramente, os valores médios das observações originais (de ida e de volta) foram usados, e então todas as observações originais foram consideradas na detecção dos outliers. A confiabilidade dos métodos foi medida pela razão de sucesso médio. De acordo com os resultados calculados o segundo caso teve resultados mais confiáveis do que o primeiro.