Independence and Homogeneity Tests of the Annual Maxima Data used to Estimate the Design Wave Height

Hong Yeon Cho; Weon Mu Jeong; Jong Dai Back

doi:10.9765/KSCOE.2020.32.1.26

요약

설계파고 추정에 사용한 AM 자료의 IID 가정에 대한 검정을 수행하였다. 검정은 독립 검정, 분포 차이 검정으로 구분하고, 각각의 검정은 태풍, 비태풍 조건에서의 연안 격자, 연안 내부격자 각각 210개, 310개 지점의 AM 자료 세트를 대상으로 수행하였다. 독립 검정 결과, 비태풍, 태풍 자료 세트에 대하여 각각 1.8~5.3%, 1.4~6.0% 범위의 기각 비율을 보여, 대부분의 자료가 독립 검정을 만족하는 것으로 파악되었다. 한편 태풍 자료와 비태풍 자료의 분포 차이 검정은 연안 격자와 연안 내부격자 모두 검정 방법에 따라 47~79% 범위로 동일분포 가설이 기각되는 것으로 파악되었다. 따라서 극치해석에 의한 설계파고 추정에서 두 자료를 구분하여 각각 설계파고를 추정하는 과정이 적절하다.

핵심용어: 설계파고, IID 가정, 독립 검정, 분포 차이 검정, 연 최대 자료

Abstract

A statistical test was carried out on the IID (Independently and Identically Distributed) assumption of the AM (Annual Maxima) data used to estimate the design wave height. The test was divided into independence (randomness) test and homogeneity test, and each test was conducted on AM data of 210 and 310 stations in coastal and inner coastal grids in typhoon and non-typhoon (monsoon) conditions. As a result of the independence test, the rejection ratios of the test are in the range of 1.8~5.3% and 1.4~6.0% for the non-typhoon and typhoon data sets, respectively. On the other hand, in the distribution difference test of typhoon data and non-typhoon data, the same distribution hypothesis was found to be rejected in the range of 47~79% according to the test method for both coastal grid and inner coastal grid. Therefore, in estimating design wave height by extreme value analysis, the estimation process by dividing the typhoon and non-typhoon data is appropriate.

Keywords: design wave height, IID assumption, independence test, homogeneity test, annual maxima data

1. 서론

설계파고 추정과정에서 사전검토에 따른 선택이 요구되는 중요한 사안은 기후변화에 의한 파고자료의 추세 여부와 태풍(typhoon)과 비태풍(non-typhoon) 자료의 분리 추정의 적정 여부이다. 극치해석에 사용하는 자료의 형태, 매개변수 추정기법, 극치분포함수의 선택 등 설계파고 추정과정에서 다양한 선택이 요구되나, 본 논문에서는 통계적인 추정에서 가장 기본적으로 요구되는 가정, 독립과 동일분포(IID, Independently and Identically Distributed) 가정에 대한 통계적인 검정에 중점을 두어 수행한다. 비태풍은 온대성저기압, 계절풍 등이 동일한 의미의 용어로 사용되고 있으나, 본 논문에서는 태풍(열대성저기압)에 대한 대비 개념으로 ‘비태풍’으로 통일하여 사용한다.

어떤 확률변수의 통계적인 추정기법은 대부분의 경우, IID 가정, 즉 각각의 자료는 서로 독립이고, 동일한 분포로부터 발생된다는 가정을 전제로 한다. 따라서 어떤 자료를 이용한 다양한 추정, 특히 연안에서의 설계파고 추정은 극치해석에 기반을 두는 추정으로 이 해석기반 추정도 IID 가정을 전제로 하기 때문에 극치해석에 사용되는 자료의 독립 검정(independence test) 및 동일 분포 검정(homogeneity test)이 요구된다. 자료의 독립은 하나하나의 자료가 다른 자료의 영향을 받지 않고, 주지 않고 생성되었다는 가정이며, 자료의 동일(균질)은 동일한 분포로부터 발생된 자료라는 가정(의미)로 각각의 검정 방법은 다음과 같이 요약할 수 있다.

· 독립 검정_자료의 무작위성(randomness) 검정, 추세(trend) 여부 검정

· 동일 분포 검정_분포 적합 검정(goodness-of-fit test) 또는 대표적인 모수에 해당하는 분산(표준편차, scale) 차이 검정, 평균(location) 차이 검정

극치해석은 설계-안전의 관점에서 매우 다양한 분야에서 수행되고 있다. 강우, 풍속, 수위, 수량, 지진 강도 등 다양한 변수가 대상이며, 해안공학 분야에서는 조위, 파고가 주요 대상변수이다. 강우 빈도해석을 수행하는 National Disaster Management Research Institute 제공, FARD-2006 (Frequency Analysis of Rainfall Data, FARD) 공용 프로그램은 IID 가정을 검정하는 예비해석(무작위성 검정) 단계에서는 Anderson 상관검정, Run 검정(runs test), Spearman 순위상관계수 검정, Turning Point 검정 기법을 중복 선택하여 검정을 수행할 수 있다(National Disaster Management Research Institute, 2019). IID 검정은 기본적이고 필수적인 통계적 검정이지만, 실질적으로는 자료의 특성을 반영하여 검정 방법을 선택할 필요가 있다. FARD 프로그램은 강우 극치해석 프로그램으로 바다의 설계파고 추정을 위한 파랑자료와는 방향구분, 가용자료의 축적 정도에서 큰 차이를 보이고 있다. 따라서 본 연구에서 사용하는 파랑 자료의 IID 검정은 기본적인 가용한 검정 방법을 선택하여 적용한다.

동일 분포(분포 차이) 검정은 최소 2세트 이상의 자료 분포비교로 수행이 가능하다. 동일한 확률변수라 할지라도 자료에 영향을 미치는 인자가 다른 경우, 서로 다른 분포 형태를 가질 수 있기 때문에 각각 분리하여 분석을 수행하는 것이 보다 적합할 수 있다. 대표적인 경우로는, 사람의 신장 자료로써 성별에 따라 분포가 다르기 때문에 남자의 신장 자료와 여자의 신장 자료가 동일한 분포를 따른다고 할 수 없으며, 각각의 분포 자료의 분포 동일 검정을 수행하여 판단할 수 있다. 마찬가지로 극치해석에 사용되는 매년 최대(AM, Annual Maximum) 파고 자료의 경우에도 비태풍에 의한 파고자료와 태풍에 의한 파고의 분포가 동일한 분포를 따르는지, 아니면 차이가 있는지를 검정할 필요가 있다. 동일한 분포를 따르는 경우에는 비태풍 자료와 태풍 자료를 분리하여 분석하지 않고 통합하여 분석하여야 한다. 반면 서로 다른 분포로부터 발생되는 자료로 채택되는 경우에는 각각의 파고자료를 분리하여 설계 파고 등을 추정하는 방법이 적합하다고 할 수 있다. 설계파고 추정을 위한 첫 단계에 해당하는 이 과정은 간단한 기술 정도로 취급되는 정도이지만, 통계적인 추정에 대한 기본 가정에 해당하기 때문에 매우 중요한 부분이다. 설계파고 추정을 위한 자료의 선택 이후에도 다양한 해석 과정이 제시되고 있으나 기본적인 폭풍 조건에서의 파랑자료를 이용한 극치해석으로 귀결된다(Yamaguchi and Hatada, 1994; Harper, 1996; Soukissian and Kalantzi, 2006; Goda, 2010; Li et al., 2016). 극치 해석은 AM (annual maxima) 자료 또는 POT 자료 선택의 문제가 또 하나의 중요한 결정사항이지만, 본 연구에서의 분석내용 범위를 벗어난다.

2. 재료 및 방법

2.1 검정 방법

어떤 자료의 IID 가정은 통계학적인 추정에서 매우 기본적인 가정으로 매우 중요하고, 이 가정을 기반으로 다양한 추정이 수행되기 때문에 가정의 적절 여부에 대한 검정과정이 요구된다. 본 연구에서는 이 가정을 독립 검정과 동일 분포(균질, homogeneity) 검정 방법으로 검토하였으며, 각각의 검정은 R 프로그램에서 제시하는 함수를 이용하여 수행하였다. 독립 검정에는 ‘randtests’ (Caerio and Mateus, 2014), ‘trend’ (Pohlert, 2018) R 팩키지를 이용하였으며, 각각의 팩키지가 지원하는 검정방법은 Table 1과 같다.

한편 어떤 두 세트 이상의 자료에 대한 동일분포 검정은 원칙적으로는 동일한 분포여부 검정, 분포적합(goodness-of-fit) 검정이 요구되며, 이 방법으로는 확률밀도함수(PDF) 기반의 Chi-Square (χ²) 검정과 누적분포함수(CDF) 기반의 Kolomogrov-Smirnov (KS) 검정방법이 대표적이나, Chi-Square 검정은 막대그래프에서 발생빈도를 산출하기 위한 조건으로 최소 5개 이상의 자료를 요구하는 제약조건으로 사용에 제한이 있다. 또한 대부분의 분포적합 검정이 어떤 특정 분포를 가정하고 그 분포와의 적합여부를 검정하는 개념이기 때문에 분포를 모르는 자료의 경우에는 적용에 한계가 있다. 이러한 한계를 극복하는 방법으로, 다소 완화된 분포 적합 검정으로 간주될 수 있는 분포 매개변수(위치 및 축적 매개변수)의 차이를 검정하는 방법이 다수 개발되어 적용이 가능하다. 본 연구에서는 이러한 분포 차이 검정을 수행하는 함수를 이용하여 분포 차이 검정을 수행하였으며, 검정에 사용된 방법은 R ‘stats’ 기본 팩키지로 제공하는 함수를 이용하여 적용할 수 있으며, 각각의 검정 방법은 Table 2와 같다.

이상의 사용 가능한 방법에서 검정방법의 개념 유사 정도를 감안하여 최종 선택한 방법은 독립 검정의 경우는 runs test, turning point test, Cox Stuart test, Bartel’s rank test, Difference (sign) test, Mann-Kendall test 총 6가지이고, 분포 차이(적합) 검정도 KS test, F-test (variance test), Bartlett’s test, Welch’s test, Fligner-Killeen’s test, Ansari-Bradley test 총 6가지이다. R ‘randtests’, ‘trend’ 팩키지에서 제공하는 함수를 이용한 독립 및 추세 검정은 부산 M.S.L.(평균해수면) 자료, 잔차 자료에 적용한 바 있다(Cho, 2019).

2.2 검정에 사용한 자료

Ministry of Oceans and Fisheries (MOF, 2019)에서 수행한 연안 설계파고 추정에는 태풍과 비태풍 자료의 연최대(Annual Maxima, 이하 AM) 자료가 사용되었으며, 본 연구에서도 이 자료를 이용한다.

극치해석 기법을 이용하여 설계파고 추정에 사용한 자료는 우리나라 전체 연안을 연안 격자(coastal grids) 210개 지점과 보다 육지에 인접한 연안내부 격자(inner coastal grids) 310개 지점의 AM 파고, 주기자료이며, 각각의 자료는 16방향으로 구분되어 있다(Fig. 1 참조). 한편 일련의 격자번호와 해역을 개략적인 영역 연결을 위하여 해역을 구분하고, 각각의 구분 해역에 대한 격자번호를 구분하여 정리하였다(Fig. 2, Table 3 참조). 해양수산부 보고서에서는 ‘내부격자’(inside grid point, Fig. 1 참조)라는 용어를 사용하고 있으나, 보다 명확하게 표현하기 위하여 연안 격자의 내부(육지 방향으로의 내부)라는 의미의 ‘연안 내부격자’(inner coastal grid stations or points)로 표현한다.

독립 검정에 사용한 자료 세트의 개수는 연안 격자의 경우 210 × 16 = 3,360개, 연안 내부격자의 경우 310 × 16 = 4,960 개이다. 비태풍 자료는 35년(1979년~2013년), 태풍 자료는 59년(1959년~2017년) 동안의 AM 자료이기 때문에 한 세트의 자료개수는 각각 35개, 59개이다.

파고를 기준으로 0.3m 이하 자료는 실질적인 No-Wave 조건으로 간주하였으며, 태풍 자료의 경우, 방향이나 무태풍 연도, 영향 범위에 따라 다수의 No-Wave 조건의 자료가 발생하고 있는 반면, 비태풍 자료의 경우에는 그 정도가 매우 미미한 수준으로 파악되었다. No-wave 조건을 0.3m 파고 개수가 12개 미만인 경우로 가정하는 경우, 그 조건에 해당하는 자료 세트는 하나도 없었다. 반면 태풍 자료의 경우에는 특정 해역(남해동부, 동해 해역 - 4, 5, 6 영역)에서 특정 방향에 집중되는 경향을 뚜렷하게 보였으며, 그 비율은 연안 격자의 경우 15.1%, 연안 내부격자의 경우 21.7% 수준으로 파악되었다(Figs. 3~4 참조).

3. 검정 결과

3.1 독립 검정 결과

AM 자료의 독립 검정은 태풍, 비태풍 조건에서의 모든 자료 세트에 대하여 각각 수행하였으며, 검정에 사용한 방법은 Runs 검정, Turning Point 검정, Bartel‘s 검정, Cox-Stuart 검정, Difference Sign 검정, Mann-Kendall Trend(추세) 검정으로, 검정 방법의 특성 및 계산의 안정 조건을 감안하여 선택하였다. 검정에 필요한 최소 자료개수를 확보하고, 왜곡된 검정을 방지하기 위하여 검정에 사용하는 최소 자료 개수는 12개 이상으로 설정하였으며, 잔잔한 파고 조건(0.3 m 이하 파고)을 만족하는 자료개수가 12개 미만인 경우에는 검정을 수행하지 않았다. 비태풍 조건에서는 모든(100%) 자료 세트가 이 조건을 만족하였으나, 태풍 조건에서는 연안 격자, 연안 내부격자 조건에서 각각 84.9%(2,854가지, 전체 3,360가지), 79.3%(3,931가지, 전체 4,960가지) 자료 세트만이 만족하여 독립 검정 기각비율은 검정에서 제외된 각각 15.1%, 21.7% 비율을 차감하여 제시하였다. 독립 검정의 귀무가설은 “자료가 독립이다”이며, 매년 하나의 최대 자료만을 추출하였기 때문에 실질적으로도 독립 가정을 만족할 것으로 판단된다. 귀무가설의 기각여부는 격자지점과 방향에 대하여 이진(binary) 도시하였다(Figs. 5~6 참고).

3.2 비태풍 자료와 태풍 자료의 균질(분포 차이) 검정

AM 자료의 균질 검정(homogeneity)은 두 유형(여기에서는 태풍 자료와 비태풍 자료)의 자료가 동일한 분포를 따르는지 여부를 검정한다. 검정 방법은 동일 격자, 동일 방향의 자료의 분포 또는 분산(scale), 평균(location) 등 모수의 차이 여부에 대한 가설을 검정하는 개념에 근거하고 있으며, 검정에 사용한 방법은 Welch’s 검정, Kolmogorov-Smirnov 검정, F 검정(분산비율을 이용한 차이 검정), Bartlett 검정, Fligner-Killeen 검정, Ansari-Bradley 검정 등이며, 이들 검정 방법의 특성 및 계산 조건의 안정을 감안하여 선택하였다. 분포 차이 검정의 귀무가설은 “비태풍 자료와 태풍 자료는 동일한 분포로, 모수에 차이가 없다”이다. 따라서 귀무가설의 기각은 서로 다른 분포라는 의미로 간주할 수 있으며, 연안 격자와 연안 내부격자에서 분포 차이 기각여부는 격자 지점과 방향에 대하여 이진(binary) 도시하였다(Fig. 7 참고).

4. 결과분석 및 토의

독립 검정 및 분포 차이 검정 결과, 채택(또는 기각) 비율을 정리하면 다음과 같다(Tables 4~5 참조). 자료의 독립 검정 기각 비율은 검정방법에 따라 차이를 보이고 있으나, 대략 3~5% 정도로 대부분의 자료가 독립 가정을 만족하는 자료로 판단된다. 태풍 자료의 경우에는 검정을 위한 자료의 개수 조건을 만족하는 자료만을 대상으로 하였으며, 이 경우 Mann-Kendall 추세 검정방법의 경우 5%를 상회하는 기각비율을 보이고 있음을 알 수 있다. 한편 AM 자료는 실질적으로 독립 조건을 만족하는 자료로 가정하는 것이 적절한 가정이라면, 독립 검정 비율은 검정 방법의 오차로 간주할 수도 있으며, 제1종 오류, 제2종 오류에 대한 변화 양상 분석도 가능할 것으로 판단된다.

한편, 태풍 자료와 비태풍 자료의 분포 차이 기각비율은 검정방법에 따라 큰 차이를 보이고 있으나, 두 자료의 분포차이가 없다고 할 수 있는 가정을 채택하기 곤란하다는 결정을 하기에는 충분한 정도로 판단된다. 검정방법으로는 KS 검정, Fligner-Kileen 검정이 각각 기각비율 상한-하한 경계를 보여주고 있음을 알 수 있다. 그러나 검정 방법에 따른 기각비율 차이에도 불구하고, 모든 지점과 방향에서 태풍자료와 비태풍 자료의 분포 차이가 무시할 수 없는 정도(본 검정 결과의 경우, 47~79% 정도)이기 때문에 태풍 자료와 비태풍 자료를 분리하여 각각 극치해석을 수행하는 방법이 요구된다.

5. 결론 및 제언

이상의 독립 검정 및 분포 검정 결과를 분석하여 다음과 같은 결론을 제시한다.

극치해석에 사용된 AM 자료의 95% 정도는 모든 격자에서 검정 방법의 편차는 있지만 독립 검정을 만족하는 것으로 파악되었으며, 실질적으로도 매년 최대 자료만을 추출하였기때문에 연이은 자료 추출기간이 매우 짧은 경우를 제외하고는 독립 가정이 적절한 가정이라고 판단할 수 있다. 한편 태풍 자료의 경우에는 파고 0.3m 이하의 No-Wave 조건 자료의 영향으로 검정이 곤란한 경우가 15~20% 정도 발생하였다.

한편 태풍 자료와 비태풍 자료의 분포 차이 검정 기각비율은 60±15% 정도로 검정 방법에 따라 상당한 차이를 보이는 것으로 파악되었다. 또한 이 정도의 기각비율에 근거하면, 비태풍 자료와 태풍 자료가 통계학적으로는 분포 차이를 보이는 가설을 지지하기 때문에 설계파고 추정과정에서 두 자료를 분리하여 수행할 필요가 있다. 더불어 태풍 조건에서의 계산 격자 간격, 시간 간격, 가용한 자료의 기간 등 현실적인 제약사항을 반영하는 경우에도 태풍 자료와 비태풍 자료를 분리하여 각각 설계파고를 추정하는 과정이 실질적으로 요구된다.

설계파고 추정에 사용한 연 최대 자료의 독립 및 분포 동질 검정