Journal Archives

시계열 데이터를 사용하여 예측 시스템을 구성할 때 데이터의 전처리를 통해 모델에 입력하여 출력에 부정적인 영향을 미치지 않도록 하는 것이 중요하다.^[8] 데이터 전처리를 함으로써 불완전한 데이터를 처리하는 과정을 거친 후 정규화를 적용, 예측 시스템에 입력하는 과정이 필요하다. 정규화는 입력으로 사용되는 변수 간 스케일 차이를 조정하여 개별 데이터의 크기를 모두 똑같은 단위로 변경하는 것을 의미한다. Standard Scaler, Robust Scaler, Min-Max Scaler, Nomalizer와 같은 방법이 존재하며 본 논문에서는 가장 일반적으로 사용되는 Min-Max Scaler를 활용했다. 학습시키는 데이터 변수(Feature)가 여러 개가 존재할 경우, 최댓값의 크기가 다른 각 데이터 변수의 값을 0~1 또는 –1~1 사이의 값으로 변환하여 스케일을 조정한 후 학습을 진행하는 것이 일반적이며 해당 식은 (1)과 같다.

본 논문에서는 풍력발전기에서 측정한 실측데이터와 풍력발전기가 위치한 지역 인근의 기상청 환경 변수를 입력으로 하였고 전처리를 통해 정규화를 진행하며 CNN 과정을 거친다. LSTM을 활용해 학습시킨 뒤 예측을 진행하고 검증 및 시각화를 진행한다. 해당 과정을 예측 시스템 구성과정으로 표현하면 Fig. 1과 같다.

Fig. 1. 
Configuration of wind power prediction system

시계열 데이터 중 패턴에서 벗어난 값을 이상치(Outlier)라 정의한다. 해당 시계열 데이터는 두산중공업의 3 MW급 TC-II, TC-S 모델의 풍력발전기를 기준으로 하고 있어 3 MW를 초과하는 값과 0 W 미만의 값을 이상치로 정의하고 해당 데이터를 각각 3 MW와 0 MW로 고정하였다.^[9] 서남해 실증단지 풍력발전기를 통해 측정한 10월 1일부터 10월 21일까지의 원천 데이터를 Fig. 2에 나타내었으며, 도출된 이상치에 대한 부분을 확인할 수 있다. y축은 발전량을 의미하여 단위는 kW이고 x축은 시간을 의미한다. 또한 연속된 시계열 데이터 중 73개의 시간 데이터가 생략된 것을 확인하였다. 시계열 데이터는 연속된 데이터 형태로 기계 학습을 할 때 시간의 공백이 존재하면 학습률이 낮아질 수 있으며 해당 데이터는 각각의 앞뒤 측정값의 평균으로 정의하였다.

Fig. 2. 
Raw data of wind power extraction

히트맵(Heatmap)은 데이터를 분석하는 데에 있어서 중요한 과정으로 변수와 변수 사이의 선형적 관계가 있는지 보기 위해 시각화하는 방법이다. 해당 논문에서는 변수와 풍력발전기의 출력 값에 대한 상관관계 분석을 통해 변수를 설정하였다. 본 논문에서는 Seaborn 라이브러리를 활용한 데이터 히트맵을 통해 상관관계 분석을 진행하였으며, 풍력발전기를 통해 측정한 변수 5개와 환경 변수 3개를 더하여 출력변수(Output)를 제외한 총 8개의 변수가 출력값을 산정하는데 적합한 것으로 판단되었다. 상관계수가 높게 나왔을 경우 선형적 관계가 높다는 것을 의미하고 상관계수가 낮을 경우는 독립적인 데이터가 아닌 비선형적 관계가 있을 수 있어 각 변수들에 대한 고찰이 필요하다. Fig. 3은 각 8개의 변수에 대한 히트맵을 나타내고 있다. 히트맵으로 나타낸 결과, 출력결과와 가장 선형적인 관계를 나타내는 것은 풍속이며, 블레이드의 피치 각도도 높은 선형적 관계를 이루고 있다. 피치 각도에 대한 상관계수가 음수를 이루고 있으며 이는 선형적인 관계지만 반비례를 의미한다. 따라서 피치 각도가 향상할 경우, 풍력발전기의 출력은 줄어든다는 것을 파악할 수 있다. 히트맵을 사용하여 변수들의 상관관계를 분석할 수 있으므로 추가적인 변수를 사용할 때 결과에 미치는 영향에 대한 분석이 가능하여 추후, 예측 정확도를 높이기 위한 데이터셋을 구성할 때 중요할 것으로 판단된다.

Fig. 3. 
Data heatmap

CNN은 합성곱 신경망으로서 이미지 분류에 주로 사용되지만 최근 데이터마이닝의 한 종류로서 사용되는 기계 학습 방법이다.^[10] CNN은 입력 데이터를 학습하고 패턴을 분석하며 데이터를 필터링하고 특징을 추출하는 Feature Extraction 역할을 수행한다. Convolution Layer와 Max Pooling 레이어를 반복적으로 Stack을 쌓는 방식으로 진행된다. CNN 레이어는 필터가 합성곱 연산을 시행하고 Max Pooling 레이어를 통해 최댓값을 추출함으로써 데이터의 공간적 특징을 확보한다.^[11] 따라서 복잡한 데이터셋을 효과적으로 구성할 수 있다. 이후 시계열 데이터에 적합한 모델인 LSTM에 적용하기 위해 CNN에서의 2차원 배열의 출력형태를 1차원으로 변환하는 Flatten 함수를 사용하였다. 차원을 변환시킨 데이터를 LSTM에 적용함으로서 데이터의 특징을 추출하고 시간적 추세를 반영한 CNN-LSTM 모델을 구축하였으며 Fig. 4와 같다.

Fig. 4. 
CNN-LSTM model configuration

최근에 많이 활용되는 LSTM은 RNN의 한 종류이며 긴 기간을 가지고 있는 시계열 데이터를 활용할 때 적합한 학습을 수행할 능력을 갖추고 있다. 본 논문에서 활용한 LSTM 구성은 Fig. 5와 같다. 기본적인 LSTM 구조는 같지만 입력하는 값에 환경변수를 추가하여 학습시키는 양을 증가시켰다. 추가한 환경 변수는 온도, 습도, 기압이며 기존의 풍력발전기에서 측정한 변수의 기간과 시간 스케일을 동일하게 구성했다.

Fig. 5. 
LSTM configuration

LSTM은 Cell state와 Forget gate, Input gate, Output gate로 구성된다. Forget gate는 Cell state로부터 정보의 보존 여부를 Sigmoid layer에 의해 결정한다.

Input gate는 들어오는 데이터를 Cell state에 저장 여부를 결정한다. Sigmoid layer를 거쳐 값을 저장할지 정하고 tanh layer에서 새로운 vector를 만든다. 이후 Cell state에 업데이트를 진행한다.

Output gate는 sigmoid layer와 tanh layer의 과정을 거쳐 정보를 선택적으로 내보내게 된다.

본 논문에서 제안하는 예측 시스템의 알고리즘은 Fig. 6과 같다. 합성곱 레이어와 Max Pooling을 이용하여 CNN을 구성하였고 CNN의 활성화 함수는 ReLU값으로 지정하였다. 또한 시계열 데이터의 특성을 고려하여 시간의 흐름에 따른 정확도를 향상시키기 위해 CNN-LSTM 모델에서 Moving Window 알고리즘을 적용하였다.

Fig. 6. 
Proposed flow chart for prediction