시계열 예측을 위해 자연어 처리 분야에서 높은 성능을 보인 트랜스포머가 많이 적용되고 있다. 트랜스포머는 RNN 모델과 달리 순환하지 않으며 장기 의존성을 포착하는데 효율적인 셀프 어텐션 메커니즘을 기반으로 구성된다. 또한, 순서에 따른 변화를 반영하기 위한 포지셔널 인코딩을 입력 데이터에 더한다. 자연어 처리 분야에서는 포지셔널 인코딩을 입력 데이터가 아닌 키와 밸류 혹은 어텐션 점수에 적용하여 모델의 성능을 향상시켰다. 하지만 시계열 예측 분야에서는 시간에 따른 변화를 반영하는 포지셔널 인코딩 방법에 대한 연구가 많이 되고 있지 않다.
본 논문에서는 시간에 따른 변화를 반영하여 예측 성능을 향상시키기 위해, 목표 데이터셋이 시간적 보정이 필요한 지를 판별한 다음, 시간적 보정이 필요한 경우 사인파의 형태를 가진 시간적 보정 값을 어텐션 가중치에 더하는 방법을 제안한다. 본 제안 방법의 성능을 검증하기 위해 시계열 예측 분야에서 많이 사용하는 여섯 가지 벤치마크 데이터셋을 사용하였다. 검증 결과, 본 논문의 제안 방법이 트랜스포머에서 75%의 경우에 예측 성능 향상을 보였다.