Auto Encoder로 통신 시스템 설계하기

▶ 개요

Auto Encoder 학습 과정

 
Auto encoder는 입력 데이터를 압축하고 복원하는 데 주로 사용되는 딥러닝 구조이다. 이를 통신시스템 설계에 이용하면 여러 장점을 얻을 수 있다. 이번엔 Auto Encoder를 기반으로 통신 시스템 전반을 설계해보았다. 
 
Auto Encoder 방식은 기존 통신 시스템과 다르게 Encoder가 수식으로 정해져 있지 않다. 이는 BPSK, QPSK등과 같이 고정된 공식으로 신호를 변조하는 것이 아닌 메시지를 최적으로 복원하는 방식을 NN이 스스로 학습하는 것이다. 
 
이러한 학습에 대한 예로 상단의 그림을 들 수 있다. 학습이 진행됨에 따라 Encoder의 모양이 마치 QPSK 신호와 같이 신호 복원 오률 줄이기 위한 최적의 형태로 스스로 설계된다. 
 
기존의 통신 시스템은 "변조 → 채널 코딩 → 채널 보상" 과정을 따로따로 설계하지만 Auto Encoder는 전체 구조를 End-to-End로 학습시킨다. 즉 위 세 과정을 하나의 네트워크로 본다.
 

▶ 기존 통신 시스템 구조

• 송신기(Tx): 디지털 메시지를 변조(Modulation)
• 채널(Channel): 신호가 잡음, 왜곡을 받으며 전송됨 (예: AWGN, Rayleigh 등)
• 수신기(Rx): 수신된 신호를 복조(Demodulation) 및 해석

 

▶ Autoencoder 구조의 대응

• Encoder = 송신기 역할
• Decoder = 수신기 역할
• 중간 채널에 잡음/왜곡 모델을 삽입 (ex. AWGN, Rayleigh)

 

핵심 차이 요약

항목	기존 통신 방식	Autoencoder 기반 통신
인코딩 방식	수식으로 고정	NN이 자동으로 학습
채널 고려 방식	채널을 별도로 설계	전체를 End-to-End로 학습
최적화 대상	각 모듈 개별 최적화	메시지 복원 정확도
신호 공간 구성	고정된 모양 (ex. 원형)	NN이 스스로 구성

 

 

▶  Colab 실습

• M = 메시지 수
• N = 채널 출력 차원

1. M=4, N=2 Auto Encoding

epoch별 학습 과정

 
복원에 최적화 되도록 Encoding 신호가 Epoch 수의 증가에 따라 조정된다. QPSK와 유사한 형태로 Enconding이 된 것을 확인할 수 있다. 
 
각 메세지에 대한 2차원 좌표 또한 아래와 같이 확인할 수 있다. 

 

 
 
 
2. M=8, N=2 Auto Encoding

 
 
3. M=16, N=2 Auto Encoding

 
 
4. M=16, N=3 Auto Encoding

 
5. M=16, N=8 Auto Encoding

• N=3 이상의 고차원 신호는 t - SNE를 활용해 위 그림과 같이 2차원 공간상에 나타낼 수 있다.

 

▶ 마무리

Autoencoder는 딥러닝을 이용해 통신시스템을 만들어주는 효율적인 방식이다. 이번 포스팅을 통해 이에 대한 개념을 알아봤으며 몇가지 예시를 통해 Auto Encoder에 대해 더 직관적으로 이해를 할 수 있었다.
 
이어진 포스팅에선 이에 대한 Auto Encoder방식에 대한 성능 평가, 비교 분석 등을 진행해보겠다. 
 
실습 링크 : 

Auto Encoder 이해하기