은

[논문 리뷰] Advanced Architectures Integrated With Agentic AI for Next-Generation Wireless Networks

은최 — Thu, 7 May 2026 10:52:21 +0900

출처: K. Dev, S. A. Khowaja, E. Zeydan, K. Singh and M. Debbah, "Advanced Architectures Integrated With Agentic AI for Next-Generation Wireless Networks," in IEEE Communications Standards Magazine

논문 링크:

Advanced Architectures Integrated With Agentic AI for Next-Generation Wireless Networks

This paper investigates a range of cutting-edge technologies and architectural innovations aimed at simplifying network operations, reducing operational expenditure (OpEx), and enabling the deployment of new service models. The focus is on: 1) proposing no

ieeexplore.ieee.org

요약

이 논문은 네트워크 운영비용을 줄이는 최신 기술적 접근들을 소개한다. 차세대 6G 네트워크와 Agentic AI와의 결합을 통한 혁신적인 아키텍처에 대해서 다루고 있다. 1) 제어와 사용자 평면을 모두 고려한 효율적인 6G 아키텍처를 제안하고 2) 제약이 있는 상황에서 사용되는 효율적인 AI 기술에 대해서 다룬다. 3) 백엔드 서비스의 조율을 다루는 기술들에 대해서 소개하고 4) 마지막으로 광학 기반의 초고석, 저지연 네트워크에 대해서 소개한다. 이는 전력 소비를 기존 대비 10배 이상 절감한다.

기여

새로운 6G 네트워크 아키텍처 제안: 사용자와 제어 평면의 분리, 기존 SBA(Service-Based Architecture)의 한계 극복, Agentic AI를 통한 네트워크 도메인 통합, 유연하고 확장 가능한 서비스
제약된 Agentic AI 기술: 에너지 효율적, 실시간 학습 최적화, 보안적이고 적응적인 AI 기반 네트워크 관리
혁신적 기술 탐구: 실시간 서버리스 컴퓨팅을 통한 동적 기능 오케스트레이션, 자율적 인지 에이전트를 활용한 분산 네트워크 운영, 목표 지향적 통신 프로토콜, RAN(Radio Access Network)의 클라우드화

Fig. 1은 6G 설계의 목표가 네트워크 아키텍처의 단순화임을 보여준다. AI Agent를 활용해 서비스 운영을 더욱 효율적으로 수행한다. 또 user/control 평면을 분리하여 새로운 네트워크 도메인과도 매끄럽게 통합이 가능하다. 5G에서 6G로 진화하는 과정에서 네트워크 단순화와 AI 기반 자율성 확보가 핵심이다.

데이터 전달을 담당하는 user plane과 세션 관리 기능을 담당하는 control plane, 스마트폰 라우터와 같은 기기들이 있는 devices로 그림이 구성되어 있다. Agentic AI는 제어 평면과 연결되어 네트워크 관리 및 통합을 지원한다. SBA는 기존의 5G 구조를 나타내고 Hexa-X는 6G 연구 프레임워크를 나타낸다.

Agentic AI는 에너지 효율성과 보안 제약 하에서 네트워크 운영에 사용될 수 있다. 왼쪽 영역에서 상호작용하지 않는 자율적인 에이전트들은 모니터링, 최적화, 데이터 수집 및 분석 과정을 거친다. 오른쪽의 파란색 보안 영역 역시 상호작용하지 않는자율 에이전트들이 모니터링, 암호화 및 검증, 데이터 프라이버시 점검등을 수행한다. 중앙 영역에는 상호작용하는 자율 에이전트들의 영역이며 이들은 Proxy와 Centralized Critic을 통해 연결도어 있다. 에이전트간 local information, gradients, messages의 교환이 표시되어 에이전트들간의 협력적 학습이 표현되어 있다. 이러한 세 영역은 가장 상단의 에너지 효율, 상호작용, 보안중심 모델을 섞는 개념인 Model Bledning and Deployment와 연결되어 있다.

상단의 지원 및 컴퓨팅 계층은 AI 지원 데이터 베이스, 데이터 아카이빙 및 검색, 적응형 확장 컴퓨팅 서비스를 포함한다. FaaS는 오케스트레이션이 중심에 위치하며 Agentic AI와 결합한다. 주요 기능으론 동적 자원 할당, 시작 지연 최소화, 실시간 모니터링 및 성능 관리, ai 기반 보안 위협 대응이 있다. 그 밑의 계층으론 ai gent들이 실시간 데이터 처리를 담당하는 분산 처리 계층이 존재하고 가장 하단에는 사용자/IoT 계층이 존재한다. 가장 하단의 계층에선 기기들이 로컬 추론을 수행하여 빠른 응답과 저지연 서비스를 제공한다.

자율적으로 인지하는 에이전트들은 네트워크 내에서 독립적으로 의사 결정을 내리고 환경 변화에 따라 스스로 적응하는 모듈이다. 중앙 집중식 제어 대신 분산 의사결정을 통해 네트워크의 복잡성을 줄이고 유연성과 회복력을 높인다. 분산된 작은 AI들이 협력하여 네트워크를 더 빠르고 안정적으로 운영하는 구조를 나타낸다.

입력 레이어에서 발생하는 지연, 이동성, 스펙트럼 감지, 간섭같은 네트워크 맥락 요소들이 Agentic AI에게 전달된다. 중앙의 에이전트는 네트워크의 실시간 상황을 입력받으며 다중 에이전트 협력을 통해 결과를 피드백하며 더 나은 결정을 내린다. 보안 통신을 통해 데이터가 처리되는 과정에서 보안 또한 강화된다. 최종적으로 출력 레이어에서는 AI 최적화 프로토콜 스택이 생성되며 이는 기존의 물리, MAC, 네트워크 계층을 포함한다.

이 표는 차량-사물 통신(V2X) 시스템에서 Agentic AI를 적용했을 때의 성능을 비교해준다. 데이터 전달 성공률, 신호 품질, 재전송률, 적응력, 지연시간 면에서 더 좋은 품질을 갖는 것을 확인할 수 있다.

주목할만한 6G Agentic AI 통신 구조:

1. decoupling of the user and control planes through autonomous AI agents
2. Agenting AI-based constrained optimization techniques
3. Real-time serverless computing with Agentic AI

[논문 리뷰] Toward Edge General Intelligence with Agentic AI and Agentification: Concepts, Technologies, and Future Directions

은최 — Thu, 30 Apr 2026 17:47:42 +0900

논문 링크:

Toward Edge General Intelligence With Agentic AI and Agentification: Concepts, Technologies, and Future Directions

The rapid expansion of sixth-generation (6G) wireless networks and the Internet of Things (IoT) has catalyzed the evolution from centralized cloud intelligence towards decentralized edge general intelligence. However, traditional edge intelligence methods,

ieeexplore.ieee.org

출처: R. Zhang et al., "Toward Edge General Intelligence With Agentic AI and Agentification: Concepts, Technologies, and Future Directions," in IEEE Communications Surveys & Tutorials, vol. 28, pp. 4285-4318, 2026.

요약

6G 무선 통신 네트워크와 사물 인터넷(IoT)의 출현으로 네트워크는 중앙화된 클라우드에서 지능화된 끝단으로 이동하고 있다. 그러나 기존의 edge intelligence 방법들은 고정되지 않고 변동하며 서로 다른 이질성을 갖고 자원이 제한된 시나리오에서 적합하지 않다. 이러한 상황에서 agentic AI 시스템들은 자율적으로 멀티모달 데이터를 받아들이고 문맥에 따라 추론하며 이러한 과정에 자동적으로 적응할 수 있게 해 준다. 이 논문에서는 agenti AI 시스템을 기존 edge intelligence 시스템과 구분하고 정식화한다. 또 agentic AI를 가능케 만들어주는 기반 기술들에 대해서 소개한다. 이러한 기반 기술들은 모델 압축, 에너지 효율을 고려한 컴퓨팅, 단절 없는 통신, 지식을 구조화하여 표현하고 추론하는 방식이다. 이에 더해 다양한 응용 사례들을 소개하며 이는 저고도 항공 네트워크, 의도 기반 자원 최적화, 차량 간 통신 네트워크, 사람 중심의 서비스 제공을 포함한다. 또 끝으로, 현재 당면한 문제와 발전 방향성도 제시한다.

Agentic AI의 주요 발전:

1. Rule-Based Agents: 미리 정의된 규칙에 따라 작동, 정적 환경에서는 유용하지만 변화가 많은 엣지 환경에서는 적응력이 부족하다.

2. Deep RL-Driven Agents: 환경과의 상호작용을 통해 trail and error 방식으로 학습한다. 적응력은 향상되었으나 특정 작업에 국한되며 일반화나 장기적 추론 능력이 부족하다.

3. LLM-Driven Agents: GPT와 같은 LLM 모델을 활용해 다단계 계획과 같은 복잡한 추론을 가능케 한다.

4. Agentic AI Systems: 목표 지향적 계획 수립, 장기적 의사결정을 수행한다. 엣지 노드가 스스로 지각-추론-행동 루프를 수행하며 복잡한 분산환경에서 자율적인 운영을 가능케 한다.

Agentic AI 주요 발전의 비교:

Agentic AI의 통합 구조:

1. Perception: 다양한 멀티모달 입력(텍스트, 음성, 영상, 센서 데이터)을 수집하고 처리

2. Memory: 정보를 저장하고 필요할 때 꺼내 활용한다. 이는 단기 작업, 장기 저장소, 사건 중심 기억, 의미 기반 지식으로 나뉜다.

3. Reasoning: 입력을 바탕으로 논리적 사고와 계획을 수립한다. 프롬프트 기반 논리, 과제 분해, 다중 단계 추론, 불확실성을 고려한 추론, nero-symbolic 추론등이 이에 포함된다.

4. Action: 실제 세계와 상호작용한다. 로봇/장치 제어, 다중 에이전트 협업, 시스템 자동화, MCP 활용등이 이에 포함된다.

- LLMs: GPT-4, Gemini 같은 모델이 cognitive core 역할을 수행

- External Tools & APIs: 에이전트가 내재된 능력을 넘어 외부 계산 자원이나 데이터베이스에 접근

- Memory & Retrieval: RAG(Retrieval-Augmented Generation) 기반 메모리로 과거 지식을 저장, 검색

- Planning & Reasoning: Chain-of-Thought(CoT)와 상징적 AI 기법을 활용해 장기 전략을 자율적으로 수립

- Multi-Agent Coordination: Deep DRL 기반 프레임워크등으로 분산 환경에서 협력적 의사결정과 집단 지능 발휘

기존 Edge AI의 한계: 사물 감지, 음성 인식, 이상현상 모니터링과 같이 특정 하나의 태스크에 대해서만 설계되었다는 한계를 갖는다. 이에 따라 변동하는 네트워크 상태, 사용자 행동과 같은 환경에 대한 적응력이 떨어진다.

기존 에이전트간 통신, 분산 태스크 조율, 생성형 통신 연구에 대한 정리:

그래프 기반 조율 방식은 여러 에이전트들이 협력적으로 작동하게 하여 adaptability와 환경 적응성을 갖는다. (+scalability)

[논문 리뷰] Fundamental Limits to Exploiting Side Information for CSI Feedback in Wireless Systems

은최 — Fri, 3 Apr 2026 16:28:17 +0900

논문 링크:

Fundamental Limits to Exploiting Side Information for CSI Feedback in Wireless Systems

In modern wireless systems, the feedback of DownLink (DL) Channel State Information (CSI) from User Equipment (UE) to Base Stations (BS) may require substantial computational and feedback bandwidth overheads. A promising approach to improve feedback effici

ieeexplore.ieee.org

출처: H. Kim, G. de Veciana and H. Kim, "Fundamental Limits to Exploiting Side Information for CSI Feedback in Wireless Systems," in IEEE Journal on Selected Areas in Communications, vol. 43, no. 7, pp. 2417-2430, July 2025.

요약

사용자 단말(UE)에서 기지국(BS)까지의 다운링크(DL) 채널 상태 정보(CSI)를 전송하는 것은 연샨량이 크고 피드백 대역폭 소모가 크다. 그러나 지금까지의 연구에서는 이러한 사이드 정보를 활용하는 것에 대한 정량적 분석이 부족했다.

이 논문은 사이드 정보를 포함할 때의 rate-distortion 함수를 계산하는 알고리즘을 소개한다. 그리고이 알고리즘을 통해 UL CSI를 사이드를 정보로 활용하는 DL CSI 피드백의 rate-distortion 함수를 도출한다.

이러한 함수를 통해 사이드 정보를 활용하는 것의 이점을 확인할 수 있으며, 실험 결과 특히 고속 이동 UE와 저속도 피드백 환경에서 큰 이득을 얻었다. 즉 이는 단말이 빠르게 이동하거나 피드백 자원이 제한된 상황에서 사이드 정보가 성능 개선에 큰 영향을 끼친다는 의미이다.

사이드 정보에 대해서 인코더가 알지 못해도 디코더에서 이를 활용하면 압축 효율을 크게 높일 수 있다

위 그림은 rate-distortion 함수의 볼록성을 이용했을 때 특정 기울기에서 최적의 피드백 효율을 찾는 과정을 시각적으로 보여준다. 특정 기울기에서 곡선에 접하는 직선이 더 작은 절편을 갖기에 그것이 곧 최적의 성능 한계를 의미하게 된다.

네 개의 그래프는 각각 다른 잡음 N 값에 대해 그려져 있다. 잡음 N 값이 커질수록 전체 곡선은 위로 이동하여 더 높은 전송률이 필요함을 확인할 수 있다. 파란 실선은 디코더가 side information을 갖는 경우, 빨간 실선은 side information이 없는 경우의 rate-distortion 함수이다. Side information이 있는 경우 더 적은 rate가 필요함을 알 수 있다. 점선으로는 기울기 값에 따른 추정 함수를 보여주며 이는 이론적인 rate-distortion 함수와 매우 근접한 결과를 산출한다.

결론적으로 이 논문은 side information을 고려한 일반화된 rate-distortion 함수를 추정할 수 있는 알고리즘을 제시했다. 이 알고리즘을 다운링크 CSI 피드백 문제에 적용하여, 업링크 CSI를 side information을 활용하는 경우를 분석한 결과, side information의 효과는 높은 사용자 이동성, 제한된 피드백 자원 상황에서 가장 큰 성능 개선을 보였다. 이러한 분석 결과들은 실제 무선 시스템 설계에서 side information을 도입할지 여부를 판단하는 데 중요한 기준을 제공한다.

[논문 구현] Semantics-Native Communication via Contextual Reasoning

은최 — Mon, 23 Mar 2026 20:15:47 +0900

깃허브 링크:

GitHub - eunc812/Semantics-Native-Communication-via-Contextual-Reasoning: Implementation of Semantics-Native Communication via C

Implementation of Semantics-Native Communication via Contextual Reasoning - eunc812/Semantics-Native-Communication-via-Contextual-Reasoning

github.com

출처: H. Seo, J. Park, M. Bennis and M. Debbah, "Semantics-Native Communication via Contextual Reasoning," in IEEE Transactions on Cognitive Communications and Networking, vol. 9, no. 3, pp. 604-617, June 2023.

Architecture:

구조:

system1.py — system 1 SNC: action–concept relevance, A2C/C2A, concept–symbol mapping, Theorem 1 (SR bit-length bounds)
system2.py — system 2 SNC: individual context (S, L), objective G, self-SNC, Algorithm 1
experiments/
- world.py — world generation for section IV experiments (|A|=|C|=100, Dirichlet)
- reliability.py — system 1 vs system 2 reliability γ
- fig4.py–fig8.py — scripts to reproduce paper Figures 4–8
resulsts/ - architecture, output figures from the experiment

Preview:

[논문 리뷰] Stigmergy as a universal coordination mechanism I: Definition and components

은최 — Wed, 11 Mar 2026 15:19:19 +0900

논문 링크:

(PDF) Stigmergy as a Universal Coordination Mechanism: components, varieties and applications

PDF | The concept of stigmergy has been used to analyze self-organizing activities in an ever-widening range of domains, including social insects,... | Find, read and cite all the research you need on ResearchGate

www.researchgate.net

출처: F. Heylighen, “Stigmergy as a universal coordination mechanism I: Definition and components,” Cognitive Systems Research, vol. 38, pp. 4–13, 2016.

요약

스티그머지(stigmergy)는 사회성 곤충, 로보틱스, 웹 커뮤니티, 인간 사회 등 다양한 자기조직화 활동을 설명할 수 있다. 이 논문에서는 스티그머지를 간접적 조정 메커니즘(indirect coordination mechanism)으로 정의한다. 즉, 행위(action)가 매개체(medium)에 흔적(trace)을 남기고, 그 흔적이 이후의 행위를 자극(stimulate)하는 구조이다.

Fig. 1

스티그머지는 행위 → 흔적 → 조건 → 새로운 행위라는 순환 구조로 작동한다.
행위자는 선택적 요소일 뿐, 본질은 행위와 흔적이 매개체를 통해 이어지는 과정이다.
이 단순한 메커니즘이 복잡한 협력과 자기조직화를 가능하게 한다.

스티그머지에서의 조정 (Coordination)

스티그머지와 조정(coordination)의 관계
- 스티그머지는 간접적 조정 메커니즘으로 정의된다.
- 즉, 개별 행위자가 남긴 흔적(trace)이 다른 행위자의 행동을 유도하면서, 전체적으로 조정된 활동이 나타난다.
직접적 조정 vs 간접적 조정
- 직접적 조정: 계획, 명령, 의사소통, 상호 인식이 필요하다.
- 간접적 조정(스티그머지): 흔적만으로도 조정이 이루어지며, 행위자들이 동시에 존재하거나 서로를 인식할 필요가 없다.
자기조직화의 특징
- 스티그머지 기반 조정은 긍정적 피드백과 부정적 피드백을 결합해 안정된 자기조직화를 이끌어낸다.
- 이로 인해 복잡한 협력 활동이 계획이나 통제 없이도 자연스럽게 발생한다.
적용 범위
- 곤충 집단 행동, 로봇 협력, 웹 커뮤니티, 인간 사회 등 다양한 영역에서 스티그머지적 조정이 관찰된다.
- 예: 개미의 페로몬 경로 형성, 위키피디아의 집단적 지식 구축.

스티그머지의 주요 장점 (The benefits of stigmergy)

효율적인 조정(Coordination without central control)
- 개별 행위자는 단지 조건이 충족되었을 때 행동을 시작한다.
- 중앙집중적 계획이나 감독 없이도 작업이 올바른 순서로 진행된다.
- 예: 건축 현장에서 배관공은 지붕과 창문이 설치된 것을 보고 바로 작업을 시작할 수 있음.
매개체(Medium)를 통한 실시간 공유
- 흔적(trace)이나 기록이 매개체에 남아 다른 행위자가 이를 보고 행동을 이어간다.
- 현대적 예: 오픈소스 소프트웨어 개발에서 개발자들이 웹사이트에 버그, 기능 요청, 코드 업데이트를 기록 → 다른 개발자가 이를 보고 바로 대응.
불필요한 자원 낭비 최소화
- 계획이 틀어져도 지연이나 충돌이 발생하지 않음.
- 조건이 충족되면 자동으로 다음 작업이 시작되므로 유연성과 회복력이 뛰어남.
대규모 확장성(Scalability)
- 행위자 수, 작업 수, 의존 관계가 많아져도 문제없이 확장 가능.
- 단지 모든 행위자가 매개체에 접근할 수 있고 조건을 인식할 수 있으면 됨.
행위자에게 최소한의 요구만 필요
- 계획 불필요: 전체 목표나 다음 단계 몰라도 됨.
- 기억 불필요: 과거 작업을 기억할 필요 없음, 흔적이 매개체에 남음.
- 직접적 의사소통 불필요: 흔적만으로 충분.
- 상호 인식 불필요: 다른 행위자가 있는지 몰라도 됨.
- 동시적 존재 불필요: 같은 시간·장소에 있을 필요 없음.
- 자동적 순서와 역할 분담: 조건이 충족될 때만 행동하므로 순서가 자연스럽게 맞춰지고, 가장 적합한 행위자가 작업을 맡음.
- 책임·약속 불필요: 특정 작업에 묶이지 않고 상황에 따라 자유롭게 참여·이탈 가능.
- 중앙 통제 불필요: 오류나 문제는 새로운 조건을 만들어 자동으로 수정됨

부정적 피드백을 통한 자기 조직화 (Self-organization through negative feedback)

부정적 피드백(Negative feedback)의 역할
- 흔적(trace)이 시간이 지나면서 약화되거나 사라짐으로써 시스템이 균형을 유지
- 조건이 영구적으로 남아 있으면 행위가 무한히 반복될 수 있는데, 흔적이 점차 사라지면서 과잉 행동을 억제
자기조직화(Self-organization)
- 흔적의 생성과 소멸이 반복되면서 집단 행동이 안정된 패턴을 형성
- 예: 페로몬은 시간이 지나면 증발 → 지나치게 많은 개미가 한 길로 몰리는 것을 방지 → 여러 경로가 자연스럽게 분산
균형과 적응성
- 부정적 피드백은 시스템이 과도한 집중이나 혼란을 피하고, 환경 변화에 맞게 적응하도록 도움
- 흔적이 사라지면 새로운 조건이 등장할 수 있어, 시스템은 끊임없이 갱신되고 유연성을 유지
보편적 메커니즘
- 생물학적 시스템뿐 아니라 사회적·기술적 시스템에서도 동일하게 작동
- 예: 온라인 협업에서 오래된 정보는 점차 무시되거나 삭제 → 새로운 정보가 더 큰 영향력을 발휘 → 집단적 지식이 최신 상태로 유지

긍정적 피드백을 통한 자기조직화 (Self-organization through positive feedback)

긍정적 피드백(Positive feedback)의 의미
- 흔적(trace)이 남으면 이후 행위가 그 흔적을 더 강화
- 즉, 조건이 충족될수록 행위가 더 자주 발생하고, 그 결과 흔적이 더 강해져서 다시 행위를 촉발하는 자기강화 루프가 형성
패턴의 증폭(Amplication of patterns)
- 작은 초기 차이가 시간이 지나면서 크게 확대
- 예: 개미가 처음에 두 갈래 길 중 하나를 조금 더 많이 선택하면, 그 길의 페로몬이 더 강해지고 → 더 많은 개미가 그 길을 선택 → 결국 한쪽 길이 ‘주 경로’로 자리잡음.
집단적 질서 형성
- 긍정적 피드백은 집단 행동을 특정 방향으로 몰아가며, 안정된 구조나 패턴을 만들어낸다.
- 이는 자기조직화의 핵심 메커니즘으로, 단순한 규칙이 복잡한 질서를 낳게 한다.
창발적 결과(Emergent outcomes)
- 개별 행위자는 전체 구조를 의도하지 않지만, 긍정적 피드백을 통해 새로운 질서와 조직이 자연스럽게 나타나낟.
- 예: 시장에서 특정 상품이 인기를 얻으면 더 많은 소비자가 몰리고, 생산이 늘어나면서 ‘히트 상품’이 되는 과정.

결론

저자는 이 논문이 다른 연구자들에게 영감을 주어, 인간 활동뿐 아니라 비인간적 활동(예: 곤충, 화학적 과정, 로봇 등)에서도 스티그머지 메커니즘을 더 폭넓게 탐구하기를 기대한다. 스티그머지 연구는 단순히 사례 설명을 넘어서, 깊은 이론적 문제(예: 자기조직화, 협력, 인지의 기초)를 명확히 하는 데 도움을 줄 수 있으며 아직 상상되지 않은 다양한 실용적 응용이 가능할 것이라고 전망한다.

[논문 리뷰] Emergent Communication in Multi-Agent Reinforcement Learning for Future Wireless Networks

은최 — Tue, 10 Mar 2026 17:51:11 +0900

논문 링크:

Multi-agent Reinforcement Learning with Emergent Communication using Discrete and Indifferentiable Message

This paper proposes an integrated model of multi-agent reinforcement learning with emergent communication based on probabilistic generative models called MASAC- ECo that enables two agents to learn cooperative actions. In this model, agents receive message

ieeexplore.ieee.org

출처: H. Ebara, T. Nakamura, A. Taniguchi and T. Taniguchi, "Multi-agent Reinforcement Learning with Emergent Communication using Discrete and Indifferentiable Message," 2023 15th International Congress on Advanced Applied Informatics Winter (IIAI-AAI-Winter), Bali, Indonesia, 2023, pp. 366-371.

이 논문에서는 Multi-agent reinforcement learning with emergent communication (EC-MARL) 방법을 제안한다. Emergent communication은 에이전트들이 자연스럽게 새로운 통신 프로토콜을 학습하고 발전시키는 과정을 의미한다. 에이전트들은 서로의 행동과 메시지를 통해 적절한 메시지를 학습한다.

MARL은 다음과 같은 상황들에서 필요하다.

부분 관찰 환경 (Partially Observable Environment): 각 에이전트는 전체 환경 상태를 알 수 없고 자기 관찰값만 가질 때, 다른 에이전트의 관찰 정보가 필요하지만 직접 접근할 수 없으므로 메시지를 통해 공유해야한다.
비정상성 (Non-stationarity): 한 에이전트의 행동 결과 보상은 다른 에이전트의 의사결정에 따라 달라지는 상황일 때 각 에이전트들은 자신의 정책이나 의사결정 과정을 공유해야 안정적으로 학습할 수 있다.

Fig. 1

그림 상단: 도시 환경 속에서 여러 에이전트가 상호작용하는 모습을 나타낸다.
왼쪽 (At time t): 각 에이전트는 자신의 관찰값과 이전 시점의 메시지 집합을 입력으로 받는다. 각 에이전트들은 정책을 통해 행동을 결정하고 메시지 네트워크를 통해 새로운 메시지를 생성한다. 그리고 이 모든 에이전트들은 공유된 네트워크 구조를 사용한다.
오른쪽 (At time t+1): 다음 시점에선 갱신된 관찰값과 새롭게 결합된 메시지를 받아 다시 행동과 메시지를 산출한다.

하단 (Goal-oriented communication): 송신 에이전트 i, k는 메시지를 생성한다. 메시지들은 메시지 결합기를 통해 합쳐진다. 다른 에이전트 j는 수신자로서 자신의 관찰값과 결합된 메시지를 활용해 행동을 결정한다. 이 과정은 목표를 달성하기 위한 목적 지향 통신이다.
이와 같은 과정을 통해 에이전트들은 새로운 통신 프로토콜과 적절한 메시지를 보내는 방법을 학습한다.

[논문 리뷰] Efficient Prompting for LLM-based GenerativeInternet of Things

은최 — Fri, 6 Mar 2026 11:28:38 +0900

논문 링크:

Efficient Prompting for LLM-Based Generative Internet of Things

Large language models (LLMs) have demonstrated remarkable capacities on various tasks, and integrating the capacities of LLMs into the Internet of Things (IoT) applications has drawn much research attention recently. Due to security concerns, many institut

ieeexplore.ieee.org

출처: B. Xiao, B. Kantarci, J. Kang, D. Niyato and M. Guizani, "Efficient Prompting for LLM-Based Generative Internet of Things," in IEEE Internet of Things Journal, vol. 12, no. 1, pp. 778-791, 1 Jan.1, 2025.

요약

이 논문은 LLM이 semi structured Table QA 문제처럼 불완전한 표 데이터를 다루는데 어려움이 있다는 점에 주목한다. 논문은 세 단계 프롬프트 체계를 제안한다:

Task Planning – 질문을 분석하고 필요한 열과 연산을 계획
Task Conducting – Python 코드를 활용해 실제 계산 수행
Task Correction – 데이터 타입 불일치나 오류를 교정하여 결과를 정제

기여점

IoT 환경에서 LLM이 자율적으로 데이터 처리와 문제 해결을 할 수 있도록 지원
단순 질의응답을 넘어, 프롬프트 관리 + 코드 실행 + 오류 교정을 결합한 새로운 방식 제시
Semi-structured Table-QA 문제를 케이스 스터디로 삼아, 실제 적용 가능성을 검증
이 접근법은 IoT 시스템에서 LLM을 활용할 때 효율성과 신뢰성을 높여주며, 오픈소스 LLM의 한계를 극복하는 데 중요한 역할을 할 수 있음을 보여준다.

Fig. 1

IoT 디바이스 → 요청(Task Request): 스마트워치, 센서, 스마트폰 같은 IoT 기기들이 특정 작업 요청
Task-specific Prompts Database에서 해당 작업에 맞는 프롬프트 템플릿(지시문, 데모)을 검색 및 반환
Open-source LLMs (예: Mistral, DeepSeek): 선택된 프롬프트에 기반해 LLM이 응답을 생성, 상용 LLM 대신 오픈소스 모델을 로컬 네트워크의 엣지 서버에 배치해 프라이버시 보장
Post-processing Module (후처리 모듈): LLM 응답을 정제(Result Parsing), 다단계 프롬프트 방식에서는 중간 결과를 관리(Optional Request Management)
최종 응답(Task Response): 후처리된 결과가 다시 IoT 디바이스로 전달

Fig. 2: LLM 기반 GIoT 시스템의 주요 구성 요소

1. 프롬프트 관리 모듈 (Prompt Management Module): IoT 기기의 요청을 LLM이 이해할 수 있는 프롬프트로 변환

요청 파싱 (Request Parsing): IoT 기기로부터 요청을 받아 Task ID, Task Step, Parsed Data를 추출
프롬프트 검색 (Prompt Search): Task ID와 Task Step을 이용해 프롬프트 지시문(Instruction)과 프롬프트 예시(Demonstration)를 데이터베이스에서 검색
프롬프트 생성 (Prompt Generation): 파싱 된 데이터 + 지시문 + 예시를 결합해 최종 프롬프트를 생성, In-Context Learning(ICL) 성능을 최적화하기 위해 맞춤형 예시 선택 방법을 적용

2. 후처리 모듈 (Post-processing Module): LLM의 출력 결과를 정제하거나 실행하여 IoT 기기에 반환

결과 파싱 (Result Parsing): LLM 출력이 지시문을 항상 따르지 않기 때문에 결과를 정제
코드 실행: PoT, PAL 같은 방법은 LLM이 직접 답을 주지 않고 Python 코드를 생성, 외부 Python 인터프리터를 통해 실행하여 최종 결과를 얻는다.
선택적 요청 관리 (Optional Request Management): 다단계 프롬프트 방식에서는 요청 관리 컴포넌트가 필

Fig. 3: 제안한 방법과 CoT, PoT의 비교

제안한 방법은 비교적 단순한 CoT, PoT와 다르게 task planning, task conducting, task correction의 총 세 가지 과정을 거친다. 그리고 기존의 큰 테이블을 사용하는 대신 statistical/sub table들을 사용한다.

Ablation study 결과 이 프롬프트들은 상호보완적인 결과를 갖는다.

Fig.11

PoT (Program of Thoughts)는 LLM이 복잡한 추론이나 계산을 할 때, Python 코드 같은 외부 프로그램을 생성해 실행하는 방식이다. 하지만 이 과정에서 프롬프트 토큰 수가 많아지고 추론 시간이 길어지는 단점이 있다.

Tab-PoT (Table Program of Thoughts)는 이 논문에서 제안한 개선된 방법으로, Table-QA 문제에 특화된 프롬프트 설계다. 아래의 Fig.11은 Tab-PoT가 훨씬 적은 토큰을 사용하면서도 정확도를 유지하거나 개선할 수 있음을 보여준다. 이는 곧 추론 비용(inference cost) 절감과 실행 효율성 향상으로 이어진다.

[논문 리뷰] Agentic AI-Enhanced Semantic Communications:Foundations, Architecture, and Applications

은최 — Fri, 20 Feb 2026 11:24:56 +0900

논문 링크:

Agentic AI-Enhanced Semantic Communications: Foundations, Architecture, and Applications

Semantic communications (SemCom), as one of the key technologies for 6G, is shifting networks from bit transmission to semantic information exchange. On this basis, introducing agentic artificial intelligence (AI) with perception, memory, reasoning, and ac

arxiv.org

출처: H. Gao, M. Sun, R. Zhang, Y. Wang, X. Xu, N. Ma, D. Niyato, and P. Zhang, “Agentic AI-Enhanced Semantic Communications: Foundations, Architecture, and Applications,” arXiv preprint arXiv:2512.23294, 2025.

Fig. 1 - agentic AI-enhanced SemCom architecture: 전체적으로 세 계층이 신호를 주고받으며 지능형·적응형 semantic 통신 시스템을 구성한다.

Application Layer

Intent Formulation & Signaling: 사용자 intent를 수집하고 구조화된 intent description으로 변환
Multi‑task Execution: 복원된 semantic 정보를 실제 작업에 활용
QoS Assessment: semantic reconstruction quality 지표에 기반해 피드백 신호 생성

Semantic Layer

Semantic Extractor: 텍스트/이미지/비디오 등 멀티모달 semantic feature 추출
JSCC Encoder / Decoder: semantic feature를 variable‑length로 인코딩, semantic importance 기반 selective protection
RL‑based Resource Control: CSI, QoS feedback등을 입력 받아 네트워크 자원을 상황에 맞게 최적화

Cloud‑Edge Collaborative Layer

Multimodal‑based Knowledge Base (KB): speech/text/image semantic features 저장
Codebook‑based KB: semantic feature를 벡터/코드북 형태로 저장하여 semantic compression 및 retrieval에 활용
LLM/LVM Agents: 사용자 intent 해석, Semantic model orchestration
Model Orchestration & Resource Scheduling: intent, QoS score에 기반하여 더 강력한 semantic model 선택

Fig. 2 - agentic AI‑Enhanced SemCom: 세 가지 대표 응용 시나리오에서 Agentic AI와 SemCom이 어떻게 상호작용하는지 보여준다.

Multi‑Vehicle Collaborative Perception

차량·도로 인프라의 센싱: 교통 신호를 SemCom의 semantic extractor, JSCC encoder로 압축
SemCom 전송: 차량 간 저지연 링크로 전송, Semantic-level 압축 덕분에 대역폭 절감, JSCC가 낮은 SNR에서도 의미 보존
수신/응급 차량 Agentic AI 처리: LLM/LVM agent가 멀티모달 이해 수행, 구조화된 의미 추출, 과거 기록과 결합해 의미 강화
행동 결정: 차량에게 회피, 양보, 우회 경로 지시, 응급 차량은 실시간 상황 인지 기반 경로 최적화
RL 기반 자원 제어: RL agent가 정보 중요도, 채널 상태, 우선순위를 기반으로 대역폭·비트레이트·우선순위·모델 선택을 조정

Multi‑Robot Cooperative Rescue

UAV/로봇의 센싱: SemCom의 semantic extractor + JSCC encoder로 처리
SemCom 기반 전송: 산악 지형·저 SNR 환경에서도 의미 중심 전송
Command Center의 Agentic AI 처리: LLM/LVM agent가 영상·신호를 분석, 구조 우선순위 판단
RL 기반 네트워크 제어: Base station의 RL agent가 네트워크 최적화

Agentic Operations for Intellicise Networks

다양한 서비스 트래픽 입력: History traffic, User video, VR/AR, Digital twin 등등...
Agentic AI 기반 신호 처리: Embedded AI가 신호 특성에 따라 적절한 알고리즘 선택, 지연·에너지 최적화
Intellicise SemCom: 사용자 요구·우선순위에 따라 semantic model orchestration 수행
RL 기반 자원 제어: Base station RL agent가 Priority scheduling, Bandwidth allocation, Model switching을 수행
서비스 운영 최적화: Agent가 지속적으로 intent·트래픽 패턴 분석, 서비스 모드 동적으로 변경

Fig. 3 - AKB‑JSCC Framework: 세 개의 지식 기반(KB)이 JSCC 파이프라인을 강화하는 구조를 보여준다.

Agentic KB-based JSCC Framework

Semantic Extractor: 입력 이미지 통해 semantic feature map 생성
Entropy Model: feature map의 각 위치에 대해 Gaussian mean/variance 추정
JSCC Encoder: feature map + entropy map + source KB에서 온 cross‑modal embedding
Wireless Channel 전송: SNR 조건이 변해도 semantic‑aware JSCC 유지
JSCC Decoder + Semantic Restorer: Cross‑modal transformer 기반 복원, 최종 restored image 출력

LLM/LVM Agent‑based Source KB

이미지/프롬프트 입력 → LLM/LVM, 이미지의 의미를 요약한 concise description 생성
Text Tokenizer → Token IDs → Text Encoder → Embedding r 생성
Embedding Retrieval: r을 query로 사용해 대규모 multimodal embedding KB에서 가장 가까운 벡터 검색
Retrieved embedding → JSCC Encoder/Decoder로 전달

RL Agent‑based Channel KB State

State 구성: Entropy, SNR, action map 통합해 state St 생성
Feature Extractor: state를 feature로 변환
Actor Head / Critic Head: action at, action probability pt, value vt
Environment Interaction: action을 JSCC rate control에 적용, reward rt 계산
Data Buffer → parameter 업데이트: 여러 step의 (state, action, reward)로 RL 업데이트 수행

Fig. 4 - AWGN 채널 실험 결과: Fig. 4는 AKB‑JSCC가 semantic prior(LLM/LVM)와 channel reasoning(RL)을 결합해, 저 SNR·저 CBR에서도 기존 방식보다 훨씬 높은 복원 품질을 달성함을 정성·정량적으로 입증한 실험이다.

Entropy Map & Rate Preset Map: 각 위치의 semantic 정보량, entropy를 기반으로 사전 정의된 rate level
AKB‑JSCC는 모든 SNR에서 NTSCC보다 구조·텍스처 보존이 우수
AKB‑JSCC는 낮은 CBR에서도 특히 우수
Source KB의 기여: LLM/LVM 기반 cross‑modal embedding이 semantic feature를 강화해 복원 품질 향상
Channel KB의 기여: RL 기반 rate control이 semantic importance + SNR 결합해 가변 길이 코딩 최적화
AKB‑JSCC 전체의 시너지: 두 KB가 결합되어 semantic-aware + channel-adaptive JSCC 완성됨

[논문 리뷰] Large Language Model Enhanced Multi-Agent Systems for 6G Communications

은최 — Thu, 19 Feb 2026 09:38:46 +0900

논문 링크:

Large Language Model Enhanced Multi-Agent Systems for 6G Communications

The rapid development of the Large Language Model (LLM) presents huge opportunities for 6G communications, e.g., network optimization and management by allowing users to input task requirements to LLMs by nature language. However, directly applying native

arxiv.org

출처: F. Jiang, L. Dong, Y. Peng, K. Wang, K. Yang, C. Pan, D. Niyato, and O. A. Dobre, "Large Language Model Enhanced Multi-Agent Systems for 6G Communications," arXiv:2312.07850 [cs.AI], Dec. 2023.

요약

LLM의 빠른 발전은 6G 통신에 큰 기회를 제공한다. 사용자는 자연어로 요구 사항을 입력하면 네트워크가 최적화나 관리 작업을 수행한다. 하지만 기존 LLM을 6G에 그대로 적용하면 개인 통신 데이터 부족, 논리적 추론·평가·개선 능력의 한계 등 여러 문제가 발생한다. 이러한 한계를 극복하기 위해 LLM에 검색, 계획, 메모리, 평가, 반성(reflection) 기능을 갖춘 에이전트를 결합하면 6G 통신에서 LLM의 잠재력을 크게 높일 수 있다. 이를 위해, 저자들은 통신에 맞춤화된 멀티 에이전트 시스템을 제안하며, 이를 통해 자연어로 통신 관련 문제를 해결할 수 있도록 한다. 이러한 멀티 에이전트들은 크게 3가지 요소로 정리된다:

MDR — Multi-agent Data Retrieval: 지식 베이스에 저장된 통신 관련 문서·표준·논문 등에서 필요한 정보를 찾아내고 요약해 LLM의 통신 지식 범위를 확장한다.
MCP — Multi-agent Collaborative Planning: MDR에서 얻은 지식을 기반으로 여러 계획 에이전트가 서로 다른 관점에서 문제 해결 방안을 생성한다.
MER — Multi-agent Evaluation and Reflexion: MCP가 만든 여러 해결안을 평가하고, 반성(reflexion)과 개선(refinement)을 통해 더 나은 해결안을 만들도록 피드백 제공한다.

끝으로 연구진은 제안한 LLM 기반 멀티 에이전트 시스템이 효과적인지 검증한다. 이를 위해 SC 시스템을 직접 설계하고 평가한다.

Fig. 1: LLM 기반 에이전트 시스템

Agent: 에이전트는 모델을 호출해 자연어 이해, 추론, 계획, 코드 생성과 같은 고차원 작업 수행
Profile: 에이전트의 성격, 역할, 목표, 행동 규칙을 정의하는 설정값.
Knowledge Base: Agent는 필요할 때 여기에 접근해 최신 통신 표준, 논문, 기술 문서와 같은외부 데이터 를 검색하고 요약해 문제 해결
Tools: 에이전트가 실제 작업을 수행할 때 사용하는 실행 도구 세트로 에이전트는 모델의 판단을 바탕으로 tools를 호출해 계산, 시뮬레이션, 데이터 처리, 코드 실행과 같은 실제 작업 수행
Memory: 에이전트는 메모리를 통해 이전 시도와 결과를 참고해 자기 반성, 개선 수행

Fig. 2: LLM 기반 Multi-Agent System의 세 가지 핵심 모듈

MDR (Multi-agent Data Retrieval): 외부 통신 도메인 지식을 LLM이 활용할 수 있도록 정제·요약하여 도메인 지식으로 변환

문서 분할 (Document Segmentation): 최신 통신 표준, 논문, 문서 등 외부 데이터 로딩, 의미 단위로 문서를 분할해 검색 효율을 높임
지식베이스 구축 (Knowledge Base Construction): 분할된 문서를 임베딩하여 벡터로 변환, 문서 조각과 임베딩을 벡터 DB 형태로 저장
문서 검색 (Document Retrieval): Secure Agent가 사용자 요구를 검증해 보안 위협 차단, 요구사항을 임베딩 후 벡터 DB와 비교, MMR(Maximal Marginal Relevance)로 중복 최소화하며 관련 문서 선택
압축 및 요약 (Compression & Summarization): Condensate Agent가 불필요한 정보 제거, Inference Agent가 선택된 문서 조각을 기반으로 사용자 요구에 맞는 통신 도메인 지식을 자연어로 생성

MCP (Multi-agent Collaborative Planning): 도메인 지식, 사용자 요구에 기반해 여러 에이전트가 협력해 해결 계획 생성

작업 계획 수립 (Task Planning): 여러 Planning Agent가 CoT 또는 Plan-and-Solve 방식으로 원래의 복잡한 문제를 여러 개의 하위 작업(sub-tasks)으로 분해
서브태스크 체인 구성 (Sub-task Chain Construction): 하위 작업 간 순서·의존성을 고려해 일련의 작업 체인(sub-task chain)으로 병렬/순차 구조 구성
서브태스크 체인 실행 (Solving Sub-task Chains): 각 서브태스크는 LLM 내장 도구, 외부 커스텀 통신 도구 등을 호출해 해결, 체인의 마지막 단계에서 최종 결과가 생성

MER (Multi-agent Evaluation and Reflexion): MCP가 만든 여러 해결안의 품질을 평가하고, 개선 방향을 제시해 시스템을 반복적으로 최적화

결과 평가 (Result Evaluation): Evaluation Agent가 각 서브태스크 체인의 결과를 평가, 보상(reward)을 계산해 품질 정량화
메모리 저장 (Memory Storage): 현재 체인을 과거 체인과 비교, 의미적으로 새로운 체인은 장기 메모리(LTM), 유사한 체인 단기 메모리(STM)에 저장, 결과와 보상도 함께 저장
성찰Introspection): Reflexion Agent가 단기 메모리에 기반해 세부적·미시적 개선점 도출
정제(Refinement): Refinement Agent가 장기 메모리에 기반해 구조적·거시적 개선점 제시
피드백 루프 (Feedback Loop): 개선 제안이 MCP로 다시 전달, 새로운 서브태스크 체인 생성하여 MER 평가, 반복하며 최적 솔루션에 수렴

Fig. 3: LLM‑Enhanced Multi‑Agent System 기반 SC모델 구현

1. 사용자 요구 분석 (User Requirements)

Secure Agent: 사용자 요구가 보안적으로 안전한지 검증
Condensate Agent: 사용자 요구를 핵심 의미만 남기고 압축
Inference Agent: 정제된 요구를 기반으로 초기 문제 정의 생성

2. 도메인 지식 추출 (Domain Knowledge Extraction)

Semantic Encoder: 의미 단위 표현 방식, 기능 정의
Channel Encoder: 채널 부호화 방식, 목적
Physical Channel: 채널 모델, 잡음 특성
Channel Decoder: 복호화 방식
Semantic Decoder: 의미 복원 방식
Training Method: 학습 전략, 목적 함수, 데이터 요구사항

3. 설계 단계 (Scheme Design)

Semantic Encoder: 구조(예: LSTM, Transformer). 입력/출력 형태
Channel Encoder / Decoder: MLP, CNN 등 구조, 입력/출력 차원
Physical Channel: AWGN, Rayleigh 등 채널 모델, 파라미터(잡음 세기 등)
Semantic Decoder: 구조 및 출력 형태
Training Method: Loss function, Optimizer. 학습 전략

4. 코드 구현 (Code Implementation)

Semantic Encoder: LSTM 코드, Feedforward 코드
Channel Encoder / Decoder: MLP 코드, Feedforward 코드
Physical Channel: 채널 모델 코드, 채널 파라미터 설정
Semantic Decoder: LSTM/MLP 기반 복원 코드
Training Method: 데이터 처리 코드, 역전파(backpropagation) 코드, 학습 루프

5. 평가 및 개선 (Evaluation & Refinement)

평가(Evaluation): 코드 품질, 목적 함수 값, 제약 조건 위반 여부(패널티)
내성(Introspection): 코드 문법 오류, 파라미터 조정 필요성, 모듈 간 연결 문제
정제(Refinement): 논리적 오류 수정, 구조적 개선, 더 효율적인 모델 구조 제안
피드백 루프: 개선 사항이 다시 Planning Agent로 전달, 새로운 설계·코드 생성, 반복하며 최적화
결과: 점진적으로 개선된 SC 모델 완성

시뮬레이션 결과

아래 Fig. 4는 멀티에이전트 기반 시맨틱 통신 시스템에서 반성(introspection) 반복 횟수가 증가할수록 모델의 평가 점수(evaluative score)가 어떻게 향상되는지를 보여준다. 반복 횟수가 증가할수록 Scheme 2가 더 좋은 평가 점수를 달성하며 이는 Scheme 2가 LSTM 기반 모델로 구성되어 시퀀스 정보를 더 잘 처리하기 때문이다.

다음 실험 결과는 시맨틱 통신 시스템에서 SNR이 높아질수록 의미적 유사도가 어떻게 변하는지를 보여준다. 이는 멀티 에이전트 기반 SC 시스템 설계가 SNR 변화에 따라 의미 보존 성능이 안정적으로 증가함을 보여주는 실험적 증거이다.

한계 및 발전 방향

1) Limited Resources (자원 제약 문제): 멀티에이전트 시스템은 LLM과 사설 통신 데이터를 활용해야 한다, 그러나 엣지 디바이스는 클라우드에 비해 자원이 매우 부족하다.

2) Cooperation and Competition (협력과 경쟁 문제): 현재 제안된 멀티에이전트 시스템은 모든 에이전트가 협력(cooperation)하는 구조다. 하지만 LLM 기반 멀티에이전트 시스템은 경쟁(competition), 혼합 전략, 역할 분리 등 다양한 상호작용 방식을 이용할 수 있다.

3) Real-time Interaction (실시간 상호작용 문제): LLM 기반 에이전트가 실시간 6G 환경에서 동작하려면 속도 문제를 해결하는 새로운 기술이 필요하다.

[논문 리뷰] Representation Learning via Invariant Causal Mechanisms

은최 — Tue, 10 Feb 2026 15:42:00 +0900

논문 링크:

Representation Learning via Invariant Causal Mechanisms

Self-supervised learning has emerged as a strategy to reduce the reliance on costly supervised signal by pretraining representations only using unlabeled data. These methods combine heuristic proxy classification tasks with data augmentations and have achi

arxiv.org

출처: J. Mitrovic, B. McWilliams, J. Walker, L. Buesing, and C. Blundell, "Representation Learning via Invariant Causal Mechanisms," arxiv:2010.07922, 2020.

요약

라벨 없이도 표현을 학습하는 self supervised learning 방법은 라벨 데이터 비용을 줄이고 성능도 뛰어나 주목받고 있다. Self supervised learning은 heuristic한 proxy 분류 과제와 데이터 종강 조합에서 좋은 성능을 얻었지만 이에 대한 이론적 설명이 부족한 상황이다.

저자들은 자기지도학습을 인과 그래프로 분석하며 augmentation이 달라져도 같은 예측을 하도록 하는 invariant prediction 개념을 소개한다. 이러한 제한에 기반한 Representation Learning via Invariant Causal Mechanisms (RELIC) 방법은 proxy target을 여러 augmentation에서도 동일하게 예측하도록 invariance regularizer를 추가한다.

또한 이론적인 기여로 Mutual information 기반 설명 대신 인과적 불변성이 contrastive learning의 성공 요인임을 제시하기도 한다. 실험 결과, ImageNet에서 robustness와 OOD generalization이 크게 향상되었으며 Atari 게임에서도 57개 중 51개에서 인간 수준 초과 성능을 달성했다.

이 논문은 인과적 관점에서의 분석을 위해 다음과 같은 세 가지 가정을 한다.

데이터는 콘텐츠(C)와 스타일(S)이라는 두 요인으로부터 생성된다.
다운스트림 작업(Y)은 콘텐츠(C)에만 의존하고, 스타일(S)에는 의존하지 않는다.
콘텐츠(C)와 스타일(S)은 서로 독립이다.

좋은 representation은 스타일 변화(S)에 대해 불변(invariant) 해야 한다. 즉, augmentation이 달라져도 모델의 예측이 흔들리지 않는 invariant prediction이 필요하다. 이러한 원리가 RELIC 설계의 핵심 철학이다.

그림 (b)는 두 augmentation을 거친 이미지가 두 encoder를 거쳐서 예측 분포를 얻은 후에 cross entropy로 representation을 구분 가능하게 만들고, 가운데의 KL을 통해 augmentation 간 예측을 동일하게 만드는 과정을 보여준다.

Invariant prediction

augmentation이 달라져도 representation을 통해 예측되는 proxy target의 분포는 같아야 한다.

\[
p^{\mathrm{do}(a_i)}\!\left( Y^{R} \mid f(X) \right)
=
p^{\mathrm{do}(a_j)}\!\left( Y^{R} \mid f(X) \right),
\qquad
\forall\, a_i, a_j \in \mathcal{A}.
\]

RELIC objective

첫 번째 항은 같은 이미지에서 나온 두 augmentation의 유사도(분자)는 높게 만들고 다른 이미지에서 나온 것(분모)과는 유사도가 낮게 만든다.
두 번째 항은 서로 다른 augmentation을 적용했을 때 proxy target의 예측 분포가 서로 같아지도록 강제한다

\[
-\sum_{i=1}^{N} \sum_{a_{lk}}
\log
\frac{
    \exp\!\left( \phi\!\left( f(x_i^{a_l}),\, h(x_i^{a_k}) \right) / \tau \right)
}{
    \sum_{m=1}^{M}
    \exp\!\left( \phi\!\left( f(x_i^{a_l}),\, h(x_m^{a_k}) \right) / \tau \right)
}
\;+\;
\alpha
\sum_{a_{lk},\, a_{qt}}
KL\!\left(
    p^{\mathrm{do}(a_{lk})},
    p^{\mathrm{do}(a_{qt})}
\right)
\]

Theorem 1: 더 세밀한(refined) proxy task( \(Y^{R}\) )에서 불변성(invariance)을 만족하면, 더 큰 downstream task( \(Y_{t}\) )에서도 자동으로 불변성이 성립한다. 즉, refinement에서 잘 학습하면 downstream task에서도 잘 된다.

\[
p^{\mathrm{do}(s_i)}\!\left( Y^{R} \mid f(X) \right)
=
p^{\mathrm{do}(s_j)}\!\left( Y^{R} \mid f(X) \right)
\;\;\Longrightarrow\;\;
p^{\mathrm{do}(s_i)}\!\left( Y_{t} \mid f(X) \right)
=
p^{\mathrm{do}(s_j)}\!\left( Y_{t} \mid f(X) \right),
\quad
\forall\, t \in \{1,\dots,T\},\; s_i, s_j \in \mathcal{S}.
\]

예를 들어 downstream task:

고양이 vs 개 분류

fine-grained refinement task:

고양이 품종 20개 + 개 품종 50개 분류

linear discriminant ratio는 representation이 선형 분류기로 얼마나 잘 구분되는지를 나타내는 개념으로, RELIC이 강조하는 representation의 품질을 평가하는 핵심 지표다. ReLIC은 이 지표에서 다른 방법들보다 더 큰 선형 분류성을 가졌다.

RELIC을 최근 자기 지도학습 방법들과 비교한 결과 다른 방법들보다 더 좋은 결과를 나타냈다. Atari 게임에선 57개 중 51개 게임에서 인간의 실력을 넘어섰다.