Abstract
최근 등장한 AI 과제를 기반으로 하는 cloud-edge-terminal architecture는 AI-driven network로 간주된다.
AI 기반 네트워크의 여러 계층은 네트워크 위협에 직면한다: 악의적인 네트워크 정찰, 부채널(side-channel) 공격, 분산 서비스 거부(DDoS) 공격 등
Index Terms—Artificial intelligence (AI)-driven network, cloud-edge-terminal network, generative AI, moving target defense, security analysis
1. Introduction
cloud layer, edge layer, terminal layer
- cloud layer: 강력한 컴퓨팅 및 스토리지 능력을 갖추어 다양한 네트워크 서비스를 제공
- edge layer: 단말 장치에 인접해, 낮은 지연과 높은 대역폭을 요구하는 실시간 네트워크 서비스를 제공
- terminal layer: 방대한 센서 장치들로 구성, 데이터를 수집, 처리하고 업로드하며, 추론, 예측, 스케줄링 등의 다양한 작업을 지원하기 위해 대량의 데이터를 제공
사이버 공격
- cloud layer: 악성 네트워크 정찰과 부채널 공격에 취약
- edge layer: 분산 서비스 공격에 쉽게 노출됨
- terminal layer: 블랙홀/그레이홀 공격, 허위 데이터 주입 공격
cloud-edge-terminal network의 다양한 공격에 대응하기 위해, MTD가 혁신적인 방어 프레임워크로 고안되었다.
최초로 공격 표면(attack surface) 개념 도입 [28], 이동표적 방어 개념을 처음 제안 [29]
MTD의 유형
1) dynamic network, 2) dynamic platform, 3) dynamic execution environment, 4) dynamic software, 5) dynamic data
AI와 MTD의 결합 연구
AI 기반 MTD(AI-powered MTD), AI 보안을 위한 MTD(MTD for AI security)
– 공격자의 행위를 학습하고 방어 전략을 최적화할 수 있음 → MTD 메커니즘의 방어 능력을 강화할 수 있음
– 생성형 AI(GAI) 알고리즘에 대한 적대적 공격은 모델 학습의 정확도를 저하시킬 수 있음, MTD는 회피 공격을 방어하는 데에도 활용될 수 있음
The major contribution of this article
- cloud-edge-terminal network 여러 계층이 직면한 네트워크 위협과, 이에 대응하는 network-based MTD mechanisms 기반 솔루션 간의 관계를 분석
- ‘how to move’라는 질문을 해결하는 방법을 논의, 왜 AI가 다양한 네트워크 기반 MTD 메커니즘을 강화할 수 있는지
- MTD가 다양한 AI 모델에 대한 공격을 방어하기 위한 강력한 수단이 될 수 있음을 설명, 세 가지 대표적인 생성형 AI 응용 분야의 관점에서 최신 MTD 기법들이 생성형 AI(GAI) 보안을 어떻게 강화하는지 조사
- MTD의 현재 도전 과제들과 향후 연구 방향 제시
Section 2: AI 기반 네트워크의 아키텍처와 보안 위협 소개
Section 3: 네트워크 기반 MTD의 개념, 설계 원칙, 주요 분류 검토
Section 4: AI가 MTD의 사이버 공격 대응 능력을 어떻게 강화할 수 있는지 논의
Section 5: 생성형 AI 보안을 위한 MTD 기법
Section 6: MTD의 현존하는 과제들과 향후 연구 방향
2. Framework and Security Issues in AI-driven cloud-edge-terminal network
A. Cloud Layer and Security Issues
이 절에서는 클라우드 계층별 직면한 보안 위협을 설명한다.
클라우드 계층의 주요 서비스 유형: IaaS(Infrastructure as a Service), PaaS(Platform as a Service), SaaS(Software as a Service)
보안 문제: 악성 네트워크 정찰, DDoS 공격, 동거(co-residence) 및 부채널 공격
- IaaS: 가상화된 컴퓨팅 자원을 제공, 클라우드 계층의 하부에 위치, 서버, 스토리지, 네트워킹 등 기본 하드에어 자원을 임대하여 그 위에 자체 운영체제나 애플리케이션을 구축하고 관리
- PaaS: 응용 프로그램을 개발하고 배포하기 위한 통합 플랫폼 제공, 사용자는 기본 인프라를 관리할 필요 없이 이 플랫폼 위에서 애플리케이션 개발 가능
- SaaS: 클라우드 최상위 계층에 위치, 소프트웨어 애플리케이션을 최종 사용자에게 직접 제공, 사용자는 해당 애플리케이션을 인터넷을 통해 설치 없이 이용 가능, 하부 인프라나 플랫폼은 전혀 관리할 필요가 없음, 일반적으로 PaaS와 IaaS에 의존하여 운영됨
다중 테넌트(multi-tenant) 클라우드 환경의 정적이고 동질적인 인프라 특성으로 인해, 공격자는 특히 IaaS 환경에서 스캐닝을 수행하여 표적을 식별하기 용이하다.
- 악성 네트워크 정찰(malicious network reconnaissance): ICMP 스캔, 포트 스캔 등 대상 네트워크의 취약점이나 약점을 탐색 – 정상적인 네트워크 트래픽으로 가장할 수 있음
- DDoS attacks: 클라우드 자원의 공유성과 확장성을 악용하여, 대량의 요청을 통해 클라우드 계층의 자원을 소진시키는 방식
- 동거 및 부채널 공격(bandwidth depletion and resource depletion attacks): 가상화된 클라우드 환경에서 물리적 정보 누출을 악용하여 민감 데이터를 수집하는 공격
– 클라우드 컴퓨팅 환경에서 가상머신(VM)들은 동일한 물리 환경에서 실행되어 하드웨어 플랫폼의 활용도를 극대화하므로, 공격자가 부채널을 통해 정보를 얻기가 상대적으로 쉬움
– e.g., 악성 VM이 희생자 VM과 동일한 물리 서버에 동거하게 되면, CPU 캐시 등의 부채널을 활용하여 희생자의 정보를 엿볼 수 있는 코레지던시(co-residency) 공격이 가능해짐
B. Edge Layer and Security Issues
엣지 계층의 구조와 기능을 소개한다. 엣지 계층의 위치적 특성과 엣지 장치 및 서비스의 내재된 취약점으로 인해 발생하는 보안 문제들을 분석한다.
엣지 계층: 단말 계층에서 수집된 데이터를 처리, 관리, 캐싱하여 클라우드 계층과의 협업 효율을 향상시키는 역할, 데이터의 품질을 향상시키고 불필요한 정보 업로드를 줄여준다.
엣지 계층의 구성 요소: 1) the edge controller; 2) the edge server; and 3) the edge gateway
- 엣지 컨트롤러: 네트워크 관리, 환경 설정, 알고리즘 라이브러리 관리 등 담당
- 엣지 서버: 운영 통제와 플랫폼 관리 담당, 데이터 모델링, 집계, 이기종 컴퓨팅 등 수행
- 엣지 게이트웨이: 장치 관리와 데이터 저장에 집중, 장치 등록, 캐싱, 엣지 인텔리전스 등을 통해 데이터 처리 최적화
엣지 노드는 자원이 제한적이기 때문에 클라우드 계층에 비해 자원이 더욱 쉽게 소진될 수 있다.
엣지 계층에서 일반적인 DDoS 공격 유형: UDP Flood attacks, SYN Flood attacks, Smurf attacks
– 엣지 장치의 대역폭과 컴퓨팅 자원을 고갈시켜 서비스 중단과 통신 두절을 야기한다.
– UDP는 연결 설정(handshake) 과정이 없는 프로토콜이므로, 대량의 UDP 패킷을 빠르게 전송하여 공격할 수 있다.
– 스머프(Smurf) 공격: 공격자가 타겟 엣지 장치의 IP를 소스 주소로 위조한 ICMP 에코 요청을 브로드캐스트 주소로 전송하여 네트워크 상의 모든 노드가 해당 타겟 장치로 응답 패킷을 보내게 된다. 타겟 엣지 장치는 대량의 응답 패킷을 수신하게 되어 대역폭과 처리 용량이 소진되고 서비스 장애를 일으킨다.
C. Terminal Layer and Security Issues
이 절에서는 단말 계층의 특성과 직면한 보안 위협을 소개한다.
단말 장치: 장치 관리, 실시간 데이터 처리, 엣지 계층으로의 정보 전송 등을 담당, 엣지/클라우드 계층에서의 체계적인 분석 및 의사결정 결과를 다시 받아들여 명령을 실행함으로써 실시간으로 대응한다.
단말 계층과 엣지/클라우드 계층 간 통신은 주로 무선 네트워크에 의존 → 중간자 공격(Man-in-the-Middle)이나 블랙홀/그레이홀 공격에 취약
3. Background of Network-Based Moving Target Defense
cloud-edge-terminal network의 보안 위협을 다루기 위해, MTD가 방어 기술로 제안되었다.
3-A절: 네트워크 계층에서의 MTD, 네트워크 기반 MTD의 기본 개념을 소개
3-B절: MTD 기법을 개발하기 위한 기본 설계 원칙을 정의
3-C절: 기존 네트워크 기반 MTD 기법들을 세 가지 기본 유형으로 분류
A. Cocept of Network-Based Moving Target Defense
공격 표면 개념 처음으로 도입 [28]
MTD 개념 제안 [29]
MTD: 섞기(shuffle), 다양성(heterogeneity), 중복성(redundancy)을 통해 정적인 네트워크 시스템에 동적 역동성(dynamics), 다양성(diversity), 무작위성(randomization)을 부여하여, 공격 표면을 주기적으로 변화시키고 수정함으로써 공격자가 표적을 식별할 기회를 줄이는 것을 의미
MTD 기법들의 분류: 1) dynamic network; 2) dynamic platform; 3) dynamic execution environment; 4) dynamic software; and 5) dynamic data
B. Design Principles
MTD 기법은 무엇을 이동할 것인가, 어떻게 이동할 것인가, 언제 이동할 것인가의 세 가지 질문으로 구성된다.
1) What to Move
동적으로 조정될 수 있는 ‘네트워크의 특성(즉, 공격 표면)’을 의미
네트워크 기반 MTD에서 이동 가능한 네트워크 속성: virtual network, virtual machine, container, IP address, open port, transmission route
실제로 어떤 네트워크 속성을 동적으로 변경할지는 적용되는 네트워크 시나리오와 공격 유형에 따라 결정된다.
2) How to Move
네트워크 속성을 조정하는 방어 전략, 네트워크 시스템의 예측 불가능성과 불확실성을 높인다.
기존 연구들 [33], [64]: 서로 다른 위협에 직면했을 때 MTD의 적용성을 높이기 위해 AI 알고리즘을 활용하여 MTD 방어 전략의 효율을 향상시키는 경향
3) When to Move
일정한 시간이 경과한 후 네트워크 시스템의 현재 공격 표면을 다음 공격 표면으로 이동하는 시점을 의미
적응적 타이밍 전략에 의해 결정된다.
기존 MTD 기법들은 대부분 고정된 변이 주기(constant mutation period)를 채택하여 네트워크 시스템의 공격 표면을 주기적으로 변경한다.
일부 연구에서는 가변 변이 주기에 주목하여, 악의적 행위에 따라 네트워크 시스템의 공격 표면을 능동적으로 조정하는 방안을 제시한다.
C. Network-Based Moving Target Defense Classifications
네트워크 기반 MTD의 세 가지 주요 분류를 소개: 1) 능동적 가상 마이그레이션; 2) 프록시 셔플링; 3) 네트워크 속성 변이
기존 서베이 [19]의 분류 방식: 셔플링, 다양성, 중복성
본 논문: 네트워크 운영 메커니즘에 기반하여 분류
1) Active Virtual Migration
온라인 마이그레이션 기술을 사용하여 가상 머신 또는 컨테이너를 주기적으로 한 물리적 머신에서 다른 물리적 머신으로 이전한다. 가상 머신이나 컨테이너의 위치를 물리적 머신 사이에서 동적으로 조정하여 악의적인 동거(co-residency)를 회피하고 부채널 공격의 전제 조건을 차단하여 가치 있는 정보의 누출이 없도록 한다.
마이그레이션 기술을 활용하면 방어 성능을 향상시킬 수 있다.
– [57]: Nomad라는 가상 머신 마이그레이션 프레임워크를 제안했다.
– [56]: 공격자가 희생자와 동일한 물리 호스트에 동거하고 있는지 판단할 수 있는 부채널 공격에 초점 → SDN 환경에서 마이그레이션 순서와 네트워크 대역폭을 최적화하는 가상 머신 마이그레이션 기법이 설계됐다.
…
2) Proxy Shuffling
DDoS 공격을 지속적으로 유발하는 스파이 사용자(spy user)들을 신속히 걸러내어 차단한다.
특정 프록시가 DDoS 공격에 타격을 받지 않았다면, 해당 프록시에 연결된 모든 사용자가 정상 사용자로 간주될 수 있다.
남은 사용자들을 프록시들 사이에서 지속적으로 섞어주기만 하면, 충분한 반복을 거친 후 스파이 사용자가 식별되고 차단되어 결국 네트워크 서비스의 품질이 보장된다.
3) Network Property Mutation
네트워크 속성(예: IP 주소, 포트, 전송 경로)을 동적으로 변경하여 악성 네트워크 정찰이나 DDoS 등의 여러 유혀으이 사이버 공격을 회피한다. 네트워크 속성 변이를 적용한 MTD 기법은 크게 ‘호스트 변이(host mutation)’와 ‘경로 변이(route mutation)’로 구성된다.
호스트 변이: IP 및 포트 변이, 식별자 변이
경로 변이: SMT(satisfiability modulo theory, 이론 만족성 모듈)
4. Artificial Intelligence-Empowered Moving Target Defense
AI가 MTD의 방어 능력을 어떻게 향상시킬 수 있는지 탐구한다.
A. Intelligent Moving Target Defense on the Cloud Layer
두 가지 측면에서 분석
- 강화학습(RL): 지능적인 마이그레이션 전략을 수립하여, 변화무쌍한 공격 환경에서도 공격에 견딜 수 있는 마이그레이션 결정을 내리는 접근
– MDP를 딥 RL(DRL)과 통합하여 서비스 함수 체인(SFC)의 마이그레이션을 동적으로 조정… - AI 기술을 활용하여 자원 할당을 최적화
– 주소 변이 모듈과 연결 ID 변이 모듈을 통합한 MTD 메커니즘을 도입
B. Intelligent Moving Target Defense on the Edge Layer
단말 노드로부터 유발되는 DDoS 등의 사이버 공격에 직면한다. 이러한 상황에서 엣지 노드를 보호하기 위한 지능형 MTD 방안을 고안하였다. DRL 기법을 통해 연구자들은 DDoS 공격 등의 위협을 대응하는 경로 변이 전략을 개발했다.
- 상황 인식 Q-러닝 알고리즘
- DRL 기반 적응형 트래픽 검사 및 MTD 대응 프레임워크 제안
C. Intelligent Moving Target Defense on the Terminal Layer
전염성 공격 방어
5. Moving Target Defense for Generative Artificial Intelligence Security
MTD가 생성형 AI 응용에 어떻게 활용되어 보안을 향상시키는지 살펴본다.
GAI 기술의 급속한 발전으로 보안 이슈와 전통 보안 메커니즘의 한계를 설명한다.
Visual Image Generation
생성형 AI 기술을 사용하여 현실적인 이미지를 만들어내는 것, 딥러닝 모델을 통해 새로운 시각 콘텐츠를 생성한다.
Distributed GAI Training
분산 GAI 학습은 대규모 데이터를 처리하면서 효율과 모델 성능을 높이기 위해 다수의 노드에서 GAI 모델을 공동 학습하는 방식
LLM-Enabled Anomaly Detection
LLM 기반 이상 탐지는 대규모 자연어 처리 모델의 능력을 활용하여 시스템 로그에서 이상 패턴을 식별하는 방법
주요 보안 도전은 적대적 공격의 은폐와 이상 데이터 확보 및 레이블링의 어려움
A. MTD for Visual Image Generation
적대적 학습 기법을 통해 GAN이 높은 품질의 이미지를 생성할 수 있으나 전통적인 보안 메커니즘으로는 생성형 AI의 트로이 목마 공격이나 적대적 공격을 효과적으로 대응하기에 한계가 있다.
Randomized Model Training
학습 데이터의 서로 다른 부분 집합을 무작위로 선택하거나 생성 모델의 구조(예: 신경망의 층 수나 노드 수)를 변경함으로써 공격자가 모델을 성공적으로 손상시키기 어렵게 만드는 방법
Model Integration
여러 생성 모델의 결과를 결합하여 전체 예측 정확도와 견고성을 향상시키는 기법
B. MTD for Distributed GAI Training
분산 GAI 학습에서 MTD 적용 방안: 1) 모델 학습 단계, 2) 통신 과정
C. MTD for LLM-Enabled Anomaly Detection
이상 탐지 분야에 MTD 전략을 도입한 관련 연구
6. Conclusion and Future Directions
클라우드 계층의 보안 위협에 대응하여 AI 기반 기법들은 선제적 마이그레이션, 적응형 변이, 지능형 셔플링에 중점을 두어, 변화하는 공격 환경 속에서 공격에 견딜 수 있는 마이그레이션 결정을 내리고 있다. 네트워크 엣지에서는 경로 변이, 적응형 트래픽 검사, 패킷 단위 변이와 같은 지능형 전략들을 중심으로 DDoS 공격을 방어한다. 이러한 기법들은 네트워크 경로를 동적으로 조정함으로써 DDoS 공격에 대응하는 것을 목표로 한다. 취약한 단말 노드에 대해서는, AI 기반 기법들이 네트워크 구성 요소를 동적으로 변경하여 단말 네트워크를 다양한 공격(전염성 공격, 제로데이 공격 등)으로부터 강화하고 있다.
A. Insights and Lessons Learned
AI 보안을 위한 MTD는 보다 지능적이고 적응적인 방어 메커니즘을 통해 사이버보안을 강화하는 개척적 전략이다. MTD로 강화된 AI 보안에는 시각적 이미지 생성, 분산 GAI 학습, LLM 기반 이상 탐지 등의 여러 연구 방향이 포함된다. 예를 들어, 확률적 모델 학습과 앙상블 모델은 시스템의 보안성과 복원력을 향상시키는 데 중요한 역할을 한다. 시각적 이미지 생성의 보안 위협에 대응하기 위해 MTD 전략이 무작위 모델 학습과 모델 통합에 활용되고 있다. MTD의 적용은 딥러닝 분야에서 시스템의 다양성을 증대시킨다. 이는 지식 증류를 통해 견고한 멤버 모델들을 확보하고, 동적 스케줄링을 통해 대상 모델을 선택하는 방식 등을 포함한다. 이상 탐지 분야의 보안 위협에 대해서는, 다양한 모델을 학습하고 무작위 아핀 변환을 적용하여 출력 결정을 무작위화하는 등의 방법으로 MTD 전략이 대응하고 있다.
B. Existing Challenges and Future Directions
이 절에서는 최신 MTD 기법들의 현재 과제와 향후 연구 방향을 제시한다. 본 논문에서는 주로 MTD와 AI 기반 네트워크의 통합에 대해 탐구하였지만, 향후 연구에서는 이러한 전략들의 실용적인 응용에서의 효과와 성능을 평가하기 위한 정량적 분석이 추가로 필요하다.
- 시스템 오버헤드: AI 기반 MTD의 경우, AI 모델은 학습 단계에서 상당한 계산 비용을 발생시켜 막대한 시스템 오버헤드를 초래한다. 더구나 AI 모델의 추론 과정 역시 추가적인 시스템 부하를 유발하여 실시간 의사결정과 상충된다. 이에 대한 잠재적 해결책으로는, 성능을 저하시키지 않으면서 시스템 오버헤드를 줄일 수 있는 보다 효율적인 AI 알고리즘(예: 병렬 컴퓨팅, 하드웨어 가속 알고리즘)을 개발하는 것이 있다. MTD로 강화된 AI 보안 측면에서도, MTD를 도입하면 기존 대비 추가적인 컴퓨팅 및 스토리지 자원이 요구되어 시스템 부하가 증가한다. 중요한 해결 방안은 강력한 보안 조치와 계산 효율 사이에서 균형점을 찾는 것이다. 예를 들어, 모델 구조를 단순화하거나 알고리즘을 최적화하여 복잡도를 낮추는 방법 등을 통해 시스템 오버헤드를 감소시키는 연구가 필요하다.
- 모델 정확도와 학습 속도: AI 기반 MTD의 경우, AI 모델의 학습 과정에는 많은 시간이 소요되며, 제한된 시간 내에 원하는 정확도를 달성하는 것이 큰 도전이다. 이에 대한 잠재적 해결책으로는 전이 학습, 메타 학습, 지속 학습 등의 방법을 통해 모델 정확도와 학습 속도 간의 균형을 맞추는 것이 있다. MTD로 강화된 AI 보안의 경우, 무작위 모델 학습과 앙상블 학습 기법은 보안을 향상시킬 수 있지만, 학습 과정을 복잡하게 만들어 모델 수렴이 느려지거나 정확도가 낮아질 수 있다. 이에 대한 해결 방안으로, 빠른 수렴을 위한 알고리즘이나 효율적인 앙상블 학습 기법을 도입하여 학습 모델의 속도와 정확도를 향상시키는 연구가 요구된다.