AEGIS-RM 과제 수주, 제조 AI 로봇의 지능보호와 보안 실행 기술 개발 착수

한국전자기술연구원 인공지능데이터·보안연구센터가 서울대학교, (주)엔키화이트햇, 로보웍스(주), (주)경우정밀과 함께 제안한 정부 R&D 과제가 최종 선정되어, 최근 협약을 마치고 본격적인 연구에 들어갔습니다.

과제는 산업통상부와 한국산업기술기획평가원(KEIT)이 지원하는 2026년도 로봇산업기술개발사업의 "제조 핵심기술 보호를 위한 AI 로봇/휴머노이드의 지능보호 및 보안 실행 기술 개발"입니다. 과제명은 AEGIS-RM(Action-aware Edge-Guarded Intelligence and Secure-execution for Robots and Manufacturing)으로 줄여 부르며, 2026년 8월부터 2029년 12월까지 4년간 한국전자기술연구원이 주관합니다.

과제 목표

생성형 AI가 로봇 안으로 들어오면서 AI가 글 대신 행동을 출력하는 시대가 되고 있습니다. 제조 현장의 로봇에는 작업 궤적, 그립 자세(grasp pose), 정렬 기준, 프레스 공정 파라미터 같은 숙련자의 노하우가 학습되어 들어가는데, 모델이 탈취되거나 역추론되면 이 노하우도 함께 밖으로 나갈 수 있습니다. 또 VLA나 로봇 파운데이션 모델(RFM)의 잘못된 출력은 곧바로 모터 동작으로 이어지기 때문에, 기존 IT 보안이나 기능안전만으로는 대응하기 어려운 부분이 있습니다.

AEGIS-RM은 학습, 추론, 제어 전 주기에 걸쳐 로봇 지능과 그 안에 담긴 제조 지식을 지키는 보안 플랫폼을 만드는 것을 목표로 합니다.

AS-IS 경우정밀 제조 현장에서 AEGIS-RM 보안 아키텍처 스택을 거쳐 TO-BE 보호된 스마트 팩토리로 가는 구성도. 스택은 위에서부터 정책 관측성과 Agentic AI, 산업 지식과 모델 보호, 지능-제어 분리, 신뢰 운영 환경, 엣지 하드웨어의 다섯 층이다 — AEGIS-RM 보안 아키텍처: 숙련자 암묵지에 의존하는 현장(AS-IS)에서 공정 지식이 보호되는 스마트 팩토리(TO-BE)로

주요 기능

엣지에서 동작하는 로봇 지능(RFM)을 가운데 두고 네 겹으로 보호하고 방어하는 구조입니다.

TEE 기반 신뢰 실행 환경: 하드웨어 격리 영역에서의 기밀 추론, 컨테이너 인증으로 종적 이동 차단
내재화 지식 보호: 학습데이터 오염과 백도어 방지, 비가역 학습과 워터마킹으로 모델 속 노하우 보호
지능-제어 분리와 이상 탐지: 직접, 간접, 시각 프롬프트 인젝션과 제어 파라미터 위변조, 행동 기반 이상동작 탐지
제로트러스트 정책과 통합관제: ZTA 관제와 비상정지, 사내 지식(KB/ERP) 유출 방지

엣지 AI RFM을 중심으로 TEE 신뢰 실행, 모델과 학습데이터 보호, 프롬프트 인젝션과 이상동작 탐지, ZTA 관제와 사내지식 보호의 네 겹 원이 둘러싼 그림과 각 항목의 담당 기관 로고 — 4단계 방어 체계: 1 TEE 신뢰 실행, 2 모델과 학습데이터 보호, 3 지능-제어 분리와 이상 탐지, 4 제로트러스트 관제

이를 위해 여섯 개 보안 모듈을 개발합니다.

HW 신뢰 실행 환경(M1): ARM TrustZone/OP-TEE 기반 TEE 런타임, Secure Boot와 원격 증명, Confidential Containers
지능-제어 분리 프레임워크(M2): 판단과 제어 영역의 분리, 실시간 의미/물리 안전 게이트에 의한 명령 검증, 다층 프롬프트 주입 방어
행위 기반 이상탐지(M3): 통계, 역동역학 모델, 딥러닝을 결합한 물리잔차 하이브리드 탐지, 사이버 유발 이상과 기계 결함의 구분
AI 모델 보호(M4): 모델 추출 탐지, 행동공간 워터마킹, TEE 기반 안전 추론
보안 학습 파이프라인(M5): 작업 성능을 유지하는 비가역 학습, RFM 학습 파이프라인과 KB/ERP 커넥터 보안
통합 보안 관제와 자율 대응(M6): SIEM 상관분석, ZTA(OPA) 정책 엔진, XAI 대시보드, 사람 승인(HITL)을 결합한 자율 보안 대응

모델 역추론 성공률 30% 이하, 비정상 접근 탐지와 차단율 90% 이상을 목표로 하며, 보안을 적용해도 공정 품질과 작업 성능이 유지되는지 함께 검증할 계획입니다.

공동연구기관과 역할

보안과 로봇, 두 축으로 컨소시엄을 구성했습니다.

한국전자기술연구원(주관): 인공지능데이터·보안연구센터가 이상탐지, 보안 학습, 관제와 자율 대응을, 지능로보틱스연구센터가 지능-제어 분리와 플랫폼 정합을 맡습니다
서울대학교: HW-TEE, TEE 추론, Confidential Containers, 비가역 학습
(주)엔키화이트햇: 레드팀과 침투테스트, 모델 보호 검증, 보안 관제
로보웍스(주): 로봇 플랫폼과 테스트베드, 커넥터 보안
(주)경우정밀: 수요기업으로서 브레이크 드럼 프레스 공정과 데이터 제공, 현장 실증

Secure Physical AI 지붕 아래 KETI 주관(인공지능데이터·보안연구센터, 지능로보틱스연구센터)과 AI 보안 축의 서울대학교, 엔키화이트햇, AI 로봇 축의 로보웍스, 경우정밀이 놓인 추진 체계도. 아래에 실증 기반으로 브레이크 드럼 pick-and-place 테스트베드가 있다 — 추진 체계: 보안과 로봇 두 기둥. 실증은 브레이크 드럼 pick-and-place 테스트베드(Franka FR3, NVIDIA Jetson Thor, ROS2, K3s)에서

실증은 경우정밀의 실제 프레스 공정에서 원통형 부품을 집어 정렬하고 양손 버튼으로 프레스를 기동하는 작업부터 시작해, 검수, 적재, 이동 플랫폼으로 넓혀 갈 예정입니다.

앞으로

함께 제안하고 준비해 주신 공동연구기관 여러분께 감사드립니다. 앞으로 4년 동안 공동연구기관과 긴밀히 협력해, 제조 현장에서 믿고 쓸 수 있는 AI 로봇 보안 기술로 좋은 성과를 낼 수 있도록 노력하겠습니다. 과제 진행 상황은 이 소식란을 통해 계속 전해 드리겠습니다.

물리보안이나 휴머노이드처럼 가까운 분야에서 협력에 관심 있으신 분은 협력 페이지로 연락 주세요. 센터의 다른 과제는 과제 페이지에 있습니다.