공공 기관은 엄격한 규제와 보안 요구, 제한된 예산 환경 속에서도 더 빠르고 효과적인 서비스를 제공해야 하는 압박을 받고 있습니다. 이러한 상황에서 에이전틱 AI(Agentic AI)는 복잡한 업무 흐름 전반에 걸쳐 스스로 계획하고, 추론하며, 실행하는 자율 시스템을 가능하게 함으로써 공공 서비스의 설계와 운영 방식을 근본적으로 바꾸고 있습니다.
그러나 공공 부문에서의 핵심 과제는 “에이전틱 AI가 가치가 있는가”가 아닙니다. 문제는 이를 얼마나 책임감 있고, 안전하며, 효율적으로 운영할 수 있는가이며, 결국 핵심은 인프라 설계입니다.
Zadara는 공공 기관이 통제력(Control), 규제 준수(Compliance), 운영 효율성을 모두 충족할 수 있는 소버린 클라우드 인프라 위에서 에이전틱 AI를 안정적으로 운영할 수 있도록 지원합니다.
또한 Zadara 인프라는 NVIDIA 인증을 획득하여 신뢰성을 확보했습니다.
에이전틱 AI가 요구하는 인프라: 24시간 지속 운영과 효율성
에이전틱 AI 시스템은 단순히 업무 시간에만 동작하지 않습니다. 24시간 지속적으로 운영되며, 기존 공공기관의 사용 패턴과는 맞지 않는 특성을 가집니다.
동시에 공공 예산은 GPU와 같은 고가 자원의 최대한 효율적인 활용을 요구합니다. 여기서 구조적인 문제가 발생합니다.
최대 수요를 기준으로 구축된 GPU 인프라는 대부분의 시간, 특히 업무 시간 외에는 유휴 상태로 남게 되는 경우가 많기 때문입니다. Zadara는 이러한 문제를 멀티 테넌트 아키텍처를 통해 해결합니다.
GPU 활용도를 극대화하는 멀티 테넌시
Zadara의 소버린 멀티 테넌트 AI 팩토리(Sovereign Multi-Tenant AI Factory)는 여러 공공 기관이나 부서가 엄격한 격리와 거버넌스 기준을 유지하면서도 GPU 인프라를 안전하게 공유할 수 있도록 설계되었습니다.
각 기관은 성능, 보안, 데이터 접근 정책이 정의된 개별 ‘소버린 AI 마이크로 클라우드’ 환경에서 독립적으로 운영됩니다. 동시에 GPU 자원은 플랫폼 레벨에서 동적으로 관리 및 최적화됩니다.
이를 통해 다음과 같은 효과를 얻을 수 있습니다.
-
24시간 연중무휴 GPU 자원 활용 극대화
-
수요 기반의 안전한 테넌트 간 GPU 할당
-
주권과 격리를 유지하면서 유휴 자원의 신속한 재할당
예를 들어, 주로 업무 시간에 AI 자원을 사용하는 공공기관의 경우, 업무 종료 후 남는 GPU 자원은 배치 분석, AI 학습, 야간 처리 작업을 수행하는 다른 기관에 자동으로 할당됩니다. 그리고 다음 날 업무가 시작되면 다시 원래 기관으로 자원이 복귀합니다. 이는 단순한 자원 공유가 아니라, 설계된 방식으로 자동 최적화되는 자원 오케스트레이션입니다.
주권과 효율성, 더 이상 트레이드오프가 아니다
일반적으로 소버린 인프라는 자원을 자유롭게 공유하기 어렵기 때문에 비효율적이라고 여겨집니다.
Zadara는 이 전제를 근본적으로 뒤집습니다.
하드웨어가 아닌 테넌시 수준에서 주권을 보장함으로써 다음을 동시에 달성합니다.
-
강력한 데이터 주권 및 관할권 통제
-
기관 간 GPU 자원의 효율적 활용
-
각 테넌트별 예측 가능한 성능 보장
이러한 구조는 공공 부문에서 종종 상충되는 목표로 여겨졌던 안정성과 비용 효율성을 동시에 달성합니다.
NVIDIA 파트너십 기반, 검증된 AI 인프라
Zadara의 GPU 자원 오케스트레이션 역량은 NVIDIA와의 협력과 NVIDIA 클라우드 파트너 인증 기준 준수를 통해 검증되었습니다. Zadara의 AI 팩토리는 GPU 가속, AI 워크로드, 멀티 테넌시, 고성능 네트워킹을 포함하는 NVIDIA 레퍼런스 아키텍처를 기반으로 설계되었습니다. 이를 통해 GPU 자원의 동적 할당 및 재할당 과정에서도 성능, 안정성, 운영 지원 품질이 저하되지 않도록 보장합니다.
공공 기관 입장에서는, 이 인증이 공유 GPU 인프라에서도 안정적으로 에이전틱 AI를 운영할 수 있다는 신뢰의 기준이 됩니다.
공공 부문 전반으로 확장 가능한 에이전틱 AI
Zadara 아키텍처는 다양한 규모의 환경에서 일관된 방식으로 적용됩니다.
-
개별 기관 및 지자체 환경
-
지역 단위 공동 서비스 플랫폼
-
국가 단위 소버린 NeoCloud 인프라
모든 환경에서 동일한 멀티 테넌트 모델이 적용되며, 각 기관은 데이터, 정책, 워크로드에 대한 통제권을 유지하면서도 GPU 자원을 공동 활용할 수 있습니다.
이를 통해 정부는 고가의 GPU 인프라를 중복 구축하지 않고도 여러 기관에 걸쳐 에이전틱 AI를 효율적으로 확장할 수 있습니다.
검증된 소버린 클라우드 운영 사례
이미 국가 및 지역 단위의 다양한 소버린 클라우드 구축 사례를 통해, 이 모델은 실질적으로 운영 가능함이 입증되었습니다.
이러한 사례는 공유되면서도 독립적인 인프라 구조가 규제 준수를 유지하면서도 회복탄력성, 운영 효율성, 공공 가치를 동시에 향상시킬 수 있음을 보여줍니다.
또한 공공 AI가 단순한 PoC를 넘어 지속 가능한 운영 서비스 단계로 전환될 수 있음을 증명합니다.
