AI 멀티테넌트 보안 설계: 고객사 데이터가 서로 섞이지 않게 만드는 방법

AI 멀티테넌트 보안이라는 새로운 과제

최근 기업용 인공지능 도입이 폭발적으로 증가하면서 데이터 보안의 패러다임이 완전히 바뀌고 있습니다. 과거에는 사내 서버나 클라우드에 데이터를 안전하게 보관하는 것만으로 충분했지만 대규모 언어 모델과 생성형 인공지능이 보편화된 지금은 전혀 다른 차원의 문제가 대두되었습니다. 여러 기업이 하나의 인공지능 인프라를 동시에 사용하는 멀티테넌트 환경에서 A사 고유의 영업 기밀이나 B사 고객의 개인정보가 서로 섞이거나 유출되는 사고를 원천적으로 방지해야 하는 상황이 되었습니다.

멀티테넌트 아키텍처는 하나의 소프트웨어 인스턴스로 여러 고객사를 서비스하는 방식을 의미합니다. 클라우드 컴퓨팅 환경에서는 비용을 절감하고 자원을 효율적으로 활용하기 위해 필수적인 구조이지만 인공지능과 결합할 때는 치명적인 약점이 될 수 있습니다. 인공지능 모델은 입력된 데이터를 학습하거나 문맥을 파악하는 과정에서 정보를 기억하기 때문에 철저한 보안 설계가 없다면 한 고객사의 질문이나 데이터가 다른 고객사의 답변에 예기치 않게 노출될 위험이 존재합니다.

데이터가 섞이지 않도록 만드는 핵심 기술과 접근법

고객사 간의 데이터 격리를 완벽하게 달성하기 위해서는 다중 계층의 보안 전략이 필요합니다. 단순히 소프트웨어 레벨에서 접근 권한만 나누는 것으로는 부족하며 데이터 저장부터 모델 처리 과정까지 전 구간에 걸쳐 철저한 분리가 이루어져야 합니다.

논리적 격리와 물리적 격리의 조화

가장 기본이 되는 방법은 데이터베이스와 저장소 단계에서의 격리입니다. 모든 고객사가 동일한 데이터베이스를 사용하되 각 레코드에 고유의 테넌트 아이디를 부여해 접근을 통제하는 방식을 논리적 격리라고 합니다. 이는 비용 측면에서 매우 효율적이지만 보안 설정에 미흡한 부분이 생기면 데이터가 섞일 위험이 있습니다. 반면 대기업이나 금융권처럼 보안이 극도로 중요한 고객사를 위해서는 전용 서버나 인스턴스를 할당하는 물리적 격리 방식을 혼용하는 것이 안전합니다.

검색 증강 생성 환경에서의 철저한 권한 관리

최근 기업용 인공지능에서 가장 널리 쓰이는 검색 증강 생성 시스템은 사내 문서를 참조하여 답변을 생성합니다. 이때 인공지능이 아무 문서나 참조하게 두면 A사 직원이 B사의 연봉 협상 문서 내용을 인공지능을 통해 조회하는 불상사가 발생할 수 있습니다. 이를 막기 위해 벡터 데이터베이스를 구축할 때부터 문서마다 엄격한 메타데이터 기반의 접근 제어 권한을 설정해야 하며 인공지능이 질문을 받았을 때 해당 사용자가 속한 테넌트의 문서만 검색하도록 시스템을 설계해야 합니다.

실생활에서 마주하는 보안 취약점과 오해

인공지능 보안에 대해 많은 기업 실무자들이 쉽게 오해하는 부분들이 있습니다. 이러한 오해를 바로잡는 것이 안전한 인공지능 활용의 첫걸음입니다.

• 상용 인공지능 서비스를 쓰면 알아서 데이터가 분리된다는 생각은 위험합니다. API를 통해 제공되는 서비스라도 엔터프라이즈 전용 플랜을 사용하지 않거나 프롬프트 관리 소홀로 인해 데이터가 학습에 활용될 수 있습니다.

• 암호화만 해두면 안전하다는 믿음도 오해입니다. 데이터가 전송될 때나 저장될 때 암호화하는 것은 기본이지만 인공지능이 메모리 상에서 데이터를 처리하는 과정이나 모델의 가중치에 정보가 녹아드는 현상은 암호화만으로 막기 어렵습니다.
• 공개된 오픈소스 모델을 사내에 직접 설치하면 보안 문제가 완전히 해결된다는 생각도 반만 맞습니다. 인프라는 사내에 있어도 여러 부서나 자회사 간에 멀티테넌트 구조로 운영된다면 여전히 내부 데이터 유출 방지 설계를 거쳐야 합니다.

비용 효율적이면서 안전한 보안 설계 팁

보안을 강화하려면 막대한 비용이 들 것이라는 선입견이 있지만 아키텍처를 현명하게 설계하면 비용을 아끼면서도 높은 수준의 보안을 유지할 수 있습니다.

• 모든 고객사에게 최고 등급의 물리적 격리를 제공하는 대신 위험 기반 세분화 전략을 사용하세요. 민감도가 낮은 일반 데이터를 다루는 테넌트는 강력한 논리적 격리로 처리하고 금융이나 의료 등 규제가 엄격한 테넌트에게만 추가 비용을 받고 물리적 격리를 제공하는 방식이 효율적입니다.
• 대규모 언어 모델을 직접 처음부터 학습시키는 것은 비용 낭비이므로 피해야 합니다. 대신 오픈소스 모델을 안전한 사내 환경에 다운로드한 뒤 철저히 통제된 프롬프트 엔지니어링과 가드레일 솔루션을 결합하는 것이 훨씬 경제적입니다.
• 데이터 접근 로그를 실시간으로 모니터링하는 자동화된 감사 시스템을 구축하세요. 사람이 직접 점검하는 것보다 비용이 적게 들며 이상 징후를 조기에 발견하여 대형 사고로 이어지는 것을 막아줍니다.

보안 설계를 위한 실무 지침과 프로세스

기술적인 도구 도입만큼 중요한 것이 기업 내부의 프로세스 정립입니다. 개발팀과 보안팀이 초기 기획 단계부터 긴밀하게 협력해야 합니다.

가장 먼저 테넌트 컨텍스트 전파 메커니즘을 구현해야 합니다. 사용자가 인공지능에 요청을 보낼 때부터 응답을 받아올 때까지 모든 내부 API 호출 과정에 해당 사용자가 어떤 테넌트에 속해 있는지 식별하는 정보가 꼬리표처럼 따라다니도록 만들어야 합니다. 이 꼬리표가 누락되거나 변조될 수 없도록 토큰 검증 절차를 각 마이크로서비스 단계마다 배치하는 것이 안전합니다.

또한 주기적인 모의 해킹과 취약점 진단을 멀티테넌트 인공지능 환경에 특화된 방식으로 실시해야 합니다. 일반적인 웹 해킹 테스트 외에도 인공지능의 특성을 악용하여 다른 테넌트의 데이터를 유도해내는 프롬프트 인젝션 공격 테스트를 정기적으로 수행하여 시스템의 허점을 사전에 찾아내야 합니다.

자주 묻는 질문

우리 회사의 데이터가 다른 기업의 인공지능 학습에 사용될까요

공개된 무료 인공지능 서비스를 이용할 경우 입력한 데이터가 모델 학습에 활용될 수 있어 주의가 필요합니다. 하지만 기업용 엔터프라이즈 API나 전용 클라우드 서비스를 이용하고 명시적으로 데이터 학습 거부 옵션을 설정한다면 고객사의 데이터는 학습에 절대 사용되지 않고 격리된 상태로 유지됩니다.

논리적 격리만으로도 금융권 수준의 보안을 충족할 수 있나요

금융이나 공공 부문과 같이 보안 규제가 매우 엄격한 곳에서는 논리적 격리만으로는 감사 기관의 승인을 받기 어려운 경우가 많습니다. 이 경우 가상 사설 클라우드 환경을 분리하거나 전용 하드웨어를 할당하는 물리적 격리 방식을 병행하는 것이 일반적입니다.

인공지능 모델이 스스로 기억한 타사의 정보를 유출할 수도 있나요

이를 대형 언어 모델의 기억 현상이라고 부르며 이론적으로는 가능합니다. 이를 방지하기 위해 학습 데이터에서 민감 정보를 사전에 철저히 비식별화하는 전처리 과정을 거쳐야 하며 모델의 출력 결과물에서 민감한 키워드나 패턴을 실시간으로 감지하고 차단하는 필터링 시스템을 반드시 장착해야 합니다.