생성형 AI 개인정보 보호는 ChatGPT와 같은 생성형 AI를 업무에 활용할 때 가장 먼저 확인해야 할 부분입니다.
생성형 AI를 활용하면 이메일 작성, 문서 요약, 고객 문의 정리, 보고서 작성 등 다양한 업무를 빠르게 처리할 수 있습니다. 하지만 업무 과정에서 이름, 연락처, 이메일 주소, 계약 정보, 고객 상담 내용 등이 함께 입력될 수 있다는 점은 주의해야 합니다.
특히 회사 업무에서는 사용자가 단순한 문장 하나를 입력한다고 생각하더라도 그 안에 개인정보나 내부 정보가 포함되어 있을 수 있습니다.
따라서 생성형 AI를 사용할 때는 어떤 데이터를 입력하고 있는지, 해당 정보가 실제로 필요한지, 외부 서비스로 전달되어도 되는지를 먼저 확인해야 합니다.
이 글에서는 생성형 AI에 개인정보를 입력하기 전에 확인해야 할 7가지 기준을 정리합니다.
생성형 AI 개인정보 보호가 중요한 이유
생성형 AI는 사용자가 입력한 내용을 기반으로 결과를 생성합니다.
문제는 사용자가 입력한 데이터가 회사 내부 시스템을 벗어나 외부 AI 서비스로 전달될 수 있다는 점입니다.
예를 들어 고객 상담 내용을 요약하기 위해 전체 대화를 복사한다면 다음과 같은 정보가 포함될 수 있습니다.
- 고객 이름
- 전화번호
- 이메일 주소
- 주소
- 주문번호
- 상담 기록
- 계약 관련 정보
업무 목적이 단순한 상담 내용 요약이라면 이 모든 정보가 필요한 것은 아닐 수 있습니다.
따라서 생성형 AI 개인정보 보호에서는 업무에 꼭 필요한 데이터만 전달하는 것이 중요합니다.
1. 생성형 AI에 입력되는 개인정보부터 확인한다
가장 먼저 확인해야 할 것은 실제로 어떤 정보가 AI에 입력되는지입니다.
개인정보는 주민등록번호처럼 명확한 정보만 의미하지 않습니다. 이름, 이메일 주소, 전화번호처럼 직접 개인을 식별할 수 있는 정보뿐 아니라 여러 정보를 조합했을 때 개인을 알아볼 수 있는 정보도 주의해야 합니다.
예를 들어 다음과 같은 정보는 생성형 AI에 입력하기 전 확인하는 것이 좋습니다.
- 이름
- 연락처
- 이메일 주소
- 상세 주소
- 고객번호
- 계좌 관련 정보
- 고객 상담 내용
필요하지 않은 개인정보라면 입력하지 않는 것이 가장 안전합니다.
2. 개인정보가 정말 업무에 필요한지 확인한다
생성형 AI를 사용할 때 원본 데이터를 모두 제공해야 좋은 결과가 나오는 것은 아닙니다.
예를 들어 고객 문의를 다음과 같이 분류하려고 한다고 가정해보겠습니다.
- 배송 문의
- 교환 문의
- 환불 문의
이 작업을 하는 데 고객의 이름이나 전화번호는 필요하지 않습니다.
따라서 고객 이름을 고객 A와 같은 값으로 변경하거나 연락처를 삭제한 후 문의 내용만 AI에 전달할 수 있습니다.
생성형 AI 개인정보 보호에서 가장 기본적인 원칙은 필요하지 않은 개인정보를 먼저 제거하는 것입니다.
3. 민감한 정보는 그대로 입력하지 않는다
개인정보 중에서도 특히 주의해서 다뤄야 하는 정보가 있습니다.
대표적으로 다음과 같은 데이터입니다.
- 금융 관련 정보
- 건강 관련 정보
- 주민등록번호
- 계좌번호
- 인증 정보
- 개인의 사생활과 관련된 정보
이러한 정보는 업무 목적상 꼭 필요하지 않다면 생성형 AI에 입력하지 않는 것이 좋습니다.
또한 회사 내부의 인사 정보나 고객 계약 정보도 일반적인 문서보다 더 신중하게 다뤄야 합니다.
4. 회사 내부 정보가 포함되어 있는지 확인한다
개인정보가 아니더라도 외부로 전달하면 안 되는 회사 정보가 있을 수 있습니다.
예를 들어 다음과 같은 자료가 있습니다.
- 내부 매출 자료
- 고객사 계약 내용
- 서비스 운영 정보
- 소스코드
- 서버 구성 정보
- 내부 회의록
- 사업 계획 자료
이러한 정보는 회사의 보안 정책에 따라 외부 AI 서비스 입력이 제한될 수 있습니다.
따라서 생성형 AI를 업무에 사용할 때는 개인정보뿐 아니라 회사 기밀정보 포함 여부도 함께 확인해야 합니다.
5. 생성형 AI 서비스의 데이터 처리 정책을 확인한다
생성형 AI 서비스마다 입력 데이터를 처리하는 방식은 다를 수 있습니다.
서비스를 이용하기 전에는 다음 항목을 확인하는 것이 좋습니다.
- 입력 데이터가 저장되는지
- 저장된다면 얼마 동안 보관되는지
- 서비스 개선에 활용되는지
- 데이터가 어디에서 처리되는지
- 사용자가 데이터를 삭제할 수 있는지
개인적으로 사용하는 AI 서비스와 기업용 AI 서비스는 데이터 처리 정책이 다를 수도 있습니다.
따라서 회사에서 생성형 AI를 사용할 경우에는 서비스의 개인정보처리방침과 이용약관을 함께 확인하는 것이 좋습니다.
6. 파일 업로드 전에 개인정보를 다시 확인한다
최근 생성형 AI는 PDF, Word, Excel 등 다양한 파일을 직접 분석할 수 있습니다.
하지만 파일에는 사용자가 생각한 것보다 많은 정보가 포함되어 있을 수 있습니다.
예를 들어 엑셀 파일의 첫 번째 시트만 분석하려고 했더라도 다른 시트에 고객 정보가 포함되어 있을 수 있습니다.
문서의 경우에도 주석, 작성자 정보, 숨겨진 데이터 등이 포함될 수 있습니다.
따라서 파일을 업로드하기 전에는 다음을 확인하는 것이 좋습니다.
- 개인정보 포함 여부
- 불필요한 시트 존재 여부
- 회사 내부 정보 포함 여부
- 숨겨진 데이터 또는 주석 존재 여부
가능하다면 필요한 부분만 별도의 파일로 만들어 사용하는 것이 안전합니다.
7. AI가 생성한 결과도 다시 확인한다
생성형 AI 개인정보 보호는 입력 단계에서 끝나는 것이 아닙니다.
AI가 생성한 결과에 입력했던 개인정보가 다시 포함될 수 있기 때문입니다.
예를 들어 고객 상담 내용을 요약하도록 요청했다면 결과에도 고객 이름이나 주문번호가 포함될 수 있습니다.
이 결과를 이메일, 보고서 또는 사내 문서에 그대로 전달하면 불필요한 개인정보가 다시 확산될 수 있습니다.
따라서 AI가 생성한 결과물은 다른 사람에게 전달하기 전에 개인정보 포함 여부를 한 번 더 확인하는 것이 좋습니다.
생성형 AI 개인정보 입력 전 체크리스트
생성형 AI를 업무에 사용하기 전에는 다음 질문을 확인해보면 좋습니다.
- 실제 개인정보가 포함되어 있는가?
- 해당 개인정보가 AI 작업에 꼭 필요한가?
- 이름과 연락처를 제거할 수 있는가?
- 회사 내부 정보가 포함되어 있는가?
- AI 서비스가 입력 데이터를 저장하는가?
- 외부 서버로 데이터가 전달되는가?
- AI 결과물에 개인정보가 다시 포함되는가?
이 질문 중 명확하게 답하기 어려운 항목이 있다면 데이터를 그대로 입력하기 전에 한 번 더 확인하는 것이 좋습니다.
생성형 AI 개인정보는 최소한으로 사용하는 것이 중요하다
생성형 AI는 업무 효율을 높이는 매우 유용한 도구입니다.
하지만 AI를 사용하는 과정에서 개인정보가 필요 이상으로 전달되면 편리함보다 더 큰 문제가 발생할 수 있습니다.
따라서 생성형 AI 개인정보를 안전하게 관리하려면 원본 데이터를 그대로 입력하기보다 먼저 필요한 정보와 필요하지 않은 정보를 구분해야 합니다.
개인정보를 삭제하거나 가명 처리하고, 회사 내부 정보가 포함되어 있는지 확인하며, 사용하는 AI 서비스의 데이터 처리 정책까지 살펴보는 것이 좋습니다.
결국 안전한 생성형 AI 활용의 핵심은 많은 정보를 제공하는 것이 아니라 필요한 데이터만 정확하고 안전하게 사용하는 것입니다.
함께 읽으면 좋은 글