AX 보안 설계: 개인정보와 업무 데이터를 안전하게 쓰는 법

AX 프로젝트에서 보안은 나중에 붙이는 체크리스트가 아닙니다. AI는 여러 시스템의 데이터를 조합해 결과를 만들기 때문에, 기존 기능보다 데이터 노출 위험이 커질 수 있습니다. 특히 개인정보, 계약 정보, 고객 메모, 내부 평가처럼 민감한 데이터가 포함되면 초기 설계부터 기준을 정해야 합니다.

보안을 너무 늦게 보면 프로젝트는 거의 완성된 뒤 멈춥니다. 반대로 처음부터 보안 기준을 잡으면 자동화 범위도 더 명확해지고 운영 신뢰도도 올라갑니다.

AI가 볼 수 있는 데이터와 볼 수 없는 데이터를 나눈다

첫 번째 단계는 데이터 분류입니다. 모든 데이터를 AI에 넣는 것이 아니라 업무 목적에 필요한 데이터만 넣어야 합니다. 그리고 민감도에 따라 처리 방식을 다르게 해야 합니다.

데이터 분류가 없으면 개발자는 편의를 위해 많은 데이터를 넣게 되고, 운영자는 나중에 위험을 발견합니다.

프롬프트에 넣기 전 마스킹한다

AI 모델에 데이터를 보내기 전 개인정보를 줄이는 것이 기본입니다. 이름, 전화번호, 이메일, 주민번호, 주소, 계좌번호 등은 업무 목적에 꼭 필요하지 않다면 마스킹해야 합니다.

마스킹은 단순히 숨기는 것만이 아닙니다. 업무에 필요한 맥락은 유지해야 합니다. 예를 들어 고객 이름은 “고객 A”로 바꾸고, 전화번호는 제거하되, 고객 등급이나 문의 유형은 유지할 수 있습니다.

권한은 사용자 기준으로 적용한다

AI 기능은 별도의 초권한 계정처럼 동작하면 안 됩니다. 사용자가 볼 수 없는 데이터는 AI도 참고하면 안 됩니다. 특히 문서 검색, CRM 요약, 리포트 생성 기능에서 권한 필터링이 중요합니다.

권한 설계 원칙은 단순합니다.

• 사용자의 역할을 확인한다
• 접근 가능한 데이터만 검색한다
• 결과에도 권한 밖 정보가 섞이지 않게 한다
• 모든 조회와 생성 로그를 남긴다

AI가 만든 답변도 권한의 결과물입니다. 입력뿐 아니라 출력도 통제 대상입니다.

외부 모델 사용 기준을 정한다

외부 AI 모델을 사용할 때는 어떤 데이터가 외부로 나가는지 명확히 해야 합니다. 모델 제공자의 데이터 보관 정책, 지역, 암호화, 로그 정책도 확인해야 합니다. 민감 업무에서는 외부 모델로 보낼 수 있는 데이터와 내부 처리해야 하는 데이터를 나눠야 합니다.

프로젝트 시작 전에 다음을 결정합니다.

• 외부 모델에 보낼 수 있는 데이터 범위
• 반드시 제거해야 하는 필드
• 로그에 남길 수 있는 정보
• 모델별 사용 가능 업무
• 고객사별 데이터 처리 예외

이 기준이 없으면 기능이 늘어날수록 보안 판단이 흔들립니다.

결론

AX 보안 설계는 자동화를 막는 장치가 아니라 자동화를 운영 가능하게 만드는 장치입니다. 데이터 분류, 마스킹, 권한, 로그, 외부 모델 기준이 명확하면 더 많은 업무를 안전하게 자동화할 수 있습니다.

AI가 업무 데이터를 다루는 순간 보안은 기술팀만의 문제가 아닙니다. 사업, 운영, 법무, 보안, 개발이 함께 정해야 하는 운영 기준입니다.