BLACKBOLD'S VIEW
사내 AI의 좋은 답은 필요한 근거를 찾고, 그 근거를 볼 권한이 있는 사람에게만 보여주는 데서 시작합니다. 자료 연결과 접근 권한을 같은 설계로 다뤄야 합니다.
NIST의 접근 제어 원칙과 문서 검색의 맥락 문제를 함께 살폈습니다. 아래의 검색·권한 시험 방법은 이를 업무 시스템에 적용하기 위한 Blackbold의 제안입니다.
데이터 연결에 성공해도 업무에 바로 쓸 수는 없습니다
API가 정상 응답한다고 필요한 정보를 신뢰할 수 있는 것은 아닙니다. 조회한 재고가 언제 갱신됐는지, 예약 물량을 포함하는지, 요청한 직원이 그 고객 정보를 볼 권한이 있는지까지 알아야 합니다. Blackbold는 연결 목록에 시스템 이름뿐 아니라 데이터의 의미, 갱신 주기, 허용 사용자를 함께 기록할 것을 제안합니다. 접근이 불가능한 정보는 다른 경로로 우회해 가져오는 대신 확인이 필요하다고 표시해야 합니다.
검색 결과에도 원본의 접근 권한을 유지해야 합니다
문서를 검색용 저장소에 옮길 때 원본 시스템의 접근 제한이 빠지면 검색 편의가 보안 문제로 바뀔 수 있습니다. 가상의 사내 지식 검색 프로젝트라면 부서별 공개 범위가 다른 문서를 섞어 시험하고, 권한 변경 후 결과가 어떻게 달라지는지 확인해야 합니다. 문서의 버전과 출처도 답변 근거에 연결하세요. 답이 틀렸을 때 오래된 원문 때문인지 검색 과정 때문인지 구분할 수 있어야 합니다.

연결 하나를 검증한 뒤 재사용할 규칙을 정해야 합니다
처음부터 여러 에이전트를 동시에 붙이기보다 사용 빈도가 높은 자료 하나를 선택해 조회와 오류 처리를 안정화할 수 있습니다. 정상 응답, 권한 거절, 오래된 데이터, 연결 실패를 각각 구분해 기록합니다. 같은 기준을 다음 연결에도 적용하면 운영 담당자가 시스템마다 다른 로그를 해석하는 부담이 줄어듭니다. 확장 여부는 연결 수가 아니라 실제 업무를 안전하게 끝낼 수 있는지로 판단하는 편이 좋습니다.
같은 질문도 사용자에 따라 답할 수 있는 범위가 다릅니다
급여 규정의 일반 안내는 여러 직원이 읽어도 되지만 개인별 급여 자료는 그렇지 않습니다. 검색 대상 문서를 전부 한 묶음에 넣고 마지막 답변에서만 숨기려 하면 중간 요약이나 기록을 통해 정보가 드러날 수 있습니다. 검색하는 단계에서 사용자의 권한을 확인하는 방식이 필요합니다.
가상의 구매 담당자와 영업 담당자가 같은 공급사 정보를 묻는 상황을 시험해 보세요. 각자 필요한 자료만 가져오는지, 권한이 없는 문서의 존재까지 불필요하게 노출하지 않는지 확인합니다. 권한 관리자는 예외 요청의 승인과 기간도 기록해야 합니다.

검색이 잘되는 문장과 업무에 맞는 답변은 다릅니다
비슷한 표현이 들어 있는 문서가 검색됐다고 필요한 근거를 찾은 것은 아닙니다. 예전 계약, 다른 상품, 다른 지역의 규정일 수 있습니다. 검색 결과에는 회사·상품·지역·시점처럼 적용 범위를 판단하는 정보를 함께 넣습니다. 정확한 코드나 문서 번호로 찾는 방법도 유지합니다.
Blackbold는 답변을 자연스럽게 만드는 기능보다 잘못된 근거를 배제하는 검사를 먼저 정할 것을 권합니다. 근거가 없으면 추측해서 문장을 채우는 대신, 어떤 자료가 필요한지와 담당자에게 확인할 항목을 보여주는 것이 업무에 더 도움이 됩니다.
조직이 바뀌면 검색 권한도 다시 확인합니다
팀 이동, 퇴사, 외부 협력사 계약 종료가 생기면 계정과 자료 권한을 함께 갱신해야 합니다. 원본 문서에서는 접근을 막았는데 AI 검색용 사본은 남아 있는 문제가 생기지 않도록 연결 상태를 확인합니다. 이 책임을 수작업 메모에만 두지 않고 처리 목록과 확인 기록으로 만듭니다.
검색 성능 검사는 정답 질문뿐 아니라 권한 없는 질문, 오래된 규정, 이름이 비슷한 문서와 근거가 없는 질문을 포함합니다. 담당자는 실패 사례를 모아 자료의 문제와 검색 방식의 문제를 나누어 수정합니다.
적용 전에는 다음 항목을 확인해야 합니다
- 검색 단계에서 사용자별 접근 권한을 확인하는가?
- 문서의 회사·상품·시점이 답변 대상과 일치하는가?
- 팀 이동·퇴사·문서 삭제를 검색 사본에도 반영하는가?
핵심 용어는 이렇게 이해하면 됩니다
- RAG
- 필요한 자료를 먼저 찾고 그 내용을 참고해 AI가 답하게 하는 방식. 검색 증강 생성이라고 합니다.
- 접근 제어
- 누가 어떤 자료를 읽거나 바꿀 수 있는지 확인하고 제한하는 기능입니다.
참고 자료는 다음 범위에서 활용했습니다
- Building the foundations for agentic AI at scale (새 창)McKinsey & Company · 2026.04.02
McKinsey는 에이전트 확장의 기반으로 데이터 품질, 공통 의미, 접근 통제와 추적 가능성을 강조합니다. 기존 플랫폼을 모두 교체하기보다 상호 연결과 거버넌스를 강화하는 점진적 접근을 제시합니다.
- Zero Trust Architecture (SP 800-207) (새 창)NIST · 2020.08.11
내부 사용자라는 이유만으로 자료 접근을 허용하지 않는 원칙입니다.
일반적인 정보보안 설계 자료이며, AI 검색 정확도나 자동화 성과를 입증하는 연구는 아닙니다.
- Introducing Contextual Retrieval (새 창)Anthropic · 2024.09.19
문서를 나누어 검색할 때 잃기 쉬운 맥락을 다룹니다.
공급사가 제시한 검색 방법과 평가입니다. 해당 결과를 우리 회사 자료의 정확도나 절감률로 환산할 수 없습니다.
- Demystifying evals for AI agents (새 창)Anthropic · 2026.01.09
에이전트의 최종 답변뿐 아니라 실제 작업 결과를 평가합니다.
구현 방법을 설명하는 기술 자료입니다. 평가 도구를 갖추었다는 사실만으로 현장 품질이 보장되지는 않습니다.
공개 자료를 비교하고 Blackbold의 업무·조직·시스템 설계 관점으로 정리했습니다. 본문의 가상 예시는 적용 방법을 설명하기 위한 것이며 고객 실적이 아닙니다. 출처 기관과의 제휴나 승인을 의미하지 않습니다.
주간 회차 기준일 2026.07.13 · 실제 게시 및 자료 확인 2026.10.19
이 관점을 실제 업무로 연결하려면
AI 에이전트 개발 알아보기


