AI 에이전트를 운영하기 전에 정할 다섯 가지

정보를 읽는 권한과 실행하는 권한을 구분해야 합니다

문서를 읽는 권한과 데이터를 수정하는 권한은 다릅니다. 사용자와 업무별로 허용할 데이터와 도구를 정하고, 에이전트가 연결된 계정의 권한이 필요 이상으로 넓지 않은지 확인하세요. 검색 결과에도 원래 자료의 접근 제한이 유지되어야 합니다.

외부로 메시지를 보내거나 중요한 데이터를 변경하는 작업은 결과의 영향을 먼저 살펴야 합니다. 검토자가 내용과 근거를 확인할 수 있는 시점에 승인을 배치하세요. 승인이 없거나 판단이 어려울 때 작업을 보류하는 경로도 필요합니다.

정상 사례만으로는 운영 품질을 설명하기 어렵습니다. 정보가 부족한 요청, 상충하는 문서, 도구 오류, 권한이 없는 요청도 평가에 포함하세요. 모델이 답을 하지 않고 확인을 요청해야 하는 경우까지 완료 기준에 담아야 합니다.

입력, 참조 자료, 도구 호출, 결과와 오류를 연결해서 확인할 수 있어야 원인을 찾을 수 있습니다. 다만 모든 내용을 무기한 저장하는 방식은 피해야 합니다. 업무에 필요한 기록의 범위와 보관 기간, 열람 권한을 함께 정하세요.

모델, 프롬프트, 검색 대상이 바뀌면 같은 요청에도 결과가 달라질 수 있습니다. 변경 전에 평가 자료로 비교하고, 적용 범위와 책임자를 기록하세요. 문제가 발견되면 이전 설정으로 되돌리거나 기능을 중단할 수 있는 경로를 준비해야 합니다.

이 관점을 실제 업무로 연결하려면