Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
서울 강남의 한 스타트업에서 그로스마케팅을 맡고 있는 30대 팀장 C씨 이야기다. 가상의 상황이다. 회사가 새로 붙인 AI 에이전트에게 고객 메일 발송 권한을 통째로 넘겼다가, 검수도 거치지 않은 캠페인 초안이 구독자 500명에게 그대로 나갈 뻔한 적이 있다. 예약 발송 3분 전에 발견해 막았지만, 그날 이후 C씨는 AI에게 뭘 얼마나 맡길지를 처음부터 다시 정리했다.
엔비디아 CEO 젠슨 황이 최근 내놓은 발언이 딱 이 지점을 짚는다. 기업이 AI 시스템을 들일 때 신입사원을 채용하듯 까다롭게, 권한을 철저히 통제하면서 접근해야 한다는 이야기다. 그런데 ‘신입사원처럼 뽑는다’는 말이 정확히 어떤 절차를 뜻하는지는 뒤에서 C씨의 사례로 구체적으로 풀린다.
기업들이 AI를 들이는 방식, 지금 어디까지 왔나
몇 년 전만 해도 회사에서 쓰는 AI는 대개 질문하고 답을 받는 챗봇 수준이었다. 사람이 프롬프트를 넣고, 결과를 보고, 최종 판단은 사람이 내리는 구조였다. 이 단계에서는 AI가 뭘 잘못 답하더라도 실제 시스템에 영향을 주지는 않았다.
지금은 다르다. AI 에이전트가 메일함, 캘린더, 사내 문서함, 결제 시스템에 직접 연결돼 일을 대신 처리하는 쪽으로 넘어가는 중이다. 일정을 잡고, 초안을 작성하고, 파일을 정리하고, 경우에 따라서는 메일을 발송하거나 결제를 승인하는 것까지 맡긴다. 이 흐름이 국내외 기업 상당수에서 동시에 진행되고 있고, 젠슨 황의 발언은 이 확장 국면 한가운데서 나왔다.
권한이 커질수록 사고가 났을 때 파장도 커진다. 챗봇이 틀린 답을 하면 사람이 다시 확인하면 그만이지만, 에이전트가 잘못된 판단으로 메일을 보내거나 결제를 승인해버리면 되돌리기가 어렵다. 젠슨 황의 발언은 바로 이 구간, 그러니까 AI가 ‘실행 권한’을 갖기 시작하는 시점을 겨냥한다.
젠슨 황이 말한 “신입사원처럼”이 바꾸자는 것 세 가지
신입사원을 뽑을 때 회사는 첫날부터 모든 시스템 접근권과 결재 권한을 넘기지 않는다. 업무를 익히는 동안 지켜보고, 실수가 반복되지 않는지 확인한 뒤에야 권한을 넓힌다. 젠슨 황이 강조한 원칙도 이 절차를 AI에 그대로 적용하자는 쪽에 가깝다.
- 권한을 한 번에 전부 주지 않고 필요한 만큼만, 단계적으로 넓힌다.
- AI가 무엇을 했는지 기록을 남겨서 사람이 나중에 다시 확인할 수 있게 한다.
- 문제가 확인되면 그 즉시 권한을 회수하거나 좁힐 수 있는 구조를 미리 만들어 둔다.
많은 사람이 ‘AI 권한 통제’라고 하면 AI 사용 자체를 막거나 줄이는 것으로 오해한다. 실제로는 반대에 가깝다. 통제 구조가 갖춰져 있어야 오히려 더 많은 업무를, 더 안심하고 AI에 맡길 수 있다. 통제는 사용을 막는 장치가 아니라 사용 범위를 넓히기 위한 전제조건이다.
챗GPT, 코파일럿, 제미나이… 권한을 주는 방식부터 다르다
같은 ‘기업용 AI’라도 권한을 다루는 방식은 제품마다 꽤 다르다. 도입을 검토하는 입장이라면 이 차이부터 짚어보는 게 순서에 맞다.
| 항목 | 챗GPT(팀·엔터프라이즈) | 마이크로소프트 365 코파일럿 | 구글 제미나이(워크스페이스) |
|---|---|---|---|
| 권한 부여 단위 | 워크스페이스·프로젝트별 접근 범위 설정 | 기존 M365 계정 권한을 그대로 상속 | 워크스페이스 그룹·문서 공유 설정 상속 |
| 작업 기록 열람 | 관리자 콘솔에서 대화·연결 앱 로그 확인 | M365 감사 로그와 통합 확인 | 관리 콘솔 활동 보고서로 확인 |
| 권한 회수 | 관리자가 개별 커넥터 단위로 즉시 해제 | 기존 계정 권한 회수 절차와 동일 | 그룹 정책 변경으로 일괄 조정 |
공통점도 있다. 셋 다 개인 계정 수준에서는 세부 권한 조정이 거의 불가능하고, 조직 단위 관리자 콘솔이 있어야 진짜 의미의 통제가 시작된다는 점이다. 결국 ‘신입사원처럼 뽑는다’는 원칙을 실제로 구현하려면, AI 제품 선택보다 먼저 관리자 콘솔을 누가 어떻게 운영할지부터 정해야 한다.
관련: 오픈AI 아스트라 출시 임박, 보안 기능 차등 제공의 진짜 의미
이 원칙, 우리 회사와도 상관있을까
모든 조직이 똑같은 강도로 이 이야기를 받아들일 필요는 없다.
- 이미 AI에게 메일 발송, 문서 편집, 결제 승인 같은 실행 권한을 준 조직이라면 — 지금 당장 권한 목록부터 다시 점검해야 한다.
- 아직 챗봇 형태로 질문·답변만 주고받는 조직이라면 — 당장 급하지는 않지만, 다음 단계로 넘어가기 전에 미리 원칙을 정해두는 편이 낫다.
- AI 도입 자체를 검토 중인 조직이라면 — 처음부터 권한 최소화 원칙을 설계에 넣어두면 나중에 되돌릴 일이 줄어든다.
회사 계정 하나를 AI 에이전트에게 맡긴다면 이렇게 시작한다
C씨가 이후 다시 짠 절차가 이 원칙을 잘 보여준다. 처음 2주는 AI 에이전트에게 메일함을 읽기 전용으로만 열어줬다. 초안까지는 작성하게 하되, 발송 버튼은 사람이 눌렀다.
문제없이 3주 정도 지나자 예약 발송함에 넣는 것까지는 AI가 하도록 넓혔다. 다만 발송 직전 한 번 더 검토 알림이 뜨도록 설정을 걸어뒀다. 실제 발송 권한까지 완전히 넘긴 건 두 달이 지난 뒤였고, 그마저도 신규 고객 대상 메일은 여전히 사람이 확인한다.
이 순서를 정리하면 신입사원 온보딩과 거의 같은 모양이 된다. 읽기 → 초안 작성 → 제한적 실행 → 완전한 권한, 이 네 단계를 몇 주에 걸쳐 밟는 식이다. 젠슨 황의 발언을 실무로 옮기면 결국 이런 절차 설계로 귀결된다.
권한 관리 기능, 무료 플랜과 유료 플랜은 이만큼 갈린다
챗GPT는 개인용 무료·플러스 요금제에서도 일부 외부 앱 연결 기능을 쓸 수 있지만, 팀 단위로 권한을 나누고 감사 로그를 들여다보려면 팀(Team) 요금제 이상이 필요하다. 팀 요금제는 연간 결제 기준으로 사용자당 월 20달러대 후반이고, 조직 전체에 고정된 권한 정책을 배포하려면 엔터프라이즈 요금제로 올라가야 한다.
마이크로소프트 365 코파일럿도 마찬가지다. 개인 계정으로는 세부 권한 설정이 열리지 않고, 조직 계정에 사용자당 월 30달러 안팎을 추가로 내야 관리자 콘솔에서 접근 범위를 조정할 수 있다. 구글 제미나이는 워크스페이스 비즈니스·엔터프라이즈 애드온 형태로 붙는 구조라, 어느 요금제를 쓰느냐에 따라 열리는 관리 기능 범위가 달라진다.
결국 세 제품 다 비슷한 결론에 도달한다. 개인이 무료로 쓰는 수준에서는 진짜 의미의 권한 통제가 거의 불가능하고, 조직 단위 유료 플랜으로 넘어가야 비로소 ‘신입사원처럼 관리하는’ 체계가 갖춰진다.
다 걸어 잠그면 편할까 — 실제로는 이런 불편도 따라온다
권한을 잘게 쪼개고 단계별로 검토를 거치게 하면 사고는 확실히 줄어든다. 다만 그만큼 속도는 느려진다. 매번 사람이 확인해야 하는 구간이 늘어나니, AI를 쓰는 목적 중 하나였던 ‘빠른 처리’가 오히려 무뎌지는 경우가 생긴다.
관리자 콘솔을 운영할 담당자가 따로 필요하다는 점도 부담이다. 인원이 몇 명 안 되는 소규모 팀이라면 권한 정책을 만들고 로그를 주기적으로 확인할 사람을 따로 두기가 쉽지 않다. 이런 경우엔 모든 권한을 잘게 나누기보다, 발송·결제처럼 되돌리기 어려운 행위 한두 가지만 사람 승인을 거치게 하는 절충안이 현실적이다.
C씨의 팀은 지금도 매주 금요일 오후, AI 에이전트가 그 주에 접근한 항목 목록을 5분만 훑어본다. 거창한 감사가 아니라 짧은 확인이다. 지금 회사나 개인 계정에서 쓰는 AI 도구를 열어 연결된 앱과 권한 목록을 한 번 확인해보는 것, 오늘 해볼 수 있는 가장 간단한 실천이다.
