AI 시대, 책임 소유권이 사라지고 있다는 이야기

사고가 나면 가장 먼저 묻는 질문

금융권에서 보안 사고 대응을 몇 번 겪으면서 알게 된 게 있습니다. 큰 사고가 터지면 사람들이 가장 먼저 묻는 건 "어떤 도구가 놓쳤나요?"도, "어느 대시보드에서 알림을 못 봤나요?"도 아니더라고요.

진짜 질문은 언제나 이겁니다. "이걸 누가 소유하고 있었나요?"

시스템을 누가 관리했나, 그 결정을 누가 내렸나, 접근 권한을 누가 부여했나. 이 질문들은 늘 불편했지만, 전통적인 기업 환경에서는 어쨌든 답을 찾을 수 있었습니다. 담당 팀이 있고, 그 위에 관리자가 있고, 계약서가 걸린 공급업체가 있고. 추적 경로가 길고 복잡할 수는 있어도, 책임의 연결고리 자체는 끊기지 않았어요.

그런데 AI 네이티브 인프라가 이 연결고리를 조용히 끊고 있더라고요. 누가 큰 소리로 "이제 책임자가 없습니다"라고 선언하는 게 아니라, 시스템이 돌아가는 방식 자체가 책임자를 점점 흐릿하게 만드는 쪽으로 흘러가고 있습니다.

당연했던 전제가 흔들리고 있다

전통적인 기업 시스템은 하나의 전제 위에 세워져 있었습니다. 너무 당연해서 아무도 설계 문서에 적지 않았던 전제죠.

"모든 중요한 운영 행동은 결국 안정적인 인간 소유자에게 연결된다"

시스템이든, 부서든, 직원이든, 외주 공급업체든 마찬가지였습니다. 소유권 사슬이 복잡할 수는 있어도 충분히 견고했어요. 감사를 통과할 만큼, 법적 검토를 견딜 만큼, 사후 조사에서 끝까지 추적할 수 있을 만큼.

이 전제가 사실상 모든 걸 결정했습니다. 접근 제어를 어떻게 설계하는지, 감사 추적을 어떤 구조로 남기는지, 컴플라이언스 프레임워크가 책임을 누구에게 할당하는지까지. SOC 2, ISO 27001, HIPAA 같은 주요 거버넌스 프레임워크가 하나같이 인간 중심의 책임 구조를 깔고 만들어진 건 그래서입니다.

그런데 이 전제가 점점 안 맞기 시작했어요. 기술이 바뀐 게 아니라, 행동을 일으키는 주체가 바뀌었거든요.

AI 인프라가 바꾸는 진짜 문제

비인간 정체성, AI 에이전트, 임시 워크로드 얘기는 대부분 기술적 복잡성 문제로 다뤄집니다. 정체성이 너무 많아졌다, 프로비저닝이 너무 빠르다, 생명주기가 짧다, 추적이 어렵다. 다 맞는 얘기예요.

그런데 이런 기술 서사는 정작 이사회나 감사 자리에서 진짜 중요한 조직적 결과를 빼먹고 있습니다.

핵심은 이겁니다. AI 에이전트, 자율 실행 계층, 임시 환경, 기계 간 워크플로, 동적 클라우드 리소스가 하나의 위험한 특성을 공유한다는 점. 이들은 안정적인 인간 책임 구조 없이 운영 행동을 만들어냅니다.

• 세 개 클라우드에 걸쳐 이어지는 임시 실행 체인
• 이미 폐기된 서비스 계정에서 그대로 상속받은 권한
• AI 파이프라인 빌드 도중 자동으로 찍어내는 머신 아이덴티티
• 명확한 소유 계통 없이 시스템끼리 주고받는 동작

각각 따로 떼어 보면 그냥 인프라 관리 이슈처럼 보입니다. 권한 하나 정리 안 됐네, 계정 하나 안 지웠네, 하는 식으로요. 하지만 이걸 전부 합쳐놓고 보면 기업 환경 안에서 책임 소유권이 체계적으로 침식되고 있다는 그림이 됩니다.

질문 자체가 바뀐 겁니다. "존재하는 걸 볼 수 있는가?"에서 "일어난 일에 대해 책임 있는 소유권을 부여할 수 있는가?"로요. 가시성은 전자고, 거버넌스는 후자입니다. 둘은 다른 문제예요.

Storm-0558이 보여준 현실

2023년 중반 마이크로소프트가 공개한 Storm-0558 사건을 보면 이게 추상적인 얘기가 아니라는 걸 알 수 있습니다. 국가 지원 해커들이 서명 키를 탈취해, 미국 연방기관을 포함한 25개 조직의 인증 토큰을 위조한 사건이었죠.

기술적 침해 자체도 심각했지만, 저는 그 후 조직적 대응 과정에서 더 큰 문제를 봤습니다.

"이 자격증명이 실제로 접근할 수 있는 게 무엇이고, 그 접근 권한을 부여한 결정을 누가 소유했는가?" 이 질문에 빠르고 자신 있는 답이 나오지 않았거든요.

핵심은 비인간 정체성이었습니다. 권한이 시간에 따라 시스템 사이를 유동적으로 옮겨 다녔고, 소유 계통은 서로 연동되지도 않는 여러 컨트롤 플레인에 흩어져 있었어요. 한 곳에서 끊긴 사슬을 다른 곳에서 이어 붙일 수가 없었던 거죠.

그러다 보니 폭발 반경, 그러니까 이 침해가 어디까지 영향을 미쳤는지를 파악하는 데만 몇 주가 걸렸습니다. 의회 감독이 뒤따랐고, 관련 기관들은 즉답이 나와야 할 질문에 대해 한참 동안 면밀히 검토한 뒤에야 겨우 답할 수 있었어요. 침해를 막지 못한 것보다, 막은 뒤에도 "이게 누구 책임 영역이었나"를 못 답한 게 더 무서운 장면이었습니다.

이미 드러나고 있는 조직적 압박

이건 미래의 위험이 아닙니다. 압박은 예측 가능한 몇몇 순간에 이미 나타나고 있어요.

감사 준비 시점 — 팀들이 서로 다른 시스템에 흩어진 소유 기록을 손으로 맞춰보고, 지금은 명확한 주인이 없는 자원들의 책임 체인을 사후에 재구성하려고 애를 씁니다. 보통 이 작업은 감사 2주 전쯤 시작되고, 늘 예상보다 오래 걸리죠.

사고 대응 중 — 소유권 라인이 쪼개져 있거나 아예 없어서, 자격증명이나 접근 경로의 폭발 반경을 빠르게 좁히지 못한다는 걸 깨닫는 순간입니다. 가장 급할 때 가장 답이 안 나오는 구조예요.

AI 롤아웃 거버넌스 — 이사회와 리스크 위원회가 "이 AI 에이전트의 결정, 접근, 수정은 누가 책임집니까?"라고 묻는데, 기술적으로는 정확해도 조직적으로는 아무도 만족 못 하는 답만 돌아옵니다.

규제 검토 — 인간 중심 책임 구조를 전제로 쓰인 컴플라이언스 프레임워크와, 애초에 지속 가능한 소유권을 드러낼 수 있게 설계되지 않은 인프라가 정면으로 부딪칩니다. 결국 누군가 임시로 배정되고, 스프레드시트가 하나 만들어지고, 마감은 미뤄지죠. 익숙한 풍경 아닌가요?

새로운 기회가 생기고 있다

보안, 컴플라이언스, 거버넌스 분야의 공급업체 대부분은 여전히 가시성, 커버리지, 탐지 기능으로 경쟁합니다. 다 중요한 기능이에요. 다만 이건 기업들이 이미 예산 잡는 법을 아는 문제들입니다. 익숙한 칸에 익숙한 숫자를 넣는 거죠.

진짜 새롭고 어려운 문제는 따로 있습니다. 인간 소유 구조가 약해지는 환경에서 책임을 어떻게 끊기지 않게 이어갈 것인가. 아직 어떤 제품 카테고리도 이걸 깔끔하게 풀지 못하고 있어요.

기존 접근법	새로운 필요
가시성, 커버리지 중심	책임 소유권 연속성 중심
기술적 탐지 능력	조직적 신뢰성
보안 포인트 솔루션	다기능 책임 플랫폼

앞으로 시장을 정의할 플랫폼은 가장 뛰어난 탐지 로직을 가진 곳이 아닐 겁니다. 조직이 믿고 가리킬 수 있는 책임 계층이 되는 곳이겠죠. 감사 자리나 이사회 검토에서 "여기가 우리가 소유권 사슬을 유지하는 곳입니다"라고 손가락으로 짚을 수 있는 곳 말입니다.

예측해 볼 만한 변화들

앞으로 이런 변화가 나올 것 같습니다.

1. 거버넌스 프레임워크의 진화 — 비인간 정체성에 대한 책임 혈통을 명시적으로 요구하기 시작할 겁니다. 단순히 "이런 계정이 있습니다"라는 재고 기록을 넘어서요.

2. 감사·법무팀 요구사항의 변화 — AI 에이전트와 자율 시스템에 대해서도, 인간 접근에 요구하던 수준으로 지속적인 소유권 문서를 내놓으라고 할 겁니다.

3. 새로운 승자의 조건 — 가장 정교한 자산 지도를 그리는 기업이 아니라, 모든 의사결정 경로의 결과를 끝까지 소유하는 기록 체계가 되는 기업이 이깁니다.

결국 남는 건 책임의 위치다

AI 인프라가 퍼지는 속도만큼, 책임 소유권은 조용히 침식되고 있습니다. 시장은 여전히 이걸 가시성 문제로 보고 도구를 팔지만, 진짜 압력은 한 층 더 아래에서 쌓이는 중이에요.

코드를 짜던 시절엔 "이게 동작하는가"가 전부였습니다. 아키텍처 자리로 가니 "이게 견디는가"가 보였고, 운영과 컨설팅으로 옮겨가면서는 "문제가 터졌을 때 누가 책임지는가"가 결국 제일 무서운 질문이라는 걸 알게 됐어요. AI는 앞의 두 질문을 빠르게 풀어주는 대신, 마지막 질문을 점점 더 답하기 어렵게 만들고 있습니다.

기술이 발전할수록, 끝에 남는 건 기술 자체가 아니라 그 기술을 누가 어떻게 책임지느냐의 문제더라고요.