a16z 공동 창립자: 에이전트 시대의 기업, 모든 사람이 관리자가 될 것이다

저자：Ben Horowitz, Michael McGuiness

편집: 가환, ChainCatcher

AI가 직접 비즈니스 상황을 조회하고, 작업을 수행하며, 결과를 추적할 수 있다면, 회사는 얼마나 많은 보고 계층이 필요할까요? 직원들의 일상 업무는 또 어떤 변화가 있을까요?

a16z 공동 창립자 Ben Horowitz는 Databricks를 예로 들어, 공유된 기업 데이터 시스템이 일선 직원들이 직접 행동할 수 있게 하여, 관리 업무가 더 이상 소수의 전문 경영자에게 독점되지 않게 될 것이라고 지적했습니다. 그리고 기업이 의사결정 경험을 자신의 시스템에 축적할 수 있는지가 장기적인 경쟁력을 결정할 것입니다.

주: Databricks는 a16z의 투자 회사이며, Ben Horowitz는 이 회사의 이사직도 맡고 있습니다. 본문에서 언급된 해당 회사의 내용은 투자자의 관점을 포함하고 있으며, 투자 조언을 구성하지 않습니다. 이하 본문입니다.

앞으로 20년 동안, 우리가 사는 많은 측면이 변화할 것입니다. 그 중에서 반드시 상위 5위 안에 들어갈 질문 중 하나는 "당신은 매일 출근해서 무엇을 하고 있나요?"입니다.

이 질문을 둘러싸고 두 가지 중대한 돌파구가 곧 발생할 것입니다. 첫 번째는 Agent를 통한 자동화 구현입니다: "현재 우리가 하고 있는 작업을 설명한 다음, 그것을 자동으로 완료하게 하세요." 두 번째는 직원들이 능동적으로 행동할 수 있는 능력을 부여하는 것입니다. 문제에 가장 가까운 사람들은 점점 더 직접 상황을 조사하고 기회를 포착할 수 있게 되며, 더 이상 정보와 의사결정 권한이 여러 관리 계층을 통해 전달되기를 기다릴 필요가 없습니다.

이 두 가지 돌파구는 모두 근본적으로 모든 사람의 일상 업무를 개선할 것입니다. 그러나 하나의 큰 전제가 있습니다: 조직이 실제로 이러한 새로운 작업 방식으로 전환할 수 있어야 합니다.

"한 사람이 매일 어떤 일을 하는가"는 상당 부분 고용주가 사용하는 기업 데이터 및 의사결정 시스템에 의해 제약받습니다. 그리고 이 시스템 자체는 사용되는 데이터베이스 기술과 이러한 기술이 무엇을 실현할 수 있는지에 의해 제약받습니다. 후자의 측면에 대해 생각하는 사람은 거의 없습니다.

이 이야기는 네 부분으로 나뉩니다:

1) Databricks는 도대체 무엇을 하고 있나요? 광고판에서 보았던 "Lakehouse"와 "Lakebase"는 무엇인가요? 왜 그것들이 시기적절한 아키텍처의 돌파구라고 할 수 있나요?

2) "기업 데이터 시스템"(system of record, SoR)은 무엇인가요? Agent가 실제 회사에서 작업하고 진정한 의사결정을 내리며 회사의 지식 기반에 기여하기 위해서는 왜 새로운 기업 데이터 시스템이 필요할까요?

3) 기업은 도대체 무엇인가요? 만약 Agent와 인간의 비율이 1000:1에 도달한다면, 기업은 어떤 변화가 있을까요? 기업은 어떻게 차별성을 형성하고 가치를 창출해야 할까요?

4) 이 새로운 세계에서 사람들은 매일 출근해서 무엇을 하나요? 작업 환경에서 AI는 종종 "일반인에게 소프트웨어 엔지니어의 능력을 부여한다"고 홍보됩니다. 그러나 장기적으로 보면, 그것이 가져오는 변화는 "모두가 엔지니어가 되는 것"이 아닐 수도 있으며, 오히려 "모두가 관리자가 되는 것"에 더 가까울 수 있습니다.

이 부분은 아마도 가장 깊은 영향을 미치는 부분일 것입니다. 우리는 20세기를 형성했던 관리 방식이 점차 해체되는 것을 목격하고 있습니다. 제임스 버넘은 그의 저서 《경영자 혁명》에서 이러한 관리 방식을 기록했습니다.

85년 전, 그는 정보 기술과 조직의 복잡성이 어떻게 기업 운영 모델을 탄생시키는지를 설명했습니다: 소수의 전문 경영자들이 회사 내부의 의사결정 권한을 집중적으로 장악하는 구조입니다. 오늘날, 새로운 기술 혁명이 일선 전문 인력에게 다시 책임을 부여하고 있으며, 우리는 모두 그로 인해 혜택을 보고 있습니다.

Spark에서 Agent로

최근, 누군가는 Databricks를 "AI 물결에 올라탄 데이터 회사"라고 묘사했습니다. 그러나 이 물결이 오기 10년 전, AI 연구자들은 이미 이 회사를 설립했습니다.

Databricks가 처음 해결하고자 했던 문제는 매우 직접적이었습니다: 기업은 점점 더 많은 데이터를 보유하고 있지만, 처리 속도가 너무 느렸습니다. 2009년, Ali Ghodsi는 버클리에서 연구를 하던 중, 인터넷 회사들이 방대한 데이터를 사용하여 사용자 행동을 예측하는 것을 보았습니다. 그러나 당시의 주류 도구는 기계 학습에 필요한 반복 계산에 적합하지 않았습니다.

버클리 연구자들은 이후 Spark를 개발하여 이러한 작업의 처리 속도를 최대 10배까지 높였습니다. 2013년, Ali, Matei Zaharia 등 7명의 연구자들은 Databricks를 설립하여 Spark를 기업이 직접 사용할 수 있는 플랫폼으로 만들었습니다. 이를 통해 복잡한 시스템을 스스로 구축하고 유지하는 번거로움을 덜 수 있었습니다.

Spark는 데이터 처리 속도를 높였지만, 기업의 데이터는 여전히 서로 다른 시스템에 분산되어 있었습니다. 데이터 웨어하우스는 정리된 신뢰할 수 있는 데이터를 저장하여 주로 비즈니스 분석 및 보고서 작성을 위해 사용되며; 데이터 레이크는 낮은 비용으로 문서, 이미지, 녹음 및 로그 등 다양한 원시 데이터를 저장하지만, 이러한 데이터는 종종 정리가 부족하고 품질이 보장되지 않습니다.

두 시스템은 각각 용도가 있지만, 서로 다른 팀 간의 단절을 초래했습니다. 엔지니어와 데이터 과학자는 주로 데이터 레이크를 사용하고, 분석가는 주로 데이터 웨어하우스를 사용합니다. 한 쪽이 다른 쪽의 데이터가 필요할 경우, 누군가가 이를 옮기고 유지해야 하며, 기업은 이로 인해 많은 데이터 복사본과 서로 충돌하는 비즈니스 정의를 축적하게 됩니다.

2020년, Databricks는 두 가지를 결합하여 "호수 창고 통합"(Lakehouse) 아키텍처를 출시했습니다. 이를 통해 기업은 동일한 데이터에서 비즈니스 분석과 기계 학습을 동시에 수행할 수 있게 되었습니다: 데이터 레이크의 낮은 비용으로 다양한 데이터를 저장하는 능력을 유지하면서도, 데이터 웨어하우스에서 요구하는 신뢰할 수 있는 관리 및 빠른 쿼리 능력을 제공합니다.

이렇게 되면, 엔지니어, 데이터 과학자 및 분석가는 동일한 데이터를 공유할 수 있어 서로 다른 시스템 간의 반복적인 복사 및 이동 작업을 줄일 수 있습니다.

그림: 호수 창고 통합은 데이터 레이크와 데이터 웨어하우스를 결합하여 동일한 데이터가 비즈니스 분석, 기계 학습 및 AI에 동시에 서비스하도록 합니다.

하지만 여전히 통합되지 않은 데이터가 있습니다. 기업이 결제, 사용자 로그인 등 일상적인 비즈니스를 처리할 때 의존하는 것은 또 다른 유형의 데이터베이스입니다. 이러한 데이터베이스는 여전히 별도로 구축하고 유지해야 하는 연결을 통해 분석 시스템으로 데이터를 전송해야 합니다. 비즈니스는 지속적으로 변화하며, 이러한 시스템을 연결하는 작업은 계속 존재합니다.

2025년, Databricks는 Neon을 인수하고 이를 기반으로 Lakebase를 출시하여 일상 비즈니스 데이터베이스에 대한 통합을 더욱 확장했습니다. 비즈니스 시스템의 데이터가 변경되면, 자동으로 분석가, 엔지니어 및 Agent가 사용할 수 있도록 동기화되어 서로 다른 시스템 간의 데이터 이동 작업을 줄입니다.

Agent에게 Lakebase는 또 다른 중요한 기능을 제공합니다: 공식 비즈니스와 분리된 데이터 복사본을 신속하게 생성하는 것입니다. 데이터베이스 규모가 크더라도 몇 초 내에 이러한 복사본을 준비할 수 있습니다. Agent는 그 안에서 실험을 하고, 사용 후에는 버릴 수 있으며, 매번 전체 데이터베이스를 처음부터 복사할 필요가 없습니다.

이것은 소프트웨어 사용 방식의 변화를 위한 기초를 제공합니다. 수십 년 동안 기업 소프트웨어는 주로 소수의 엔지니어에 의해 개발되었고, 다른 직원들은 이를 사용하는 역할을 맡았습니다. 이제 사람들은 새로운 작업 방식으로 나아가고 있습니다: 원하는 결과를 먼저 설명하고, 그 다음 소프트웨어가 이를 실현하도록 합니다.

기업은 더 이상 수천 명의 직원이 중앙 팀이 관리하는 소수의 데이터베이스를 읽고 쓰는 것에 그치지 않고, 수천 개의 데이터베이스를 보유하고 수백만 개의 Agent가 이를 읽고 쓰게 될 수 있습니다. 데이터를 공동으로 사용하고, 신속하게 업데이트하며, Agent가 그 안에서 작업을 수행할 수 있도록 하는 것이 점점 더 중요해지고 있습니다.

Agent를 위한 기업 데이터 시스템

그림: Databricks CEO Ali Ghodsi가 회사 2026년 Data + AI Summit 무대에 서 있습니다.

6월, Ali는 회사의 Data + AI Summit에서 약 3만 명의 관중 앞에 서서, 일반 인공지능이 이미 도래했다고 생각하는 사람들에게 손을 들어보라고 요청했습니다. 그는 손을 든 사람이 약 10% 정도 된다고 추정했습니다.

"우리는 AGI가 이미 도래했다고 생각합니다." 그는 관중에게 오늘날의 최전선 모델이 "인류의 마지막 시험"에서 50% 이상의 문제를 정답으로 맞힐 수 있다고 말했습니다. 이 테스트는 100개 이상의 분야의 전문가들이 작성한 2500개의 문제를 포함하고 있으며, 원래는 어떤 AI도 답할 수 없을 것이라고 여겨졌습니다.

2022년 ChatGPT가 처음 출시되었을 때, 그것이 처리할 수 있는 프로그래밍 작업은 대략 인간이 30초 만에 완료할 수 있는 작업과 비슷했습니다. 이제 최전선의 Agent는 숙련된 엔지니어가 하루 종일 해야 할 프로그래밍 작업을 완료할 수 있게 되었습니다.

독립 평가 기관 METR는 2019년 이후 다양한 모델이 독립적으로 완료할 수 있는 작업의 소요 시간을 추적하여, 이 시간이 약 7개월마다 두 배로 증가한다는 것을 발견했습니다. 최근에는 진전이 더욱 빨라졌으며, 유사한 추세가 프로그래밍 외의 분야에서도 나타나고 있습니다. 만약 이 추세가 2030년대 초까지 지속된다면, Agent는 인간이 수년 걸려야 완료할 수 있는 작업을 수행할 수 있게 될 것입니다.

그림: AI Agent의 "새로운 모어 법칙".

그러나 오늘날 대부분의 회사에서는 여전히 사람들이 AI가 Salesforce(고객 관리 소프트웨어)에서 기록을 신뢰성 있게 업데이트할 수 있다고 믿지 않습니다.

"AI의 문제는 지능이 아니라 맥락입니다." Ali는 설명합니다. 가장 똑똑한 사람이라도 회사 데이터를 얻지 못하고, 행동 권한이나 피드백이 없으며, 다른 직원의 머릿속에 있는 지식을 이해하지 못한다면 거의 똑같이 무능력해집니다. Ali가 제시한 해결책은 그가 말하는 "Agent를 위한 기업 데이터 시스템"입니다.

당신은 아마 Palantir CEO Alex Karp가 비즈니스 본체(ontology)에 대해 이야기하는 비디오 클립을 보았을 것입니다. 그는 "시장에서의 모든 가치는 칩과 우리가 말하는 비즈니스 본체로 흘러갈 것입니다. 비즈니스 본체는 당신이 큰 언어 모델을 가져와서 사용하고 개선한 다음, 이를 기업에 적용할 수 있게 해줍니다."라고 생각합니다. 이것이 실제로 무엇을 의미하는지는 보통 청중이 스스로 고민하게 남겨집니다.

모든 회사는 자신의 비즈니스 본체를 가지고 있습니다. 이는 회사 내에 어떤 것들이 존재하는지, 그것들이 어떻게 연결되어 있는지, 다양한 용어가 무엇을 의미하는지, 그리고 두 정보 출처가 충돌할 때 어떤 것을 기준으로 삼아야 하는지를 설명하는 모델입니다. 이 모델의 일부는 데이터베이스, 대시보드, 규정 및 문서에 존재하지만, 상당 부분은 오히려 경력 있는 직원의 머릿속에만 존재합니다.

그리고 이 모델은 결코 고정되지 않습니다. 계약은 변하고, 임시적인 변통 방법은 프로세스가 되며, 예외는 규칙이 되고, 공식 기록은 점차 실제 작업 방식에서 벗어납니다. 무엇을 결정하고, 어떤 결정이 나중에 올바른 것으로 판명되는지는 마찬가지입니다: 의사결정 권한과 평가 기준은 비즈니스 본체와 마찬가지로 종종 문서화되지 않습니다.

사람들은 일상 업무에서 이러한 공백을 조용히 메우게 됩니다. 영업 부사장은 원래 거래가 성사될 것으로 여겨졌던 최대 주문이 지연된 이유가 고객 내부에서 이 거래를 추진하는 핵심 인물이 다른 직장을 몰래 면접 중이라는 것을 알아야 합니다. 또한, 어떤 영업 사원이 언급한 "90%"의 성사 확률이 실제로는 50%에 불과하다는 것을 알고, CEO에게 예측을 보고하기 전에 이를 하향 조정해야 합니다.

에이전트가 자율적으로 행동하기 위해서는 현재 인간 두뇌에 존재하는 방대한 비즈니스 본체 지식, 의사결정 권한 및 평가 기준이 기업의 데이터 시스템에 들어가야 합니다. Databricks의 데이터 레이크하우스 시스템은 이러한 내용을 담는 자연스러운 선택입니다. 왜냐하면 회사의 다른 데이터가 이미 그곳에 저장되고 관리되고 있기 때문입니다.

"현재 데이터 레이크하우스 시스템은 기업 데이터 시스템이 되었습니다." Ali가 말했습니다. "나는 이것을 SORA, 즉 에이전트를 위한 기업 데이터 시스템(System of Record for Agents)이라고 부릅니다."

직원들은 Genie를 통해 이 기업 데이터 시스템과 상호작용할 수 있습니다. Genie는 Databricks가 2024년에 출시한 자연어 상호작용 인터페이스로, 회사의 누구나 기업 데이터에 질문할 수 있게 해주며, 점점 더 많은 사람들이 이러한 데이터 위에 에이전트를 구축하고 있습니다.

이 기록 시스템은 기본적으로 전체 기업을 포괄해야 하며, 지속적으로 네 가지 질문에 답해야 합니다. Databricks는 이러한 문제를 하나씩 해결하고 있습니다:

무엇이 진짜인가? 데이터 레이크하우스와 데이터 레이크베이스는 기업의 현재 비즈니스 상태를 저장하고 있습니다.

이 정보는 무엇을 의미하는가? AI가 매번 질문을 받을 때마다 회사 데이터에서 답을 반복적으로 찾지 않도록, Databricks의 Genie 온톨로지는 조직 지식 그래프를 지속적으로 구축합니다. 예를 들어, 수익이 어떻게 계산되는지, 지난 주 정기 회의에서 어떤 내용이 논의되었는지에 대한 것입니다.

엔지니어들은 이 알고리즘을 OntoRank라고 명명하며, 구글의 PageRank에 경의를 표합니다. 이는 누가 정의했는지, 사용 범위가 얼마나 넓은지, 최근에 언제 수정되었는지 등의 속성에 따라 어떤 지식이 더 권위 있는지를 판단합니다. Databricks의 테스트에서, 에이전트를 기업 비즈니스 본체를 기준으로 하여 답변 정확도를 약 50%에서 84.5%로 향상시켰습니다.

무엇을 허용하는가? 과거에는 각 직원이 하나의 로그인 계정을 가진 접근 방식이 모든 직원이 인간일 때는 작동했습니다. 그러나 직원들이 매일 수백 개의 에이전트를 시작할 수 있을 때, 이 방식은 통하지 않습니다. "에이전트마다 각기 다른 고유하고 서로 격리된 데이터베이스에 대한 접근 권한을 개별적으로 부여할 수는 없습니다."라고 Ali는 설명했습니다.

Databricks의 Unity Gateway는 회사 내의 각 모델, 에이전트 및 AI 도구에 신원, 예산 및 작업 제한을 할당하고, 로그를 추적하여 각 단계의 작업을 기록함으로써 회사가 AI 시스템이 무엇을 하고 있는지, 어떤 데이터에 접근했는지, 얼마를 썼는지를 볼 수 있게 합니다.

효과가 있었는가? Databricks는 기업이 에이전트를 구축할 수 있는 두 가지 방법을 제공합니다. 비즈니스 팀은 Genie에서 에이전트를 공유할 수 있는 프롬프트로 변환하여 기업 데이터를 기반으로 추론하고, Slack이나 Salesforce와 같은 애플리케이션에서 점점 더 많은 행동을 취할 수 있게 합니다. 엔지니어들은 Agent Bricks를 사용하여 실제 생산 환경을 위해 더 높은 수준의 맞춤형 에이전트를 구축할 수 있습니다.

어떤 방법을 사용하든, Databricks는 팀이 자신의 "시험"을 설계하도록 허용하여 어떤 결과가 수용 가능한지, 어떤 오류는 절대 발생해서는 안 되는지를 명확히 하고, 기업의 특정 작업 요구 사항에 따라 각 에이전트를 최적화할 수 있는 도구를 제공합니다. AI는 이렇게 피드백 루프를 형성합니다.

그림: AI가 피드백 루프를 형성하는 방법: 사실 확인, 의미 이해, 권한 명확화, 실행 및 평가, 그리고 경험을 기업이 관리하는 기록 시스템에 다시 작성합니다.

기업 컴퓨팅 분야의 모든 플랫폼 혁신은 기업 데이터 시스템을 둘러싼 새로운 경쟁을 촉발합니다. IBM은 메인프레임 시대를 주도했으며; 오라클과 SAP는 클라이언트-서버 아키텍처 시대의 기업 기반이 되었습니다; Salesforce, Workday 및 ServiceNow는 각각 판매, 인사 및 IT 분야의 SaaS 기업 데이터 시스템을 구축했습니다. 에이전트는 다음 혁신을 가져올 것입니다.

하지만 어떤 공급업체가 승리할 것인지보다 에이전트가 기업 자체를 어떻게 변화시킬 것인지가 더 큰 문제입니다.

기업의 본질

1937년 논문 "기업의 본질"에서 경제학자 로널드 코스는 기업이 왜 존재하는지를 제기했습니다. 시장이 가격과 계약을 통해 경제 활동을 조정할 수 있다면, 왜 사람들을 회사에 모아 관리자가 지휘하도록 해야 할까요?

그의 대답은 거래 비용으로 귀결됩니다. 적합한 사람을 찾고, 무엇을 할 것인지, 어떤 가격으로 할 것인지 합의하고, 전체 과정을 감독하는 데는 시간과 돈이 필요합니다. 기업은 각 구체적인 작업을 사전에 정의하지 않는 방식으로 반복적인 시장 거래의 일부를 대체하여 관리자가 약정된 범위 내에서 자원을 조정할 수 있게 합니다.

하지만 기업 내부에서 작업을 조직하는 것도 비용이 발생하지 않는 것은 아닙니다. 회사가 확장됨에 따라 더 많은 정보가 더 많은 사람을 통해 전달되어야 합니다. 결국, 내부에서 거래를 조직하는 비용은 시장에서 구매하는 비용과 같아질 것입니다. 코스의 설명에 따르면, 기업은 이 두 가지 비용이 만날 때까지 계속 확장될 것입니다.

40년 후, 노벨상과 튜링상을 동시에 수상한 소수의 인물 중 하나인 허버트 사이먼은 기업의 기억을 집중적으로 저장하면 오히려 의사결정을 분산시킬 수 있음을 발견했습니다. 그는 공유된 컴퓨터 기록이 "각각의 분산된 의사결정 지점이 독립적으로 행동할 수 있게 한다"고 썼습니다. 시스템은 이러한 행동을 자동으로 공유 기록과 대조하고 조정합니다.

항공사를 예로 들면, 보스턴의 한 판매원이 시카고행 마지막 좌석을 판매하기 전에 다른 모든 판매원에게 전화를 걸 필요가 없습니다. 그녀는 단지 기록을 조회하면 됩니다. 그녀가 이 좌석을 판매하면, 모든 사람이 보는 기록이 즉시 업데이트됩니다. 집중 관리된 비즈니스 상태는 분산된 행동을 더 안전하게 만들어줍니다. 왜냐하면 사람들은 공유 기록을 통해 조정할 수 있기 때문입니다. 다른 사람과 일일이 소통할 필요가 없습니다.

관계형 데이터베이스는 이 원칙을 전체 기업으로 확장했습니다. 과거에는 보고서, 회의 및 관리층의 인수인계가 필요했던 작업이 공유 기록에 대한 단순한 조회로 변했습니다. 이는 회사가 동일한 비율로 관리자를 늘리지 않고도 더 많은 제품, 장소, 인원 및 거래를 조정할 수 있게 해줍니다.

20세기 90년대에 들어서면서 인터넷은 외부 세계가 기업의 기록에 정보를 쓸 수 있게 하여 온라인 시장이 수백만의 낯선 사람들 간의 거래, 재고 및 결제를 조정할 수 있게 했습니다.

기업 내부와 외부의 거래 비용이 모두 감소함에 따라, 데이터베이스 시대는 모든 기업이 일관되게 커지거나 작아지게 하지 않았습니다. 오히려 더 다양한 유형의 기업이 존재할 수 있게 했습니다. 대기업은 훨씬 더 복잡한 비즈니스를 관리할 수 있고, 소기업은 과거에 전체 부서가 제공해야 했던 능력을 임대하거나 구매할 수 있습니다.

AI도 이와 유사할 가능성이 높습니다. 기업 내부에서 에이전트는 보고서 자동 작성, 검색 및 일상 업무를 통해 조정 비용을 낮출 수 있습니다. 기업 외부에서는 공급업체를 찾고 평가하며, 일반 조건을 협상하고 결과를 감독하는 데 도움을 줄 수 있습니다.

이전의 데이터베이스처럼, AI는 기업과 시장이 더 복잡한 활동을 수용할 수 있게 할 것입니다. 그러나 그것이 더 깊은 영향을 미치는 곳은 기업의 조직 형태를 변화시킬 가능성이 있습니다.

20세기 전형적인 기업은 피라미드 형태로, 계층 구조가 정보 처리 시스템이었습니다. 사실은 보고서와 회의를 통해 위로 전달되고, 의사결정은 다시 단계적으로 아래로 전달되며, 정보 흐름의 경로는 조직 구조도와 상응합니다. 관리층은 어떤 데이터를 수집하고 공유할 가치가 있는지를 결정합니다. 이는 회사가 스스로를 인식하는 방식이 관리자가 어떤 정보를 수집하기로 선택하는지에 따라 달라진다는 것을 의미합니다.

데이터베이스는 이러한 구조를 변화시켰지만, 일부만 변화시켰습니다. 공유 기록은 사람들이 정보를 직접 얻고 더 독립적으로 행동할 수 있게 하지만, 일반적으로 여전히 다른 사람들이 사전에 설계한 프로세스 내에 제한됩니다.

컴퓨터 시대의 대부분 시간 동안, 상대적으로 적은 수의 관리자가, 운영 팀과 엔지니어가 회사의 데이터 구조, 지표, 애플리케이션 및 작업 흐름을 정의했습니다. 이러한 시스템을 사용하는 직원은 시스템 설계에 참여한 직원보다 훨씬 많습니다.

이것은 사람들이 할 수 있는 것을 제한할 뿐만 아니라, 조직이 무엇을 알 수 있는지를 제한합니다. 예를 들어, 한 고객 서비스 직원은 매주 여러 번 동일한 불만을 듣지만, 만약 그녀의 관리자가 이를 기록한 보고서를 작성하지 않았다면, 그녀가 아는 사실은 회사가 알지 못할 수 있습니다. 그리고 이 문제를 해결하는 것은 또 다른 문제입니다.

현재 정보 획득과 행동 취하기 두 가지 측면의 기술 장벽이 동시에 낮아지고 있습니다.

Andrej Karpathy가 2023년에 말했듯이, "가장 인기 있는 새로운 프로그래밍 언어는 영어입니다." 자연어 인터페이스는 더 많은 분야의 전문가들이 기업 데이터에 직접 질문할 수 있게 해주며, SQL이나 Python을 아는 사람이 이러한 질문을 미리 생각해내거나 대신 답변할 필요가 없습니다.

100년 역사를 가진 글로벌 헬스케어 회사인 노보 노디스크에서 과거에는 과학자들이 데이터 엔지니어가 쿼리를 작성하기를 기다려야 했습니다. 이제 그들은 단지 Genie에게 "비만과 관련된 모든 데이터를 보여줘"라고 요청하면, 관련 실험, 연구 결과 및 시각화된 결과를 즉시 찾아줍니다.

명확한 권한 범위 내에서 직원들은 스스로 솔루션을 구축할 수 있어 수시간 또는 수일의 작업을 절약할 수 있습니다. 전기차 제조업체인 Rivian에서 SQL 경험이 없는 한 재무 분석가는 Genie를 사용하여 CFO를 위한 수익 대시보드를 만들었고, 한 공급망 분석가는 입고된 화물의 운송 상황을 추적하는 애플리케이션을 개발했습니다.

이것은 모든 사람이 승인 없이 회사의 모든 데이터나 자원에 접근할 수 있다는 것을 의미하지 않습니다. 작업이 더욱 분산됨에 따라, 공동의 비즈니스 본체, 권한 체계 및 책임 메커니즘이 더욱 중요해집니다. 기업 데이터 시스템은 비즈니스 상태와 작업 경계를 집중 관리하면서도 더 많은 사람들이 질문하고, 작업 흐름을 설계하며, 행동을 취할 수 있게 합니다.

3월, Jack Dorsey는 "계층에서 지능으로"라는 제목의 선언문을 작성하여 그의 회사 Block이 이 개념의 보다 근본적인 버전을 어떻게 시도하기 시작했는지를 소개했습니다. 그는 "하나의 시스템이 처음으로 전체 기업의 최신 모델을 지속적으로 유지하고 이를 기반으로 작업을 조정할 수 있게 되었습니다. 과거에는 이러한 작업이 인간이 여러 관리 계층을 통해 정보를 전달해야만 완료될 수 있었습니다."라고 썼습니다.

Ali가 말한 "에이전트를 위한 기업 데이터 시스템"은 Jack이 언급한 기업의 "세계 모델"과 유사하며, 지속적으로 업데이트되는 모델로 조직의 운영, 의사결정, 능력 및 우선 사항을 나타냅니다. 일선 직원들이 모델을 현실과 연결시키고, 모델은 행동을 취하는 데 필요한 공유 배경 정보를 제공합니다.

"Dorsey는 '사람들은 모델이 감지할 수 없는 영역에 들어갈 수 있다'고 설명했습니다. '그들은 모델이 감지할 수 없는 것을 인식할 수 있습니다: 직관, 명확한 방향 판단, 문화적 배경, 신뢰 관계의 변화 및 현장의 분위기. 그들은 모델이 스스로 판단해서는 안 되는 판단을 내릴 것입니다. 특히 윤리적 결정, 새로운 상황 및 실수할 경우 기업의 생존을 위협할 수 있는 중대한 순간에 그렇습니다.'"

결과적으로 기업은 작업이 더욱 분산됨에 따라 더 적은 관리 계층으로 조정을 완료할 수 있으며, 이는 리더들이 작업 상황을 더 명확하게 이해할 수 있게 합니다.

Dorsey는 이러한 새로운 구조의 경쟁 우위가 속도에 있다고 생각합니다. "회사가 빠르게 운영되는지 느리게 운영되는지는 정보가 어떻게 흐르는지에 달려 있습니다."라고 그는 말했습니다. "계층 구조와 중간 관리가 정보 흐름을 방해합니다."

Ali는 전반적으로 Dorsey에 동의하지만 한 가지 다른 점이 있습니다. "이론적으로 나는 Jack Dorsey에 동의합니다."라고 그는 말했습니다. "문제는 이것이 인간 직원의 조직 구조에도 적용되는가입니다?" 그는 사람들이 두 가지를 혼동하고 있다고 생각합니다: 회사의 조직 구조와 정보가 회사 내에서 흐르는 방식입니다.

"10년, 20년 전에는 그것들이 실제로 같은 것이었습니다." 그 당시에는 회사에서 무슨 일이 일어나고 있는지를 이해하기 위해서는 조직 구조를 따라 단계적으로 질문해야 했습니다: 당신은 부하에게 질문하고, 부하는 다시 그들의 부하에게 질문해야 했습니다. 하지만 지금은 다릅니다.

기업은 여전히 관리자를 필요로 하지만, 정보를 전달하는 사람은 그리 많이 필요하지 않게 되었다. 직원 교육, 팀이 무엇이 더 중요한지 파악하도록 돕고, 누군가의 감정이 저조한 것을 발견하는 데는 여전히 사람의 관심이 필요하다.

따라서 두 사람이 관리 계층이 얼마나 줄어들 것인지에 대한 견해는 다르지만, 둘 다 AI가 정보 전달 작업을 맡게 될 것이라고 생각한다. 20세기에는 기업이 지나치게 복잡해져 이러한 조정 작업이 필수적이었기 때문에 관리자는 막대한 권력을 얻게 되었다.

두 번째 관리자 혁명

85년 전, 대공황이 막 지나갔을 때, 제임스 번햄은 《관리자 혁명》을 저술했다. 이 책은 기업 운영 방식과 자본주의 자체에 일어날 거대한 변화를 예견했다.

대공황 이후, 기업가 자본주의가 끝났다는 유행하는 견해가 있었고, 반드시 어떤 새로운 제도가 등장할 것이라고 믿었다. 당시 유행했던 제안에는 사회주의 집단 조직과 국유화가 포함되었다.

번햄은 일어나고 있는 일을 이해했다. 그는 세 번째 가능성을 제시했다. 이것은 단순한 회사 구조가 아니라, 그가 "관리자 사회"라고 부르는 전혀 새로운 사회 질서였다. 이 시스템에서 결정적인 역할을 하는 지배 계층은 전통적인 자본 소유자도, 노동자도 아닌, 대기업과 국가 기관을 운영하는 직업 관리자, 기획자, 관료 및 고위 경영자들이다.

그는 현대 기관이 기술적으로 너무 복잡해져 개별 자본가가 직접 지휘할 수 없게 되었다고 주장했다. 어떤 CEO도 10만 명의 직원을 둔 회사에서 일어나는 모든 일을 알 수 없기 때문에, 통제권은 점차 소유자와 분야 전문가에서 행정 관리자에게로 이전될 것이다.

20세기 후반에 이르러, 직업 관리자 주도의 관리 모델은 거의 완전한 승리를 거두었다. "포춘 500대 기업의 대부분 고위 경영자는 각자의 회사 분야의 전문가가 아니며, 더더욱 그 회사의 창립자가 아니다."라고 마크 안드리센은 말했다.

"그들은 직업 관리자들이다. 사실, 그들은 경력 전반에 걸쳐 여러 종류의 기업을 관리할 가능성이 높다: 먼저 의료 산업에서 일하다가 금융 서비스 산업으로 가고, 이후 다른 산업으로 옮겨간다."

하지만 이러한 승리는 스스로의 장점을 소모하고 있다. 번햄이 말한 관리자 계층은 복제 가능한 관리 능력과 안정적이고 신뢰할 수 있는 전문 운영을 가져왔지만, 속도와 적응 능력을 희생했다. 특히 기술이 끊임없이 변화하는 상황에서 그렇다.

마크는 완벽한 데이터 기반 시설과 에이전트를 결합하면 기업이 창립자의 활력을 유지하면서도 대규모 조직에 필요한 조정 능력을 동시에 보유할 수 있을 것이라고 제안했다.

과거에는 일부 정보 전달 및 조정 작업이 관리 계층을 필수적으로 만들었다. 에이전트는 이러한 작업 중 일부를 자동화하여 더 많은 창립자가 이러한 운영 방식을 채택할 수 있도록 했다. 기업의 데이터 시스템은 일선 직원에게 행동에 필요한 배경 정보와 권한을 제공한다.

엘론 머스크는 마크의 생각을 한 걸음 더 나아갔다. 올해 초, 그는 여전히 "인간의 참여 단계를 유지하는" 회사들이 패배할 것이라고 예측했다. 그는 AI 시대에 인간을 프로세스에 남겨두는 것은 전자 스프레드시트를 사용하면서 일부 셀을 수동으로 계산하라고 요구하는 것과 같다고 주장했다.

최종 방향에 대해 엘론이 옳을지도 모른다. 하지만 완전 자동화된 회사가 우리에게 얼마나 멀리 있는지는 아무도 모른다: 어떤 사람들은 몇 년이 걸릴 것이라고 예측하고, 어떤 사람들은 영원히 불가능할 것이라고 생각한다.

그 전에 아이러니한 결과는 직업 관리자 주도의 모델의 쇠퇴가 모든 사람이 관리 작업을 맡기 시작하는 것으로 나타날 수 있다는 것이다. 모든 사람이 직접 하위 직원을 두지는 않겠지만, 더 많은 사람들이 작업 내용을 명확히 하고, 실행 작업을 배분하며, 결과를 점검하고, 프로세스를 업데이트하는 책임을 질 것이다. 두 번째 관리자 혁명은 관리의 소멸이라기보다는 직업 관리자 계층의 관리 작업에 대한 독점이 끝나는 방향으로 나아가고 있다.

소프트웨어 엔지니어들은 이제 이러한 점을 강하게 느끼고 있다: 그들의 작업은 직접 코드를 작성하는 것에서 프로그래밍 에이전트 그룹을 관리하는 것으로 전환되고 있다. 엔지니어의 하루는 점점 관리자의 하루와 비슷해지고 있다: 문제를 정의하고, 문제를 작업으로 나누고, 병렬로 작업하는 에이전트에게 맡기고, 그들이 제출한 코드 병합 요청을 검토하며, 어떤 것은 승인하고, 어떤 것은 의견을 달아 반려한다.

에이전트가 더 많은 분야에서 능력을 갖추게 되면서, 더 많은 지식 근로자들도 유사한 변화를 경험할 것이다: 직접 모든 단계를 수행하는 것에서 명확한 요구를 하고, 작업을 배분하며, 결과를 판단하는 것으로 전환된다.

노보 노드의 과학자와 리비안의 공급망 분석가는 이미 제니를 통해 에이전트를 지휘하여 과거에는 엔지니어 또는 데이터 과학자 그룹이 수행해야 했던 작업을 완료하고, 이러한 팀이 가장 전략적 가치가 높은 작업에 집중할 수 있도록 하고 있다.

이는 사람의 생산성과 임금 모두에 좋은 소식이다. 왜냐하면 실행과 판단은 경제적으로 상호 보완적이기 때문이다: AI가 일반적인 실행 작업의 비용을 낮추면, 이러한 작업을 안내하는 판단 능력에 대한 수요는 증가할 것이다.

한 세기 전, 수학자 알프레드 노스 화이트헤드는 "문명의 진보는 점점 더 많은 중요한 작업이 우리가 생각하지 않고도 수행될 수 있도록 하는 데 있다."고 지적했다. 기업도 마찬가지로, 하나의 작업 닫힘을 완벽하게 할 때마다 자율 운영 능력이 조금씩 향상된다.

누군가 에이전트의 작업 닫힘을 수정할 때마다, 이 수정은 다음 번 실행을 개선해야 한다. 하나의 닫힘이 명확한 범위의 작업을 신뢰할 수 있게 수행할 수 있음을 증명하면, 사람은 이 단계에서 물러나 다음에 해결되지 않은 문제로 넘어갈 수 있으며, 축적된 경험은 기업의 공유 기록에 남길 수 있다.

하지만 번햄이 아마도 주목했을 점은, 자율성을 유지하기 위해 기업은 자신의 모델과 일선 직원이 가르쳐준 모든 것을 파악해야 한다는 것이다.

자율적이고 통제 가능한 기업

에이전트가 참여하는 기업에서 우수 인재는 그 어느 때보다 더 가치가 있을 것이다. 하지만 우수 인재는 오고 가기도 한다. 동시에 모델은 지속적으로 발전하고, 모든 경쟁자는 동일한 모델을 임대할 수 있다. 그렇다면 이 새로운 세계에서 기업은 어떻게 지속 가능한 경쟁 우위를 구축해야 할까?

두 개의 은행이 동일한 최첨단 모델을 임대하여 신용 결정을 지원한다고 가정해 보자. 첫 번째 은행은 모델에 프롬프트를 보내고 답변을 받은 후 최종 결정을 기록한다. 두 번째 은행은 어떤 사실이 답변을 이끌어냈는지, 인간이 어떤 수정을 했는지, 어떤 결정이 효과적이었는지, 어떤 것이 실패했는지를 기록하고, 전체 과정에서 정책을 지속적으로 조정한다.

1년 후, 더 나은 모델이 등장했을 때, 실제로 더 나아진 은행은 단 하나뿐이다. 만약 당신이 회사의 AI 모델을 교체한다면, 새로운 모델은 여전히 회사의 비즈니스 정의, 권한 설정, 평가된 사례, 고객 역사 및 귀중한 특별 상황 처리 경험을 상속받을 수 있다면, 이는 지속 가능한 경쟁 우위의 기초가 된다. 만약 새로운 모델이 여전히 모든 경쟁자와 동일하게 같은 프롬프트에서 시작한다면, 그런 기초는 없다.

두 번째 은행은 사람들이 "자율적이고 통제 가능한" 기업이라고 부르기 시작하는 곳이다. 만약 공급자가 가격을 인상하거나 조건을 수정하거나 특정 모델을 중단한다면, 기업은 공급자를 교체할 수 있으며, 축적된 경험을 잃지 않을 수 있다. 모델이 더 똑똑해지고 기업이 그것들에 점점 더 의존하게 됨에 따라, 이러한 독립성은 더욱 중요해질 것이다.

최근 한 기사에서 마이크로소프트 CEO 사티아 나델라는 다른 관점에서 유사한 결론을 도출했다. 그는 AI 모델이 개인과 조직의 전문 지식을 지속적으로 흡수하고 이를 모두가 사용할 수 있는 일반적인 능력으로 변환한다고 생각하며, 따라서 "모든 회사는 내가 말하는 인적 자본과 토큰 자본을 구축해야 한다."고 주장했다.

인적 자본은 직원의 지식, 판단력, 대인 관계 및 창의성이다; 토큰 자본은 기업이 구축하고 통제하는 AI 능력이다. 두 자본은 지속적인 학습의 닫힘에서 상호 축적되고 함께 성장하며, "이 닫힘은 기업의 새로운 지식 재산이 될 것이다."

데이터는 토큰 자본의 기초이다. "모든 회사의 비즈니스 데이터는 자신의 금광이다."라고 엔비디아 CEO 젠슨 황은 Databricks 2024년 Data + AI Summit에서 관중에게 말했다. 그는 칩 설계에서 공급망에 이르기까지 엔비디아의 거의 모든 프로세스가 데이터 플라이휠에서 시작된다고 설명했다.

"이것은 우리가 세계에서 가장 큰 '작은 회사' 중 하나가 될 수 있게 해주었다."고 그는 말했다. 당시 엔비디아의 가치는 3조 달러를 넘었지만, 직원 수는 3만 명에 불과했다. "그 이유는 물론 회사 내부에 많은 AI가 우리를 도와주고 있기 때문이다."라고 젠슨 황은 믿고 있다. "모든 회사가 그렇게 될 것이다. 이것은 비범한 시대이다."라고 그는 말했다. "모든 것은 데이터에서 시작된다."

기업의 미래

에이전트가 기업에서 신뢰성 있게 작동하려면 데이터 시스템이 지속적으로 네 가지 질문에 답해야 한다: 무슨 일이 일어났는가, 이 정보는 무엇을 의미하는가, 어떤 행동을 허용하는가, 그리고 행동이 효과적이었는가.

이러한 기초가 마련되면, 사람과 에이전트는 자율적으로 행동할 수 있으며, 모든 결정이 여러 관리 체계를 통해 전달될 필요가 없다; 행동의 결과는 기업이 스스로 통제하는 기록으로 돌아올 것이다.

조정 비용은 감소하고, 기업은 기존 직원으로 더 많은 작업을 수행할 수 있다. 과거에 상업적으로 성립할 수 없었던 새로운 회사도 등장할 것이며, 10명이 과거에 수천 명이 필요했던 작업을 수행할 수 있게 될 것이다. AI가 우수 인재가 할 수 있는 모든 일을 할 수 있기 전까지는, 우수 인재는 더욱 귀중해질 것이며, 가치가 하락하지 않을 것이다. 그날까지는 아직 멀었다.

다른 사람이 설계한 프로세스를 따르는 사람은 점점 줄어들 것이며, 에이전트가 우리가 어떻게 해야 할지를 이미 파악한 작업을 처리할 것이다. 더 많은 사람들은 아직 해결되지 않은 문제로 전환할 것이다: 무엇이 좋은지 판단하고, 무슨 변화가 일어났는지 감지하며, 다음에 무엇을 창조해야 할지를 결정하는 것이다.

앞으로 수십 년 동안, 사람들은 매일 무엇을 할까? 솔직한 대답은: 우리가 아직 어떻게 해야 할지를 파악하지 못한 일을 하는 것이다. 에이전트와 기업이 이미 알고 있는 작업을 자동화한 후, 사람들은 이러한 새로운 지능과 함께 뛰어난 새로운 것을 창조하고, 과거에 해결할 수 없었던 문제를 해결할 것이다.