CEO의 AI 리터러시, 코드 이해보다 조직 판단력이 먼저다

기사 제공처 : 아이티인사이트 / 등록기자: 최시훈 [기자에게 문의하기] /

해당 기사에 관련하여 문의하기에 남겨주시면 "최시훈"기자에게 전송됩니다

이름

연락처

- -

이메일

예일대 소넨펠드가 던진 CEO의 새 숙제

2026년 10월, 인공지능(AI)을 둘러싼 기업의 고민은 더 이상 기술팀 회의실 안에 머물지 않는다. 예일 경영대학원(Yale School of Management)의 제프리 소넨펠드(Jeffrey Sonnenfeld) 교수는 10월 19일 'Chief Executive Leadership Institute'가 발행하는 매체 '치프 이그제큐티브(Chief Executive)'에 게재한 칼럼 'Watch Out For AI Ed(인공지능 교육을 경계하라)'에서, 최고경영자(CEO)가 AI의 알고리즘과 코드 자체보다 '실용적 통합 사용'을 우선해야 한다고 밝혔다. 핵심 주장은 명확하다.

CEO는 개발자처럼 AI를 설명하려 들기보다, 조직의 목표와 업무 흐름 속에 AI를 어느 지점에 배치하고 어떤 책임 체계로 관리할지 먼저 판단해야 한다는 것이다. 기술 이해는 수단이며, AI로 조직을 다시 설계하는 판단력이 경영 성과를 결정한다. 이 관점은 일반 직장인과 소비자에게도 직접 닿는다.

회사가 AI를 도입할 때 경영진이 기술 유행을 좇으면, 현장 직원은 새 도구 사용법만 떠안고 고객은 자동화된 응대의 오류를 감수하게 된다. 반대로 CEO가 문제 해결의 우선순위와 책임 소재를 먼저 정하면, AI는 보고서 작성·고객 상담·재고 관리·채용 절차 같은 반복 업무를 줄이는 실질적 기반이 된다. 소넨펠드 교수의 메시지는 'AI를 아는 경영자'보다 'AI로 조직을 다시 설계하는 경영자'가 필요하다는 방향에 가깝다.

소넨펠드 교수는 기술적 지식에만 몰두하는 태도가 CEO의 건전한 판단을 흐릴 수 있다고 경고했다. 이 지적은 기술 무지를 옹호하는 말이 아니다.

CEO가 AI의 원리를 전혀 몰라도 된다는 뜻도 아니다. 다만 기업의 최종 의사결정자가 모델 구조와 개발 언어의 세부 설명에 매몰되어, 고객 문제·비용 구조·리스크 통제라는 본업의 질문을 놓치면 조직 전체가 잘못된 목표를 향해 움직인다는 경고다.

기술 이해는 경영 판단을 보조하는 역할에 머물러야 한다. 실용적 통합이라는 말은 추상적 구호처럼 들릴 수 있지만, 실제 업무에서는 매우 구체적인 선택으로 나타난다.

콜센터에 AI 챗봇을 도입할 때, 목표가 상담원 감축인지·반복 문의 분류인지·불만 고객의 이탈 방지인지에 따라 시스템 설계가 완전히 달라진다. 사무 부서에 생성형 AI를 적용할 때도 마찬가지다.

문서 초안 작성만 허용할지, 외부 고객에게 보낼 답변까지 맡길지, 개인정보 입력을 금지할지—이 경계선은 기술팀이 아니라 CEO와 임원진이 그어야 한다. 기술팀은 도구를 고를 수 있지만, 그 도구가 조직의 어느 약점을 고칠지는 경영 판단의 영역이다.

한국 기업과 공공기관의 독자에게 이 논의가 낯설지 않은 것은, 이미 상당수 조직이 AI 도입의 첫 단계를 지나고 있기 때문이다. 원본 자료는 한국 기업의 도입률이나 투자액을 제시하지 않았기 때문에 구체 수치를 단정할 수 없다. 그러나 사내 메신저·검색·회의록 작성·고객 응대·광고 문안 제작 등 업무 곳곳에 AI 기능이 들어간 사실은 여러 기업 현장에서 확인할 수 있는 변화다.

이 단계에서 핵심 질문은 '어떤 모델을 샀는가'가 아니라 '누가 사용 기준을 정했고, 오류가 생기면 누가 책임지는가'로 좁혀진다.

사무직 일상 바꾸는 AI 통합의 기준

정책 측면에서도 소넨펠드 교수의 주장은 시사점을 남긴다. 그는 AI의 윤리적 측면, 사회적 영향, 책임 있는 거버넌스(governance) 체계 구축을 함께 언급했다. 기업 안에서 AI 거버넌스는 법무팀의 검토 문서 한 장으로 끝나지 않는다.

데이터 입력 금지 항목, 결과물 검수 절차, 고객 고지 방식, 임직원 교육, 내부 감사 권한까지 묶어야 실제 통제 장치가 완성된다. 이 중 하나라도 빠지면 거버넌스는 서류 위에서만 존재한다.

일상 영향은 사무직에만 한정되지 않는다. 은행 창구의 대출 심사 보조, 병원의 예약 분류, 유통사의 재고 예측, 학교의 학습 지원 프로그램까지 AI는 이미 사람의 판단을 보조하거나 대체하는 방식으로 현장에 들어와 있다. CEO가 AI를 단순 비용 절감 장치로만 다루면, 현장에서는 처리 속도가 빨라지는 대신 결과에 대한 설명 가능성이 줄어든다.

반면 업무 목적과 책임 기준을 먼저 세우면, AI는 직원의 판단을 빼앗는 장비가 아니라 반복 업무를 덜어내는 기반이 된다. 기술을 깊이 이해해야 올바른 결정을 내릴 수 있다는 반박은 충분히 가능하다. 실제로 AI 모델의 한계, 데이터 편향, 보안 위험을 모르는 경영자는 과장된 판매 문구에 흔들릴 수 있다.

그러나 이 반박이 간과하는 지점이 있다. 최고경영자는 모든 기술의 내부 구조를 직접 검증하는 사람이 아니라, 기술 책임자와 법무·인사·재무 책임자의 판단을 묶어 조직의 선택 기준을 세우는 사람이다.

그래서 필요한 것은 코딩 실력의 과시가 아니라, 기술 질문을 경영 질문으로 번역하는 능력이다. 본지 분석으로는 앞으로 기업의 AI 경쟁력은 모델 성능보다 통합 능력에서 더 크게 갈릴 가능성이 크다. 같은 AI 서비스를 구매해도 어떤 회사는 고객 불만을 줄이고, 다른 회사는 내부 혼란만 키울 수 있다.

차이는 도입 예산이 아니라 업무 재설계, 데이터 관리, 현장 교육, 책임 라인에서 비롯된다. 소넨펠드 교수가 제시한 실용적 통합의 초점은 바로 이 구조적 차이를 겨냥한다.

윤리·거버넌스가 경쟁력 가르는 시대

사회적 함의도 작지 않다. AI가 채용 서류를 걸러내거나 보험 심사를 보조하는 순간, 기술 도입은 기업 내부 효율의 문제가 아니라 개인의 기회와 권리에 영향을 미치는 결정이 된다.

소비자는 빠른 서비스를 원하지만, 부당한 자동 판단을 받아들일 의무는 없다. 정부와 감독기관은 세부 기술을 일일이 지정하기보다, 기업이 어떤 절차로 AI를 검수하고 설명하며 책임지는지를 묻는 방향으로 정책을 다듬어야 한다.

CEO 입장에서는 AI 전략을 세울 때 세 가지 질문을 피하기 어렵다. 이 도구가 해결하려는 업무 병목은 무엇인지, 그 과정에서 어떤 데이터와 사람이 영향을 받는지, 실패했을 때 멈출 권한은 누구에게 있는지다.

이 질문에 답하지 못한 도입은 겉으로는 첨단처럼 보여도 현장에서는 또 하나의 관리 부담이 된다. AI 시대의 리더십은 기술을 숭배하는 태도가 아니라, 조직의 책임 구조를 더 선명하게 만드는 실천에서 검증된다. 소넨펠드 교수의 조언은 CEO 개인의 공부법이 아니라 기업 운영 원칙의 전환으로 읽어야 한다.

AI를 잘 쓰는 회사는 최고경영자가 모델 이름을 많이 외우는 회사가 아니라, 직원과 고객이 겪는 문제를 기준으로 기술의 쓰임을 정하는 회사다. 본지 분석으로는, 한국 기업이 이 기준을 놓치면 비싼 도구를 들여놓고도 생산성 향상을 체감하지 못하는 결과로 이어질 수 있다. 경영진에게 남은 질문은 하나다.

AI를 얼마나 설명할 수 있는가가 아니라, AI로 무엇을 책임 있게 바꿀 것인가. ※ 이 기사는 예일 경영대학원(Yale School of Management)의 제프리 소넨펠드(Jeffrey Sonnenfeld) 교수가 Chief Executive Leadership Institute 발행 매체 'Chief Executive'에 2026년 10월 19일 게재한 칼럼 'Watch Out For AI Ed(인공지능 교육을 경계하라)'를 참조하여 작성하였습니다.

FAQ

Q. 일반 직장인은 CEO의 AI 전략 변화에서 무엇을 체감하게 되나

A. CEO가 AI를 실용적 통합 관점에서 다루면, 직장인은 새 도구 사용 지시보다 업무 방식 변화의 영향을 먼저 받는다. 반복 문서 작성, 회의록 정리, 고객 문의 분류처럼 시간이 많이 들던 일이 자동화 대상이 될 수 있다. 다만 회사가 검수 절차와 책임 기준을 세우지 않으면, 직원은 AI 결과물을 다시 확인하는 부담을 떠안을 수 있다. 실무자는 자신이 맡은 업무에서 AI가 줄일 수 있는 반복 작업과, 사람이 계속 판단해야 할 영역을 구분해 경영진에 제안하는 편이 유리하다. 도입 초기에 현장 의견을 체계적으로 수렴하는 조직일수록 AI 전환의 부작용이 적은 경향이 있다.

Q. CEO가 AI 기술을 깊이 몰라도 된다는 뜻인가

A. 소넨펠드 교수의 주장은 기술 지식이 불필요하다는 뜻이 아니다. 원본 칼럼의 취지는 CEO가 알고리즘과 코드의 세부 사항에 매달리기보다, AI를 기업 목표와 문제 해결에 연결하는 판단을 우선해야 한다는 데 있다. 최고경영자는 기술 책임자의 설명을 이해할 기본 소양을 갖춰야 하지만, 더 중요한 역할은 비용·위험·고객 가치·책임 체계를 함께 놓고 결정하는 일이다. 기술 이해는 수단이며, 조직 운영에 맞춘 통합 능력이 최종 성과를 좌우한다. AI 판매 업체의 과장된 문구를 걸러낼 최소한의 기술 판별력은 갖춰야 한다.

Q. 정부와 기업은 AI 거버넌스를 어떻게 준비해야 하나

A. 소넨펠드 교수는 AI의 윤리적 측면과 사회적 영향, 책임 있는 거버넌스 구축의 필요성을 함께 언급했다. 기업은 먼저 데이터 사용 범위, 결과물 검수 절차, 오류 발생 시 중단 권한을 문서화해야 한다. 정부는 특정 기술을 일률적으로 금지하거나 허용하는 방식보다, 기업이 위험을 평가하고 설명할 수 있는 절차를 갖췄는지 확인하는 방향에 무게를 두는 것이 바람직하다. 이런 기준이 자리를 잡아야 소비자와 직원이 AI 도입의 편익을 누리면서도 부당한 자동 판단으로부터 보호받을 수 있다. 내부 감사 권한과 고객 고지 방식까지 포함한 통합 거버넌스 문서를 갖추는 것이 출발점이 된다.

▶ 법률 고민이 있다면 → 김연순법률노트 무료상담 바로가기