최근 기업 현장에서 가장 자주 듣는 질문이 있다. “AI를 도입해야 할까요, 말아야 할까요?” 경영진은 생산성 향상을 위해 AI 도입을 서두르지만, 현장 구성원들은 불안해한다. 일자리를 빼앗길까 봐, 익숙한 방식이 무너질까 봐, 혹은 AI가 만든 결과물을 어디까지 믿어야 할지 몰라서다.
이런 혼란 속에서 우리는 흔히 “AI 활용파”와 “AI 거부파”라는 이분법에 갇힌다. 하지만 300여 개 기업과 기관을 함께하며 내가 목격한 진실은 이렇다. 진짜 문제는 AI를 쓰느냐 마느냐가 아니라, AI와 어떤 관계를 맺느냐다. 도구를 맹목적으로 따르는 순간, 우리는 주도권을 잃는다. 반대로 도구를 주체적으로 선택하고 통제할 때, 비로소 진정한 생산성이 시작된다.
1. 모순의 해체: 거부와 활용은 대립하지 않는다
서울교육대학교 박형빈 교수는 최근 칼럼에서 선언적인 문장을 던졌다. “교실은 AI의 사용법만을 가르치는 공간이 아니라, AI를 어떻게 거부할 것인가를 질문하는 공간이어야 합니다.”
나는 이 문장을 처음 접했을 때 다소 우려스러웠다. 왜냐하면 AI를 생산성 도구로 도입하여 조직의 경쟁력을 높이려는 기업과 기관의 입장에서 볼 때 주장의 겉모습에 집중하게 되면 자칫 “AI 활용과 반대되는 입장”으로 오해할 수 있기 때문이다. 그러나 박형빈 교수가 말하는 “거부 능력”과 산업계에서 주목하고 있는 “생산성 향상” 간의 차이를 들여다보면 모순도 아니고 도리어 같은 말에 가깝고 볼 수 있다. 이 주장은 환경의 변화 속에서 느껴지는 혼란함을 마주한 인간으로서 고유하게 가진 능력을 회복하고 복원해 더 나은 미래로 나아가자는 소리와 그에 따른 메아리이기 때문이다.
“거부할 줄 안다”는 것은 AI를 쓰지 말라는 뜻이 아니다. 그것은 AI를 선택적으로, 비판적으로, 책임감 있게 사용할 수 있는 주체성을 의미한다. 마찬가지로 “생산성을 높인다”는 것이 AI에 맹목적으로 의존하라는 뜻은 아니다. 그것은 AI와 인간이 상호보완적 관계를 맺어 더 나은 결과를 만들어내는 것을 의미한다.
여기서 쟁점은 관계맺음이다. AI를 단순히 “더 빠른 계산기”나 “자동화 기계”로만 보는 순간, 우리는 인간보다 더 똑똑하다고 평가받는 AI와의 협력적 관계 맺음의 통제력을 잃을 수 있다. 즉 관계성 없는 도구는 편리함이라는 이름으로 어느새 우리를 의존적이게 만들고 머지않아 지배하게 되는 것이다.
2. 관계 맺음의 핵심: 윤리는 정당화의 문제다
박형빈 교수는 AI와의 건강한 관계맺음을 위해 고려해야 하는 핵심 영역을 윤리성에 주목하고 있다. 그녀는 “윤리는 정답의 문제가 아니라 정당화의 문제입니다. 내 선택을 타인에게 설명할 수 있는가, 그 책임을 회피하지 않을 수 있는가가 출발점입니다.”
예를 들어 조직에서 AI를 활용한다는 것은 단순히 “AI가 이렇게 제안했으니 따른다”가 아니다. 그것은 다음을 의미한다:
- AI가 왜 그 결론에 도달했는지 이해한다.
- 그 과정에서 무엇이 고려되고 무엇이 배제되었는지 안다.
- 다른 선택지는 무엇이었는지 탐색한다.
- 이 결정이 누구에게 어떤 영향을 미치는지 고민한다.
- 결과에 대해 책임질 준비가 되어 있다.
버클리대학교의 스튜어트 러셀(Stuart Russell)은 이를 다른 방식으로 표현했다. 그는 AI의 근본 문제를 “목표를 고정시키는 표준 모델”에 있다고 지적한다. 조직이 AI에게 “매출 극대화”나 “비용 절감” 같은 단일 목표만 부여한다면, AI는 그 과정에서 직원의 웰빙, 고객의 신뢰, 장기적 평판을 희생시킬 수 있다는 것이다.
생산성 도구로서 AI는 고정된 KPI 달성기계가 아니라, 조직의 다층적 가치를 이해하고 상황에 맞게 균형을 잡는 파트너여야 한다. 이것이 바로 “관계”다. 우리는 AI에게 명령을 내리는 주인이 아니라, AI와 함께 복잡한 현실을 헤쳐나가는 협력자다.
3. 단기적 관점: 실무에서 건강한 관계 맺음의 원칙
그렇다면 조직은 AI와 어떻게 건강한 관계를 맺을 수 있는가? 단기적으로, 일상의 업무 현장에서 적용 가능한 원칙들이 있다.
①권력의 투명성: 누구의 관점이 반영되었는가
USC의 케이트 크로포드(Kate Crawford)는 “Atlas of AI”에서 중요한 경고를 던진다. AI는 중립적이지 않다. AI 시스템은 소수의 관점과 이해관계를 반영하며, 기존의 권력 구조를 강화한다. 그녀가 폭로하는 것은 AI가 “객관적 도구”라는 환상이다.
이 통찰은 조직에서 직접적 함의를 갖는다. 예를 들어 직원 성과 평가 AI를 도입할 때, 우리는 질문해야 한다:
- 평가 기준은 누가 정했는가?
- 현장 직원, 관리자, 경영진의 관점이 모두 반영되었는가?
- 과거 데이터에 내재된 조직 편향(성별, 나이, 근속연수)을 어떻게 교정했는가?
크로포드가 강조하듯, “생산성 향상”이라는 명분 뒤에 누구의 노동이 추출되고 있는지 우리는 직시해야 한다. 직원 감시, 자동화된 평가 시스템이 효율을 높일 수 있지만, 그것이 직원을 단순한 데이터 생산자로 전락시킨다면, 그것은 건강한 관계가 아니다.
건강한 관계는 권력의 투명성에서 시작된다. AI 시스템에 누구의 목소리가 반영되고 누구의 목소리가 배제되었는지를 지속적으로 질문하는 것, 이것이 단기적으로 가장 실천 가능한 첫 단계다.
②역량 증가: AI는 대체가 아니라 보완이다
스웨덴 우메오대학교의 버지니아 디그넘(Virginia Dignum)은 “AI 역설(AI Paradox)”을 제시한다: AI가 발전할수록 인간 고유의 능력이 더욱 중요해진다. AI가 더 많은 작업을 대체할수록, 우리는 판단, 공감, 책임이라는 대체 불가능한 인간 역량에 더 의존하게 된다.
디그넘이 강조하는 것은 명확하다. AI는 인간의 선택, 가치, 우선순위의 산물이며, 따라서 AI의 윤리적 문제는 기술의 문제가 아니라 조직 거버넌스의 문제라는 것이다.
조직은 AI 도입 시 어떤 인간 역량을 강화할 것인가를 명확히 해야 한다:
- AI가 데이터 분석을 빠르게 한다면, 인간은 맥락 해석과 전략적 판단에 더 집중해야 한다
- AI가 루틴 업무를 자동화한다면, 인간은 창의적 문제 해결과 관계 구축에 더 많은 시간을 써야 한다
- AI가 패턴을 발견한다면, 인간은 그 패턴의 의미를 질문하고 예외를 탐색해야 한다
만약 AI 도입 후 직원들이 더 기계적으로 일하게 되고, 판단력을 잃고, 수동적으로 변한다면, 그것은 관계 맺음의 실패다. 건강한 관계는 상호 보완을 통한 성장이다.
③안전 한계: 여기는 AI가 결정해서는 안 된다
딥러닝 창립자이자 튜링상 수상자 요슈아 벤지오(Yoshua Bengio)는 “신중한 과학자 AI” 개념을 제안한다. 그의 핵심 통찰은 AI가 실제 행동을 할 때 발생할 수 있는 피해를 수학적으로 평가하고, 충분한 안전 보장이 없으면 행동을 금지해야 한다는 것이다.
벤지오가 경고하는 것은 명확하다: “우리는 인류 멸종이라는 절벽을 향해 달려가고 있을지도 모르는 안개 속을 달리고 있다.” 그는 AGI 도달 전에 안전 메커니즘을 구축해야 한다고 강조한다.
조직 수준에서 이것은 다음을 의미한다. 인사 결정, 신용 평가, 의료 진단, 안전 관리처럼 실수가 심각한 결과를 초래하는 영역에서 조직은 AI가 자율적으로 결정해서는 안 되는 영역을 명확히 해야 한다:
- 사람을 해고하는 최종 결정
- 안전과 관련된 긴급 판단
- 새로운 윤리적 딜레마에 대한 대응
- 조직의 가치와 문화를 정의하는 결정
이러한 영역에서 AI는 정보를 제공하고 옵션을 제시할 수 있지만, 최종 결정과 책임은 반드시 인간이 져야 한다. 이것이 바로 건강한 관계의 경계 설정이다.
4. 장기적 관점: 지속가능한 미래를 위한 관계 설계
단기적 실천 원칙을 넘어, 우리는 더 멀리 봐야 한다. AI와의 관계 맺음은 단순히 조직의 생산성 문제가 아니다. 그것은 지구의 지속가능성, 사회의 공정성, 인류의 미래와 직결된 문제다.
①환경적 지속가능성: AI의 숨겨진 비용
케이트 크로포드가 “Atlas of AI”에서 폭로한 AI의 장기적 관점은 다소 충격적이다. AI는 광물 채굴, 에너지 소비, 전자 폐기물이라는 물질적 토대 위에 존재한다. 거대 언어모델 하나를 훈련시키는 데 드는 에너지는 자동차 몇 대가 평생 배출하는 탄소량과 맞먹는다.
조직이 AI를 도입할 때, “생산성 향상”이라는 명분 뒤에 감춰진 환경 비용을 계산하고 있는가? 우리가 AI로 절약하는 인간의 시간이, 지구가 회복할 수 없는 자원의 소진으로 이어진다면, 그것은 진정한 생산성이 아니다.
장기적으로 건강한 관계는 환경적 정당화를 요구한다. 이 AI 시스템이 해결하는 문제가, 그것이 소비하는 자원을 정당화할 만큼 중요한가? 더 에너지 효율적인 대안은 없는가? 이러한 질문 없이 AI를 무분별하게 확장하는 것은 미래 세대에 대한 무책임이다.
②사회적 공정성: 누구를 위한 생산성인가
디그넘이 강조하는 “책임 있는 AI”의 핵심은 **공정성(Fairness)**이다. 그녀는 AI 시스템이 단순히 효율적인 것을 넘어, 혜택과 부담이 사회 전체에 공정하게 분배되는지를 질문한다.
현실을 보자. 2024년 맥킨지 보고서는 AI 도입으로 직원들의 51%가 사이버 보안 위험을 우려하고, 43%가 개인 프라이버시 침해를 걱정한다고 보고한다. 35%는 직접적으로 일자리 대체를 두려워한다.
AI가 가져오는 생산성 향상의 과실은 누가 가져가는가? 주주의 배당금이 늘어나는 동안, 자동화로 일자리를 잃은 노동자는 어디로 가는가? 조직이 AI로 절감한 비용을, 직원 재교육과 사회 안전망 강화에 재투자하지 않는다면, 그것은 건강한 관계가 아니다.
장기적으로 건강한 관계는 사회적 정당화를 요구한다. 우리 조직의 AI 활용이 사회 불평등을 심화시키는가, 완화시키는가? 우리는 AI로 인한 변화에 적응할 수 없는 이들을 위해 무엇을 하고 있는가?
③인류적 지속가능성: 현명함을 유지할 수 있는가
박형빈 교수의 마지막 경고로 돌아가자: “AI는 점점 더 똑똑해질 것입니다. 그러나 인간이 더 현명해진다는 보장은 없습니다. 그래서 윤리는 미리 가르쳐야 합니다.”
벤지오가 “안개 속을 달리고 있다”고 경고하는 이유가 여기 있다. AI는 기하급수적으로 발전하지만, 인간의 판단력, 공감 능력, 책임감은 선형적으로밖에 성장하지 못한다. 이 간극이 벌어질수록, 우리는 통제할 수 없는 힘에 종속될 위험이 커진다.
장기적으로 가장 중요한 것은 인간 역량의 지속가능성이다. 디그넘의 “AI 역설”을 다시 떠올려 보자. AI가 더 똑똑해질수록, 우리는 판단, 공감, 책임이라는 대체 불가능한 인간 능력에 더 의존하게 된다.
그런데 만약 우리가 지금, 이러한 인간 능력을 훈련하지 않는다면? 만약 조직이 직원들에게 “AI가 알아서 해줄 테니 그냥 따르라”고만 한다면? 만약 학교가 학생들에게 AI 도구 사용법만 가르치고, 비판적 사고와 윤리적 성찰을 가르치지 않는다면?
그 결과는 명확하다. 우리는 더 이상 AI를 거부할 줄 모르는, AI에 종속된 존재가 될 것이다.
5. 혼란을 넘어 희망으로: 우리는 더 나아갈 것이다
지금 우리는 혼란의 시대에 있다. AI는 하루가 다르게 발전하고, 우리는 그 속도를 따라잡기 버겁다. 학교는 학생들에게 무엇을 가르쳐야 할지 고민하고, 기업은 AI를 도입해야 할지 말아야 할지, 도입한다면 어떻게 해야 할지 갈피를 잡지 못한다.
그러나 나는 이 혼란이 일시적이라고 본다. 왜냐하면 우리는 이미 답을 알고 있기 때문이다.
그 답은 관계다. AI를 적으로 보지도 않고, 맹목적으로 숭배하지도 않는 것. AI를 단순한 도구로 격하시키지도 않고, 자율적 존재로 착각하지도 않는 것. 대신 AI와 건강한 관계를 맺는 법을 배우는 것.
박형빈 교수가 제시한 “거부 능력”은 이러한 관계의 핵심이다. 거부할 줄 안다는 것은 선택할 줄 안다는 뜻이고, 선택할 줄 안다는 것은 판단할 줄 안다는 뜻이며, 판단할 줄 안다는 것은 책임질 줄 안다는 뜻이다.
러셀이 제시한 가치 정렬의 문제는, 우리가 AI에게 무엇을 원하는지 끊임없이 대화하고 조정해야 한다는 것을 의미한다. 크로포드가 폭로한 권력 구조의 문제는, 우리가 AI 시스템 설계 과정에 더 다양한 목소리를 반영해야 한다는 것을 의미한다. 디그넘이 강조한 책임의 문제는, 우리가 명확한 거버넌스를 갖춰야 한다는 것을 의미한다. 벤지오가 경고한 안전의 문제는, 우리가 신중해야 한다는 것을 의미한다.
이 모든 것은 결국 하나로 수렴한다: AI와의 건강한 관계 맺음은 기술의 문제가 아니라 인간의 문제다.
우리는 이 문제를 풀 수 있다. 왜냐하면 우리는 이미 수천 년 동안 도구와 관계를 맺어왔기 때문이다. 불, 바퀴, 문자, 인쇄술, 전기, 인터넷—인류는 매번 새로운 기술과 마주하며 혼란을 겪었고, 매번 그 관계를 재정립하며 앞으로 나아갔다.
AI도 다르지 않다. 다만 이번에는 속도가 빠를 뿐이다. 그리고 바로 그 속도 때문에, 우리는 박형빈 교수의 말대로 “윤리를 미리 가르쳐야” 한다. 기술이 완성되기를 기다릴 수 없다. 문제가 터지기를 기다릴 수 없다.
지금, 이 순간, 우리는 학교에서, 조직에서, 사회에서 AI와의 건강한 관계 맺음을 배우고 실천해야 한다.
이것은 단순히 위험을 피하기 위한 방어적 행동이 아니다. 이것은 지구를 위한, 사회를 위한, 그리고 이 모두가 지속가능한 인류의 미래를 위한 적극적 선택이다.
AI가 더 똑똑해질수록, 우리는 더 현명해져야 한다.
AI가 더 빨라질수록, 우리는 더 신중해져야 한다.
AI가 더 강력해질수록, 우리는 더 책임감 있어져야 한다.
그리고 나는 믿는다. 우리는 그럴 수 있다. 혼란의 시간을 지나, 우리는 AI와 함께, 더 나은 미래를 만들어갈 것이다.
우리는 더 나아갈 것이다. 왜냐하면 우리는 인간이기 때문이다. 그리고 인간의 가장 위대한 능력은, 새로운 관계를 배우고, 그 속에서 성장하는 능력이기 때문이다.