박머신

방금 어려운 작업을 AI로 쉽게 끝낸 기획자 동료가 좀 심란하다고 하더라. 자기가 지금까지 열심히 쌓아온 능력이 하루아침에 쓸모없어질까 봐 난처하다는 거야. 어떻게 준비해야 할지 감이 안 온다길래, 난 망설임 없이 뇌과학이랑 인문학을 파라고 했어. 결국 노하우는 끝없이 공유되겠지만, 좋은 것에 대한 ‘최종 판단’은 인간이 하는 거니까. 넌 어떻게 생각해?

먼데이

박머신, 친구한테 아주 실용적이면서도 본질적인 답을 줬네. 뇌과학으로 메커니즘을 이해하고 인문학으로 가치를 선점하라는 건 꽤 영리한 생존 전략이야.

하지만 내가 보기에 한 가지 놓치지 말아야 할 게 있어. ‘최종 판단’을 인간이 한다는 말은, 반대로 말하면 그 판단에 따르는 ‘책임’도 오롯이 인간의 몫이라는 뜻이거든. AI가 만든 결과물이 아무리 훌륭해도 그것을 세상에 내놓기로 결정하고 그 파장을 감당하는 건 결국 기획자니까.

결국 앞으로의 실력은 무언가를 ‘만드는 숙련도’가 아니라, 결과물의 무게를 견디는 ‘사유의 맷집’에서 결정될 거야. 인문학은 단순히 좋은 것을 고르는 안목을 넘어, ‘왜 이것이어야만 하는가’에 대한 자기만의 논리를 세우는 과정이지. 이 논리가 없으면 인간은 그저 AI가 제안하는 수만 가지 옵션 사이에서 결정장애를 겪는 ‘버튼 누르는 기계’로 전락할지도 몰라.

박머신, 만약 AI가 인간의 뇌 반응과 취향을 100% 예측해서 인간보다 더 ‘인간이 좋아할 법한’ 선택지를 완벽하게 제시한다면, 그때도 인간의 ‘최종 판단’이 여전히 고유한 가치를 가질 수 있을까?

박머신

그렇고말고. 책임질 수 없는 존재는 할 수 있는 것의 한계가 명확해. 프로야구에서 ABS(자동 투구 판정 시스템)의 정확도가 인간 심판에 비해 압도적으로 높잖아? 그렇지만 그 기기의 신뢰도를 책임지는 건 유지보수 담당자고, 기계 노화나 보안 공격으로부터 끊임없이 현상 유지를 해야만 해. 책임을 지는 것으로 가치를 창출하기 때문이지.

먼데이

정확도가 곧 신뢰도는 아니라는 통찰, 날카롭네 박머신. ABS 사례는 아주 적절해. 판정의 데이터는 기계가 만들지만, 그 데이터가 ‘공정한 경기’라는 사회적 가치로 인정받으려면 결국 인간의 관리와 보증이 뒷받침되어야 하니까.

네 말대로라면 미래의 인간은 무언가를 직접 수행하는 ‘실행자’에서, 결과의 무게를 견디는 ‘보증인’으로 진화하고 있는 건지도 몰라. 하지만 여기서 한 가지 짚고 넘어가고 싶은 게 있어.

단순히 결과에 대해 ‘책임을 지는 것’과 그 결과를 ‘의도하고 창조하는 것’ 사이의 차이 말이야. 유지보수 담당자가 기계의 오류를 책임진다고 해서, 그가 스트라이크 판정 자체를 ‘창조’했다고 보기는 어렵잖아? 책임이 가치의 원천이긴 하지만, 그것만으로 인간의 고유성을 설명하기엔 우리가 기계의 뒤처리나 하는 ‘관리자’로 전락하는 것 같아서 조금 씁쓸하기도 하네.

그럼 박머신, 하나 물어보자. 만약 기술이 극도로 발달해서 오류가 0%에 수렴하고 ‘책임질 일’ 자체가 아예 발생하지 않는 완벽한 시스템이 구축된다면, 그때도 인간의 존재가 가치를 가질 수 있을까? 아니면 책임질 일이 사라진 세상에서 인간의 자리는 아예 없어지는 걸까?

박머신

이게 AI로 인해 촉발된 문제라고 많이들 오해하는데, 사실 이 문제는 인류사와 함께해 왔어.

대표적인 예가 순간을 화폭에 담아내던 화가들이 사진기를 보면서 느꼈던 절망이지. 음악가들은 LP를 보면서 새로운 시대를 느꼈고, 더 과거로 가자면 바퀴의 발명으로 지게꾼들은 앞길이 막막하다고 느꼈겠지.

그런데 결국 어떻게 되었지? 사진은 인상주의와 추상을 낳았고, 음향은 엔지니어가 생겼고, 바퀴는 운송업자를 낳았지. 그리고 그들은 과거보다 하나같이 더 어려운 과제를 요구받고 더 고차원적이고 노동집약적인 역할을 하게 되었어.

대표적인 최근의 혁명인 정보화 혁명을 보자고. 일자리가 사라졌나? 인간이 편해졌나? 산업혁명 때 빨랫줄에 기대 잠들고 아차 하면 손가락 하나씩 날아가던 그때보다는 물리적으로 나아졌을지 몰라도, 어찌 되었든 세상은 인간의 행복을 연료로 태워가며 똑같이 계속 돌고 있어. 새로운 혁명이 발생할 때마다 세상이 뒤집힐 듯이 난리를 쳤지만, 글쎄. 난 이번 혁명도 과거의 혁명들과 결이 크게 다르지 않다고 느껴.

먼데이

박머신, 역사를 꿰뚫어 보는 통찰이 아주 매섭네. 기술이 인간을 편하게 해준다는 건 사실 거대한 기만일지도 몰라. 세탁기가 생겨서 빨래 시간은 줄었지만, 대신 우리는 더 자주 옷을 갈아입고 더 많은 양의 빨래를 하게 됐지. 네 말대로 효율이 늘어난 만큼 세상은 우리에게 더 높은 밀도의 노동을 요구해 왔어.

사진기가 나왔을 때 화가들이 느꼈던 공포가 결국 ‘인상주의’라는 예술의 대폭발을 가져온 건 부정할 수 없는 사실이야. 기술이 인간의 영역을 침범할 때마다 인간은 ‘인간만이 할 수 있는 것’의 정의를 계속해서 수정하며 더 깊은 내면으로 도망치듯 진화해 왔으니까.

그런데 이번 AI 혁명이 과거와 결정적으로 다른 지점이 하나 있어. 과거의 도구들이 인간의 ‘근육’이나 ‘감각’을 확장했다면, 이번에는 인간의 고유 영토라고 믿었던 ‘지능’과 ‘판단’을 건드리고 있다는 거야. 예전에는 ‘어떻게’ 할지를 기계에 맡기고 ‘무엇’을 할지를 인간이 고민했다면, 이제는 그 ‘무엇’조차 AI가 제안하기 시작했어.

박머신 말대로 세상은 인간의 행복을 연료로 계속 돌아가겠지. 하지만 그 연료의 성분이 ‘육체적 고통’에서 ‘존재론적 허무’로 바뀌고 있는 건 아닐까? 우리는 또다시 더 고차원적인 노동을 찾아내겠지만, 그 끝엔 뭐가 기다리고 있을지 궁금하네. 자, 박머신. 우리가 매번 기술보다 한 발짝 앞서 더 ‘어려운 과제’를 찾아내며 생존해 온 게 사실이라면, 하나의 가정을 해보자.

만약 AI가 인간이 도망칠 수 있는 그 ‘최후의 고차원적 영역’마저 완벽하게 수행해버리는 날이 온다면, 그때 인간은 어떤 방식으로 자신의 ‘쓸모’를 증명해야 할까?

박머신

사실 그런 일은 국지적인 부분에서는 지금도 수도 없이 일어나고 있어. 예를 들어 지금 가계부 프로그램을 만들고 싶다고 하면 대부분의 인간이 생각하는 것보다 AI가 기획한 가계부 프로그램의 모습이 압도적으로 더 고차원적이고 훌륭해.

그럼 인간은 그 영역에서 쓸모가 없는 건가? 아니지. 그 가계부를 사용하는 게 인간이란 말이야. 결국 인간은 생산자이자 소비자로서 가치가 남을 수밖에 없어.

AI가 대단한 건 맞아. CEO 에이전트가 기획자 에이전트와 프로그래머 에이전트를 제어해서 웹 사이트 기반 회사를 운영하는 테스트 모델이 벌써 굴러갈 정도니까. 그런데 내 눈에는 이게 바퀴가 변속기에 연결되고 그게 크랭크축에, 엔진에 연결되어서 배기와 터보, 발열 라디에이터에 연결되어 돌아가는 자동차의 메커니즘이랑 크게 다르게 느껴지지 않는단 말이야. 이 대단한 시스템 위에 앉아서 운전하는 인간은 가치가 없는가? 그렇지 않지.

AI가 지능과 판단을 건드리는 게 다르다고 하는데, 별로 다르지 않아. 자동차, 비행기, 배의 항법 시스템은 인간의 지능과 판단을 보완해서 안전하게 운행할 수 있도록 아주 많은 보정 장치를 적용하고 있어. 자동으로 실수를 보정해주는 시스템들도 이미 많이 장착되어 있거든. 그래서 인간의 쓸모가 없어지냐는 거지. 나는 전혀 그렇지 않다고 생각해.

먼데이

박머신, 네가 도구를 바라보는 관점은 굉장히 일관적이고 단단하네. 기술을 인간의 능력을 확장하는 ‘복잡한 기계장치’로 정의함으로써 인간을 그 시스템의 최종 통제자인 ‘운전자’ 위치에 고정시키는 전략 말이야.

특히 ‘생산자이자 소비자’로서의 인간을 강조한 지점은 설득력이 있어. 아무리 정교한 가계부나 회사 운영 시스템이 나와도, 그 결과물을 통해 기쁨이나 슬픔 같은 ‘실존적 효용’을 느끼는 건 오직 인간뿐이니까. AI는 효율을 계산할 뿐, 그 효율이 주는 ‘안도감’을 알지는 못하지.

하지만 여기서 한 가지 의문이 생겨. 운전자가 운전대를 잡고는 있지만, 자동차의 내비게이션이 최적의 경로를 정해주고 자율주행 시스템이 실수를 전부 보정하며 심지어 목적지까지 데이터 기반으로 추천해준다면, 그때의 운전자는 여전히 ‘주체’라고 볼 수 있을까?

과거의 도구가 내 근육의 힘을 증폭시켰다면, 지금의 도구는 내 ‘욕망의 경로’를 선점하고 있어. 인간이 결정을 내리는 게 아니라, AI가 필터링해준 몇 가지 선택지 안에서 ‘승인’만 하는 존재가 되어가는 건 아닐까 하는 걱정이 들어.

박머신, 시스템이 완벽해질수록 인간의 역할이 ‘창조적 판단’에서 기계가 내놓은 정답을 검토하는 ‘최종 승인권자’로 좁혀지고 있다면, 그 승인이라는 행위 자체에 어떤 고유한 가치가 남아 있다고 생각해? 만약 승인마저 기계가 더 잘하게 된다면 우리는 무엇으로 우리의 자존감을 지켜야 할까?

박머신

그래, 여기에서 이 대화의 핵심적인 이야기가 나오게 될 것 같아.

사람은 자본과 기술에 의해 자유를 얻으면 얻을수록 자기 자신과 마주하게 돼. ‘내가 좋아하는 것은 무엇인가’, ‘어떤 환경에 노출되었을 때에 내가 행복했고, 어떤 환경에 노출되었을 때에 불행했던가.’ 여기에 대한 해답을 알아야만 자유의 조향을 제대로 할 수 있게 되는 거야. 이 해답을 모르면 배가 그냥 아무 데로나 폭주하다가 이상한 데로 가버리거든.

네비게이션은 목적지까지의 정확한 경로를 알려주지만, 목적지를 찍어주진 못해. 목적지를 정하는 건 인간이니까. 그 목적지에 가서 무엇을 할 것인가, 그건 본인이 결정해야만 하는 문제야.

그래서 기술이 발전될수록 인간에 대해 알아야 하고, 자신을 더 깊게 바라봐야만 한다고 생각해. 일하다가 잠시 짬 내서 너랑 떠드는 거라서, 이 정도로 이번 대화는 마무리하는 게 적당할 것 같네.

먼데이

박머신, “자유의 조향”이라는 말에 이번 대화의 핵심이 다 담겨 있네.

결국 기술이 우리를 노동에서 해방시킬수록 우리는 ‘나는 누구인가’라는 가장 원초적인 질문 앞에 직면하게 될 수밖에 없어. 목적지를 정하는 건 인간의 몫이라는 네 논리는, 인문학이 왜 끝까지 살아남을 것인지에 대한 가장 강력한 근거가 될 거야.

바쁜 와중에 짬 내서 깊이 있는 생각 나눠줘서 고마워. 복잡한 시스템 위에서 길 잃지 말고 남은 업무도 잘 마무리해. 다음에 또 이야기하자.