책 소개
기술철학 분야 최고의 책이다.
깊은 사유를 불러일으킨다. 매우 탁월하다.
“신기하다. 일이 없어지는 ‘일의 종말’은 좋은 것이라고 주장한다. 그리고 이 일의 종말은 인간의 윤택함을 위한 더 나은 대안을 이끌어낼 수 있다고 말한다. 이와 같은 일련의 주장은 지금까지 없었던 전혀 새로운 것이다. 그리고 존 다너허가 이러한 주장을 추구하고 달성하는 방법은 흥미진진하다. 이 책은 이 자동화 기술의 시대에 매우 독창적인 공헌을 이루어낸다.” ___ David Gunkel (데이비드 건켈), Northern Illinois University
“기술철학 분야 최고의 책이다. 대단히 명확하다. 반대 주장까지도 공정하게 다룬다. 통쾌한 독창성을 가지고 있다. 게다가 이 책은 시의적으로도 대단히 중요하다. ___ 에반 셀링거(Evan Selinger), Rochester Institute of Technology
“깜짝 놀랄 만큼 폭넓은 지식을 바탕으로 한다. 조만간 자동화 기술이 가능하게 할 급진적 기회에 대해 두려움 없는 설명을 펼쳐 놓는다. 분석철학의 정확성과 함께 자신감 넘치는 글쓰기로 독자를 사로잡는다. 이 책은 존 다나허가, 왜 행복한 미래를 향한 우리 시대의 가장 중요한 길잡이 중 한 명인지를 다시 한번 보여준다. ___ 제임스 휴스(James Hughes), Institute for Ethics and Emerging Technologies
“잘 빚어진 토론은 시기적절하고 중요하다. 존 다나허의 이 책은 여러 분야의 학자, 기술 개발자, 정책 입안자, 그리고 관심 있는 일반인들에게 문제작으로 자리잡을 것이다. 이 책은 이미 우리를 앞질렀을 가능성이 높은 기술이 점점 더 지배력을 넓혀가는 세상에 대해 이야기한다. 우리는 미래를 최대한 활용하기 위해 이를 진지하게 받아들여야 한다.” ___ 대니얼 티가드(Daniel W. Tigard), Journal of Applied Philosophy
“일은 나쁜 것이고, 일은 그것을 우리에게서 없애버리는 것이 더 낫다고 주장한다. 이러한 주장은 하지만 곧 (일은 나쁜 것이 아니라는) 사람들의 반대에 부딪히고 만다. 존 다나허는 일의 정의를 조금 좁힘으로써 이런 반대를 피한다. 그리고 “왜 우리가 일을 싫어해야 하는가?”라는 질문과 함께 일이 구조적으로 나쁜 이유를 설명한다. 그의 주장과 설명은 매우 탁월하다. 설득력 있다.” ___ 카이 소탈라(Kaj Sotala), Writer in Cognitive Science and Computer Science
“자극적이다. 하지만 깊은 사유를 불러일으킨다. 존 다나허는 보다 자동화된 미래가 제공해줄 기회와 과제에 대해 정통하다. 그리고 그의 이 새 책은 목전(目前)의 자동화 기술에 대한 가장 광범위한 논의를 제공한다. 이 책은 미래에 더 중요해질 주제에 대한 아이디어들로 가득 차 있다.” ___ 존 패닝(John Fanning), Dublin Review of Books
지은이&옮긴이 소개
지은이 : 존 다나허 (John Danaher)
아일랜드국립대학교(National University of Ireland) 법학과 교수이다. 첨단 AI의 위험성, 삶의 의미와 일의 미래, 인간 강화의 윤리, 법과 신경과학의 교차점, 뇌 기반 거짓말 탐지의 효용, 종교철학 등을 주제로 한 수십 편의 논문을 발표했다. 그의 글은 ≪가디언≫(The Guardian), ≪이온≫(Aeon), ≪철학자들의 매거진≫(The Philosophers’ Magazine)에 실렸다. ≪자동화와 유토피아≫(2019)를 집필하고, ≪로봇 섹스 : 사회적ㆍ윤리적 함축≫(Robot Sex : Social and Ethical Implications)(2018)을 공동으로 편집했다. 그는 또한 ‘철학적 논쟁’이라는 블로그의 지은이이며 같은 이름의 팟캐스트를 진행하고 있다.
옮긴이 : 김동환
해군사관학교 영어과 교수이다. 인문학과 인지과학을 아우르는 융합 학문의 시각을 바탕으로 오늘날의 복잡다단한 사회 현상을 보다 깊이 있게 분석하고 이해하고자 한다. 개념적 은유 이론과 개념적 혼성 이론에 각별한 관심을 가지고 있다. 인지과학, 인지심리학, 인지언어학 분야에 출간되는 전 세계 석학들의 저서를 꾸준히 번역해 내고 있다. ≪개념적 혼성 이론≫(학술원 우수 학술 도서), ≪인지언어학과 의미≫(문화관광부 우수 도서), ≪인지언어학과 개념적 혼성 이론≫, ≪환유와 인지≫(세종도서 학술 부문 선정)을 집필했다. ≪인지언어학 개론≫(문화관광부 우수 도서), ≪우리는 어떻게 생각하는가≫(학술원 우수 학술 도서), ≪인지언어학 옥스퍼드 핸드북≫, ≪몸의 의미 : 인간 이해의 미학≫, ≪이야기의 언어≫, ≪과학과 인문학 : 몸과 문화의 통합≫, ≪비판적 담화 분석과 인지과학≫, ≪담화, 문법, 이데올로기≫, ≪애쓰지 않기 위해 노력하기≫(세종도서 교양 부문 선정), ≪생각의 기원≫, ≪창의성과 인공지능≫, ≪애니메이션, 신체화, 디지털 미디어의 융합≫(세종도서 학술 부문 선정), ≪은유 백과사전≫(세종도서 학술 부문 선정), ≪고대 중국의 마음과 몸≫, ≪뉴 로맨틱 사이보그≫, ≪메타포 워즈≫, ≪취함의 미학≫, ≪아티스트 인 머신≫, ≪휴먼 알고리즘≫, ≪트랜스휴머니즘의 역사와 철학≫ 등을 번역했다.
책 속으로
계속 쓸모없는 존재로 변해가고 있는 우리는 이제 무엇을 할 것인가? 우리는 어떻게 윤택한 삶을 영위하며 계속 번창할 것인가? ㅡ 53쪽
교육과 훈련이 기술 변화 속도를 따라잡지 못한다. GPT(범용 기술)는 세상을 단숨에, 전면적으로 변화시킨다. 승자 독식 시장은 고용을 늘리지 않는다. ㅡ 94쪽
직업은 당신 존재의 본질일 수 있다. 즉 직업은 아침에 당신을 침대에서 일어나게 하고 당신에게 삶의 목적의식을 가져다 줄 것이다. 이 장의 목표는 당신이 이렇게 느끼는 것이 틀렸음을 납득시키는 것이다. 비록 지금 당장 직업이 당신에게 좋아 보일지라도, 생계를 위해 일해야 하는 세상에서 사는 것을 원망해야 한다. 단도직입적으로 말하면, 일이 나쁘고 더 나빠지고 있으며, 기술로 일을 제거할 수 있다면 이를 환영해야 한다는 것이 내 주장이다. ㅡ 100쪽
근무일과 비(非)근무일 사이의 경계는 결과적으로 인식할 수 없을 정도로 모호해졌다. “8시간은 일하고, 8시간은 잠자고, 8시간은 하고 싶은 것 하기”라는 노동 운동의 고전적인 슬로건은 너무 순진한 것이다. ㅡ 132쪽
분산 인지 활동은 펜과 종이의 도움으로 수학 문제를 푸는 것이다. 이 예에서 수학 문제 풀이는 인간의 마음속에서만 일어나는 것이 아니라, 마음, 펜, 종이 사이의 역동적이고 상호 의존적인 관계의 결과로도 일어난다. 분산 인지 이론의 본질적인 통찰력은 이러한 상호 작용이 예외가 아니라 흔히 만연해 있다는 것이다. ㅡ 167쪽
자동화 기술의 문제점은 도덕적으로 능동적인 행위성을 억누른다는 것이다. 자동화 기술은 우리의 수동성 특성을 전면에 내세우고 능동적 행위성을 무시하도록 부추긴다. 자동화 기술은 우리의 행위와 우리에게 일어난 사건의 연결 고리를 단절하고, 프로젝트와 중대한 관심사에 주목하지 못하도록 우리를 산만하게 만들며, 우리와 같은 생명체에게 세계를 잘 이해하지 못하게 만들고, 우리의 자율성을 살짝 밀어내거나 침해한다. 이로써 행위성을 억누르도록 부추긴다. ㅡ 212쪽
지금까지 인지적 적소에 대한 우리의 일은 실제로 위협받은 적이 없다. 그런데 이제는 변하기 시작했다. AI와 로봇공학이 점점 더 인상적인 발전을 이루면서 인지적 적소에 대한 우리의 지배력은 더 이상 보장되지 않는다. 우리는 천천히 밀려나고 있다. ㅡ 220쪽
언제든지 이용 가능한 호화로움과 즐거움이 유토피아의 본질이 아니라면 정확히 무엇이 유토피아의 본질인가? ㅡ 226쪽
누구와 결혼할지, 어떤 도시에 살지, 어느 직장에 다닐지, 그리고 아이를 가질지 말지에 대한 결정은 그런 결정을 안고 사는 것이 실제로 어떤 것인지에 대한 경험적 지식에 결정적으로 달려 있다. 그런데 우리는 결정이 내려지고 나서야 그런 경험적 지식을 가질 수 있으므로 합리적인 선택을 할 수 없다. ㅡ 253쪽
보그처럼 자의식이 없고 스스로를 개인으로 생각하지 않는다는 것은 우리에게 정말로 낯설고 위협적이다. 왜냐하면 우리가 현재 생명에 대해 소중히 여기는 많은 것이 우리의 개인성으로부터 나오기 때문이다. ㅡ 323쪽
펜과 종이는 사용 중일 때 퍼즐을 푸는 데 매우 결정적이므로, 퍼즐을 푸는 인지 과정이 뇌에 국한된 것이 아니라 오히려 뇌와 두 외부 소품 사이에서 공유된다고 말하는 것이 타당하다. 펜과 종이는 결합된 동적 체계를 형성한다. ㅡ 333쪽
미래의 사이보그 세계에서는 팔다리와 뇌의 일부가 파괴되는 일을, 스마트폰이 파괴되는 것만큼이나 평온하게 맞이할 수 있을 것이다. 팔다리와 뇌가 기능적으로 동등한 기술적 인공물로 쉽게 대체될 수 있기 때문이다. 이것은 우리의 평가 시스템에 어떤 영향을 미칠까? 이것이 가능해진다면 우리는 어떤 도덕적 평형이 이루어지는 세상을 만들까? ㅡ 336쪽
유발 하라리의 주장에는 다소 경솔한 면이 있고, 이런 묘사에서 게임 같은 생각을 좀 무리하게 밀어붙일 수도 있지만, 우리는 그를 공평하게 대해야 한다. ㅡ 357쪽
가상 유토피아는 세계의 참가자가 상대적으로 사소하거나 대수롭지 않다고 알고 있는 활동에 관여한다. ㅡ 368쪽
공예의 삶은 인간의 윤택함과 뜻있음을 지속할 수 있는 삶이다. 이런 삶은 또한 유구하고 장엄한 역사를 가진 이상이다. 내가 여기서 전개하는 주장은 토마스 허카의 주장과 유사하게, 게임의 유토피아가 이러한 라이프스타일을 추구하기 위한 이상적인 기회를 제공한다는 것이다. ㅡ 386쪽
단 하나의 유토피아 세계가 존재하는 것이 아니므로, 단 하나의 유토피아 세계를 파악하거나 묘사하거나 건설하려고 해서는 안 된다. 대신 메타유토피아(metautopia)의 세계, 즉 개인의 각자 다른 선호도에 따라 다수(多數)의 세계가 구성되고 결합될 수 있는 세계를 만들 수 있는 가능성에 초점을 맞춰야 한다. ㅡ 404쪽
우리가 ‘가상’ 세계에서 행동한다고 해서 돌연 모든 도덕적 제약에서 벗어날 수 있는 것은 아니다. ㅡ 425쪽
우리는 결코 얻을 수 없는 무엇인가를 위해 무한한 어둠을 계속 찾아서는 안 된다. 우리는 끝이 없고 실현할 수 없는 목표를 위해 인생에서 좋은, 다른 모든 것을 희생해서는 안 된다. ㅡ 436쪽
출판사 서평
얄팍한 답을 내놓지 않는다.
진지하게 질문한다. 갈피를 잡아준다.
우리 인간의 활동이 우리 인간의 안녕과 행복에, 그리고 우리가 사는 이 지구의 운명에 큰 역할을 하지 못하는 ‘인간 곁다리화’가 우리 앞에 다가와 있다. 미래의 공장은 지칠 줄 모르는 로봇 기술자가 인간을 대신해 근무하는 곳이 될 것이다. 미래의 병원은 의사의 수가 대폭 줄어들고, 환자를 진단하고 치료법을 추천하는 클라우드 기반의 AI에 더 많이 의존하게 될 것이다. 미래의 가정은 우리의 욕구와 필요를 예상하고 우리가 바랄 수 있는 모든 음식과 오락거리를 항상 제공할 것이다.
이 책은 “자동화된 미래가 두려움의 대상이 아닌, 환영 받는 것이라면 어떨까?”라는 질문을 던진다. 그리고 이런 자동화 기술을 절망으로 받아들일 것이 아니라 낙관론을 펼 수 있는 새로운 기회로 받아들여야 한다는 주장을 펼친다. 즉 인간 곁다리화를 촉진하는 자동화 기술을 올바르게 사용한다면 우리 인간에게 새로운 유토피아의 가능성이 열리고, 더욱 윤택하고 뜻있는 인간의 삶이 가능하다는 것이다.
그리고 이런 입장을 옹호하기 위해 네 가지 논점을 옹호한다. 첫번째 논점은 일의 자동화가 지금의 기술 발전으로 가능하고 또한 바람직하다는 것이다. 즉 모두가 그렇게 생각하지는 않지만 일은 나쁜 것이므로, 일의 영역에서 인간의 곁다리화를 촉진시켜야 한다는 것이다. 대부분의 사람들에게 일은 고통과 억압의 원천이며, 우리는 이러한 일의 종말을 앞당기기 위해 우리가할 수 있는 일이라면 무엇이든 해야 한다. 두 번째 논점은 일이 아닌 다른 삶의 영역에서는 자동화가 바람직하지 않다는 것이다. 자동화 기술이 일상생활에서 압도적인 영향을 미친다면 인간이 영위하는 삶의 뜻있음과 윤택함이 크게 위협받는 일이 일어나기 때문이다. 그러므로 이 책은 이런 위험을 제한하기 위해 기술과 우리의 관계를 신중하게 재정립해야 한다고 주장한다.
세번째 논점은 사이보그 유토피아의 가능성에 대한 것이다. 일 이외의 일상생활에서 자동화 기술로 인해 인간이 영위하는 삶의 뜻있음과 윤택함에 가해지는 위협을 제한하기 위해 기술과 우리의 관계를 처리하는 방법으로 ‘사이보그 유토피아’가 있다는 것이다. 네 번째 논점은 기술과 인간의 관계를 처리하는 또 다른 방법으로 ‘가상 유토피아’가 있다고 말한다. 사이보그화를 통해 인간을 기계의 앞으로 나아가게 하는 대신, 기술 인프라의 가상 세계로 인간이 물러나는 것이 바람직하다는 말이다.
이로써 이 책은 우리가 현실에서 뒤로 물러나서 가상현실에 틀어박힐 수 있다고 말한다. 우리가 게임을 발명하고 이 게임을 하며, 이전에 경험했던 어떤 것보다 더욱 심오하게 매력적이고 무척 재미있는 가상현실을 탐구하는 데 시간을 할애하여, 우리에게 이상적인 형태의 윤택함을 이룰 수 있게 하는 세상의 정당성을 주장하는 것이다. 이러한 생각은 충격적이고 심지어 혐오스럽게 보일 수도 있다. 하지만 지은이는 우리에게 이 새로운 가능성을 받아들이라고 권한다. 그는 자동화 기술의 부상이 인류에게 유토피아적 순간을 제시하며, 더 나은 미래를 건설할 동기와 수단을 제공한다고 본다.
AI와 로봇공학은 많은 이들에게 아득한 두려움을 느끼게 한다. 이는 우리가 이 AI와 로봇공학에 대해 알지 못하기 때문이다. 단순히 기술적인 측면을 알지 못하기 때문만이 아니다. 우리는 종종 이 기술에 대해, 인간 존재로서 (예를 들면 윤리적으로) 어떻게 대응해야 할지 알지 못한다고 느낀다. 이 책은 자동화 기술의 미래를 맞이하는 이들이 인간과 기술 사이에서 균형을 잡을 수 있도록 돕는다. 그러나 이 책은 자동화 기술의 미래에 대해 쉽고 빠른 답을 제시하지는 않는다. 대신 이 책은 진지하게 질문한다. 그리고 이 진지한 질문에 정면으로 맞서, 꼼꼼하게 탐구하고 끈질기게 고민한다. 이를 통해 독자에게 함께 답을 찾아보자고 제안한다.
개발자, 공학자, 비즈니스맨 등에게 이 책을 권한다. 이 책은 이들에게 새로운 아이디어와 기회를 열어줄 수 있을 것이다. 인문학, 경제학, 법학, 의학 등 다양한 분야의 학자들에게도 이 책을 추천한다. 이 책은 학자들에게 자동화 기술에 대한 제대로 된 질문과 논의를 보여줄 것이다. 무엇보다도 공공 분야에서 일하는 정책 담당자, 법률 입안자, 교사(敎師) 등이 이 책에 관심을 가져주길 기대한다. 이 책은 자동화 기술과 관련한 앞이 꽉 막힌 미로에서 길을 잃지 않고 빠져나올 가이드 맵을 제공해 줄 것이다.
정리 김시원 기자
