서평자
홍성욱(서울대학교 생명과학부 교수, 과학사 및 과학철학 협동과정 박사)
서평
기술혁명 시대의 인간성 회복 매니페스토
우리를 인간이게 하는 것은 수학적인 것이 아니다. 화학적이거나 생물학적인 것도 아니다. 눈에는 보이지 않는, 말해지지 않는, 의식 아래의, 순식간의, 대상화할 수 없는 것들을 포함한다. 이런 것들이야말로 인간의 본질인데 나는 이런 특성을 안드로리즘(androrism)이라 부르고 싶다. (62p.)
“기하급수적”이라는 표현은 최근 정보기술(IT)의 발전을 표현하기에 딱 적합한 말이다. 2012년에 전 세계 가입자 10억 명을 돌파한 페이스북은 어느새 20억 명의 가입자를 가지고 있다. 페이스북이 우리에게 선보여진 지 얼마 되지 않은 것 같은데, 이제 전 세계 인구의 일곱 명 중 두 명이 이를 사용하고 있다. “조금씩” 증가하는 것 같더니, “갑자기” 보편적 기술이 되었다.
“조금씩 그러다 갑자기”는 이 책에서 논하는 기술 발전의 특징을 압축적으로 표현하는 구절이다. 인공지능, 사물인터넷, 클라우드 같은 정보기술은 기하급수적으로 발전하지만, 이런 기술일지라도 처음에는 변화가 두드러지지 않는다. 초기에는 기술이, 그리고 그에 수반되는 사회가 조금씩 변하는 것처럼 느껴진다. 그러다 갑자기, 세상이 바뀌어 있음을 발견한다. 책의 저자 게르트 레온하르트는 이런 기술이 인간성을 잠식하는 속성을 가지고 있음을 드러내고, 이를 경계해야 한다고 주장한다.
급변하는 정보기술은 모두 알고리즘(algorithm)을 근간으로 한다. 알고리즘은 컴퓨터를 통해서 문제를 해결하기 위한 절차를 담은 프로그램을 의미한다. 이세돌 국수를 이긴 인공지능 알파고(AlphaGo)도 알고리즘이다. 알고리즘은 바둑의 다음 수 같은 판단, 패턴 인식, 번역 같은 인간의 일을 0, 1과 논리적 연산들의 조합으로 구현한다. 알고리즘은 인간이 수행하는 일을 계산 가능하고 측정 가능한 것으로 바꾼다. 최근 기하급수적으로 발전하는 정보기술은 인간이 하는 일 중에서 더 많은 부분을 계산 가능하고 측정 가능한 것으로 바꾼다는 얘기다.
저자는 이 과정에 위험이 내재해 있다고 본다. 진정으로 소중한 인간성의 정수는 계산 가능하거나 측정 가능한 것이 아니기 때문이다. 아이들이 주는 행복을 측정할 수 있는가? 사랑, 윤리, 자존감은 잴 수 있는가? 살면서 겪게 되는 여러 종류의 우연한 기회를 프로그램화할 수 있는가? 답은 모두 “아니다”이다. 저자는 이렇게 계량화되지 않고, 대상화할 수 없는 인간의 본질을 알고리즘과 대비해서 “안드로리즘(androrithm)”이라고 부른다(번역본에서 이 단어의 영어 원어가 androrism이라고 표기되어 있는데, 이는 오자이다). 21세기의 “인간 대 기계”는 “알고리즘 대 안드로리즘”의 대결이다.
정보기술의 위험에 대해서 경고하지만, 저자는 기술 비관론자, 기술 러다이트(Luddite)가 아니다. 그는 대부분의 기술(98%)은 인간에게 도움이 된다고 평가한다. 그렇지만 인간성을 잠식할 수 있는 나머지 2%가 문제이다. 기술을 만들어 파는 회사는 윤리적 판단을 하려고 하지 않기 때문에, 저자는 시민사회, 학계, 정부, 기업, 기술자, 사상가, 예술가 등으로 구성된 “글로벌 디지털 윤리위원회”를 구성해야 한다고 주장한다. 이 위원회는 기술 시대에 필요한 새로운 인권의 원칙을 만들어야 하는데, 그가 제시하는 원칙의 사례는 다음과 같다. 1) 인간이 자연적인 생물 상태로 남아 있을 권리, 2) 비효율 상태로 남아 있을 권리, 혹은 기술보다 느리게 살 권리, 3) 연결을 끊고 네트워크에서 사라질 권리, 4) 익명으로 남아 있을 권리, 5) 기계 대신 사람을 채용하거나 참여할 권리 등이 그것들이다.
기술이 인간성을 삼켜버리지 않게 하기 위해서 기업가나 엔지니어의 윤리에 의존해서는 안 된다. 실리콘 밸리의 회사들이 윤리적인 이유 때문에 수익이 많이 나는 기술을 포기한 적이 없기 때문이다. 이 책의 장점은 구체적인 실천 전략을 제시하는 데 있다. 저자는 예약이나 일정 관리 같은 일은 인공지능에 맡겨도 되지만, 공공뉴스와 미디어, 인력 채용과 해고 같은 인간의 핵심적인 일은 인공지능에 맡겨서는 안 된다고 주장한다. 그는 또 인간의 힘을 키우지 못하고 알고리즘의 힘만을 증폭하는 프로그램이나 앱(app)에 대해서는 담뱃갑의 경고 메시지 같은 메시지(예를 들어 “이 앱은 인간 행복 증진에 명백히 해롭다”는 메시지)를 찍는 것을 제안한다.
인공지능도 기술이고, 모든 기술은 인간이 만들거나 사용하기를 거부할 수 있다. 기술에 대한 현명한 각성이 그 어느 때보다 필요한 시기에 이 책은 가뭄의 단비같이 우리의 갈증을 적셔주는 책이다.
