1. 도서 선정 배경과 의미

4차산업혁명과 관련하여 인공지능에 대한 다양한 시각이 존재하고 있다 본 도서는 인간의 생사에 관련된 자동차, 의료, 무기의 세 가지 분야에 탑재되는 인공지능을 다루었다. 자율주행차, 질병의 진단과 처방 도구, 자율적 무기처럼 인간의 생명과 직결되는 중요한 분야에 인공지능을 탑재한 제품들이 개발되고 있는데, 그 사용에 관한 기본적인 논의조차 거의 이루어지지 않은 채 우리 삶과 국가의 중추에 서서히 편입되고 있다. 만약 인공지능이 오작동되거나 폭주하기라도 한다면 그 피해는 헤아릴 수 없이 클 것이고, 최악의 경우 인공지능 로봇에 의해 죽임을 당할 수도 있다.

이 책은 인공지능 유저들이 반드시 알아야 할 인공지능의 메커니즘과 개발회사들의 소비자 대응 매뉴얼을 소개하는 데 초점을 맞추고 있어 이를 소개한다.

2. 도서의 주요 내용

(도서의 개요)

저자 고바야시 마사카즈 (小林雅一)는 저널리스트, 정보시큐리티 대학원대학 객원교수. 도쿄 대학교 이학부 물리학과를 졸업하고 동대학원 이학계 연구과 수료 후 도시바, 닛케이BP를 거쳐 보스턴 대학교에서 언론학을 전공했다. 귀국 후 게이오기주쿠 대학교 미디어커뮤니케이션 연구소 등에서 근무했다. 저서로는 《인공지능의 충격, 인공지능은 인류의 적인가(AIの衝? 人工知能は人類の敵か)》 등 다수가 있다.

역자 한진아는 인하대 정보통신공학과 졸업 후, 직장생활을 하다가 일본어와 일본 문화에 관심이 생겨 번역가의 길을 걷게 됐다. 바른번역 글밥아카데미 일본어 출판 과정 수료 후, 현재는 전문번역가로 활동 중이다.

최근 세계적으로 IT 기업 간 인공지능 개발 경쟁이 매우 뜨겁다. ‘음성 조작 기능이 있는 스마트폰’ ‘청소 로봇’ ‘대화형 스피커’ 등 인공지능을 탑재한 가전제품이 하루가 다르게 진화하고 있다. 우리의 삶을 좀 더 안락하게 해줄 이런 인공지능을 ‘가벼운 용도의 인공지능’이라 한다면, 비교적 ‘무거운 용도’의 인공지능도 지금 한창 개발 중이다. 이 또한 전자와 더불어 가까운 미래에 우리 삶에 필수적인 요소가 될 것이다.

이 책은 그중 인간의 생사에 관련된 자동차, 의료, 무기의 세 가지 분야에 탑재되는 인공지능을 다루었다. 자율주행차, 질병의 진단과 처방 도구, 자율적 무기처럼 인간의 생명과 직결되는 중요한 분야에 인공지능을 탑재한 제품들이 개발되고 있는데, 그 사용에 관한 기본적인 논의조차 거의 이루어지지 않은 채 우리 삶과 국가의 중추에 서서히 편입되고 있다. 만약 인공지능이 오작동되거나 폭주하기라도 한다면 그 피해는 헤아릴 수 없이 클 것이고, 최악의 경우 인공지능 로봇에 의해 죽임을 당할 수도 있다.

이 책은 인공지능 유저들이 반드시 알아야 할 인공지능의 메커니즘과 개발회사들의 소비자 대응 매뉴얼을 소개하는 데 초점을 맞추고 있다. 인공지능의 핵심 원리에 관해 과학에 문외한인 일반 독자들도 알기 쉽게 설명하고 있다. 궁극적으로는 인공지능을 둘러싼 위협론 또는 장밋빛 전망 등 피상적 이야기들에서 벗어나 우리가 진짜 경계해야 할 현실에 직면함으로써 실질적인 해결 방법을 모색하게 한다.

(도서 목차의 서술적 표현 )

책은 5장으로 나누어져 있으며 제1장 인공지능 위협론의 허와 실에서는

패턴인식 직종이 위험하다, 2045년 문제와 화성의 인구 폭발, 인간을 배제한 제어시스템, 핸들도 브레이크도 없는 자동차의 폭주, 자율주행의 산업적 임팩트, 기계는 인간보다 믿을 만한가? 3가지 종류의 인공지능, 실용화를 가로막는 문제들, 인간을 포함한 제어시스템, 의료에 진출한 인공지능, 인공지능이 일으키는 새로운 의료과실, 의료에 응용되는 딥러닝, 블랙박스화 되는 의료, 자율적 무기의 등장, 기존 무기와의 결정적 차이에 관해 얘기하고 있으며, 제2장 자율주행 자동차의 사각지대에서는 사망사고의 현장 검증, 도로에서의 테스트 주행이 부족했다, 소비자 보호보다 산업 육성이 먼저, 어중간한 자율주행, 자율주행차에 탑재되는 각종 센서, 자율주행의 기본원리, 행동 계획에는 규칙 기반 AI, 센서 정보를 처리할 때는 통계확률형 AI, 베이즈 정리란 무엇인가? 주변의 이동 물체를 파악할 때, 확률형 AI의 함정 - 팻테일, 테슬라 자동차 사고도 팻테일? 제어시스템에 인간을 포함시켜야 할까? 인간과 자동차의 관계는 어떻게 될까? 제3장 로봇 닥터의 오진에 대하여 왓슨의 정체는 무엇인가? 닥터 왓슨의 기막힌 솜씨, 로봇과 의사의 의견이 다르다면?, 의료에 도입되는 딥러닝, 기계학습이란 무엇인가?, 의사와 답 맞추기를 하면서 배우다, 많은 수고가 아깝지 않다, CT 스캔이나 MRI에도 사용된다, 질병의 발병 예측도 가능, 프라이버시 침해 위험, 딥러닝의 폭주, 뉴럴 네트워크란 무엇인가? 의사와 인공지능의 관계는 어떻게 될까? 현대 인공지능의 발달을 촉진하는 것, 뇌 과학자가 본 인공지능의 잠재력, 패턴인식에 따른 차세대 의료를 다루고 있으며, 제4장 자율적 무기의 조준에서는 반테러용 자율적 드론, 제3의 군사쇄신, 켄타우로스 전쟁, 공격 대상의 결정권자는 인간? 기계? 터미네이터 문제, 세계 각국에 도입되는 자율적 무기, 테러리스트의 손에 들어갈 위험, 추궁당하는 과학자와 기술자, 자율주행의 유행은 군사 예산에서, 빈틈없는 구글의 방식

미국의 스마트 핵무기, 군비 확장의 제동은 경제적 한계, 최후 판단을 컴퓨터에 맡기다 를 서술하고 있고,

제5장 초자동화의 함정에서는 원자력 발전 사고에 대비하는 로봇, 고생 끝에 인간의 공감을 얻다., 로봇은 인간과 얼마나 가까워졌을까? 재판이나 인사고과에서 인공지능의 활용, 인공지능의 진짜 위험은 무엇인가?라는 의문과 함께 ‘마음’을 지닌 로봇이 인간에게 버림받을 때로 끝마침을 하고 있다.

3. 메모해 둘만한 가치가 있는 내용

(아이디어사업화 개발자에게 의미가 있는 지식)

그것과는 다른 한층 심각한 ‘AI 위협론’도 있다. 이른바 ‘2045년 문제’라 불리는 ‘싱귤래리티(기술적 특이점, singularity)’의 도래가 그것이다. 이는 미국의 유명한 발명가 레일 커즈와일(Ray Kurzweil)이 꽤 오래전부터 주장한 미래 예측과 관련된다. _ p.23

이 같은 잠재적 위험을 알고도 왜 구글을 비롯한 세계의 자동차회사들은 굳이 자율주행 기술 개발에 착수했을까? 그것이 가져올 엄청난 산업적 임팩트가 주된 이유 중 하나다. ‘자동차’는 주요 선진국의 기간산업이다. _ p.30

의료 AI 분야의 상징적인 존재는 미국 IBM이 개발한 ‘왓슨(Watson)’이다. 왓슨은 원래 미국에서 국민적인 인기를 끈 TV 퀴즈쇼 ‘제퍼디(Jeopardy!)’에 출연하기 위해 개발된 이색적인 컴퓨터였다. _ p.45

그림 1을 보면 모델 S(그림 1에서는 V02)는 고속도로(US-27A)를 남동 방향으로 자율주행 중이고, 그 반대 차선에서 대형 트레일러(그림 1에서는 V01)가 분기 도로(NE 140th Court)로 진입하려고 좌회전을 한다. 이때 모델 S가 대형 트레일러의 우측을 들이받는다. _ p.64

그중에서도 각사의 차별화 전략에 열쇠가 되는 것은 ‘라이더’다. 라이더는 밀리파 레이더나 비디오카메라에 비해 측정 가능 거리는 짧지만 불과 몇 센티미터 단위로 주변 물체와의 거리를 측정하고 차체 주위를 360도 커버해 자세한 3D(입체) 맵을 작성할 수 있다. 이는 완전자율주행을 실현하기 위한 필수 기능이다. _ p.77

그렇게 퀴즈왕에서 ‘로봇 닥터’로 재탄생한 왓슨은 뛰어난 실력을 보여주면서 주위의 기대에 부응하고 있다. 왓슨을 시험적으로 도입한 미국 노스캐롤라이나 의과대학원에서는 1,000건의 암 케이스를 왓슨에게 입력했는데, 왓슨이 제시한 치료법 중 99%가 암 전문의의 판단과 일치했다. 의사가 놓친 치료법을 왓슨이 발견한 것도 30%에 달했다. _ p.113

이처럼 2진법으로 표현된 각종 빅데이터를 기계학습으로 해석해 ‘1’과 ‘0’이 만들어내는 특정 ‘패턴’을 산출하는 작업이 바로 ‘패턴인식’이다. 딥러닝은 패턴인식이 뛰어난 AI 기술이므로 단층영상 해석만이 아니라 혈액검사 데이터 해석 등 의료 전반에 적용할 수 있다._ p.132

게다가 이런 자율적 무기(로봇)는 매우 살벌한 전쟁터에 적응하는 과정에서 인간이 예상치 못했던 능력이나 행동 양식을 길러 최종적으로 ‘인간이 제어할 수 없는 무기’로 진화해버릴 위험이 있다. 극단적인 이야기지만, 영화 ‘터미네이터’에 등장하는 살인 로봇처럼 말이다. 이는 과장이나 농담이 아니라, 실제로 펜타곤 관계자가 ‘터미네이터 문제’라고 부르며 진지하게 논의하고 있는 중요한 사안이다. _p.168

그 후 약 1년 반 뒤에 개최된 본선 경기에서도 로봇들의 성능은 극적으로 개선된 것 같지 않았다. 우승은 한국과학기술원(KAIST)이 개발한 휴머노이드 휴보(HUBO)가 차지했는데, 8종목을 모두 끝내기까지 걸린 시간이 44분이었다. 인간이라면 7~8분 정도면 충분했을 것이다. _ p.204

소설이므로 어디까지나 공상의 산물이긴 하지만 당시 과학기술의 틀에서 만들어진 괴물은 본래 선한 양심의 소유자였다. 그러나 그 괴물이 만난 사람들, 심지어 자신을 창조한 과학자까지 프랑켄슈타인에게는 무자비했다. 결국 그는 악한 길로 가게 되었고, 과학자의 동생을 시작으로 친구, 그리고 마침내 사랑하는 아내까지도 죽여버린다. 과학기술은 인간이 그것을 어떻게 대하느냐에 따라 선하게도 되고 악하게도 될 수 있다는 것을 말해주는 이야기라 할 수 있다. _ p.213

(도서를 대표 할 수 있는 핵심 지식)

제2장은 2016년 5월에 발생한 테슬라의 반자율주행차 ‘모델 S’의 사망사고 현장검증을 중심으로 자율주행차의 사각지대에 대해 알아본다. 자율주행을 가능하게 하는 대표적인 센서는 라이더, 비디오카메라, 밀리파 레이더로, 역할과 장단점이 각기 다른 이 센서들이 자율주행차의 안전성을 좌우한다. 문제는 이 센서들이 너무 고가라는 것. 사망사고를 일으킨 테슬라의 모델 S만 해도 가장 핵심이면서 가장 고가인 라이더를 장착하지 않았다. 그러나 구글이 2022년 출시를 목표로 개발 중인 완전자율주행차처럼 아무리 모든 센서를 장착하고 안전한 대비책을 마련한다 해도 자율주행차가 안고 있는 근본적인 한계가 있는데 그것은 바로 팻테일 리스크다. 이론적으로는 일어날 확률이 제로(0)인 사고가 현실에서는 제로보다 훨씬 빈번하게 일어난다는 이야기다. 테슬라의 자율주행차 사망사고도 그런 경우였다. 같은 이유로 이론적으로는 100만 년에 한 번 일어날까 말까 한 세계적인 금융위기(리먼 사태, 서브프라임 모기지론, 러시아의 디폴트, 블랙먼데이 사건 등)가 실제로는 10년에 한 번씩 발생해 세계 금융시장을 초토화하고 있다.

이해를 돕기 위해 본문은 자율주행 기술의 4가지 프로세스와 각각에 사용되는 규칙 기반 AI, 통계확률형 AI에 대한 기술적 설명을 덧붙인다. 팻테일 리스크는 통계확률형 AI가 필연적으로 안고 있는 문제다. 은닉 마르코프 모델, 베이즈 정리, 칼만 필터, 정규분포곡선 등 자율주행차를 이해하는 데 필수적인 공학 이론들의 핵심을 이해하기 쉽게 정리했다.

의료 분야의 대표적인 두 가지 AI는 IBM의 ‘왓슨’과 구글의 ‘딥러닝’이다. 의료 AI는 인간의 정보처리 능력으로는 소화하기 불가능한 수많은 의학 자료를 기계학습해 각종 질병을 진단하고 치료법을 제시함으로써 의사를 보조하는 역할을 한다. 왓슨은 원래 미국의 유명 퀴즈쇼에 나가 역대 챔피언들을 꺾은 퀴즈왕이었다. 사람처럼 말을 하고 다양한 질문에 답을 주기도 하는데, 이를 ‘자연언어처리’라고 한다. 본문은 이에 대해 자세히 설명한다. 문제는 닥터 왓슨이 제시하는 진단과 치료법은 절대적인 정답이 아닌 확률이라는 점. 왓슨과 의사의 의견이 엇갈릴 때, 확률이 높은 답안을 받은 의사는 어떤 선택을 하게 될까? ‘마이너리티 리포터’와 관련된 그 문제들을 비롯해 현재 의료 AI가 사용되고 있는 현장에서 발생하는 문제들, 향후 우리가 겪게 될 문제들에 관해 본문은 논리적으로 접근하고 있다.

구글도 의료 AI를 주력 사업으로 하고 있다. 구글의 의료 AI는 ‘딥러닝’이라 하며 왓슨과는 성격이 전혀 다르다. 왓슨보다 잠재력은 크지만 문제는 더 심각할 수 있다. 본문은 딥러닝에 사용되는 뉴럴 네트워크 기술과 기계학습, 그리고 패턴인식의 원리에 대해 자세히 설명하고 있다. 흥미로운 점은 ‘딥러닝’의 정체가 2016년 3월 이세돌 9단을 꺾은 ‘알파고’라는 것이다. 본문은 딥러닝의 위험성을 단적으로 보여주는 당시 대국 현장으로 우리를 데려간다. 이미 3패를 당한 이세돌 9단이 제4국 78수째에 중앙에 모험적인 수를 두자 알파고는 엉뚱한 수를 두면서 결국 패했다. 대체 왜 그랬을까? 하지만 알파고 개발자조차 그 이유를 설명할 수 없었는데, 바로 그것이 딥러닝의 진짜 문제다. 그 이유는 알파고와 딥러닝의 기반이 되는 뉴럴 네트워크의 블랙박스화 현상에 있는데 본문은 그 원리에 대해 자세히 설명하고, 그런 현상이 일으킬 우리 미래의 일상에 대해 생각해보게 한다. 또한 구글이 딥러닝을 위해 대량의 의료 데이터를 입수하고 있는데, 여기서 발생하는 프라이버시 문제도 생각해볼 문제다.

무기 분야에서는 미국에서 개발 중인 자율적 무기 개발에 초점이 맞추어져 있다. 저자는 먼저 미국이 연간 5,000억 달러를 쏟아부으며 개발하고 있는 ‘살인 로봇’에 대해 이야기한다. 구체적으로는 ‘스스로 목표를 정해 돌진하는 미사일’ ‘상공에서 자율적으로 지상의 테러리스트를 감시하는 드론’ ‘적의 잠수함을 끝까지 추적하는 무인 군용함’ 등이 있다. 이런 자율적 무기 개발은 미 국방성이 2016년부터 단행하고 있는 제3의 군사쇄신의 일환으로, 본문은 군사적 우위를 확보하기 위한 미국의 의도를 역사적으로 설명한다. 여기서 발생하는 가장 큰 문제는 무기 제어권이 AI로 넘어가면서 무기의 자율성이 점점 커진다는 것. 이는 실제 ‘터미네이터 문제’라는 이름으로 펜타곤 관계자들 사이에서 논의 중인 문제이기도 하다. 미국 외에 영국, 프랑스, 이스라엘, 노르웨이, 한국, 북한, 중국 등에서 개발 중인 AI 무기 또한 소개되고 있다.

미 국방성 산하의 다르파(DARPA)가 주최하는 ‘다르파 그랜드 챌린지’ ‘다르파 로보틱스 챌린지’ 등 민간의 자율주행 기술과 휴머노이드(인간형 로봇) 개발에 미군의 예산이 사용되고 있다는 점도 생각해볼 문제다. 또한 일본의 주요 대학에 미군의 예산이 흘러들면서, 일본 학계에 ‘군사연구 금지’가 해금되고 있는 현실에도 눈을 돌리고 있다. 미군에서 시작된 스마트 핵무기 개발이 세계적인 군비 확장 경쟁에 불을 지피고 있다는 것도 큰 문제다. 끝으로 본문은 ‘인간의 생사’와 ‘국가의 안전보장’을 좌우하는 분야에 AI에 의한 자동화가 실현될 때 어떤 함정이 도사리고 있는지, 우리가 진짜 경계해야 할 문제들은 무엇인지 소신을 밝힌다.

4. 독서 권장 대상과 적용 방법

미래를 예측하고 대응하는 예비창업자, 기존 경영자, 기획자, 멘토들에게 추천하고 싶은 도서이다. 인공지능과 관련된 4차 산업혁명 아이디어를 구상하고 구체화하는데 도움을 준다.