AI 2041ㅣ리카이푸, 천치우판ㅣ2041년 우린 어떤 모습일까

- 2041년에 이 책을 다시 보고 현실과 비교한다면 재미있겠다는 생각이 들었다. 
- 문학적 완성도가 아주 높다고 할 순 없지만, 인공지능에 대해서 기술적인 접근만이 아니라 인문학적 접근도 하고 있어서 좋았다. 
- 이 책이 관점은 기본적으로 기술에 우호적이다.하지만 명과 암을 다 다루려고 노력한 게 느껴졌고, 그럼에도 디스토피아보다는 희망을 보려는 게 좋았다.
- 모든 주장에 다 동의가 되진 않았지만, 이 책은 읽는 자체보다 읽고 주변 사람들과 이야기를 나누면 의미가 훨씬 커질 것 같다. 
- 이 책은 500쪽이 넘는다. 두께 때문에 읽기 부담스러울 수 있는데, 10개의 단편 소설(+기술 설명)이기 때문에 꼭 처음부터 순서대로 읽지 않아도 되고 끌리는 이야기부터 하나씩 하나씩 읽다 보면 금방 다 읽는다.
- 가장 좋았던 에피소드 하나만 꼽자면, 소설로 좋았던 건 3장인데 제일 고민하게 만든 주제는 8장.
 

서문
나는 SF소설이 갖는 최대 효용은 답을 주는 게 아니라 문제를 제기하는 것에 있다고 생각한다. 이 책을 다 읽고 나서 새로운 질문들이 많이 떠오르길 바란다.

1장 황금 코끼리
기술분석 딥러닝의 부정적 외부효과와 해법
- 데이터 주권 이야기
- 인공지능이 사회의 차별까지 파악해서 정량화하는 문제
- 오늘날의 인공지능은 대개 하나의 목표, 가장 흔하게는 돈을 버는 것(더 많은 클릭, 광고, 매출)만을 최적화한다. 데이터를 제공하는 개별 사용자의 안전하고 풍요로운 삶은 고려하지 않은 채 기업이 추구하는 한 가지 목표만을 집요하게 파고든다. ... 이 특성으로 인해 인공지능은 사람들을 갈라놓고 불평등을 악화하도록 만드는 결괏값을 내놓기도 함. (소설에서는 좋아하는 남자애가 사회적으로 하위 계급에 속하는 아이였기 때문에 연애감정을 갖고 가까워지는 것을 인공지능이 꺼려함.)

2장 가면 뒤의 신
기술분석 악의적 딥페이크에 맞서는 또 다른 기술
- 딥페이크 기술 완전 창과 방패의 싸움이네. 
- 인공지능 취약점 공격 (악의적인 사용) : 전쟁, 자율주행 

3장 쌍둥이 참새
기술분석 자연어 기반 인공지능의 현재와 미래
- 한국이 나와서 반가웠는데, 입양 시설 소재다.
- 현실에서 진짜 옷이 아니라 디지털 옷을 입고 바꿔 입는 장면이 나오는데 이거 실현될까? 그럼 실물 옷 안 사도 된다고?
- 인공지능이 인간보다 좋은 주식리포트를 내게 될까? 현존하는 인공지능 투자는 그저 그렇지 않나? 인간심리와 비이성이 중요해서 정량화 잘 한다고 이게 될지 모르겠다.
- 인공지능 파트너(선생님)가 교육에서 중요해진다면 부자가 쓰는 인공지능 성능과 가난한 사람의 것의 차이가 커서 교육격차가 더 커지는 건 아닐까..?

4장 접촉 없는 사랑
기술분석 보건의료 분야에서의 인공지능
- 가사노동 로봇, 너무 기다려진다.

5장 유령이 된 아이돌 스타
기술분석 확장현실의 윤리적·사회적 문제
- 콘택트렌즈 끼고 원하는 배경에서 운동하는 거 너무 좋을 거 같다!
- 인공지능이 만든 스토리는 결점이 없었다. 이는 독자들이 도전과 놀라움을 느낄 여지를 없애버려 스토리를 훨씬 덜 흥미롭게 만들었다. (친구랑 진정한 문학에 대해 얘기 나눴음)
- 히로시가 가면을 벗은 것이 자기 뜻이라기보단 주변 조언자들에 의해 조작되거나 잘못 관리되었기 때문이라고 추측한 팬들은 온라인에서 전쟁을 벌였다.
- “너는 팬들이 아이돌 스타를 오히려 통제하려 든다고 생각하는구나. 하지만 팬들이 무대 위의 페르소나에 그토록 집착하는 이유는 그들에겐 자신의 이야기를 할 힘이 없기 때문이야. 팬들은 만들어진 페르소나에 감정을 투영하는 것 외에 할 수 있는 게 없다고. 그런 그들에게 페르소나가 가짜라고 말하는 건 그들의 꿈을 박살 내는 것이나 마찬가지야.”
- XR콘택트렌즈가 없으면 사실상 아무것도 보이지 않는 것처럼 느끼는 사람이 더 많아질 것
- 확장현실은 산다는 게 어떤 의미인지 다시 생각하게 할 것이다. 인간은 수천 년 동안 불멸을 추구해왔다. 이러한 신기술들이 개발된 상황에서 우리는 ‘디지털 불멸’의 가능성을 생각해볼 수 있다.

6장 거룩한 드라이버
기술분석 완전 자율주행차의 시대는 도래할까?
- 나중에는 메타버스의 몰입도가 너무 높아서 현실과 가상을 구분하지 못하는 병도 생길 것 같다는 생각이 들었음.
- 삼촌이 가상인데도 왼쪽 다리에 통증을 느끼고 감각이 없어지고 이런 게 신기했다. "왼쪽 다리는 실제와 가상 사이의 어지러운 상태에 갇혀버렸다"
- 도시를 자동차 전용구역과 보행자전용 구역으로 나눠 재설계된 스마트도시로 탈바꿈? => 사우디 네옴시티 더 라인이 생각났다. 아예 새로운 미래도시를 만드는 일이 불가능한 건 아니지. 하지만 기술은 계속해서 발전해나간다. 현재의 기술로 만들고 나면 이미 그 기술들은 과거의 것이 되어 있을 것. 새로운 기술은 계속 쏟아져나올 거고. 그럼 계속해서 도시를 새롭게 만들어 나가야 하나?
- 2041년에도 완전 자동화는 쉽지 않을 것이라고 책에서는 얘기함.
- 질문1 : 우리는 기계가 인간의 생명을 해칠 수 있는 결정을 하도록 허용해야 할까? 대답이 NO 라면 자율주행차의 미래는 없다.
- 질문2 : 자율주행차 사고로 사망자가 발생하면 누가 책임질 것인가. 이걸 결정해야 생태계가 구축된다. 

7장 양자 대학살
기술분석 양자컴퓨팅과 자율무기의 위험한 미래
- 양자컴퓨터를 가진 사람은 공개게시된 모든 스크립트에 접근해서 공개키를 취해 개인키를 생성하고 디지털 서명을 한 다음 계정에 담긴 모든 비트코인을 가져갈 수 있다.
- 도시의 절반을 초토화 할 수 있는 1만대의 드론 무기를 만드는 비용은 이론상 1,000만 달러에 불과하다.
- 자율무기를 이용한 선공은 한 국가가 아닌, 테러리스트와 같은 무리에 의해서도 감행될 수 있다.

8장 구원자 이야기
기술분석 인공지능에 의한 일자리 퇴출의 해법
- 언젠가 로봇으로 인한 대량해고와 시위가 발생하겠지?
- 인공지능이 동영상 핵심만 추려서 재편집을 해주는 장면이 나오는데, 영화/드라마 요약해주는 유튜버보다 잘할까 못할까? 그때가 되어도 영상 재편집하는 유튜버들이 선호될까?
- 일 자체가 가짜라니..ㄷㄷ 사기다 VS. 인간의 존엄을 지키는 일이다. 두 입장 다 이해는 가지만 그래도 사기다.
- 가상의 해고 노동자들이 가사으이 일자리를 찾는 일을 진짜인 인간이 돕는다, 라는 쇼킹한 발상
- 기본소득제는 필연적 미래 아닐까?
- 미래의 인공지능은 우리가 지금으로서는 상상하지 못하는 새로운 직업을 발명하게 될 것이다.

9장 행복의 섬
기술분석 인공지능이 던지는 행복에 대한 질문들
- 2041년이면 기술 발전 덕분에 사회가 더 부유해질 것. 인공지능이 일상적이고 반복적인 일을 도맡고, 로봇과 3D 프린터 기술이 거의 무상으로 재화를 생산할 것. 더 부유한 사회에서 사람들이 쾌락적 행복에서 정신적 행복으로 이동하면서 행복의 정의가 진화할 것. => 과연? 굉장히 낙관적으로 보네. 난 이렇게 되진 않을 것 같다.
- 또 나는 향후 20년 동안 국민의 지지를 받는 강력한 지도자가 통치하는 작은 국가들이 기술 채택에 있어서 획기적인 결정을 내릴 가능성이 가장 크다고 예추한다. => 사우디의 원대한 계획은 어떻게 될까?

10장 풍요를 꿈꾸다
기술분석 새로운 경제 모델과 풍요로움의 미래
- 호주 배경의 이야기였는데, 이런 고령화 사회의 모습은 한국도 예정된 미래
- 그들은 손목밴드의 색깔을 또 하나의 자랑거리, 즉 부를 대신하는 상징으로 간주했다. 가능한 한 단기간에 물라 점수를 높이기 위해 서비스 수혜자들을 매수해 가짜 대화와 상호작용을 조작하는 방식으로 악용. => 너무나 이럴 것 같다.
- 고급 재화와 서비스는 여전히 생활필수품이 아닌 사치품이 될 것이다. => 이것도 동의
- 애덤 스미스, 칼 마르크스, 케인스 세 이론의 공통점은 '희소성'을 기본 가정으로 삼았다는 것. 미래에 이 희소성이라는 가정이 타당성을 잃으면 세 가지 경제 모델도 타당성을 잃게 될 것이다. 희소성이 사라진다면 판매, 구매, 교환과 같은 모든 메커니즘은 더 이상 필요하지 않을 것. 거의 틀림없이 돈도 더 이상 필요하지 않을 것. 그럼 어떤 경제 모델이 가능할까? => 이 주제만 가지고도 책 한 권 따로 나와도 될 것 같은데, 지금 2023년에는 이런 미래를 상상하기가 매우 어렵다. 돈이 필요하지 않은 사회라니?