더 커밍 웨이브ㅣ무스타파 술레이만ㅣAI 윤리

이 책에서 삼성이 한국인에게는 '준정부'나 다름없다고 표현한 구절이 기억에 남는다. 한번도 그런 식으로 생각해 본 적이 없었는데, 이렇게 보는 시각도 있을 수 있다니.

 

공무원이 지금 만큼 필요할까? 라는 생각도 책을 읽으면서 했다. 미래 10년은 어떤 사회변화가 펼쳐질까 정말 기대되면서도 두렵기도 하다. 계속 공부하자. 

 

61)더 많은 기술을 더 저렴한 비용으로 사용하면 할수록 더욱 새롭고 저렴한 기술을 후방 산업에서 사용할 수 있게 된다. 스마트폰이 없었다면 우버 사업은 불가능했을 것이다. 스마트폰은 GPS, GPS는 인공위성, 인공위성은 로켓, 로켓은 연소 기술, 연소 기술은 언어와 불 덕분에 사용이 가능했다. 물론 기술 혁신 뒤에는 사람들이 있다. 그들은 작업장, 실험실, 차고에서 기술을 발전시키기 위해 노력하고 돈과 명성뿐 아니라 대개는 지식 그 자체에 동기 부여를 받는다. 기술 전문가, 혁신가, 기업가들은 행동을 통해, 그리고 무엇보다도 모방을 통해 발전해 나간다. 적의 우수한 쟁기에서부터 최신 휴대 전화에 이르기까지 모방은 기술 확산의 중요한 원동력이다. 모방이 경쟁을 부추기면 기술은 더 발전하고 규모의 경제가 효과를 내기 시작하면 비용은 절감된다. 유용하고 저렴한 기술에 대한 문명의 욕구는 끝이 없다. 그리고 그 무한한 욕구는 결코 변하지 않을 것이다. 

 

129)AI의 발전을 이해하는 데 있어 계속 반복되는 문제가 있다. 우리는 처음 우리를 놀라게 했던 획기적인 발전에도 빠르게 적응하기 때문에 어느 정도 시간이 지나면 그러한 발전도 일상적이고 평범한 것처럼 바라보게 된다. 우리는 알파고나 GPT-3에 더 이상 놀라지 않는다. 언젠가 마법 같이 느껴졌던 기술이 어느 새 삶의 일부가 되고 만다. 진부해지기가 쉽고 많은 사람들이 그렇게 느낀다. '인공 지능'이라는 용어를 만든 존 매카시는 이렇게 말했다. "그것이 작동하기만 하면 사람들은 더 이상 AI라고 부르지 않습니다." AI를 개발하는 사람들이 농담 삼아 말하듯이 AI는 "컴퓨터가 할 수 없는 일을 하는 것"이다. 컴퓨터가 그 일을 할 수 있게 되면, 그저 단순한 소프트웨어로 전락하게 된다. 이러한 태도는 우리가 얼마나 멀리까지 왔고 상황이 얼마나 빠르게 전개되고 있는지를 크게 간과하게 만든다.

 

304)일자리를 대체할 새로운 시스템이 인간의 인지 능력을 뛰어넘어 노동자가 새로운 일자리를 찾지 못하게 된다면 어떻게 될까? 다가오는 기술의 물결이 정말 그렇게 일반적이고 광범위하다면 인간은 어떻게 경쟁력을 유지할 수 있을까? 사무직 업무 중 대부분을 AI가 보다 더 효율적으로 수행할 수 있다면 어떻게 될까? 인간이 계속해서 기계보다 '더 나은' 성과를 낼 수 있는 영역은 거의 없을 것. 나는 이러한 결과가 더 가능성 높은 시나리오라고 오랫동안 일관되게 주장해 왔으며, 최신 세대의 대규모 언어 모델이 등장하면서 그 어느 때보다도 더욱 그러한 생각에 확신을 갖게 됐다. 이러한 도구는 인간의 지능을 일시적으로 강화해줄 뿐 ... 궁극적으로는 인간의 노동을 대체하게 될 것. 결국 인공 지능은 행정 업무, 데이터 입력, 고객 서비스, 이메일 작성, 요약문 작성, 문서 번역, 콘텐츠 제작, 카피라이팅 등과 같은 인지 작업을 인간이 하느 것보다 더 효율적이고 저렴하게 수행하게 될 것. 초저가 대안이 넘쳐나는 상황에서 이러한 '인지적 육체 노동'의 시대는 저물고 있다. 이 같은 분석 결과는 결국 채용을 결정하는 데에도 영향을 미칠 수 있다.