패권ㅣ파미 올슨ㅣ이수경 옮김ㅣ오픈AI와 딥마인드 창업자 이야기

오픈AI의 샘 올트먼과 딥마인드의 데미스 허사비스 중심으로 전개한다.
AI 업계 탑의 역사를 한번에 쫙 읽을 수 있어서 좋았고, 무조건 찬양하는 논조가 아니고 비판적인 관점도 같이 담아서 좋았다.
 
샘 올트먼의 Y콤비네이터의 신임을 얻는 과정이 자세히는 안 다뤄져서 아쉬웠다.
프리젠테이션 때 부풀리는 밸류라든지 있어보이게 하기 레전드였다던데 그 일화는 나왔다.

딥마인드는 페이스북에 매각 거절하고 일론 머스크도 거절했지만 결국은 돈 문제로 구글로.
반면 오픈AI는 돈 없이 명성과 비전으로 인재를 모으며 시작했지만 결국 똑같이 돈 문제로 기조를 바꿈. 결국 돈.
구글도 중국 인권 문제 어쩌고 철수하더니 결국 중국시장 돈 때문에 매달리고 개인정보보호 원칙도 무시해버리고.
 
허사비스나 샘 올트먼이 AI의 영리 목적이나 정치적인 이용을 걱정했던 것과 반대로
알렉스 카프는 적극적으로 자국에 이익이 되는 일을 해야 된다는 입장이구나.
 
AI 편향성 문제는 뒷전인 거 같고. 하긴 알고리즘 편향도 해결은 커녕 악화만 되어 가는 거 같음.
 
"대중에 공개하면 위험하다 VS. 리더가 독재하면 위험하다"
둘 다 일리는 있다고 생각한다. 어느 쪽도 위험한 거 같음. 그러나 위험하거나 말거나 계속 될 것 같다.
 
허사비스는 그렇게 세상에 미칠 영향을 걱정한다면서, 알파고가 바둑계와 프로 바둑 기사들에게 미칠 영향은 걱정했나 과연...?
 
챗GPT가 세상에 나온지 3년도 안 됐는데 너무나 일상 속에 자연스레 자리 잡아 버렸다.
AI를 통해 인류는 어떤 세상으로 나아갈까.

 

ㅡ

87)(딥마인드 창업자들) 레그는 최대한 많은 사람의 의식을 컴퓨터에 업로드해 AGI와 통합하고 싶다는 꿈이 있었고, 술레이먼은 사회문제들을 해결하고 싶었으며, 허사비스는 우주에 관한 근원적 발견을 이뤄내 역사에 이름을 남기고 싶었다.

153) AI 개발이라는 분야의 진실은 간단했다. 성공하기 위해서는 개발자에게 지불할 보수, 모델을 훈련할 데이터, 그 모델을 실행할 강력한 컴퓨터에 이르기까지 모든 측면에서 많은 자원이 필요하다.

192) 거대 석유 기업과 플라스틱 제조업계가 세상의 관심을 그들이 환경에 미치는 중요한 영향에서 다른 곳으로 돌려놓았듯이, AI 분야의 주요 개발자들은 영화 <터미네이터>에서 인류를 멸망시키려 는 AI 시스템 '스카이넷'이 현실화될지 모른다는 두려움을 조성함으로써, 머신러닝 알고리즘이 초래하는 현재의 문제들에서 대중의 시선을 돌려놓을 수 있었다. 그럼으로써 AI 개발자와 업계는 지금 당장 조치를 취할 책임에서 벗어날 수 있었다. 인류가 멸망할지 모른다는 우려는 먼 미래에 대응해야 할 막연하고 추상적인 문제였다. (당장 해결해야 할 시급한 현실의 문제가 있는데 이것은 내버려두고 막연한 미래의 문제에 초점을 과하게 맞춘다는 비판 관점을 배웠음)

242) 오픈A는 언젠가 AGI를 만들겠다는 목표로 AI를 연구했지만, 그 과정에서 개발하는 고성능 AI 시스템이 애저를 더욱 강력하고 매력적인 서비스로 만들어줄 수 있었다. AI 기술은 클라우드 사업에서 중요한 부분이 되어가고 있었고, 클라우드 사업이 마이크로소프트 연간 매출의 절반을 차지하게 될 날이 머지않아 보였다. 만일 마이크로소프트가 획기적인 AI 서비스, 예컨대 콜센터 인력을 대체할 챗봇을 기업 고객들에게 판매한다면, 그 고객들은 마이크로소프트의 경쟁사로 옮겨가지 않고 계속 이용할 가능성이 높았다. 마이크로소프트 서비스의 기능을 더 많이 사용할수록 다른 업체로 바꾸기가 어려워지기 때문이다.

물론 많은 AI 과학자는 그렇게 생각하지 않았다. 그들은 대규모 언어 모델이, 즉 인간 지능과 가장 흡사해 보이는 AI 시스템이 인공신경망을 토대로 만들어지며, 인공신경망은 방대한 양의 텍스트를 통한 훈련으로 특정 단어나 어구가 다른 표현 뒤에 나올 가능성 을 추론한다는 사실을 누구보다 잘 알았기 때문이다. AI 시스템이 '말'을 한다는 것은 훈련 과정에서 학습한 패턴을 토대로 어떤 단어 가 다음에 올 가능성이 가장 높은지 예측하는 것에 불과했다. 대규모 언어 모델은 거대한 예측 시스템이었으며 일부 전문가의 표현을 빌리자면 "스테로이드를 맞은 것처럼 강력한 자동완성 텍스트 생성기”였다.

328) 알파벳의 2021년 매출 2,580억 달러 중 80퍼센트 이상이 광고에 서 나왔으며, 그중에서도 검색 엔진 사용자에게 노출되는 클릭당 지불pay-per-click 광고의 비율이 높았다. 구글의 검색 결과를 답답하게 채운 그 모든 광고가 구글의 사업에 필수적이었다. 그 수익 구조를 하루아침에 바꿀 수는 없었다. "구글 검색 페이지의 목적은 사람들에게 링크를, 가급적이면 광고를 클릭하게 하는 것입니다. 검색 페이지의 다른 모든 텍스트는 사실상 그냥 자리 채우기용이에요." 2013년부터 2018년까지 구글의 광고 및 상거래 부문 책임자였던 스리다르 라마스와미의 말이다. (구글 검색 최상단에 광고랍시고 스캠사이트를 버젓이 서비스하는 것도 정신 나갔다고 생각함)

그렇기 때문에 많은 이가 효과적 이타주의 사상을 부분적으로든 전적으로든 받아들인 것이다. 이 사상은 최대한 많은 돈을 벌면서 도덕적 문제도 해결할 수 있는 보다 간단하고 이성적인 길을 제시했다. 효과적 이타주의 관점에서 보면 돈 많은 갑부들은 세계 빈곤 문제의 원인이 아니라 해결책이었다. 또한 효과적 이타주의 옹호자들은 인류애와 거리가 멀어지고는 했다. 그들이 즐겨 쓰는 문구는 "닥치고 계산해보라"이다. 윤리 문제와 관련한 결정을 내릴 때 개인적 감정이나 직관적인 도덕 판단을 접어두고 결과값, 즉 자선 효과를 최대화하는 결정을 내려야 한다는 의미다. 인류에 대한 헌신을 표방함에도 올트먼을 비롯한 효과적 이타주의자들은 대개 자신이 추구하는 대의에 집중하기 위해 세상 사람들과 감정적으로 거리를 두었다. (정말 편리한 사고방식이다.)

360) 그런 기계는 추상적 사고와 전략적 사고까지 대신하고 있다. 앞으로 많은 직업군에서 대규모 언어 모델에 의존하게 될 경우 인간의 비판적 사고력이나 창의적 능력이 얼마나 쇠퇴할지, 또는 챗봇을 심리치료사나 연인으로 이용하는 사람이 늘고 이미 제품으로 나와 있듯이 아이들을 위한 장난감 챗봇이 늘어나면 인간이 타인과 관계 맺고 소통하는 방식이 어떻게 변화할지 당장은 알 수 없다. 미국 성인 1000명을 대상으로 진행한 2023년 조사에 따르면 미국인 네 명 중 한 명은 인간 심리치료사보다 AI 챗봇과 대화하는 것을 더 선호한다는데, 이는 그리 놀랍지 않은 결과다. 챗GPT에 감성지능 문제를 내주면 이 챗봇은 굉장히 높은 점수를 받으니까 말이다.

370) 올트먼에게는 경제 문제를 걱정하는 모든 이를 위한 답이 있었다. AGI가 인류 멸종을 초래할 확률은 아주 작은 반면 AGI가 경제적 유토피아를 실현해줄 가능성은 그보다 컸기 때문이다. 2023년 3월 뉴욕타임스 인터뷰에서 올트먼은 오픈AI가 AGI를 개발해 전 세계 부의 상당 부분을 획득한 뒤 이를 세상 사람들에게 재분배할 계획 이라고 설명했다. 그는 목표 수치를 1,000억 달러, 그다음은 1조 달러, 그다음은 100조 달러로 밝혔다. 그는 부를 재분배하는 방법은 정확히 모른다고 인정하면서 이렇게 말했다. "그 부분도 AGI가 알려줄 수 있을 겁니다." 허사비스처럼 올트먼 역시 AGI를 모든 문제를 해결해줄 만병통치약처럼 표현했다. AGI는 헤아릴 수 없는 부를 창출할 뿐 아니라 그 부를 모든 인류와 공평하게 나누는 방법도 알려줄 기술이었다. (역시나 아주 편리한 사고방식이다..)

405) 현재 AI 모델 개발에 드는 비용은 빅테크 기업 외의 주자라면 지불할 엄두도 내기 힘든 수준이다. 연구자들과 소규모 기업들은 엔비디아의 칩을 사용하고 아마존이나 마이크로소프트, 구글의 컴퓨팅 자원을 대여할 수밖에 없다. 게다가 일단 이들 플랫폼을 사용하기 시작하면 대개 거기에 묶이게 된다. AI 스타트업들은 일단 마이크로소프트나 아마존의 클라우드 서비스를 이용하기 시작하면 다른 업체로 바꾸기가 어렵다고 토로한다.