일론 머스크의 인공지능 유토피아에 대한 회의론이 커지고 있다

기술 분야의 리더들은 인공지능이 기후 변화부터 경제적 어려움에 이르기까지 인류가 직면한 가장 큰 문제들을 해결하고 풍요로운 세상을 곧 만들어낼 것이라고 점점 더 주장하고 있습니다. 여기서 "기술 리더"란 기술 기업, 과학자, 발명가, 투자자, 업계 언론인 등 광범위한 기술 생태계를 의미하며, 이들의 혁신은 현대 생활을 더 빠르고 편리하게 만들어주었지만, 반드시 더 나은 삶을 만들어준 것은 아닙니다.

최근 이코노미스트와의 인터뷰에서 일론 머스크는 인류가 "엄청난 디지털 지능을 가진 수많은 로봇"을 보유하게 되면 세계 경제가 "거의 무한대"가 될 것이라고 말했습니다. 그는 그러한 세상에서는 "누구나 원하는 것을 가질 수 있고", 2036년경에는 모든 사람이 일하지 않고도 높은 소득을 누리게 되어 돈의 의미가 크게 줄어들 것이라고 주장했습니다. 머스크는 이러한 미래를 스타트렉에 묘사된 풍요로운 사회에 비유했습니다.

무한한 풍요에 대한 꿈

머스크의 비전은 기술 산업 전반에 걸친 더 넓은 열망을 반영합니다. 버튼 하나만 누르거나 간단한 음성 명령만으로 사실상 무엇이든 만들어낼 수 있는 미래 말입니다. 이는 스타트렉에서 대중화된, 빈곤이 사라지고 돈이 더 이상 필요하지 않으며 사람들의 필요가 손쉽게 충족되는 미래와 같은 비전입니다.

저자는 친구가 "원하는 것은 무엇이든 만들 수 있는 기계와 완벽하게 몰입할 수 있는 가상현실 공간이 있다면, 왜 여행을 하겠어?"라고 물었던 일을 떠올린다. 하지만 스타트렉의 등장인물들은 대부분의 시간을 새로운 문명과 머나먼 세계를 탐험하는 데 보냈다.

머스크는 풍요로운 사회에서도 여전히 일을 선택하는 사람들이 있을 것이며, 이는 마치 슈퍼마켓에서 음식을 살 수 있음에도 불구하고 정원을 가꾸는 사람들이 있는 것과 같다고 주장합니다.

답이 없는 질문

하지만 머스크의 비전에서 가장 눈에 띄는 요소는 인공지능이 인간의 개입을 최소화하면서 약 10년 안에 세상을 운영할 수 있을 것이라는 그의 예상입니다.

이는 당연한 질문을 던지게 합니다. 지능형 시스템이 모든 것을 관리하게 된다면 기업들은 어떻게 계속해서 수익을 창출할 수 있을까요? 기업이라는 존재 자체가 존속할 수 있을까요?

저자에 따르면 머스크는 명확한 답변을 내놓지 않는다.

자연스럽게 또 다른 질문이 떠오릅니다. 사람들이 더 이상 일하지 않게 되면 어디에서 수입을 얻을까요?

머스크의 대답은 간단합니다. 정부가 시민들에게 수표를 보내면 된다는 것입니다.

저자는 그 제안에 아이러니가 있다고 지적합니다. 머스크는 과거 도널드 트럼프 미국 대통령 행정부에 합류하여 정부 효율성부를 통해 정부 지출 삭감을 도왔습니다. 그러나 그가 현재 묘사하는 미래는 인공지능 기반 사회주의의 한 형태와 유사하며, 그의 현재 정치적 입장과는 다소 어긋나 보입니다.

"일어날 것이다" 테스트

저자는 인공지능 비평가인 에드 지트론이 제시한 과제를 언급하는데, 그는 인공지능 애호가들에게 오늘날의 인공지능 모델이 실제로 무엇을 할 수 있는지 "할 것이다" 또는 "할 것이다"라는 단어를 사용하지 않고 설명해 보라고 요청했다.

저자에 따르면, 대부분의 AI 옹호자들은 현재의 능력보다는 미래의 가능성에 지나치게 의존하기 때문에 이러한 분석에 어려움을 겪는다.

오늘날의 인공지능 모델이 세상을 지배할 수 있을까요?

저자는 오늘날의 대규모 언어 모델이 머스크가 구상하는 미래를 실현하기에는 아직 멀었다고 주장합니다.

그의 견해로는 이러한 시스템들은 여전히 빈번하게 오류를 범하며, 소위 환각은 일시적인 결함이 아니라 모델 작동 방식에 깊숙이 뿌리내린 문제라고 합니다.

그는 또한 핵심 경제 시스템과 기반 시설을 관리하는 데 필요한 지능 수준은 대규모 언어 모델만으로는 달성할 수 없다고 주장합니다. 사회의 필수적인 부문을 그러한 모델에 맡기는 것은 번영보다는 재앙을 초래할 수 있다고 그는 경고합니다.

누가 진정으로 이득을 보는가?

저자는 보편적인 번영이 도래하면 오늘날의 기술 대기업들이 어떻게든 사라질 것이라는 생각에 대해서도 마찬가지로 회의적이다.

그는 오히려 이러한 이야기가 인공지능 도입 확대의 실제 결과로부터 대중의 관심을 돌리면서 대중을 안심시키려는 의도라고 믿습니다.

그의 견해로는 오늘날 인공지능의 가장 수익성 높은 응용 분야는 감시 시스템과 군사 기술이며, 정부는 이러한 시스템이 오류를 범하더라도 더 나은 안보 및 방어 능력을 확보하기 위해 높은 비용을 기꺼이 감수하는 것으로 보인다.

높은 비용과 불확실한 수익성

저자는 기업과 소비자가 이미 일부 분야, 특히 인터넷 검색 개선을 통해 인공지능의 혜택을 받고 있다는 점을 인정합니다.

하지만 그는 그러한 혜택의 진정한 비용은 사용자들이 현재 지불하는 금액보다 훨씬 더 높다고 주장합니다.

사용자가 한 명 늘어날 때마다 더 많은 컴퓨팅 용량과 새로운 데이터 센터가 필요하기 때문에 AI는 기존 디지털 비즈니스처럼 규모의 경제를 누리지 못하는 것으로 보입니다. 오히려 사용자 기반이 확장됨에 따라 비용은 계속 증가합니다.

그러한 이유로 그는 현재의 AI 모델이 궁극적으로 수익성을 갖게 되는 경우는 고객이 그에 따른 경제적 비용을 전액 지불할 의향이 있는 특수 응용 분야에서만 가능할 것이라고 믿습니다.

결론

저자는 기술 분야의 리더들이 수년간 본질적으로 동일한 메시지를 반복해 왔다고 결론짓습니다. 즉, 우리를 믿고 더 번영하는 기술적 미래로 나아갈 수 있도록 우리가 이끌어 드리겠습니다.

그의 견해로는 오늘날 인공지능을 둘러싼 약속들은 그 위험성과 오용 가능성에 대한 충분한 논의 없이 대중이 인공지능의 급속한 확산을 수용하도록 설득하려는 더 광범위한 노력의 일환입니다.

그는 이미 많은 지역 사회가 비용과 지역 사회에 미치는 영향 때문에 추가적인 AI 데이터 센터 건설에 반대하기 시작했다고 지적합니다. 그는 이러한 논의가 인공지능 자체의 사용 방식과 오용 방지 방안에까지 확대되어야 한다고 주장합니다.