"인공 일반 지능(AGI)이 드디어 우리 앞에 섰습니다." 실리콘 밸리에서 가장 유서 깊은 벤처 캐피털 회사 중 하나이자 오픈AI의 주요 투자자인 세쿼이아 캐피털은 이번 주 이 문구로 인공 일반 지능(AGI) 시대의 문턱을 넘었다고 발표했습니다.

해당 게시글에서 세쿼이아 캐피털은 "세부 사항에 전혀 얽매이지 않는다"고 분명하고 명확하게 밝혔습니다. 세쿼이아의 발언은 기술 업계의 주목을 받습니다. 이 주장은 며칠 동안 AI 개발자 커뮤니티 전반에서 화제의 중심이 되었습니다.

개발자이자 벤처 투자자, 그리고 AI 연구자인 저는 이 선언이 어떤 면에서는 매우 유용하지만, 다른 면에서는 매우 위험하다고 생각합니다.

세쿼이아의 주장에서 유용한 점은 무엇인가?

세쿼이아는 인공 일반 지능(AGI)을 "해결책을 발견하는 능력, 그 이상도 이하도 아니다"라는 실용적인 정의로 설명합니다. 이러한 관점에서 오늘날의 AI 시스템은 방대한 정보를 검색하고, 실행 방안을 결정한 후, 이를 실행할 수 있습니다. 세쿼이아에 따르면 핵심적인 변화는 AI가 "말하기"에서 "행동하기"로 전환했다는 점입니다.

이 회사는 구체적인 사례를 제시합니다. 하비(Harvey)와 레고라(Legora) 같은 플랫폼은 "법률 보조원 역할을 하고", 주스박스(Juicebox)는 "채용 담당자 역할을 하며", 오픈이비던스(OpenEvidence)의 딥 컨설트(Deep Consult)는 "전문가 역할을 한다"고 말합니다. 이는 문자 그대로의 설명입니다. 저는 이러한 개념적 틀에 회의적이지만(이에 대해서는 잠시 후에 더 자세히 설명하겠습니다), 이러한 주장이 제기되었다는 사실 자체는 중요합니다.

세쿼이아가 여기서 하고 있는 일은 개발자들에게 직접적인 도전을 제시하는 것이며, 이는 매우 중요합니다. AI 시스템은 이미 계약 조항을 꼼꼼히 검토하고 잠재 고객과 실시간으로 의미 있는 소통을 할 수 있습니다. 이는 우리가 현재 가능한 것들에 대해 더 큰 그림을 그려야 하며, 단 1년 만에 그 가능성이 극적으로 확장되었음을 일깨워줍니다.

제가 공동 창업자들에게 세쿼이아의 게시물을 보낸 것은 철학적인 논쟁을 벌이기 위해서가 아니라, 그들이 제시한 "실행 대 대화"라는 틀을 재고해 보자는 의미였습니다. 우리는 그 도전에 응해야 합니다.

하지만 이러한 시스템을 인공 일반 지능(AGI)이라고 부르는 것이 왜 위험한가요?

이러한 시스템을 "인공 일반 지능"이라고 부르는 것은 인공지능 혁명의 신뢰성과 이러한 기술의 안전한 도입 모두에 심각한 해를 끼칩니다. 이는 소위 인공지능 에이전트가 오늘날 실제로 무엇을 할 수 있는지(그리고 그것들은 결코 일반 초지능이 아님)를 모호하게 만들 뿐 아니라, 인간이 이러한 에이전트와 어떻게 상호작용해야 하는지에 대한 지침도 제공하지 않습니다. 간단히 말해서, 맹목적으로 신뢰해서는 안 됩니다.

세 가지 사례를 통해 이러한 한계를 명확히 보여줍니다.

첫째: AI 시스템은 훈련 데이터 분포 범위를 벗어나면 제대로 작동하지 않습니다.

이전 글에서도 언급했지만, 그린란드 위기는 생생하게 전개되는 사례를 보여줍니다. 저는 ChatGPT 5.2를 비롯한 생성형 AI 도구들, 특히 "추론 및 연구" 기능을 최대로 활성화한 도구들이 이처럼 급변하는 지정학적 사건을 분석할 수 있는지 테스트해 보았습니다. 이러한 시스템들이 진정한 인공 일반 지능(AGI)이라면, 과연 제가 상황을 이해하는 데 도움을 줄 수 있을까요?

답은 '아니오'였다. 그들은 그런 일이 가능하다는 것조차 상상할 수 없었다.

저는 위키피디아에서 해당 위기 상황을 기록한 스크린샷을 제시했습니다. 모든 모델은 그 이야기가 조작된 것이고, "말도 안 되는 소리"이며, 불가능하다고 말했습니다. 제가 실제 뉴스 출처를 인용하며 계속해서 주장하자, ChatGPT는 "진정하세요"라고 반복해서 말하며 "이건 진짜 위기가 아닙니다"라고 강조했습니다.

이러한 모델들은 전통적인 서방 동맹 체계에 너무나 단단히 얽매여 있어서, 1차 자료에 직면하더라도 훈련 데이터와 모순되는 맥락을 생성할 수 없습니다. 현실이 훈련 분포에서 벗어나면 AI의 "추론"은 무너집니다. 불확실성을 표현하는 대신, 시스템은 확신에 차서 사용자를 오도하고 잘못된 추론을 계속합니다. 정책 입안자나 정치인들이 현재 그린란드를 이해하기 위해 이러한 도구에 의존하고 있다면, 이는 심각한 위험입니다.

둘째: AI 시스템은 개발자의 신념을 반영한다.

2주 전 네이처(Nature)에 발표된 한 연구는 이를 명확히 보여주었습니다. 연구진은 대규모 언어 모델이 개발자의 정치적 이념을 반영한다는 사실을 발견했습니다. 중국어 모델은 중국에 대해 매우 긍정적인 반면, 서구 모델은 분명히 부정적이었습니다.

서구 모델 내에서도 편향성은 분명히 드러납니다. 일론 머스크의 xAI가 개발한 Grok은 유럽 연합과 다문화주의에 대해 부정적인 편향을 보였는데, 이는 우파 성향을 반영한 것입니다. 반면, 더 진보적인 것으로 널리 알려진 구글의 Gemini는 유럽 연합과 다문화주의에 대해 더 긍정적인 태도를 보였습니다.

인공지능 커뮤니티에서는 언어 모델이 그것을 개발한 연구소의 이념을 반영한다는 것이 이제 널리 받아들여지고 있습니다. 그렇다면 백지상태에 있는 것처럼 보이는 "에이전트"가 특히 복잡하고 방대한 데이터를 분석할 때 중립적으로 "해결책을 발견"할 수 있다고 어떻게 믿을 수 있을까요?

인공 일반 지능의 존재를 선언하는 것은 암묵적으로 중립성을 전제로 하거나, 적어도 그러한 입장을 암시하는 것이지만, 증거는 정반대를 가리킵니다.

셋째: 결정론적 시스템과 비결정론적 시스템

생성형 인공지능은 본질적으로 비결정적입니다. 동일한 입력이 약간 다른 출력을 생성할 수도 있고, 완전히 다른 출력을 생성할 수도 있습니다.

인간은 직관적으로 무엇이 결정론적이고 무엇이 창의적인지 이해합니다. 온라인으로 셔츠를 주문할 때 사이즈를 고르는 것은 결정론적이지만, 패턴이나 색상을 선택하는 것은 주관적입니다. 하지만 가장 발전된 모델조차도 이러한 범주를 끊임없이 혼동합니다. 우리는 생성형 인공지능이 객관적인 사실을 창의적인 제안처럼 다루는 것을 여러 번 목격했습니다.

이는 메타인지, 즉 사고 과정 자체에 대한 인식에 있어 중요한 공백을 드러냅니다. 무엇을 고쳐야 하고 무엇을 생성할 수 있는지를 구분하지 못하면 AI는 안정적으로 "해결책을 발견"할 수 없습니다.

그렇다면 우리는 어떻게 해야 할까요?

우리에게는 명확한 도구들이 있습니다.

첫째, 편향 및 분포 외 오류 발생 가능성이 낮은 구체적이고 명확하게 정의된 사용 사례를 선택하십시오.

둘째, AI 시스템이 진공 상태에서 작동하도록 두는 대신, 완전하고 맞춤화된 실제 환경 맥락을 제공해야 합니다. 제가 이전에 언급했듯이, 맥락은 AI 에이전트에게 매우 중요합니다. 또한 맥락은 무엇이 결정론적이어야 하고 무엇이 생성적일 수 있는지를 명확히 해줍니다.

셋째, 규칙 기반 필터와 필요한 경우 사람의 검토를 유발하는 감독 에이전트를 배포합니다.

마지막으로, 우리는 핵심적인 현실을 인정해야 합니다. 대규모 언어 모델은 항상 학습 데이터와 제작자의 이념을 반영할 수밖에 없습니다. 이러한 모델과 개발자들은 의도했든 안 했든 정치적 행위자입니다. 따라서 인공지능은 불투명한 시스템으로 사람들에게 강요되는 것이 아니라, 개별 인간 사용자의 통제 하에 있어야 합니다. 추적성과 책임성은 필수적입니다. 아무리 많은 중간 단계가 있더라도 모든 결정의 근원을 인간에게까지 추적할 수 있어야만 거버넌스와 안전을 보장할 수 있습니다.

궁극적으로 저는 이러한 기술들을 무엇이라고 부르든 크게 상관하지 않습니다. 다만 인공 일반 지능(AGI)이라고만 부르지 않으면 됩니다. 오늘날 우리가 가진 것은 매우 강력한 인공지능으로, 좁고 명확하게 정의된 영역 내에서 효과적으로 소통하고 실행할 수 있습니다. 엄격한 안전장치, 결정론적 필터, 그리고 인간의 개입이 있는 시스템을 갖춘다면 이러한 도구들은 세계 경제에 수조 달러를 추가할 수 있을 것입니다.

이를 좁은 범위의 인공지능(AI)이라고 부르겠습니다. 실제로 수조 달러 규모의 기회가 있는 곳이 바로 그곳입니다.

미국 증시는 금요일 하락세를 보이며 월가 주요 지수들이 2주 연속 하락세를 기록할 전망입니다. 인텔의 주가가 부진한 실적 전망 발표 이후 급락한 데다, 지속되는 지정학적 긴장이 투자자들의 위험 선호도를 약화시킨 것이 주요 원인입니다.

미국 도널드 트럼프 대통령이 워싱턴이 그린란드를 매입할 수 있도록 허용하지 않으면 유럽 동맹국에 관세를 부과하겠다고 위협한 것이 화요일의 급격한 매도세의 원인이 되어 주식 시장은 지난 이틀 동안 반등했습니다.

트럼프 대통령은 이후 관세 관련 발언 수위를 낮추고 그린란드를 무력으로 장악할 가능성을 배제했습니다. 그럼에도 불구하고 S&P 500, 나스닥, 다우존스 산업평균지수는 이번 주 하락세를 이어갔습니다. 한편, 안전자산으로의 자금 유입이 지속되면서 금값은 사상 최고치를 경신했습니다.

금요일 증시 하락의 가장 큰 원인은 반도체 제조업체 인텔이었습니다. 인텔은 인공지능 데이터센터에 사용되는 서버 칩 수요 충족에 어려움을 겪고 있다며 분기 매출과 순이익 전망치를 시장 예상치보다 낮게 발표했고, 이에 따라 주가가 14.9% 급락했습니다. 하지만 이러한 급락에도 불구하고 인텔 주가는 연초 대비 약 50% 상승한 상태입니다.

필라델피아 반도체 지수는 1.6% 하락하며 전날 기록했던 사상 최고치에서 후퇴했고, 시장의 공포 지표로 알려진 월가 변동성 지수(VIX)는 이전 이틀간 하락세를 보인 후 상승했습니다.

스파르탄 캐피털 증권의 수석 경제학자인 피터 카딜로는 "이번 실적 발표 시즌은 전반적으로 좋았지만, 일부 기업은 다소 비관적인 전망을 내놓으면서 투자자들이 포지션을 조정함에 따라 주가가 하락했습니다. 이제 실적 전망은 그 어느 때보다 중요해졌습니다."라고 말했습니다.

그는 덧붙여 “투자자들은 신중한 태도를 유지할 것입니다. 우리는 기업 실적뿐만 아니라 연준의 행보에도 주목하고 있기 때문입니다. 정책 변화는 예상하지 않지만, 연준이 성명에서 어떤 내용을 발표할지가 관건입니다.”라고 말했습니다.

미국 동부시간 오전 9시 48분 기준, 다우존스 산업평균지수는 320.71포인트(0.65%) 하락한 49,063.30을 기록했다. S&P 500 지수는 14.68포인트(0.21%) 하락한 6,898.78, 나스닥 종합지수는 36.50포인트(0.16%) 하락한 23,399.52를 기록했다.

연준의 결정에 대한 기대

연방준비제도(Fed)는 다음 주 회의에서 기준금리를 3.5%~3.75% 범위로 동결할 것으로 널리 예상됩니다. 투자자들은 향후 금리 인상 방향을 가늠하기 위해 제롬 파월 의장의 정책 성명과 발언을 면밀히 살펴볼 것입니다. CME FedWatch Tool에 따르면, 시장은 6월 첫 금리 인하를 이미 반영하고 있습니다.

S&P 글로벌의 예비 데이터에 따르면 1월 미국 기업 활동은 신규 주문 증가가 노동 시장의 약세를 상쇄하면서 안정적인 수준을 유지한 것으로 나타났습니다.

애플, 테슬라, 마이크로소프트 등 '황금 7대 기업'의 여러 기업들이 다음 주 실적 발표를 앞두고 있습니다. 이들의 향후 전망은 높은 기업 가치를 뒷받침하는 성장 동력이 여전히 유효한지 여부를 가늠하기 위한 중요한 지표로 주목받을 것입니다.

미국 경제의 견조한 성장세와 올해 하반기 금리 인하에 대한 기대감에 힘입어 시장 상승세는 대형주뿐 아니라 다른 업종으로까지 확대되었습니다. 러셀 2000 중형주 지수와 다우존스 운송지수 모두 목요일에 사상 최고치를 경신했습니다.

다른 소식으로, 블룸버그 통신이 중국 당국이 알리바바, 텐센트, 바이트댄스 등 기업들에게 엔비디아의 H200 AI 칩 구매 가능성에 대비하라고 지시했다고 보도한 후 엔비디아 주가가 1.4% 상승했습니다.

미국 증시에 상장된 광산주인 헤클라 마이닝과 코어 마이닝도 은 가격이 사상 최고치를 경신하며 처음으로 온스당 100달러에 근접함에 따라 각각 0.6%와 0.3% 상승했다.

은 가격은 오랫동안 이례적인 변동을 보여왔으며, 최근의 급등세는 그중에서도 가장 주목할 만한 사례 중 하나입니다. 11월 말 50달러를 돌파한 이후, 가격은 중간중간 큰 변동 없이 급격한 상승세를 보이며 거의 포물선형에 가까운 궤적을 그렸습니다.

그 이전에도 은 가격은 꾸준히 상승하여 도널드 트럼프가 재선에 성공했을 당시에는 약 23달러에 거래되었습니다. 산업 수요, 제한된 광산 공급, 그리고 통화 수요가 이러한 놀라운 상승세를 이끌었습니다. 그러나 최근의 상승세는 개인 투자자들의 적극적인 참여에 힘입어 나타났으며, 은은 온라인에서 일종의 "트렌드 현상"으로 자리 잡았습니다.

물론 이 가격대에서는 차익 실현 매물이 나올 수 있습니다. 하지만 금값이 5,000달러를 돌파하기 전까지는 귀금속 가격 하락에 베팅하기는 어려울 것으로 보입니다. 오늘 장중 금값은 4,967달러까지 상승했으며, 현재는 그보다 약 8달러 낮은 수준에서 거래되고 있습니다.

은은 산업 원자재이자 화폐 가치 저장 수단이라는 이중적인 역할 때문에 항상 가격 변동성이 매우 큰 것으로 알려져 있습니다. 은 역사상 가장 유명한 사건은 1979년과 1980년에 헌트 형제가 은 시장을 독점하려 했던 시도입니다. 인플레이션과 통화 가치 하락에 대한 우려에 사로잡힌 넬슨 헌트와 윌리엄 헌트 형제는 막대한 양의 실물 은과 선물 계약을 사들였습니다.

1980년 초, 헌트 형제는 전 세계 자유 거래 은 공급량의 약 3분의 1을 장악했습니다. 폭발적인 매수세로 인해 은 가격은 온스당 약 6달러에서 1980년 1월에는 사상 최고치인 50달러 가까이까지 치솟았습니다. 그러나 거래소들이 새로운 증거금 제한을 도입하면서 거품이 꺼졌고, 이는 이른바 "은 목요일"로 알려진 시장 붕괴를 초래하여 헌트 가문의 막대한 재산을 날려버렸습니다.

30년 후인 2011년, 은은 또 한 번의 큰 상승세를 경험했습니다. 2008년 글로벌 금융 위기 이후 양적 완화 정책과 미국 달러 약세로 투자자들은 실물 자산으로 몰렸습니다. 은 가격은 꾸준히 상승하여 1980년 최고가에 근접했고, 2011년 4월에는 약 49달러까지 치솟았습니다. 그러나 증거금 요건이 다시 인상되면서 급격한 조정을 겪었습니다. 이러한 상승세는 은을 기반으로 하는 상장지수펀드(ETF)의 등장으로 더욱 증폭된 것으로 널리 분석됩니다.

최근 2021년 초 발생한 "은 가격 급등" 현상은 금융 시장에 대한 소셜 미디어의 영향력 증대를 여실히 보여주었습니다. 게임스톱 사태에서 영감을 받은 레딧(Reddit)의 개인 투자자들은 은 가격을 인위적으로 억제하고 있다고 믿는 기관 투자자들을 압박하기 위해 은 가격 급등을 시도했습니다. 그 결과 실물 은과 은 ETF에 대한 수요가 증가하여 은 가격이 8년 만에 최고치인 30달러 가까이까지 상승했지만, 세계 은 시장의 막대한 규모와 유동성 덕분에 충격은 흡수되었고, 헌트 시대의 시나리오가 재현되는 것을 막았습니다.

오늘날 개인 투자자들은 다시 한번 행운을 시험해보고 있습니다. 이 아이디어는 한동안 인터넷 곳곳에서 회자되어 왔으며, 상승 추세가 상당한 수익을 가져다주고 일찍 투자한 사람들에게 보상을 안겨주는 것을 보는 것은 놀랍고 심지어 즐거운 일입니다.

팔라듐 가격은 금요일에 산업용 금속 가격의 지속적인 상승과 투자 유입 증가에 대한 긍정적인 기대감 속에 상승했습니다.

UBS는 금요일 고객들에게 보낸 보고서에서 팔라듐 투자 유입이 급증한 것을 이유로 팔라듐 가격 전망치를 온스당 300달러 상향 조정해 1,800달러로 제시했다고 밝혔다.

애널리스트 지오반니 스타우노보는 UBS가 "최근 몇 달간 투자 수요가 강세를 보인 데 따른 것"이라며, 팔라듐 시장 규모가 상대적으로 작아 "가격 변동이 급격한 경우가 많다"고 덧붙였다.

은행 측은 최근 가격 상승세는 전통적인 산업 용도 때문이 아니라, 미국 금리 인하, 달러 약세, 그리고 지정학적 불확실성 증가를 예상한 투자자들의 포지션 조정 때문이라고 설명했습니다.

스타우노보는 "투자 수요가 강하게 유지된다면 가격이 더 오를 수 있다"고 언급했지만, "투자 수요가 없다면 시장은 대체로 균형을 이룰 것으로 예상한다"고 경고했는데, 이는 UBS가 금에 대한 투자를 선호하는 이유를 설명해 준다.

최근 몇 년 동안 자동차 촉매 변환기에 사용되는 팔라듐의 수요는 2019년에 정점을 찍은 후 변동을 보였습니다. 같은 해에 팔라듐 가격이 백금보다 급등하면서 백금 사용을 대체하려는 움직임이 촉발되었습니다.

촉매 변환기를 사용하지 않는 전기 자동차의 확산 또한 팔라듐 수요에 부담을 주었다.

하지만 UBS는 팔라듐 가격이 2025년 중반 이후 백금 및 은 가격과 함께 상승했으며, 현재 팔라듐이 백금보다 "상당히 저렴해졌기 때문에" 촉매 변환기 제조업체들이 "적절한 시기에 다시 팔라듐을 사용할 것으로 예상한다"고 밝혔습니다.

팔라듐 투자 활동이 눈에 띄게 증가했는데, UBS는 2025년 중반 이후 상장지수펀드(ETF) 보유량이 증가했고, 지난해 대부분 기간 동안 순매도 포지션을 유지했던 선물 시장에서 투기적 포지션이 급격히 늘어났다고 지적했습니다.

중국 또한 수요를 뒷받침할 가능성이 있다. 스타우노보는 광저우에서 위안화 표시 백금 선물 거래가 시작된 것이 백금족 금속 전반에 걸친 거래 활동의 일환으로 "팔라듐 수요를 뒷받침했을 가능성이 높다"고 말했다.

거래에서 3월물 팔라듐 선물은 GMT 기준 14시 45분 현재 온스당 2,007달러로 4.1% 상승했습니다.