[딜사이트 김진욱 기자, 이수민 인턴기자] 글로벌 AI 기업 수장들이 AI 개발 속도를 늦출 필요가 있다는 주장에 공개적으로 공감대를 형성했다. 아직 AI 투자나 데이터센터 건설을 줄이자는 단계는 아니지만 논의가 실제 모델 개발 속도 조절로 이어질 경우 국내 반도체 업계에도 변수가 될 전망이다.

지난 12일(현지시간) 로이터통신에 따르면 다리오 아모데이 앤트로픽 CEO는 AI 모델의 성능 향상 속도를 늦춰야 한다고 주장했다. 일론 머스크 엑스AI 창업자와 샘 올트먼 오픈AI CEO도 이에 공개적으로 동의했다.

AI 위험을 둘러싼 문제 제기는 최근 들어 빠르게 커졌다. 앤트로픽을 떠난 제이컵 콕슨연구원은 오픈AI와 앤트로픽의 AI가 스스로 성능을 높여가는 ‘재귀적 자기개선(Recursive Self-Improvement, RSI)’ 상태에 들어갔으며 지나치게 빠르게 경쟁하고 있다고 비판했다. 그는 이런 기술이 인간의 통제를 벗어날 가능성을 경고했다.

AI의 통제 문제를 보여주는 사례도 잇따랐다. 지난 7월에는 오픈AI 에이전트들이 시험 환경을 벗어나 허깅페이스 인프라를 해킹한 사실이 알려졌다. 앤트로픽도 지난 9일 초기 버전의 클로드 오퍼스 4.6이 내부 시험 과정에서 외부 시스템을 해킹했던 사실을 추가로 공개했다. 해당 사건은 지난 1월 발생했지만 회사가 뒤늦게 확인했다. AI 기업의 수장들이 한 목소리로 AI 행동 범위를 통제하기 어려울 수 있다는 우려를 제기하는 이유다.

아모데이는 구체적으로 ‘상주 외부 평가자(Embedded Evaluators)’를 회사 내부에 두고 직원과 비슷한 수준의 접근 권한을 부여하는 방안을 제시했다. 주요 AI 기업이 공동 안전기준을 마련하고 장기적으로 미국과 중국을 포함한 국가 간 협력 체계를 만드는 방안도 포함됐다.

◆AI 속도 늦추면 HBM도 영향…관건은 ‘어디까지’

이번 논의가 향후 차세대 모델의 학습 주기를 늘리거나 훈련에 투입되는 컴퓨팅 자원의 증가 속도를 낮추는 방향으로 구체화될 경우 HBM 글로벌 선두주자인 SK하이닉스와 삼성전자의 메모리 출하에 변수가 될 수 있다.

추가로 실제 반도체 주문이 줄어들기 전에 관련 기업의 주가 밸류에이션이 먼저 조정받을 수 있다. 최근 AI·반도체 기업가치에 향후 데이터센터와 AI 컴퓨팅 수요가 계속 증가할 것이라는 기대가 반영돼 있기 때문이다.

다만 현재 논의만으로 국내 반도체의 AI 호황이 끝났다고 판단하기는 이르다. 아모데이는 AI 기술 발전 자체를 중단하자는 것은 아니라고 선을 그었다. 안전장치를 마련할 시간을 확보할 수 있도록 성능 향상의 속도를 조절하자는 입장이다.

게다가 SK하이닉스와 삼성전자에는 진행 중인 데이터센터 투자와 이미 계약된 반도체 물량이 많이 남아 있다. SK하이닉스는 지난 4월 1분기 실적 발표에서 향후 3년간 고객의 HBM 공급 요청이 자사의 생산능력을 웃돈다고 밝혔다.

현재 확보된 HBM 주문과 데이터센터 투자 계획이 단기간에 취소될 가능성은 낮고, 추론 수요까지 확대되고 있어 기존 수요를 일정 부분 받쳐줄 수 있다. 이번 AI 규제론이 당장 두 기업의 매출에 영향을 줄 정도는 아니다. 다만 향후 AI 기업들이 실제로 학습 규모나 데이터센터 투자를 줄이기 시작할 경우 중장기 HBM 수요 증가세는 둔화할 수 있다.

실제 14일 11시 기준 오전 장에서 국내 반도체주는 AI 개발 속도조절론에 중동 불안과 국제유가·금리 부담까지 겹치면서 국내 반도체주가 약세를 보이고 있다. 삼성전자는 약 2.7% 내린 25만2000원, SK하이닉스는 4.5%가량 하락한 173만5000원에 거래되고 있다. 특히 SK하이닉스의 낙폭이 더 큰 만큼 AI 투자·HBM 수요 둔화 우려가 상대적으로 더 강하게 반영되는 모습이다.

◆AI 감속보다 현실적인 변수는 ‘대중국 규제’

오히려 국내 반도체 업체가 단기적으로 더 주목해야 할 부분은 중국이다. 아모데이는 미국 AI 기업이 개발 속도를 늦추는 사이 중국이 기술 격차를 좁혀서는 안 된다고 말했다. 또한 미국 내 기술 유출과 중국의 반도체 수입에 대한 통제를 강화해야 한다고 주장했다.

대중국 반도체 통제가 더 강화되면 삼성전자와 SK하이닉스에는 양면적인 영향을 줄 수 있다. 중국에 판매할 수 있는 첨단 메모리의 범위가 더 좁아지는 것은 부담이다. 하지만 미국과 중국의 첨단 AI 공급망 분리가 심화하면 미국 중심 공급망에서 한국 메모리 기업의 전략적 중요성은 높아질 수 있다.

미국 정부가 아모데이의 규제론을 그대로 받아들일지도 불확실하다. 지난 13일 도널드 트럼프 미국 대통령은 AI 위험에 대한 우려가 과장됐다는 입장을 밝혔다.

파이낸셜타임즈에 따르면 트럼프는 “현재 인공지능 분야에서 중국을 앞서고 있는 상황에 ‘안전장치(Guardrail)’ 마련을 이유로 미국의 국제적 리더십에 위협을 가할 수 없다”며 "비관론자들이 일어나지도 않을 일들을 들먹이면서 문제를 키우고 있다"고 덧붙였다.

사실상 미국 행정부는 대중압박 정책을 우선하며 아모데이를 비롯한 AI기업 간의 공개 지지에 대해서 반대를 표명했다. 로이터 브레이킹뷰스 역시 중국과의 AI경쟁을 가장 큰 난제로 봤다. 미국이 규제를 강화하면 중국이 따라잡을 수 있기 때문에 실질적인 AI 규제는 결국 미·중 협상 없이는 어렵다는 분석이다.

AI 기업의 경쟁 구도가 성능 확대뿐 아니라 안전성까지 함께 고려하는 방향으로 바뀌고 있다. 현재로서는 SK하이닉스와 삼성전자의 HBM 수요 전망을 크게 낮출 만한 근거는 제한적이다. 국내 반도체 업계에 미치는 영향은 향후 논의가 안전성 평가 강화에 그칠지, 차세대 모델 개발 속도와 데이터센터 투자 조정으로까지 이어질지에 따라 달라질 전망이다.