샘 올트먼: PC에 메모리를 장착하는 것은 너무 낭비다. AI 데이터센터에 할당하는 것이 최선이다.

편집: 쩌난, 머신하트
“글로벌 자원 배분 관점에서 볼 때, 부족한 DRAM을 개인용 컴퓨터에 대량으로 비축해 장기간 유휴 상태로 두는 것은 ‘매우 끔찍한’(quite terrible) 조치다. 메모리는 클라우드 데이터센터에 집중 배치되어야 한다.” 이 말은 핵심을 정확히 찌른다.
이번 목요일, OpenAI 최고경영자 샘 알트먼(Sam Altman)은 유튜브 채널 치키 핀트(Cheeky Pint)의 인터뷰에서 맥주 한 잔을 손에 쥔 채 여유로운 표정으로 AI 대규모 모델의 로컬 추론에 대해 논의했다. 그 대화 속에서 자연스럽게 가정용 기기의 메모리 부족이라는 현실적 어려움이 언급되었고, 우연히도 하나의 고전적인 판단이 무심코 던져졌다.
잘 알려진 바에 따르면, 현재 전 세계를 휩쓸고 있는 AI 열풍은 지속적으로 메모리 가격을 끌어올리고 있으며, 이에 따라 PC와 스마트폰 가격도 급등하고 있다. 일반 소비자들은 이미 큰 부담을 느끼고 있다. 한편, 주요 메모리 제조사들은 생산 능력을 확대하기 위해 이미 가속 페달을 밟았으나, 실제 생산 능력의 언락에는 여전히 시간이 필요하다…