- 지난해부터 생성형 AI 붐이 일어난 이후 AI 모델 개발의 가장 난재는 '반도체' 였습니다. 컴퓨팅 파워와 AI 모델 성능이 정비례하는 가운데, 기업들은 AI 학습에 필수적인 엔비디아 칩을 하나라도 더 구하기 위해 줄을 서야 했습니다. 갑작스런 수요 증가로 인해 칩 생산 과정에 여러 병목이 발생했고, 제한적인 공급으로 인해 가격이 치솟았습니다. AI 개발에 필요한 자금이 천정부지로 높아지자 빅테크들은 대규모 감원을 통해 투자를 AI에 집중시키기 시작했습니다.

- 다행히 엔비디아 칩 수요는 점차 안정세에 접어들고 있고, AI 반도체에 대한 과열된 투자도 점차 식어가는 분위기입니다. 앞으로 지속적인 우상향은 가능하겠지만 '없어서 못 파는' 상황은 지속되지 않을 것이란 전망이 우세합니다. 하지만 그렇다고 AI 개발이 쉽게 이뤄지진 않을 것 같습니다. 다음 변수는 '전기'가 될 것이란 전망입니다.

- 최근 '라마3'를 공개한 메타의 마크 저커버그 CEO는 인터뷰를 통해 "모델 크기의 지수적인 진보는 계속될 수 있지만 결국 에너지와 인프라 병목에 부딪힐 것"이라고 전망했습니다. 현재 많은 데이터센터가 50~100메가와트(MW) 수준이지만, AI 학습을 위한 데이터센터는 기본 300~500MW, 최대 1기가와트(GW) 수준까지 전력 소비량이 커질 수 있다는 얘기입니다. 1GW 수준까지 가면 AI 모델 개발에 원자력 발전소가 필요한 수준이기 때문에 허가를 받고 인프라를 구축하는 데만 수년이 걸릴 것이란 전망입니다.

- 데이터센터는 원래 '전기 먹는 하마'라고 불릴 만큼 많은 전력을 소비하는 시설입니다. 서버, 네트워크, 스토리지 등 많은 장비들이 열을 내뿜고, 이를 식히기 위한 전력 소비가 만만치 않습니다. 여기에 AI 모델 학습시키고 구동하는 데는 기존 장비보다 더 많은 전력을 소비하고, 그만큼 열도 더 많이 납니다. 국제에너지기구에 따르면 챗GPT와 질의응답을 한 차례 주고받을 때 필요한 전력은 평균 2.9와트시(Wh)로, 이는 평균적인 구글 검색에 필요한 전기의 10배에 가까운 양입니다. 앞으로 AI가 텍스트 뿐만 아니라 이미지, 영상 등 '멀티모달'로 진화하면 전력 소비는 더 커질 것입니다. 미국 전력청은 2023년과 2026년 사이에 AI 산업 전력 수요가 최소 10배 이상 증가할 것으로 예상한 바 있습니다.