당신이 AI에게 고양이 시를 써달라고 할 때마다, 어딘가에 있는 서버는 뜨거워집니다. 그걸 식히려면 물이 필요하죠. 아주 많이요.

연구에 따르면 ChatGPT와의 짧은 대화 한 번에 데이터센터는 물 500ml를 씁니다. 사용자 수십억 명을 곱해보세요. 우리는 말 그대로 식수와 디지털 텍스트를 교환하고 있는 겁니다.

GPT-3 하나를 학습시키는 데 든 전력은 미국 일반 가정 120가구가 1년 쓰는 양과 맞먹습니다. 이건 학습일 뿐입니다. 매일 답변을 생성하는(추론) 비용은 훨씬 더 큽니다.

우리는 토스터부터 자동차까지 모든 것에 AI를 넣고 있습니다. 에너지 문제를 해결 못 하면, AI의 발전은 지능이 아니라 전기가 부족해서 멈출 겁니다. "AI를 돌리느라 전기세가 너무 비싸서 에어컨을 못 켜는" 미래가 올지도 모릅니다.

희망은 있습니다. 엔지니어들은 서버 없이 폰에서 돌아가는 '소형 언어 모델(SLM)'을 개발 중입니다. 미래는 더 큰 모델이 아닙니다. 더 똑똑하고, 작고, 친환경적인 모델입니다.