지식/인사이트
식혀야 산다…생성형 AI 시대, ‘열’받는 GPU 서버 ‘냉각 전쟁’
등록일: 2023-11-17 16:41:36
작성자: 관리자

▷ 작성일 : 2023.11.15

생성 AI 서비스 경쟁이 심화되면서 인터넷 데이터 센터(IDC)에서 GPU 서버를 냉각하는 문제가 중요한 이슈가 되었습니다. GPU 서버는 표준 서버보다 훨씬 많은 전력을 필요로 하므로 IDC에서 높은 에너지 소비에 기여합니다. 지난해 전 세계 IDC 전력 소비량은 240~340TWh로 국내 전체 에너지 사용량의 상당 부분을 차지했으며 이 중 약 40%가 서버 냉각에 사용된 것으로 추정됩니다.

이에 대응하여, IT 회사들은 저전력, 고효율 냉각 기술 개발에 집중하고 있습니다. 한국의 선도적인 이동통신사인 SK텔레콤은 "액체 침지 냉각" 기술을 성공적으로 구현했습니다. 이 새로운 접근법은 서버들을 특수한 비전도성 냉각 오일에 담그는 것을 포함하며, 이는 더 에너지 효율적인 것으로 증명되었습니다. 그들은 GRC 시설들로 시스템을 구축하고 다양한 제조사들의 서버들을 테스트하여 전통적인 공기 냉각에 비해 전력 소비를 37% 감소시켰습니다.

SK텔레콤의 액침 냉각 시스템은 서버를 열전도율이 높은 냉각유에 직접 담그기 때문에 기존 공랭식 시스템과 다릅니다. 이 방식은 열을 효과적으로 흡수하고 추가 냉각 팬이 필요 없어 서버 성능을 저하시키지 않으면서 에너지 절감 효과를 더 낼 수 있습니다. SK텔레콤은 내년부터 AI 서비스 전용 IDC에 이 기술을 적용할 계획입니다.

국제적으로, 구글, 마이크로소프트, 그리고 인텔과 같은 주요 기술 회사들 또한 액침 냉각을 탐구하고 있습니다. 인텔은 액침 냉각의 선두주자인 Submer, 그리고 인공지능과 고성능 컴퓨팅에서 이러한 기술들을 개발하고 시행하기 위해 GRC와 협력했습니다.

국내에서는 LG유플러스가 평촌2 데이터센터에 선풍기를 설치하고 외부 냉기를 이용해 에너지 사용량을 대폭 줄이는 등 효율적인 열관리 시스템을 고안했습니다. 또 지열 냉난방을 구현하고 태양광과 연료전지 기술을 활용해 전력 소비를 줄였습니다.

이와 비슷하게, 네이버는 새로운 IDC '가크 세종'에서 '트리 3'라는 이름의 하이브리드 냉각 시스템을 적용하여 에너지 효율을 높였습니다. 이 시스템은 서버실을 냉각시키기 위해 자연 바람을 이용하고, 외부 공기를 이용하여 지붕을 통해 뜨거운 공기를 배출합니다. 건물의 디자인은 다양한 방향에서 자연 공기를 사용하는 것을 용이하게 합니다.

이러한 발전은 지속 가능하고 에너지 효율적인 솔루션에 대한 광범위한 업계 추세를 반영하며 탄소 중립 목표에 기여합니다.

▷ 원문보기 : https://m.khan.co.kr/economy/industry-trade/article/202311150600025#c2b


이전글 네이버 데이터센터 ‘각 세종’ 슈퍼컴퓨터, 전세계 슈퍼컴 순위 22위에 올랐다 !!
다음글 Linaro, Forge 23.1 출시를 통한 HPC 분야의 혁신 및 Python 및 클라우드 통합 강화