grep

DevOps

[안정성 보고서] 2. 안정성을 위한 인프라 구축

kakao tech카카오

2024년 12월 8일

원문에서 보기 ↗

여는말

카카오는 서비스의 안정성을 향상하기 위해 데이터센터 및 설비를 지속적으로 확충하는 장기 로드맵을 수립했습니다. 이를 실행하기 위해 여러 지역에 데이터센터를 건립하고, 서버를 점진적으로 분산 배치하고 있습니다. 이러한 전략을 통해서 장애나 재해 발생 시에도 끊김 없는 서비스를 제공하고자 합니다.

또한, 기존 임차 데이터센터의 노후화에 대응하고 최신 설비로 이전해 더욱 쾌적한 서비스를 제공하기 위해 노력합니다. 이러한 노력은 향후 인공지능 서비스를 본격적으로 도입 및 확대하기 위한 설비를 마련하기 위해서 중요합니다.

1. 데이터센터 다중화

카카오는 서비스 안정성을 더욱 강화하기 위해 점진적으로 데이터센터를 확충하는 계획을 실행에 옮기고 있습니다. 현재 카카오의 서버는 여러 지역의 데이터센터에 분산되어 있습니다. 2024년 카카오 데이터센터 안산의 운영을 시작으로, 신규 데이터센터를 꾸준히 확충할 계획입니다. 카카오가 생각하는 데이터센터 확충의 필요성은 아래와 같습니다.

• 시간의 흐름에 따른 데이터 저장 및 처리 규모의 자연적 증가

• 기존 임차 데이터센터의 노후화 대응과 최신 설비로의 이전

• 안정성 강화를 위해 서비스 및 데이터 등을 다중화할 수 있는 데이터센터 확충의 필요성

• 향후 인공지능 서비스의 본격적 도입과 확대를 대비한 인공지능 서버의 수용에 특화된 데이터센터의 필요성

카카오가 임차한 데이터센터 상면은 약 22 MW(메가와트) 규모로, 일반 서버 10만 대를 수용할 수 있는 수준입니다. 2024년 건립된 카카오 데이터센터 안산은 20MW 규모로, 최대 12만대의 서버를 수용할 수 있는 거대한 규모입니다. 이처럼 카카오는 데이터센터와 설비를 지속적으로 확충하며 서비스의 안정성을 향상에 투자하고 있습니다.

2. 카카오 데이터센터 안산

2024년부터 운영을 시작한 카카오 데이터센터 안산은 축구경기장 (그라운드 7,140m2 (제곱미터) 기준)보다 약 2.6배 넓은 대지에 들어서는 대규모 데이터센터입니다. 여기에는 서비스 안정성을 위해 최적화된 다양한 기술과 노력을 담고 있습니다.

중단 없는 운영을 위해 전력, 통신, 냉방 3가지 주요 인프라를 모두 이중화했으며, 홍수, 해일, 태풍, 지진 등 각종 재난재해에 대비한 재난 대응 설비를 갖췄습니다. 특히, 4단계에 이르는 화재 예방 및 대응 시스템을 구축해 업계 최고 수준의 안정성을 확보했습니다.

카카오 데이터센터 안산은 4천 개의 랙1, 약 6EB2의 데이터 저장, 최대 12만 대의 서버를 수용할 수 있는 규모입니다. 이 곳은 카카오 및 카카오 공동체의 주요 데이터센터의 역할을 수행합니다.

그림 3. 카카오 데이터센터 안산 규모 및 설비

그림 4. 카카오 데이터센터 안산 전경

2-1. 대규모 서버의 안정적 운영을 위한 무정전 전력망

카카오 데이터센터 안산은 12만 대의 서버를 운영할 예정입니다. 대규모 서버를 갖춘 데이터센터 운영에는 전력의 안정성이 매우 중요합니다. 카카오 데이터센터 안산은 대규모 서버 운영을 차질 없이 수행할 수 있도록 22.9kV(킬로볼트)의 전력을 공급받으며, 전력 공급용량을 4만kW(킬로와트) 급으로 갖췄습니다.

또한, 전력 공급 중단에 대비하기 위해 상용 2회선 수전 방식을 적용한 무정전 전력망을 구축했습니다. 주전력의 100% 용량에 해당하는 전력을 공급할 수 있는 예비 전력망을 갖춤으로써, 주전력이 중단되는 비상 상황에서도 즉각 평시와 같은 전력 공급이 이루어질 수 있게 한 조치입니다. 전력망 이중화를 위해 사업비 약 139억 원(한국 전력 계약금액 기준)을 투입했습니다.

그림 5. 무정전 전력망 구조

2-2. 운영설비의 이중화

카카오 데이터센터 안산은 24시간 중단되지 않도록 설계했습니다. 데이터센터 운영에 중요한 전력, 통신, 냉방 설비를 모두 이중화했습니다.

전력 설비: 카카오 데이터센터 안산은 전력회사에서 전력을 공급받는 설비를 이중화 했습니다. 이와 함께 전력회사에서 공급받은 전력을 데이터센터 내부로 공급하기 위한 배전설비도 완전히 이중화해 설계했습니다. 즉, 전력회사로부터의 전기를 공급받는 전력망부터 서버에 전기를 최종적으로 공급하기까지 전 과정을 이중화한 것을 의미합니다.

통신 설비: 카카오 데이터센터 안산은 외부 통신회선 연결을 다수의 통신회사와 MMR실까지 모든 경로가 이원화된 통신선로설비로 구성했습니다. 데이터센터 내부로 공급하기 위한 통신선로도 완전히 이중화해 설계했습니다. 즉, 통신회사에서 서버까지 통신을 제공하는 전 과정을 이중화한 것을 의미합니다.

냉방 설비: 서버실에서 발생하는 열부하 관리를 위해 냉동기부터 서버실까지 냉수 공급망을 이중화하여 안정성을 높였습니다. 더불어, 단 한 순간이라도 냉수 공급이 중단되는 경우가 발생하지 않도록 버퍼탱크2를 설치해 냉동기 가동이 멈추는 상황에서도 서버실 온도가 적정하게 유지될 수 있도록 했습니다.

그림 6. 운영설비 이중화

2-3. 재난재해에 대비한 데이터센터 설계

카카오 데이터센터 안산은 각종 재난재해에 대비해 비상 상황에서도 데이터를 보호 하고 무중단 운영을 이어가기 위한 재난 대응 설비를 완비했습니다.

설계 단계부터 지진, 홍수, 태풍 및 해일 등의 자연재해를 고려했습니다. 지진 대응을 위해 리히터 규모 6.5 이상의 강진에도 견딜 수 있는 특등급의 내진 설계가 적용됐습니다. 이는 국내 원자력발전소의 내진설계 기준에 준하는 수준입니다.

홍수로 인한 침수를 예방하기 위해 지상 1층의 지반높이를 주변 대지 지반 높이보다 약 1.8m(미터) 높게 설계했습니다. 또한 빗물 유입 방지를 위한 530mm (밀리미터)의 차수판을 설치해 두 단계의 안전장치를 확보했습니다. 이 때문에 지상층의 침수 가능성은 매우 낮습니다. 더불어 주요 전기시설을 지상층에만 설치해, 만에 하나 지하층에 침수가 발생하더라도 데이터센터의 운영은 중단되지 않도록 설계했습니다.

태풍에 대응하기 위해 초대형 태풍 등 강풍으로 인한 피해 예방을 위한 설계를 적용했습니다. 카카오 데이터센터 안산이 위치한 경기도 안산 지역의 과거 최대 풍속은 초속 20m입니다. 카카오 데이터센터 안산은 설계 시, 이보다 강한 초속 28m의 풍속을 기본풍속으로 반영해 강풍으로부터 안전을 확보했습니다.

데이터센터 위치 선정 시 해일에 대한 부분도 고려했습니다. 카카오 데이터센터 안산은 시화방조제에서 약 18km(킬로미터) 떨어진 곳에 자리하기 때문에 거대 해일이 발생하더라도 안전합니다. 데이터센터 부지는 과거 해일 피해가 발생한 사례가 없고 만에 하나 5m 이상의 해일이 발생하더라도 피해 범위는 방조제 인근 1.2km로 제한되기 때문입니다.

그림 7. 카카오 데이터센터 안산의 재난재해 예방 설비

2-4. 화재의 영향을 최소화하기 위한 보조전력 인프라 설계

UPS1는 메인 전원이 사고 등으로 인해 끊길 경우 서버 등 주요 장치의 전원이 안정적으로 유지될 수 있도록 하는 데이터센터의 기본 설비입니다. UPS는 일시적으로 전력 공급이 중단될 경우, 자동으로 보조 전력 공급 장치(배터리)로 전환해 전력 공급이 재개될 때까지 서버의 전원이 꺼지지 않도록 합니다.

카카오 데이터센터 안산은 UPS실과 배터리실을 방화 격벽으로 각각 분리 시공했습니다. 분리 시공 덕분에 배터리실에서 화재가 발생해도 UPS를 포함한 나머지 설비로는 화재가 확산되지 않습니다.

카카오 데이터센터 안산은 UPS를 4개의 구역으로 구분해 하나의 보조전력장치 구역에서 화재 등 사고가 발생하더라도 다른 3개의 구역에서 신속하게 대응할 수 있도록 각 구역을 독립적으로 설계했습니다.

그림 8. 데이터센터 보조전력의 화재 확산 방지 구조

2-5. 화재 조기 진화를 위한 단계별 대응 시스템

카카오 데이터센터 안산은 전력설비와 배터리실 등을 포함한 건물 화재에 신속하게 대응하고 피해를 최소화하기 위한 단계별 조기진화 체계를 마련했습니다. 화재 자동감지 센서와 전문인력의 24시간 모니터링하에 데이터센터 무중단 운영에 영향을 최소화하면서도 화재를 효과적으로 진압할 수 있도록 4단계에 걸친 화재 대응 시스템을 구축했습니다.

그림 9. 카카오 데이터센터 안산 화재 조기 진화 대응 순서도

2-6. 배터리실 화재 대응 시스템

카카오 데이터센터 안산은 배터리실에서 화재가 발생할 경우, 이를 조기 진화하기 위한 소방설비를 구축했습니다. 만약 전기 합선으로 스파크 발생, 혹은 배터리 온도 상승 으로 화재 위험 발생 시, 이를 자동 감지하고 즉각 진화를 시작합니다.

첫 번째, 배터리실에는 상시 모니터링 가능한 열화상카메라를 설치하고, 배터리 랙 내부에는 연기감지기 및 온도센서를 설치했습니다. 또한 BMS2를 통하여 배터리 자체의 온도 및 상태를 실시간으로 확인합니다.

두 번째, 배터리의 온도가 60℃(섭씨도)까지 상승하면, 자동으로 전원이 차단되고 화재 확산 방지를 위한 방염천이 내려옵니다. 온도가 68℃까지 상승한다면, 배터리 상단에 설치된 자동소화 패치가 작동됩니다.

세 번째, 온도가 80℃까지 상승하면 배터리 랙에 설치된 노즐에서 소화약제가 분사되어 화재 진화를 시도합니다.

네 번째, 완전 진화까지 장시간 소요되는 배터리 화재 특성에 맞게 냉각수를 지속적으로 분사해 화재를 진압합니다. 이때 사용된 오염 냉각수는 지하의 저장탱크로 배수되어 별도의 처리를 거칩니다.

위 단계에서도 진화가 되지 않을 시, 소화가스가 분사됩니다. 개별 UPS실과 배터리 실에 소화가스 약제 저장실이 할당되어 있으며, 필요한 경우 다른 층에 저장된 소화 가스를 끌어와 진화에 활용할 수 있도록 예비 배관을 설치했습니다.

이러한 대비에도 불구하고 화재 진압이 어려울 수 있습니다. 데이터센터 자체적으로 화재 대응이 어려울 경우 데이터센터를 관할하는 소방 당국에서 현장 통제권을 갖고 진화에 나섭니다. 소방서는 빠르게 화재를 진압하고 인명을 구조하는 데 우선 목표가 있으므로, 현장 통제권이 이전된 이후에는 필요에 따라, 데이터센터 전체의 전력을 차단하는 등의 조치를 취할 수 있습니다.

기존의 소방서 진화 방식은 일반 건축물에 최적화되어 있습니다. 카카오는 데이터센터의 특수성을 반영한 화재 대응 방식을 마련하고 이를 안산 데이터센터에 적용하기 위해 관할 경찰, 소방 당국과 긴밀한 협력체계를 구축했습니다. 이를 기반으로 데이터센터 맞춤형 화재 대응 체계와 시나리오 등 매뉴얼을 개발했고, 주기적으로 모의 훈련을 실시합니다.

그림 10. 카카오 데이터센터 안산의 화재대응 체계

닫는말

카카오는 4천만 명 이상의 이용자가 실시간으로 이용하는 서비스의 안정성을 확보하기 위해 서비스에 특화된 데이터센터를 확보하고 있습니다.

거대한 규모의 이용자가 빠르고 쾌적하게 서비스를 이용할 수 있도록, 신규 데이터센터는 최신 설비를 적용해 구축합니다. 그리고 기존 데이터센터 간 네트워크를 강화해 연결성을 개선하여 서비스를 더욱 견고하게 만들어가고 있습니다.

아울러 재난 재해 발생 시에도 사용자의 소중한 데이터를 보호할 수 있도록, 중요 시설과 안전시설을 다중화했습니다. 이처럼 카카오는 서비스의 안정성을 확보하기 위해서 데이터센터와 기반 시설에 지속적으로 투자하고 있습니다.

기여한 사람들

고우찬 gilbert 강훈구 ed 서상덕 milo 오민석 vincent 진일섭 brett 허명주 mj