grep

AI/ML

[if(kakaoAI)2024] 내일의 경쟁력이 되는 카카오 AI 이야기 - AI Finance Panel Talk

kakao tech카카오

2024년 11월 1일

원문에서 보기 ↗

여는 글

‘모든 연결을 새롭게’라는 슬로건으로 AI 시대에 변화하는 미래상과 카카오의 AI 이야기를 전달하는 ‘CTO 패널톡’은 if(kakaoAI)2024 마지막 날 진행되었습니다.

CTO 패널톡은 'AI 금융과 AI 생활’이라는 주제로 진행되었는데요. 각 사의 CTO가 대표로 ‘AI 시대의 기술 리더십’을 공유하는 자리였습니다.

정규돈(GD), 카카오

AI 금융 패널톡에 참여한 두 금융사인 카카오뱅크와 카카오페이는 은행, 결제, 송금, 은행, 보험, 증권 등 일련의 금융 활동을 쉽고 안전하게 제공하기 위한 기술적인 준비에 대해 이야기를 나누었습니다. 또한 이러한 금융 활동을 뒷받침하는 클라우드 중심의 인프라에 대한 카카오엔터프라이즈의 설명이 이어졌습니다.

그럼 ‘AI 금융’, ‘AI 생활’이라는 주제로 각각 40분간 진행된 카카오그룹사 CTO 패널톡의 주요 내용을 아래와 같이 정리하여 공유합니다.

1. 카카오뱅크

카카오뱅크가 AI를 활용하며, 실제 서비스 상에서 적용하는 미션과 미래 목표를 소개하였습니다. 카카오뱅크는 AI 활용 현황을 설명하면서 ‘본인 인증’, ‘카뱅스코어’, ‘사기탐지 시스템(FDS)’, ‘무자각인증 기술’, ‘챗봇 고객 상담’에 대한 사례와 기술에 대해 언급하였습니다.

이에 맞춰 카카오뱅크가 이야기하는 ‘AI Ecosystem’을 정의하면서 ‘AI Infra’, ‘AI Division’, ‘AI Product’의 세 가지 요소를 언급하며, GenAI 가드레일의 기술 이야기 및 LLM 사용 가능 여부, XAI(설명 가능한 AI)의 현황과 도입 배경, 이상거래시스템에 XAI를 적용한 사례 등을 설명하였습니다.

신재홍(Conrad), 카카오뱅크

카카오뱅크 만의 차별화된 ‘AI Ecosystem’을 통해 더 편리하고 안전한 금융 서비스를 제공하고, 우수한 인재들과 자체 기술력을 바탕으로 금융 생태계의 문제를 해결하고 더 큰 혁신을 이루어 금융업계를 선도해 나가겠다는 포부를 밝혔습니다.

카카오뱅크의 AI Ecosystem

  1. AI Infra

    • 카카오뱅크는 DGX H100 등의 초고전력 GPU 장비를 도입하고, AI 전용 데이터센터와 클라우드를 활용하여 인프라 자원의 유연성과 확장성을 확보했습니다.
    • MLOps 체계를 구축하여 데이터 추출부터 모델의 지속 훈련까지 AI 모델의 전체 생애주기를 자동화하고 있습니다.

  2. AI Division

    • ‘AI실’ 신설을 통해 AI 기술의 지식 공유와 협업을 강화하고, 업무 효율성을 높여 혁신을 가속화하고 있습니다.
    • 금융사 최초로 AI 경영시스템 국제표준을 취득하여, AI 거버넌스에 대한 투명하고 안정적인 체계를 마련하였습니다.

  3. AI Product

    • 'AI Hub’를 통해 임직원들의 업무 생산성 향상과 전사적인 AI 역량 강화 및 지식 전파를 추진하고 있습니다.
    • GenAI 가드레일 도입 및 Red Team을 통한 AI 품질 검증을 철저히 하고, 오픈소스 LLM 모델의 파인튜닝 및 RAG 기술 내재화, 유수 대학(서울대, 고려대, KAIST 등)과의 산학협력을 통해 자체 기술력을 향상시키고 있습니다.

2. 카카오페이

카카오페이가 어떻게 AI 기술을 활용하여 금융 서비스를 혁신하고 있는지, 그리고 ‘신뢰할 수 있는 금융 파트너’로서 자리 잡기 위해 어떤 노력을 기울이고 있는지 소개하였습니다.

김동용(Diane), 카카오페이

카카오페이의 AI는 ‘금융비서’라는 방향성을 가지고 금융 시장 내 정보 및 지식의 비대칭 문제에서 오는 불균형을 해소하고, 더 많은 사용자들이 금융의 혜택을 누리게 하고자 합니다. 특히 카카오페이의 AI 금융 비서는 고객 맞춤형 자산 관리 및 보험 진단 서비스를 제공하며, 보험 추천 및 질병 예측을 통해 맞춤형 금융 서비스를 받을 수 있도록 돕고 있습니다.

주요 기술 안내

  1. AI를 활용한 이상거래 및 어뷰징 탐지 시스템 :

    카카오페이는 FDS(이상거래 탐지 시스템)와 ADS(어뷰징 탐지 시스템)에서 룰 기반 시스템과 머신러닝 모델을 결합한 하이브리드 접근 방식을 활용하여, 고객의 자산을 보호하고 편의성을 동시에 만족시키는 금융 서비스를 제공합니다.

  2. AI 금융비서 서비스 :

    카카오페이의 AI 금융비서는 보험, 자산 관리 등 다양한 분야에서 고객 맞춤형 서비스를 제공하며, 건강 데이터를 기반으로 한 보험 진단 서비스를 통해 개인화된 금융 조언을 제공합니다.

  3. 금융 서비스 확장과 AI 비전 :

    카카오페이는 AI 기반 맞춤형 서비스를 더욱 확장하여 세무, 부동산, 투자 등의 영역으로 확대할 계획이며, 궁극적으로 모든 금융 서비스의 중심 플랫폼이 되는 것을 목표로 하고 있습니다.

3. 카카오엔터프라이즈

카카오클라우드는 AMD 및 자일링스(Xilinx)와 협업을 통해 고성능 VM 인스턴스와 네트워크 가속화 기술을 통해 사용자에게 높은 수준의 성능과 안정성 기반의 경쟁력을 중심으로 내용을 이어나갔습니다. 특히, 카카오클라우드는 CPU 성능 개선 및 전용 하드웨어 기반의 최적화 기술로, 사용자들이 클라우드 환경에서 베어메탈에 가까운 성능을 경험할 수 있도록 지원하는 내용을 전했습니다.

이어형(Al), 카카오엔터프라이즈

또한, 카카오엔터프라이즈는 전 세계 슈퍼 컴퓨팅의 연산 능력을 평가하는 리더보드인 Top500.org에서 상위 10% 이내 순위를 기록했습니다. 해당 순위는 카카오클라우드 GPU 클러스터의 높은 효율성을 보여주는 지표이기도 합니다.

카카오클라우드 기술 특징

  1. 성능 :

    카카오클라우드는 특정 인스턴스에서 높은 CPU 성능을 제공하며, VM과 서버 간의 경합을 방지하는 기술로 안정적인 성능을 보장합니다. 그리고 FPGA 카드를 이용해서 고성능의 네트워크 서비스를 제공합니다.

  2. 안정성과 확장성 :

    Multi AZ를 통한 자원 다중화 기술을 통해 고객의 데이터와 서비스 안정성을 확보하며, 트랜짓 게이트웨이(Transit Gateway : TGW)를 통해 유연한 네트워크 구성이 가능하며 이를 통해 확장성이 있는 리소스 관리가 가능합니다.

  3. 보안 및 경쟁력 :

    다양한 기술을 통해 고객 데이터를 보호하고, 클라우드 서비스의 신뢰성을 강화하고 있습니다. ISO와 CSAP 인증과 ISMS 이 외 금융기관들을 위한 CSP 안정성 평가 등을 완료하여 보안 체계를 준수하고 있습니다.

AI 금융 패널톡 Q&A

카카오 정규돈 CTO 진행으로 Q&A가 이어졌습니다.

Al, Diane, Conrad, GD

카카오페이는 FDS(이상거래 탐지 시스템), ADS(어뷰징 탐지 시스템)와 Adaptive ML, 금융 MoE에 대한 구체적인 질의들이 오고 갔습니다.

이어서 카카오뱅크는 AI Ecosystem에서의 GenAI 가드레일, XAI(설명 가능한 AI)에 대해 각각 도입한 동기와 기술적인 구축 배경에 대해 이야기를 이어나갔습니다.

마지막으로 카카오엔터프라이즈는 고성능 VM을 이야기하면서 AMD와의 협업 계기 및 소버린 클라우드(Sovereign Cloud) 주제로 AI 플랫폼 이야기를 하며 패널톡 Q&A를 마무리하였습니다.

닫는 글

끝으로, AI시대로 넘어오면서 이제는 개발자들에게 ‘설계’와 ‘아키텍트’의 중요성이 더욱 커졌다고 강조했습니다. 특히 주니어 개발자에게는 24시간 함께 프로그램을 할 수 있는 파트너가 생긴 것으로, 시니어 개발자에게는 업무를 도와줄 개발자가 더해진 것처럼 생각해볼 수 있다고 설명했습니다. (feat. 카카오페이 CTO)

이제는 개발자 스스로, 설계와 아키텍트에 집중할 수 있는 시간이 생겼음을 언급하였는데요. AI시대를 맞이한 개발자들에게는 AI가 ‘좀 더 좋은 기회’ 임을 재확인하는 시간이었습니다.

▶︎ 위 패널톡의 모든 내용은 영상으로도 확인할 수 있습니다.

영상 보기

관련 글

directed by yang.me