grep

DevOps

AWS re:Invent 2023 Keynote 소개

백인출Cash(캐쉬) / SRE팀여기어때

2023년 12월 7일

원문에서 보기 ↗

안녕하세요. 여기어때컴퍼니 인프라개발팀 캐쉬 입니다.

Copyright 2023. 여기어때컴퍼니 All Right Reserved. Graphic by 김제린(Riny).

AWS re:Invent 2023에 참석하게 되어, 몇 가지 Keynote 내용들을 소개하려고 합니다.

새로운 기능 소개가 포함된 Keynote의 주요 내용은 아래 12가지로 구분됩니다.

이번 Keynote는 AI에 포커싱하여 많은 기능들을 소개했습니다. Adam Selipsky가 소개했던 기능 중 몇 가지만 요약해서 정리해 보겠습니다.

Amazon S3 Express One Zone

AWS는 경쟁 클라우드 제공 업체에 비해 3배 더 많은 데이터 센터, 60% 더 많은 서비스, 40% 더 많은 기능을 제공하고 있습니다. Selipsky는 Amazon 스토리지의 일부 역사를 살펴보며 Amazon S3가 어떻게 발전했는지 되돌아보는 자리에서 “Amazon S3 Express One Zone”을 소개했습니다.

Amazon S3 Express One Zone은 매우 빠른 데이터 액세스가 필요한 애플리케이션을 실행하기 위해 특별히 구축된 새로운 스토리지 클래스입니다. 클라우드 객체 스토리지 서비스 중 하나로 350조 개가 넘는 객체 또는 데이터 조각을 보유하고 초당 평균 1억 건 이상의 데이터 요청을 처리합니다. 기존 S3 스토리지보다 최대 10배 더 빠르고 이제 데이터 처리 속도가 빨라져 고성능 다운로드가 필요한 워크로드의 경우에도 컴퓨팅 비용을 최대 60%까지 절감할 수 있습니다. 또한 데이터 액세스 비용도 S3 표준보다 50% 낮으므로 이러한 워크로드를 훨씬 저렴한 비용으로 실행할 수 있습니다.

AWS Graviton4

R8g Instances for EC2

“AWS가 구축한 칩 중 가장 강력하고 에너지 효율적인 AWS Graviton4로 업그레이드할 시간!” 이라는 말과 함께 Graviton4를 소개했습니다. Graviton4는 기존 Graviton3 보다 데이터베이스는 최대 40%, 웹 애플리케이션은 30%, 대규모 java 애플리케이션은 45% 더 빨라졌습니다.

R7g EC2 인스턴스보다 3배 많은 vCPU와 메모리를 포함하므로 메모리 최적화 워크로드에 가장 적합한 가격 대비 성능을 제공합니다. 이 EC2 인스턴스는 고해상도 스트리밍 비디오, ML/AI, 실시간 분석 등 메모리 집약적인 모든 워크로드에 이상적이고 보안 및 암호화 기능 제공합니다.

Here we go, It’s AI time!

이제는 AI 시대~

Generative AI 스택에는 3개의 레이어가 있으며 AI는 엄청난 컴퓨팅 성능을 사용하므로 스택을 최대한 활용하는 것이 중요하다고 소개했습니다.

3개의 레이어에 Generative AI Stack

AWS Trainium2

AWS Trainium은 Gen AI 모델을 교육하려는 기업들 사이에서 폭 넓게 활용되고 있습니다. 하지만 모델이 커질수록 요구 사항도 더 커집니다. 원래 제품보다 4배 더 빠른 AWS Trainium2를 공개하며 수천억 개의 매개변수를 사용하는 거대한 FM 모델을 훈련하는 데 더 적합하고 AWS Trainum 보다 4배 빠르다고 이야기하고 있습니다.

Amazon Bedrock

Fine Tuning : Amazon Bedrock을 사용하여 미세 조정된 모델을 생성하면 다양한 작업에 대해 레이블이 지정된 자체 비즈니스 교육 데이터를 제공할 수 있어 모델의 정확성을 높일 수 있습니다. 이 사용자 정의 교육을 통해 모델은 조직의 작업에 가장 적합한 응답을 학습할 수 있습니다.

Retrieval Augmented Generation with Knowledge Bases : RAG는 대규모 언어 모델 (LLM)의 성능을 향상시키기 위해, 지식 기반을 생성 과정에 통합하는 접근 방식입니다. RAG는 LLM이 사용자의 질문에 대해 정확하고 관련성 높은 응답을 생성하도록 돕습니다.

Continued Pre-training for Amazon Titan Text Lite&Express : 모델을 생성할 때 레이블이 지정되지 않은 자체 데이터를 사용하여 현재 기본 기반 모델에 존재하지 않는 콘텐츠와 지식으로 모델을 훈련할 수 있습니다. 이를 통해 조직별 데이터가 포함된 회사 문서, 프로세스 및 기타 문서를 사용하여 훈련된 모델의 정확성과 효율성을 향상시킬 수 있습니다. 또한 모델에 레이블이 지정되지 않은 데이터를 점점 더 많이 추가하여 모델을 최대한 관련성과 정확성을 유지하도록 재교육할 수 있습니다.

Agents for Amazon Bedrock

Amazon Bedrock 에이전트를 사용하면 Gen AI 애플리케이션 내에서 자체 자율 에이전트를 구현하고 정의하여 작업 자동화에 도움을 줄 수 있습니다. 그러면 이러한 에이전트를 사용하여 최종 사용자가 자신의 조직 데이터를 기반으로 작업을 완료할 수 있습니다. 또한 에이전트는 최종 사용자, 데이터 소스 및 기본 기반 모델 간의 다양한 상호 작용을 관리하고 API를 트리거하여 보다 맞춤 제작된 응답을 위해 다양한 지식 기반에 접근할 수도 있습니다

Guardrails for Amazon Bedrock

Guardrails for Amazon Bedrock을 사용하면 다양한 필터로 주제, 카테고리, 콘텐츠를 정의할 수 있어 관련 콘텐츠만 사용자에게 표시되는 동시에 유해하고 허용되지 않는 콘텐츠로부터 사용자를 보호할 수 있습니다.

새로운 생성 AI 기반 도우미인 Amazon Q의 서비스도 발표했습니다.

Amazon Q

Amazon Q는 Amazon Bedrock에서 제공하는 생성형 AI 기반 도우미로, 내부 비즈니스를 위해 특별히 설계 및 맞춤 제작 되었습니다. 회사 자체 데이터를 사용하여 지식 기반의 일부를 형성하면 채팅 프롬프트를 통해 Q와 상호 작용하여 쿼리를 해결하고, 문제를 해결하고, 조치 가능합니다.

애플리케이션 개발자가 애플리케이션 코드 업그레이드와 관련된 어려운 작업을 간소화할 수 있게 해주는 새로운 AI 지원 제품이고 Java 버전 8 또는 11 애플리케이션 코드를 실행 중인 경우 Amazon Q 코드 변환을 사용하여 코드를 Java 버전 17로 업그레이드할 수 있습니다.

Amazon QuickSight에 Amazon Q가 추가되어 Gen AI 기반 비즈니스 인텔리전스 도우미를 제공합니다. 이를 통해 QuickSight 내에서 데이터를 쉽게 탐색하고 표시할 수 있습니다. Q에게 데이터 제공, 검색, 분석을 요청하면 사용자 입력에 대한 자연어 처리 덕분에 빠르고 편리하게 필요한 결과를 얻을 수 있습니다. QuickSight에서 Q와 계속 대화하여 이전 요청을 상황에 맞게 대화하는 것처럼 결과에 따라 요구 사항을 구체화할 수 있습니다.

Amazon Connect의 Amazon Q로, LLM(대형 언어 모델)을 사용하여 연락 센터와 고객 간의 경험을 향상하도록 설계되었습니다.

마무리

이번 Keynote는 “Here we go — it’s AI time.”이라고 Adam Selipsky가 말한 것처럼 AI에 중점을 둔 키노트라고 생각합니다. 이번에 준비된 세션들도 AI 관련된 것들이 많았고, 그 중 “NEW LAUNCH”에도 Keynote에 설명한 것들로 이루어진 AI 관련된 내용이 대부분이었습니다. 이러한 AI에 대한 집중은 앞으로의 AWS가 어떤 방향으로 나아갈 것인지를 보여주는 중요한 시그널이라고 생각합니다. AI 기술을 사용하여 고객에게 더욱더 개인화된 서비스를 제공할 것으로 예상되고, AWS의 AI 기술에 대한 투자가 향후 IT 산업에 큰 영향을 미칠 것으로 생각하고 있습니다.

이상 끝까지 글을 읽어주셔서 감사합니다.

참고 : https://aws.amazon.com/ko/blogs/aws/top-announcements-of-aws-reinvent-2023/