2024 AWS re:Invent 스케치

안녕하세요. iOS개발팀 드락입니다. 2024.12.2~6 라스베가스에서 열린 2024 AWS re:Invent에 다녀오게 되어, 보고 듣고 느낀 것들을 간단히 스케치하고자 합니다.

저희 일행은 일요일 오전 10시에 인청공항 집결 후 인천에서 LA로, LA에서 미국 국내선으로 환승해서 라스베가스까지 비행하게 됩니다. 이동에는 공항 대기시간을 포함해서 대략 20시간 걸린 것 같네요..

A380 처음 타봅니다..뚱땡이 비행기네요 ㅎㅎ

이번 출장동안 저희가 묵을 이집트 컨셉의 룩소르 호텔 모습입니다.

re:Invent 출장에서 저의 목표는

1. 컨퍼런스 세션 참관
2. 엑스포 참관
3. 업계 분들과 네트워킹 및 다양한 솔루션 듣고 견문 넓히기

였습니다.

오전 8시부터 저녁까지 일과 시간 동안 여러가지 다양한 세션들을 들을 수 있었고, 일부를 한번 공유해 봅니다.

세션 슬라이드들에 임팩트있고 공감갔던 내용들이 많아서 사진을 많이 찍었는데 저작권상 블로그 글에 활용하지 못하고 세션 원본 링크와 글로만 풀어야 하는 점이 조금 아쉽네요 ㅜㅜ

https://www.youtube.com/watch?v=gsPlpre1F9o

야놀자클라우드의 CEO Jeff Kim이 스피커로 참석한 세션에서는 AI와 실시간 데이터를 활용한 초개인화 전략, SaaS 솔루션을 통한 호스피탈리티 운영 개선 스토리 등의 소개가 있었습니다. 세션 후 짧게 인사를 나누었는데요. 여기어때를 경쟁사로 생각하지 않고 고객이라고 생각한다고 이야기주셨던 게 기억에 남네요..ㅎㅎ

https://www.youtube.com/watch?v=41nlFHF8a50

미리캔버스로 잘 알려진 미리디에서도 이미 AI를 적극적으로 활용하고 있었습니다. 탬플릿들의 메타데이터를 기반으로 유사 탬플릿들을 모아서 추천하고 있네요. 저희 제휴점 이미지 메타데이터 구축 및 활용과도 유사한 접근이었습니다. 개발자들이 각자의 자리에서 생각하는 게 다들 비슷비슷 합니다 :)

LLM 서비스의 대표적인 인터페이스 방식인 챗봇의 형태가 자연어로 소통한다는 부분에서 사용법이 조금 모호할 수는 있지만 그만큼 다방면에서 가장 유연한 대응성과 개발 용이성을 가지고 있기도 한 것 같습니다. 가장 모호하지만 대응 범위도 가장 넓다고 하면 될까요.. 그래서 많은 회사들이 챗봇 형식 기반으로 여러가지 부가적인 기능들을 제공하는 식으로 진행되고 있지 않나 싶습니다.

• 이미 가지고 있는 데이터들을 어떻게 Gen AI가 잘 인식/처리/제공할 수 있게 할 것인가?
• AI를 통해 나온 결과물.. 일부는 쓸만할 것 같긴 한데 실제 서비스로 쓰기에는 조금 부족하다 싶은 부분들이 섞이게 되는데, 이 부분을 어떻게 잘 처리해서 최종 결과물의 완성도를 올릴 수 있을까?

현시점에서 Gen AI 활용 관련해서 고민하는 많은 회사들의 공통된 관심사가 아닐까 합니다.

LG도 자사에서 확보해둔 데이터에 메타정보를 더하고 그를 기반으로 필터링하는 형태를 이미 상당히 진행했고, 내부 서비스에 활용하고 있는 모습이었습니다. Text나 문서를 SQL 또는 xml이나 json등으로 변환하는 기술 역시 이미 활용되고 있었구요.

https://www.youtube.com/watch?v=sj_C58AYaR4

Gen AI 에서 사용자의 요청이 RAG를 활용하는 루트로 작동할지, LLM의 기능을 활용할지, 다른 어떤 방향으로 작동하게 할지, 자연어에 따른 내부 동작의 기준을 세우는 것에 대한 내용도 있었습니다. 한 페이지 한 페이지가 다 공감되는 내용이었습니다 ㅎㅎ 자연어인 이상 같은 의미여도 수많은 표현들이 있을 수 있는데요, 동의어 사전을 구축하고 토크나이즈 된 키워드들에 이를 활용해서 다양한 요청에도 유연하게 대응할 수 있도록 처리하는 방식에 대한 설명도 있었습니다.

프롬프트 엔지니어링 내용도 있었는데요, LLM은 사람이 완전히 이해하기엔 너무 거대하고 난해한 친구여서.. 프롬프팅을 어떻게 해야 할 지 개인/조직적인 노하우들은 존재할지언정 이렇다 할 만한 방법론은 아직 없는 것 같습니다. 간단한 말은 잘 듣다가..점점 고도화된 요구사항들을 넣다 보면 LLM이 말을 잘 듣지 않거든요. 너무 딥하고 트리키하게 튜닝된 프롬프트는 LLM업데이트 후에 와르르 무너질 리스크도 커지구요.. 이렇게도 요구해보고 저렇게도 요구해보고..어르고 달래보기도 하고 싹 지우고 프롬프트 스타일을 첨부터 다시 정리해보기도 합니다..프롬프팅을 하다 보면 내가 LLM을 내 입맛에 맞게 조정하고 있는 것인지 LLM 입맛에 맞게 내가 프롬프팅을 잘 제공하려 노력하고 있는지 알수 없어집니다…ㅎㅎㅎ

LG에서는 향후에는 캠페인 대상을 선정하고 컨텐츠를 작성하는 부분에 AI 서포트를 도입하는 그림도 그리고 있었습니다. 수많은 데이터들에서 특정 패턴을 정의하고 분류해 낸 뒤 모아서 정리하는 작업은 사람이 하면 굉장히 소모적이고 비용(시간)도 많이 소모되는 일이기 때문에 AI가 하기에 참 적절한 작업이라고 생각됩니다.

단, AI가 완전히 자동으로 만들어 낸 컨텐츠는 예상못한 오류, 또는 저품질의 결과물들이 섞여 있을 수 있다고 생각하기 때문에 잘 정제 완료된 최종 결과물 단계에서 사람이 한번 점검하고 필요하다면 리터칭하는게 지금 시점에서는 현실적으로 안정적인 운영이 가능하다고 생각해봅니다. 이런 점검 역할 수행에도 AI가 도입되어가는 추세지만요..^.^

https://youtu.be/Vft0x8zvOaA?si=nEb-nWKIUFWkkwEb

이 세션에서는 Gen AI 구현의 장애물 중 가장 높은 비율의 항목은 ‘AI 가치 예측/증명 어려움’이라고 합니다. 아..너무 공감됩니다.. AI에게 시켰을 때 진짜 잘될지 기대 이하일지 해보기 전까진 만드는 사람도 잘 모릅니다. AI에 대한 우리의 경험치도 부족하고 AI 활용 개발 방법론도 아직까지는 없으니까요. 심지어 우리가 경험을 쌓는 속도보다 더 발전된 AI가 출시되는 속도가 더 빠릅니다!

이런 실정들로 인해 현시점에는 AI활용 파워는 담당자 개인의 실력과 노하우에 많이 의존하는 단계인 것 같습니다. AI가 얼마나 잘 워킹할지에 대한 확신을 세우기 어렵다보니 가치측면에서 얼마나 임팩트를 낼 지 예측이나 증명도 난해한 것 같습니다. 프로젝트를 진행하기 전에 적절한 수준의 목표를 수립하고 이를 달성하는 것도 프로젝트에 AI에 의존도가 높을수록 쉽지 않은 것 같습니다. 시간이 흐르다보면 우리는 언제나처럼 답을 찾을 수 있겠죠..?

말을 알아듣고 말로 대답한다. 자연어 기반의 챗봇이 활용된다면 말을 텍스트로 변환하고(STT) 텍스트를 읽어주는(TTS) 등의 기능이 따라오는 건 어느 분야에서든 빛과 그림자처럼 세트인 것 같습니다. AI에게 단순 지시와 응답 수준의 의사소통이라면 다국어 지원은 일도 아닌 게 되겠죠.

영어 세션들도 많았는데 대강 알아듣다가도 아무래도 한국어만큼 일목요연하게 머리에 정리하기에는 좀 어렵습니다ㅜㅜ 번역본 영상을 통해 복습해야 할 것 같습니다.

세션 이외에도 EXPO에 참석해서 이름만 대면 누구나 알 유명 업체들의 부스를 구경하고 모자나 뱃지, 사탕 등등의 굿즈들도 챙겼습니다. 보라색 양말이라던가 누가봐도 ‘나는 개발자다!’라고 외치는 듯한 모자 등 실제로 안쓸 거 같은 것들이 많기는 했지만요…ㅎㅎㅎ

영어가 네이티브 수준이면 훨씬 많은 커뮤니케이션이 이루어 졌을텐데, 말 걸었다가 와르르 돌아오는 대답을 다 알아듣지 못할까봐 움츠러드는 내 자신이 좀 아쉬웠습니다.

저녁에는 re:Invent에 참석한 다양한 업계 분들과 네트워킹 시간을 가졌습니다. 제게 있어 명함이란 건 맨날 받아서 서랍에 넣어뒀다가 직급이 바뀌거나 조직이 변경되면서 그대로 버리는 것이었는데. 이번에 처음으로 꽤 많이 소모해 봤습니다.. ㅎㅎ

현대, 데이터독, 메가존, 업스테이지, 중고나라, 노션, 당근, 무신사, 리멤버, 카카오스타일, 코오롱 등등 다양한 회사에서 SRE, DA, 백엔드, 보안까지 여러 직군의 업계 분들과 많은 이야기를 나눌 기회가 있었는데 시간 가는 줄을 몰랐습니다 :)

저녁 네트워킹이 진행되었던 한식 식당.. 여기까지 와서 굳이 한식이냐구요? 한식타임은 소중했습니다..ㅎㅎ

노션에서 AI 어시스턴스 솔루션 소개 겸 저녁자리에 초대주셔서 맛있는 식사와 함께 노션 AI의 기능에 대해서 들어볼 수 있는 좋은 기회도 있었습니다.

노션에도 AI 어시스턴트가 적용되어 문서 검색, 정리, 분류 등을 도와주게 됩니다. 노션의 표현으로는 존재하는지조차 잊어버린 문서에서도 정보를 찾아준다고 합니다. 멋지네요! 기능과 함께 강조되었던 부분은. 문서 솔루션인만큼 임의로 고객의 데이터를 AI 트레이닝에 사용하지 않는다고 합니다.

여러가지 시연을 해주셨는데 문서 작성 및 검색 등 광범위한 영역에서 AI어시스턴스가 도움을 주는 형태였고. 필요성이 납득되고 동작도 잘 될 것으로 보여지는 기능들이 매력적으로 느껴습니다. 써보고 싶어졌어요. 도입한다고 가정했을 때 허들이라면 기존 사용중인 솔루션과의 마이그레이션 이슈와 비용적인 문제 정도가 되려나요 :)

저녁 만찬과 함께하는 노션 AI 기능 설명회 :)

AWS re:Invent의 꽃이라고 하는 CEO Keynote 만큼은 꼭 현장에서 라이브로 듣는 것을 목표로 했기 때문에 아침 일찍 5시 반 기상 후 셔틀을 타고 행사장으로 이동했습니다.

라스베가스의 여명.. 해가 일찍뜨고 일찍집니다

늦게 오면 현장에서 못듣고 스크린을 통해 밖에서 중계방송을 봐야 하기 때문에 다들 일찍 와서 한참 줄 서 있다가 들어갔습니다.

https://youtube.com/shorts/axi4pl3c8ho?feature=share

반대쪽 벽이 잘 안보일만큼 거대한 컨퍼런스룸.. 아니 컨퍼런스 홀에 사람이 가득가득 찼습니다

CEO Keynote with Matt Garman에 대한 상세한 내용은

[2025년 AWS의 프리퀄 : AWS re:Invent 2024 Keynote로 바라본 핵심 인사이트 정리]

글에서 별도로 확인 가능합니다!

발표 동안 CEO인 Matt Garman으로부터 여러 번 “AWS is never satisfied” 이라는 말이 나왔던 것 같습니다. 지구 단위로 큰 스케일의 대단한 일들을 현실로 이루어내는 와중에도 절대 만족하거나 자만하지 않는 자세로 해낸 것과 앞으로 해낼 것들에 대해 발표를 이어나가는 모습이 멋졌고 저에게도 많은 영감과 자극을 주었습니다.

AWS re:Invent는 IT에 몸을 담고 있는 사람이라면 정말 많은 것을 보고 듣고 느낄 수 있는 대단한 이벤트였습니다. 현재 기술 트렌드부터 업계 네트워킹 뿐 아니라 IT 종사자로서의 견문을 넓힐 수 있는 선물같은 출장이었습니다 :)

https://youtube.com/shorts/C1MCOiEfM5U?feature=share

매일 2~3만보씩 걸어야 하고 일정 내내 잠도 부족했지만(집에왔더니 2킬로 빠졌더라구요) 너무 보람찼던 2024 AWS re:Invent 후기는 여기서 마치고자 합니다.

읽어주셔서 감사합니다:)