이 글은 Google Cloud Next 2025 참석기 #1에서 이어진 글이다.

Day 2

Cloud Security Novice to Native in 10 Steps: A CNAPP Approach

Cloud-Native Application Protection Platform을 뜻하는 CNAPP이란 용어는 처음 들어봤는데 클라우드 쪽 보안 솔루션 업체인 Tenable에서 하는 라이트닝 토크 세션이었다.

클라우드에서는 IAM, 컴퓨팅, 네트워크, 컨테이너 등 리소스가 너무 많고 서로 거미줄처럼 엮여 있기 때문에 어렵고 관련해서 전문성도 부족한데 협업도 부족하고 도구도 너무 많아서 문제라는 점에 공감했다. CNAPP의 접근을 다음 10가지로 정리해 주고 Tenable이라는 솔루션을 소개했는데 어떻게 접근하면 좋을지 정리되는 정도 수준에서는 괜찮았다.

1. Gain visibility into resources
2. Discover exposure due to misconfigurations
3. Right-size entitlements (a.k.a. achieve least privilege)
   
   
   • 3a. Restrict human access to just-in-time
4. Scan workloads for vulnerabilities
5. Classify data
6. Contextualize findings to assess compliance adherence
7. Analyze across domains and detect toxic combinations
8. Strategize findings’ remediation
9. Shift security scanning to the left
10. Automate remediation (when applicable)
    
    

Accelerate security incident response with Gemini

이번 세션은 SecOps에서 보안관련 인시던트를 AI로 해결하는 내용의 세션이었다.

여기서 SOC는 Security Operations Center를 얘기하는데 에이전트로 동작하는 SOC를 그려본 것인데 처음에는 수동으로 대응하지만, SOC가 발전하면서 보조(assisted)하는 역할을 했다가 반자율적(semi-autonomous)으로 동작하고 이후 완전히 자율적(autonomous)으로 동작할 수 있게 된다. 이 단계가 되면 Gemini를 이용해서 얼럿이 발생했었을 때 에이전트가 케이스를 분류한 뒤 분류에 따라 에스컬레이팅하면 다시 에이전트가 분석한 뒤 증거를 수집해서 응답하고 문제를 수정(Ramadiate)하게 된다.

Google 세션이므로 이번 오프닝 키노트에서도 발표했던 Google Unified Security 안에 포함된 Google Security Operations에 alert triage agent가 있는데 이를 소개하며 보안 위험을 직접 처리하는 데모를 보여주었다.

Transforming your business with AI: The Kubernetes advantage

이건 딱 봐도 GKE의 새 기능 소개 세션일 것 같았지만, 참고할 부분이 있을까 해서 들었다. Kubernetes가 이제 AI 워크로드 돌리기에도 좋다고 하면서 기존 GKE에 Autopilot 모드가 있는데 이제 스케일링 반응 속도와 용량 right-sizing 속도가 더 빨라졌다고 소개하면서 사용자 중 71%가 리소스 최적화하고 있고 클러스터 중 30%가 오토 파일럿이라고 했다. 오토파일럿을 쓰면 right-sizing도 알아서 해준다고 의미하는 거 같은데 자동 right-sizing은 실제로 잘 쓸 수 있을지 걱정되긴 하는 편이다.

Gemini Cloud Assist가 이제 이슈를 찾고 수정 사항을 추천하고 문제를 해결해 준다고 하고 데모로 컨테이너 이미지가 없어서 ImagePullBackOff 오류가 난 걸 Gemini Cloud Assist 원인을 찾고 해결 방법을 알려주는 데모를 보여줬는데 사실 데모의 이슈가 너무 간단한 이슈라서 그렇게 인상적이진 않았다.

이어서 Kubernetes에서 AI 워크로드를 돌리는 얘기로 넘어갔는데 CNCF에서도 동적 리소스 할당, Kueue, JobSet, LederWorkerSet같은 기능을 추가해서 AI 워크로드를 사용하기 쉽게 만들고 있다고 얘기했다. 이번에 하드웨어 가속기 자동 선택과 인텔리전트 스케일링이 가능한 GKE Inference Quickstart와 모델을 인식해서 라우팅과 로드밸런싱을 해주는 GKE Inference Gateway를 소개했는데 vLLM을 사용한 것으로 보였다. 데모로 모델을 띄우고 자동 최적화 기능을 적용한 후에 레이턴시와 토큰 받는 속도가 크게 향상된 것을 데모로 보여주었다.

이어서 Spotify의 디렉터가 등장해서 AI 시대에는 플랫폼 팀이 이러한 요구사항을 받아줘야 하는데 새로운 워크로드는 트레이닝 잡이 많아서 오래 실행되는 잡이 많고 워크로드가 용량을 초과하는 경우가 많다고 설명하면서 AI/ML 엔지니어는 Kubernetes에 익숙하지 않다고 설명했다. 그러면서 GKE에서 Ray로 모델을 파인 튜닝하고 Custom Compute Classes(CCC)로 리소스를 확보하고 Kuberay로 모니터링하는 데모를 보여줬다.

Developer Keynote: You can just build things

둘째 날 오후에는 개발자 키노트가 있었다. 듣고 싶은 다른 세션이 같은 시간에 있어서 들을까 말까 하다가 그래도 키노트니까 키노트를 들으러 Michelob Ultra Arena에 갔다. 오프닝 키노트와 완전히 다른 맥락으로 새로운 발표를 했다기보다는 발표된 제품 중 개발자와 관련된 내용을 좀 더 자세히 설명하고 보여주었다.

마찬가지로 Veo 2로 만든 카운트다운으로 시작해서 Agent Development Kit, Agent2Agent protocol, AI 에이전트를 배포 관리할 수 있는 서비스인 Agent Engine, 업무 관련 애플리케이션과 연동해서 정보를 처리할 수 있는 AgentSpace, Gemini Code Assist, Google의 여러 모델을 사용해 볼 수 있는 AI Studio 등의 데모를 보여주었다.

이때쯤에는 미국에 와서 밤에 계속 깨면서 오래 자지도 못한 상태로 하루에 2~3만 보씩 걸어 다니면서 피곤이 누적되어 피로도가 최고인 상태였다. 졸진 않았지만 힘겹게 들어서 그런지 아주 인상적인 것은 없었고 MLB 해커톤에서 우승한 사람이 투수가 공 던지는 영상을 올리면 분석해 주는 서비스를 데모로 보여줬고 농구공을 던지는 영상을 분석해 주는 서비스도 데모로 보여주었다.

나중에 돌아와서 알았는데 Shift down: A practical guide to platform engineering라는 세션이 있었는데 나중에 자료를 보니 꽤 괜찮은 발표로 보여서 현장에서 못 들은 게 아쉬웠다. 못 봤거나 다른 발표랑 고민하다가 다른 걸 들었던 거 같은데 자료로 보면서 따로 공부를 해봐야겠다.

저녁

저녁은 한식집에 가서 고기를 구워 먹고 메가존에서 저녁에 술 마실 수 있게 자리를 마련해 주었다고 해서 거기로 이동했다.

호텔에 바를 빌린 줄 알았는데, 가보니까 스위트룸을 빌려놓고 술을 사두었다. 이런 좋은 방 처음 가봐서 무척 신기했는데 여기서 회사 사람들하고 이런저런 얘기를 나누었다. 다른 회사 사람들을 만나는 것도 재밌긴 하지만 그래도 회사에서 여러 명이 같이 오다 보니 Slack에서만 보던 회사 동료들과 많은 얘기를 할 수 있다는 게 훨씬 더 재밌는 거 같다. 저녁 먹기 전에 숙소에서 약간 자고 나와서 컨디션이 괜찮아졌는지 그럴 생각이 없었는데 새벽까지 여기서 술을 마셨는데 우리끼리만 있으니 편하고 좋았다.

Day 3

마지막 날은 점심 정도까지만 세션이 있었는데 숙취로 인해서 늦게 일어나기도 했고 막상 하나 들어갔던 세션이 들어가 보니 별로여서 금방 나왔다. 그래서 이날은 그냥 쉬면서 오후에 한 한국어 리캡 행사에서 여유롭게 보냈다.

Expo

각 스폰서 부스가 있는 Expo는 정말 크게 마련되어 있었다. 너무 커서 그냥 돌아도 한참을 돌 정도였는데 내가 좋아하는 티셔츠를 주는 부스는 그렇게 많지 않기도 했고 뭔가 받으려고 부스 열심히 방문하기에는 내 체력이 부족해서 적당히 구경하면서 돌았다. 아는 회사들 외에 딱 눈에 띄는 부스가 없기는 해서 반가운 회사 위주로 기웃거리면서 다녔다. ㅎㅎ

App

Google Cloud Next에도 전용 앱을 제공하고 있었는데 이번 앱은 꽤 맘에 들었다.

예약해 놓은 세션 일정을 쉽게 파악할 수 있기도 했지만 가장 좋았던 건 이 Map 기능이다. 가운데 파란색 원이 내가 있는 위치인데 이런 콘퍼런스장은 장소가 꽤 크기 때문에 세션장의 이름만 보고 어딘지 한 번에 알기가 어려운 편이라 길을 많이 헤매게 된다. 하루 정도 지나면 어느 정도 각 세션의 이름이 익숙해지게 되지만 그전까지는 길을 헤매거나 생각보다 먼 곳이라서 제시간에 세션장에 도착 못 하는 게 일쑤이기도 하다. ExpoFP라는 회사의 솔루션을 쓴 거 같은데 무슨 기술인지 실내에서도 내 위치를 몇 미터 단위로 아주 정확하게 잡아줘서 행사장 위치를 찾기가 너무 편했다.

더군다나 세션 일정에서 세션장을 클릭하면 바로 이렇게 길 찾기까지 해주는데 층이 다른 경우에는 계단으로 이동시켜서 이동하라고까지 안내해 주어서 너무 편했다. 다음 세션장 얼마나 걸리는지도 파악할 수 있고 층이 달라서 헤매다가 지각하는 경우도 없으니까 너무 경험이 좋았다.

Epilogue

이렇게 많은 콘퍼런스장에서 식사가 엄청나게 잘 나오진 않지만 그래도 먹을 만했는데 아쉬웠던 건 왜인지 음료를 잘 주지 않았다. 해외 콘퍼런스 오면 곳곳에서 음료를 주어서 목마르다는 생각을 잘 하지 않는 편인데 Google Cloud Next에서는 정말 음료가 너무 마시고 싶어서 참기 어려운 정도인데도 커피나 탄산음료를 주는 곳을 찾기가 정말 쉽지 않았고 그렇다 보니 겨우 찾아도 커피가 하나도 없기 일쑤였다. 그나마 식당에는 음료가 많은 편이었는데 이마저도 식사 시간 외에는 다 잠가놔서 음료를 가져가지 못하게 해서 중간중간 음료 찾으러 다니느라고 시간을 많이 보냈다.

그리고 몇 년 전부터 미국은 사고 때문에 일정 인원 이상의 이런 행사를 하면 금속물 탐지 검사를 하는 게 법으로 정해져 있는 거로 알고 있는데 내 상황상 자꾸 밖에 나왔다 들어왔다 하는데 노트북도 2개씩 메고 다녀서 그런지 난 항상 검문소에서 걸려서 가방을 열고 재검사를 받아야 해서 너무 귀찮았다. 그리고 키노트장은 이 금속물 탐지 검사 바깥에 있어서 한번 키노트장에서 행사하고 나면 그 많은 사람들이 다시 검사받고 들어가느라 줄이 너무 길었다.

갈 때 올 때 10~12시간의 비행이지만 가는 길에는 다행히 옆좌석이 비어 있었고 올 때는 피곤해서 많이 자서 그런지 이전보다 많이 힘들진 않았다.

일정이 진짜 쉬지 않고 있어서 꽤 피곤했지만 그대로 재밌게 즐기고 왔다. 보통 큰 콘퍼런스를 아주 좋아하는 편은 아닌데 이번에는 재밌다는 생각이 들었다.