개발자들에게 위기인지 기회인지 모를 물결을 이해하기 위해 OpenAI 관련 내용을 보여줄 수 있는 Microsoft AI Tour 에 신청해 다녀왔다. 코로나 위기가 찾아오기 이전에 열렸던 MS Ignite 행사를 코엑스에 다녀온 이후로, 두 번째 MS 컨퍼런스 행사에 참석한 것이다. 이번에는 코엑스가 아닌, 양재 aT 센터이다.

우선 초대장에 선착순이라는 문구가 몇 번이고 보였다. 늦으면 아침도 없다는 것 처럼 들렸기 때문에, 7시 30분 정도에 도착해서 등록하고 기다렸다. 아침은 다양한 빵과 우유/커피. 마들렌과 고구마 파이가 맛있었다. 아침이 컨퍼런스의 목적은 아니었지만, 맛있으면 기분 좋게 들을 수 있으니까!

장소가 코엑스에 비해 넓지 않아서인지, 사람이 적었음에도 꽤나 북적였다. aT 센터 1, 3층만 사용하고 그마저도 에스컬레이터 만으로 이동이 가능했기 때문이다. 그래서 원하는 세션을 들으러 가려면 타임테이블을 잘 보고 이동해야 하는 건 기본에, 현재 듣고 있는 세션이 조금 늦을라치면 도중에 나와야 할 정도였다. 불만이라기 보다는, 어쩔 수 없다고 생각한다.

정말로 불만이었던 점은 워크샵 세션 (핸즈온) 이나 브레이크아웃 (일반) 세션에서 알려주는 지식 수준이었다. 내가 RAG 워크샵을 못 들어서 이러는게 아니다 아무래도 청중의 수준을 가늠할 수 없다보니 가능한한 쉽게 했으리라 이해는 가지만, 그래도 개발자 세션이면 입문 코스보다는 심화 코스 위주로 알려줬으면 하는 바램은 솔직히 있었다.

아무튼, 씨어터 세션 (부스 세션) 을 제외하고 오늘 들은 걸 간단히 정리하고 싶었다.

키노트

그 넓고 넓은 키노트 강연장에 모든 사람이 들어갈 수 없어서, 1층 워크샵 세션장에서 스트리밍으로 보았다. 통역기도 자리마다 제공해 줬는데, 왜 통역사가 말하는 걸 스피커로도 틀었는지 의문이다. 스콧의 스피치를 듣는게 훨씬 더 나았는데 말이다.

키노트 내용은 별다른게 없었고, 곧 MS 365 Copilot 이 한국어 지원을 한다는 내용과 LG전자, 엔비디아, SK이노베이션 순으로 Azure AI 사용 사례를 이야기한 게 전부였다. LG전자 상무님은 동굴 목소리에 언변이 좋으셔서 ‘저정도는 해야 저런 자리에 가는구나’ 싶었다..

Github Copilot

스콧이 키노트 세션장에서 이어서 진행한 세션이었다. 이번에는 3층에 올라가서 들을 수 있어서 좋았고, Copilot 의 무궁무진함을 느껴볼 수 있어서 좋았다.

주목할만한 구절이 두 개 있었는데, Github Copilot 의 목적은 ‘Focusing on your own code’ 이라고 한다. 달리 말하면, 여러분만이 짤 수 있는 코드를 작성하는 일 외에 나머지 일들 (구글링을 하거나, 코드를 읽고 이해하거나, 코드 작업으로 다시 돌아오는 과정) 을 도와주기 위한 것이라는 말이다.

그리고 이 서비스는 Autopilot 이 아니라 Copilot 이라는 점을 많이 강조했다. 알아서 다 해주는 것이 아니라, 여러분이 요청한 것에 맞춰 도움을 줄 수 있도록 제안하는 것이다. 자율주행 차에 올라타서도 핸들을 잡아야 하는 것에 비유하긴 했다.

Azure AI Search

워크샵 세션에서 밀려서 듣긴 했는데, 나름 유익했다. Architect 분께서 현업에서 겪었던 일화는 슬라이드에 적혀있지 않았지만 슬쩍슬쩍 보따리에서 꺼내주셔서 재밌었던 것 같다. 고객님들은 데이터만 던져주시곤 ‘해줘’ 하세요 ㅠㅠ

RAG 개념을 모르는 사람은 초반부가 흥미가 있었을지 모르겠지만 나는 좀 지루했고, 되려 RAG 의 품질을 올리기 위해 어떤 방법을 쓰는지가 더 궁금했다. 몇 가지 인사이트는, vector search 뿐만 아니라 exact keyword search 를 섞은 hybrid search 가 더 좋은 결과를 낸다는 것이었다. Azure AI Search 는 여기에 더해 Semantic re-ranking 을 제공해서 그 정확도를 올렸다고 한다. 어쨌거나 중요한 건, 프롬프팅에 실어야 할 원천 데이터를 잘 선택하는 일일 것이다.

불만이 있다면 있고 없다면 없겠지만, 그래도 개발자들을 위해서 무료로 컨퍼런스를 열고 지식을 공유받은 입장에서는 훌륭한 시간이었다. 다음에도 기회가 된다면 다른 형태의 컨퍼런스라도 참석하고 싶다!

오늘 점심 도시락 사진으로 마무리한다. 맛있었다!