🎤 발표자: 최효근

🔎 세션 정보

• 세션명: 실용적인 Evaluation-Driven LLMOps란 무엇일까요?

• 세션종류: 브레이크아웃 세션

• 세션설명:

  생성형 AI 어플리케이션 개발이 PoC 단계를 넘어 실제 운영 단계로 진화하고, 모델 파인튜닝과 RAG와 같은 기술적인 대안의 증가하면서 LLMOps(대규모 언어모델 운영)기반 모델, 서비스 성능평가와 책임있는 AI 관리가 더욱 중요해지고 있습니다. 본 발표는 생성형 AI 유스케이스와 개발팀의 환경, 조직특성에 따라 단계적으로 도입 가능한 LLMOps Practice를 설명하고, LLMOps 아키텍처 구현 시 고려할 점과 Evaluation Driven LLMOps 구현의 가치를 살펴보겠습니다.

• 세션일정: 12월 7일(토), 14:10 - 14:40

• 세션장소: ROOM 2 (동해/독도)

📜 발표자 소개

• 이름: 최효근

• 소속: Microsoft

• 자기소개:

  삼성SDS와 AWS를 거쳐 현재 Microsoft에서 AI분야 Global Black Belt로 근무중입니다. MLOps/LLMOps, 머신러닝, 생성형 AI 등을 현장에서 효과적으로 적용하는 방법에 대해 항상 고민합니다.