🎤 발표자: 김대근

🔎 세션 정보

• 세션명: Azure에서 손쉽게 한 방에 수행하는 파인튜닝-모델 평가-양자화-ONNX 최적화 꿀팁 (feat. torchtune, Microsoft Olive)

• 세션종류: 브레이크아웃 세션

• 세션설명:

  기술의 급속한 발전으로 AIML 진입장벽이 낮아지면서 이제 비전공자들도 커스텀 SLM/LLM을 손쉽게 튜닝하고 배포할 수 있게 되었습니다. 특히 torchtune과 Microsoft Olive를 활용하면 복잡한 과정을 단순화하고, 표준 베이스라인 템플릿만 수정하면 파인튜닝-모델 평가-양자화-ONNX 최적화-배포의 전체 파이프라인을 빠르고 쉽게 수행할 수 있습니다. 또한, 이런 일련의 과정을 Azure Machine Learning (Azure ML) 을 사용하면 적은 비용으로 PoC/Pilot/Prototype 단계에서 빠르게 성능을 검증하고 최적화된 모델을 구축하는 데 도움이 됩니다. 본 세션은 Azure ML의 통합 워크플로우를 통해 모델 성능을 극대화하고, 실시간 응용에 적합한 경량화된 모델을 효율적으로 구축하는 방법을 배우는 실전 중심 세션으로 AI 모델 개발자, AIML 엔지니어 및 아키텍트에게 큰 도움이 될 것입니다.

• 세션일정: 12월 7일(토), 17:00 - 17:30

• 세션장소: ROOM 1 (제주)

📜 발표자 소개

• 이름: 김대근

• 소속: Microsoft

• 자기소개:

  다년간 스타트업, 제조 및 금융 업계를 거치며 컴퓨터 비전 엔지니어로서 다수의 1저자 특허를 등록하고 제품 양산에 기여했으며, 데이터 과학자로서 다양한 PoC와 현업 프로젝트를 수행했습니다. 현재는 고객들이 클라우드 인프라 상에서 AI/ML 서비스를 더욱 효율적으로 사용할 수 있도록 기술적인 도움을 드리면서 AI/ML 생태계 확장에 기여하고 있습니다. 머신러닝을 공부하기 시작했을 때 접한 톰 미첼(Tom M. Mitchell)의 명언, “머신러닝으로 문제를 해결하려면 해결하고자 하는 문제를 명확히 정의해야 한다.” 라는 말을 상기하며 항상 초심을 잃지 않으려 합니다.