Azure OpenAI가 사주팔자 풀이 에이전트라고?

4월 24일 (목) 13:00 - 13:25

리젠시홀

LLM의 약점인 정교한 수학계산, Azure OpenAI라고 피해갈 수 없죠. 이를 위해 Code Interpreter 기능을 별도로 추가해서 Python 코드를 생성한 후 정교한 계산을 위임합니다. 하지만, Azure OpenAI가 만들어주는 정교한 계산을 위한 코드가 과연 믿음직할까요? 할루시네이션의 가능성은 없을까요? 이번 세션에서는 Azure Container Apps에서 제공하는 Dynamic Sessions에 대해 알아보고, 이를 활용해 Azuer OpenAI가 생성하는 Python 코드를 격리된 환경에서 동작시켜 전체 시스템에 문제가 없게끔 하는 과정을 사주팔자 풀이 에이전트 예시를 통해 알아보겠습니다.