https://product.kyobobook.co.kr/detail/S000215851003
Azure OpenAI로 ChatGPT와 LLM 시스템 쉽고 빠르게 구축하기 | 가모 히로사토 - 교보문고
Azure OpenAI로 ChatGPT와 LLM 시스템 쉽고 빠르게 구축하기 | 단계별로 배우는 효율적인 AI 시스템 구축법빠르게 발전하는 AI 기술의 중심에는 마이크로소프트 Azure OpenAI가 있다. 이 책은 실무에서 바로
product.kyobobook.co.kr
이 책의 가장 마음에 드는 점은 독자의 이해도를 고려해 구성했다는 점이다. Azure OpenAI 서비스를 처음 접하는 입장에서, 복잡한 개념보다 필요한 부분만 빠르게 익히고 싶었는데, 이 책을 따라가다 보니 자연스럽게 원하는 모델을 구성할 수 있었다.
특히 Azure AI Foundry를 활용해 여러 모델을 비교하고, 비용까지 고려해 최적의 모델을 선택하는 과정이 인상적이었다. 단순히 모델을 호출하는 게 아니라, 프롬프트를 작성해 원하는 응답을 이끌어 내고, 배포해서 실제로 사용할 수 있도록 설명한 부분도 실용적이었다. 물론 Azure에서 제공하는 메뉴얼도 참고하여 적용시키면 더욱더 좋다.
또한 RAG를 활용하면 AI 모델이 외부 데이터를 검색해서 좀 더 정확하고 풍부한 답변을 생성할 수 있다는 점도 흥미로웠다. 그냥 주어진 데이터만 활용하는 게 아니라, 필요한 정보를 찾아서 반영하도록 최적화할 수 있다는 게 실무에서도 꽤 유용할 것 같다.
이 책은 단순한 이론서가 아니라, 실제 Azure OpenAI 서비스를 활용하는 방법을 단계별로 설명하면서 실습까지 할 수 있도록 구성되어 있어서, AI 모델을 직접 다뤄보고 싶은 사람들에게 추천할 만하다.
목차(일부분)
1. 생성형 AI와 ChatGPT
- ChatGPT를 적용할 수 있는 업무들에 대허 소개해준다,
- ChatGPT를 사용 시 주의할 점은 환각(hallucination) 문제이다.
- GPT의 탄생과정에 대해 묘사해준다.
2. 프롬프트 엔지니어링
- 구체적으로 지시하기
- 출구 지정하기
- 역할 부여하기
- 입출력 예시 지정하기
- 프롬프트 구조화하기
- 생각의 사슬 만들어주기
- 그 외 다양한 방법
3. Azure OpenAI Serivce
- Azure OpenAI 는 안정된 서비스 운영 용도로 적합하다.
- 애저의 인증, 프라이빗 네트워크 같은 보안 기능 등 다양한 지원을 받는다.
- 실제 시스템을 개발할 경우 스튜디오에 있는 기능만으로도 테스트, 배포 등을 수행할 수 있다.
Azure AI Foundry
ai.azure.com
첫 모델로 gpt-4o-mini로 설정하니 이미지를 인식하지 못했다.
모델 + 엔드포인트 테스트
이러면 응답이 한 번에 출력 되는게 아닌 서서히 출력된다.
회로문제 사진 보고 풀이 과정을 설명해주는 AI 모델 설계
image 파일을 인풋으로 받으려면 최소
gpt-4o를 사용해야 한다. gpt-4o-mini는 거부한다.
그런데 이미지를 백앤드에서 적절히 처리가 되지않아 html형식인 이미지를 base64로 인코딩하여 input으로 AI 모델에게 주었다. 나머지는 테스트를 더 해봐야겠다.