전체 글

안녕하세요. dev_writer입니다. 최근 회사에서 코틀린 기반 스프링 백엔드 서비스를, 타입스크립트 기반 Nest.js 백엔드 서비스로 마이그레이션 하는 업무를 진행하게 되면서 작년에 잠깐 사용했던 Nest.js를 공부해 보고자 글을 기록하게 되었습니다. 지금 작성하고 있는 Spring AI 시리즈처럼, 이번에도 Nest.js의 공식 문서를 번역하면서 블로그에 기록할 예정입니다. 이번 시간에는 Introduction에 대한 내용을 작성해 보겠습니다.소개소개Nest(NestJS)는 효율적이고 확장 가능한 Node.js 서버 사이드 애플리케이션을 구축하기 위한 프레임워크입니다. 점진적인 JavaScript를 사용하며, TypeScript로 작성되어 이를 완벽히 지원하지만, 순수 JavaScript로도 개..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. 안녕하세요 dev_writer입니다. 이번에는 한빛미디어 서평단 활동으로 받은 에 대해 리뷰해 보겠습니다.목차책은 11가지의 챕터와, 부록 1가지를 담고 있습니다. 이번 서평에서는 LLM Twin과 LLM 평가 요소에 대해 알게 된 내용을 짧게 요약하고, 총평하도록 하겠습니다.LLM Twin 개념과 아키텍처 이해도구 및 설치데이터 엔지니어링RAG 특성 파이프라인지도 학습 파인튜닝선호도 정렬을 활용한 파인튜닝LLM 평가추론 최적화RAG 추론 파이프라인추론 파이프라인 배포MLOps와 LLMOps부록: MLOps 원칙LLM Twin책에서는 LLM Twin을 아래와 같이 설명하고 있습니다.간단히 말해, LLM Twin은 복잡한 AI 모델인 L..

안녕하세요 dev_writer입니다. 이번 시간에는 Spring AI 공식 문서 중 MCP에 대해 번역한 내용을 전달해 드리겠습니다. Model Context Protocol (MCP)모델 컨텍스트 프로토콜(Model Context Protocol, MCP)은 AI 모델이 외부 도구 및 리소스와 구조화된 방식으로 상호작용할 수 있도록 해주는 표준화된 프로토콜입니다. 다양한 환경에서 유연성을 제공하기 위해 여러 전송 메커니즘을 지원합니다. MCP Java SDK는 모델 컨텍스트 프로토콜의 Java 구현체로, 동기 및 비동기 통신 방식을 통해 AI 모델과 도구 간의 표준화된 상호작용을 가능하게 합니다. Spring AI MCP는 MCP Java SDK에 Spring Boot 통합 기능을 확장한 것으로, 클..

한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다. 안녕하세요 dev_writer입니다. 이번에는 한빛미디어 서평단 활동으로 받은 에 대해 리뷰해 보겠습니다. 목차책은 11가지의 챕터와, 부록 3가지를 담고 있습니다. 본 서평에서는 책의 전반적인 구성과, 의 재시도 전략에 대해 말씀드리겠습니다.들어가며느려진 서비스, 어디부터 봐야 할까성능을 좌우하는 DB 설계와 쿼리외부 연동이 문제일 때 살펴봐야 할 것들비동기 연동, 언제 어떻게 써야 할까동시성, 데이터가 꼬이기 전에 잡아야 한다IO 병목, 어떻게 해결하지실무에서 꼭 필요한 보안 지식최소한 알고 있어야 할 서버 지식모르면 답답해지는 네트워크 기초자주 쓰는 서버 구조와 설계 패턴부록 A: 처음 해보는 성능 테스트를 위한 기본 정리부록 B..

안녕하세요 dev_writer입니다. 이번 시간에는 Spring AI 공식 문서 중 Tool Calling에 대해 번역한 내용을 전달해 드리겠습니다. Tool CallingTool calling(툴 호출, 혹은 함수 호출이라고도 함)은 AI 애플리케이션에서 모델이 API나 도구 집합과 상호작용할 수 있도록 하는 일반적인 패턴으로, 모델의 기능을 확장할 수 있도록 합니다. 도구는 주로 다음과 같은 목적에 사용됩니다: 1. 정보 검색(Information Retrieval) 이 범주의 도구는 데이터베이스, 웹 서비스, 파일 시스템 또는 웹 검색 엔진과 같은 외부 소스에서 정보를 검색하는 데 사용됩니다. 목표는 모델의 지식을 증강하여, 그렇지 않으면 답할 수 없는 질문에 답할 수 있도록 하는 것입니다. 예를..

안녕하세요 dev_writer입니다. 이번 시간에는 Spring AI 공식 문서 중 Chat Models에 대해 번역한 내용을 전달해 드리겠습니다. Chat Memory대형 언어 모델 (LLM)은 상태를 저장하지 않기 때문에 이전 상호작용에 대한 정보를 유지하지 않습니다. 이는 여러 상호작용에 걸쳐 문맥이나 상태를 유지하고자 할 때 한계가 될 수 있습니다. 이를 해결하기 위해 Spring AI는 여러 상호작용에 걸쳐 정보를 저장하고 불러올 수 있는 채팅 메모리 (chat memory) 기능을 제공합니다. ChatMemory 추상화는 다양한 사용 사례를 지원하기 위해 여러 유형의 메모리를 구현할 수 있도록 합니다. 메시지의 실제 저장은 ChatMemoryRepository가 담당하며, 이 컴포넌트는 메시지..