WebClient

스프링 - LLM Response를 Redis Streams와 SSE로 스트리밍 해보자 작성일자 : 2024년 11월 25일   개요 OpenAI, Claude와 같은 LLM API 제공자들은 응답 형태로 메세지 스트림을 제공하기도 합니다. 서비스의 프론트엔드와 LLM API 사이에서, 스프링부트를 통해 요청을 핸들링하고 싶은 경우에 Redis Streams와 SSE를 활용하여 프론트엔드로 메세지를 스트리밍할 수 있습니다. 이번 포스팅에서는 LLM API의 응답을 Redis Streams와 SSE로 스트리밍하는 방법을 알아보겠습니다.   왜 Redis Streams를 사용하게 되었는가? 상황 프론트엔드로의 메세지 스트림은 일반적인 HTTP 요청-응답 방식, 또는 SSE(Server-Sent Events)..

각기 다른 Base URL의 WebClient 인스턴스 사용하기 작성 일자 : 2024년 11월 03일   개요 WebClient는 비동기 HTTP 호출을 위한 Spring Framework의 모듈입니다. WebClient는 WebClientConfig를 작성하여 Configuration 할 수 있으며, baseUrl을 설정하여 해당 URL로 요청을 보낼 수 있습니다. 실제 애플리케이션에서는 여러 서드파티 API를 사용하거나, 다양한 서비스를 호출할 때, 각기 다른 Base URL을 가지는 경우가 많습니다. 이번 포스팅에서는 여러 WebClient 빈을 각기 다룬 Base URL로 설정하는 방법에 대해 알아보겠습니다.   application.yml에 여러 Base URL 설정하기 먼저, 각 서비스에 대..