redis streams

스프링 - LLM Response를 Redis Streams와 SSE로 스트리밍 해보자 작성일자 : 2024년 11월 25일   개요 OpenAI, Claude와 같은 LLM API 제공자들은 응답 형태로 메세지 스트림을 제공하기도 합니다. 서비스의 프론트엔드와 LLM API 사이에서, 스프링부트를 통해 요청을 핸들링하고 싶은 경우에 Redis Streams와 SSE를 활용하여 프론트엔드로 메세지를 스트리밍할 수 있습니다. 이번 포스팅에서는 LLM API의 응답을 Redis Streams와 SSE로 스트리밍하는 방법을 알아보겠습니다.   왜 Redis Streams를 사용하게 되었는가? 상황 프론트엔드로의 메세지 스트림은 일반적인 HTTP 요청-응답 방식, 또는 SSE(Server-Sent Events)..

Redis Pub/Sub 과 Redis Streams 작성일자 : 2024년 11월 24일    개요 Redis는 캐시 데이터 저장소로 널리 알려져 있지만, 단순한 데이터 캐싱 그 이상으로 활용할 수 있습니다. Redis는 메시징 및 이벤트 중심 아키텍처를 지원하기 위해 Redis Pub/Sub와 Redis Streams 두 가지 기능을 제공합니다. 이번 포스팅에서는 Redis Pub/Sub와 Redis Streams의 주요 차이점, 각각의 사용 시점, 장단점을 자세히 살펴보고, 어떤 상황에서 어떤 기능을 선택해야 할지 알아보겠습니다.   Redis Pub/SubRedis Pub/Sub은 Publisher와 Subscriber가 특정 채널을 통해 메시지를 주고받는 방식으로 작동합니다.  구조Publish..