StreamCtx

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
StreamCtx
访问
15
18046

用于大语言模型应用的流式上下文数据库


StreamCtx 是专为 LLM 应用打造的流式上下文数据库。多数大语言模型应用缺少合适的记忆层,开发者往往需要拼凑 Redis、向量数据库和自定义代码才能实现基础的上下文管理,StreamCtx 解决了这个痛点,它提供实时上下文流式传输、持久化会话记忆能力,并且以 MIT/Apache 2.0 协议完全开源。