SAGE - Streaming-Augmented Generative Execution
用于构建透明、可组合、流优先 AI 系统的主仓框架
SAGE 是围绕 isage 主包构建的流式 AI 应用框架。当前产品边界集中在单一主仓,重点放在:
sage.foundation:共享配置、端口、日志与契约sage.stream:流式抽象、组合与变换sage.runtime:本地执行与可选分布式运行时接入sage.serving/sage.edge:服务化接入边界sage.cli:命令行与开发者工作流入口
设计原则
流优先
SAGE 的核心不是把所有能力堆进单个黑盒应用,而是把工作流显式表示为数据流图。这样可以让变换、调度、背压和服务接入保持透明。
分布式是可选能力
SAGE 默认支持本地执行;需要扩展时,再接入可选的分布式运行环境。主仓不再把分布式能力和核心 API 强绑定。
推理引擎外置
LLM / embedding 推理继续由外部能力提供,主仓负责编排与集成边界。当前推荐的外部引擎族是 isagellm。
可选能力
以下能力继续作为可选适配器按需安装:
isage-ragisage-neuromemisage-libs-intentisage-sias
快速开始
pip install isage
pip install 'isage[dev]'
pip install 'isage[full]'
from sage.runtime import LocalEnvironment
env = LocalEnvironment("hello")
当前 CLI
sage version
sage status
sage doctor
sage verify
sage runtime nodes
sage serve gateway --json
仓库角色
SAGE 主仓是核心实现与发布面。
示例、教程、benchmark、文档站点等仓库都应围绕单一主仓 isage 构建,而不是重新依赖历史 split-package 布局。