简单转换只需一次模型调用。但实用助手往往还需要记住任务上下文,回答后续问题。IaGenify SDK 会话为这些调用提供共同的上下文空间。
创建助手,然后继续对话
会话从模型及其设置开始。应用可以提供角色、指令、可选输出结构和记忆选项,并在对话过程中调用 `generate()`。
const assistant = await api.models.create({
model: "your-model",
settings: { role: "Research assistant" },
memory: true,
});
const first = await assistant.generate({
inputs: [{ type: "text", content: "Summarize this topic." }],
});
const followUp = await assistant.generate({
inputs: [{ type: "text", content: "What should I read next?" }],
});第二次调用仍属于同一个助手。应用不必把它当成无关请求,也不必手动拼接此前的所有消息。SDK 为上下文管理提供了明确位置。
是否记忆仍由应用决定
并非每个请求都应该保留对话。翻译可以保持无状态;客服交流或研究任务则可能需要连续上下文。`memory` 选项让应用决定这种行为。
会话模型也统一了模型与智能体对话的表达方式:会话有身份、上下文和一系列轮次,程序可以继续它们。
保留上下文,而不必每次携带完整记录
对话变长后,每次请求都重发完整记录会越来越繁琐。会话为关联轮次和应用上下文规则提供稳定位置。
这并不意味着记忆是不可见的:开发者仍决定是否启用、发送哪些信息,以及何时开始新对话。
为长期任务打下基础
持久会话可用于追问、修改答案或稍后继续任务,也为应用关联对话历史提供稳定单位。
当下一轮能够承接上一轮,同时应用仍控制哪些内容被记住时,对话才真正有用。
会话基础仍是 SDK 的核心:助手不只是 prompt,而是应用可以塑造并继续的一段交互。
常见问题
什么是助手会话?
它是带有自身设置的模型资源,可将相关调用关联起来并共享上下文。
记忆默认始终开启吗?
不是。应用在创建助手时选择是否启用。
每次都要重新发送所有旧消息吗?
会话可继续关联调用,无需每次追问都重建完整历史。
所有模型调用都应该使用记忆吗?
不需要。需要连续上下文时再启用;独立转换可以保持无状态。