返回动态
产品SDK6 分钟阅读

助手会话应该记住它所属的对话。

IaGenify SDK 会话将多次模型调用放在同一上下文中,并支持可选记忆,让对话不止于单次请求。

iagenifysdksessionsassistantsmemory

简单转换只需一次模型调用。但实用助手往往还需要记住任务上下文,回答后续问题。IaGenify SDK 会话为这些调用提供共同的上下文空间。

创建助手,然后继续对话

会话从模型及其设置开始。应用可以提供角色、指令、可选输出结构和记忆选项,并在对话过程中调用 `generate()`。

const assistant = await api.models.create({
  model: "your-model",
  settings: { role: "Research assistant" },
  memory: true,
});

const first = await assistant.generate({
  inputs: [{ type: "text", content: "Summarize this topic." }],
});
const followUp = await assistant.generate({
  inputs: [{ type: "text", content: "What should I read next?" }],
});

第二次调用仍属于同一个助手。应用不必把它当成无关请求,也不必手动拼接此前的所有消息。SDK 为上下文管理提供了明确位置。

是否记忆仍由应用决定

并非每个请求都应该保留对话。翻译可以保持无状态;客服交流或研究任务则可能需要连续上下文。`memory` 选项让应用决定这种行为。

会话模型也统一了模型与智能体对话的表达方式:会话有身份、上下文和一系列轮次,程序可以继续它们。

保留上下文,而不必每次携带完整记录

对话变长后,每次请求都重发完整记录会越来越繁琐。会话为关联轮次和应用上下文规则提供稳定位置。

这并不意味着记忆是不可见的:开发者仍决定是否启用、发送哪些信息,以及何时开始新对话。

为长期任务打下基础

持久会话可用于追问、修改答案或稍后继续任务,也为应用关联对话历史提供稳定单位。

当下一轮能够承接上一轮,同时应用仍控制哪些内容被记住时,对话才真正有用。

会话基础仍是 SDK 的核心:助手不只是 prompt,而是应用可以塑造并继续的一段交互。

常见问题

什么是助手会话?

它是带有自身设置的模型资源,可将相关调用关联起来并共享上下文。

记忆默认始终开启吗?

不是。应用在创建助手时选择是否启用。

每次都要重新发送所有旧消息吗?

会话可继续关联调用,无需每次追问都重建完整历史。

所有模型调用都应该使用记忆吗?

不需要。需要连续上下文时再启用;独立转换可以保持无状态。

返回动态