# 聊天完成

# 特定源的说明

重要！

大多数 API 平台只允许在创建 API 密钥时查看一次。如果您丢失了它，您将需要生成一个新的。确保妥善保管！

# OpenAI

使用 OpenAI 的开发者平台访问各种 OpenAI 模型，包括 gpt-4o、gpt-4.1、o3 等。

如何获取 API 密钥：

前往 OpenAI 并登录。
使用"查看 API 密钥"选项创建新的 API 密钥。

# Claude

Claude 是由 Anthropic 开发的 AI 模型系列。您可以通过 Anthropic 控制台访问 Claude 模型。

如何获取 API 密钥：

前往 Anthropic Console 并登录。
使用"获取 API 密钥"部分创建新的 API 密钥。

# Mistral AI

Mistral AI 是一个开发开放和专有模型的团队，具有高科学标准和对开放性的关注。您可以在本地运行他们的模型或通过他们的 API 服务 La Plateforme 运行。

如何获取 API 密钥：

第一步是在 La Plateforme 上创建账户。
完成后，您可以选择一个计划并设置您的支付信息或选择免费层。
接下来，您可以创建您的 API 密钥。您可能需要等待几分钟才能使密钥生效！

# DeepSeek

DeepSeek 平台通过 API 提供对最新 DeepSeek 模型的访问。他们提供一系列模型，包括 DeepSeek V3 和 DeepSeek R1。

如何获取 API 密钥：

在 DeepSeek 平台上注册。
注册并充值账户后，您可以在"API 密钥"部分创建 API 密钥。

# AI21

AI21 Labs 提供一系列 AI 模型，包括其旗舰 Jamba 系列。您可以通过 AI21 Studio API 访问他们的模型。

如何获取 API 密钥：

前往 AI21 Studio 并登录。
导航到"设置 => API 密钥"部分创建新的 API 密钥。

# Cohere

Cohere 为各种任务提供一套 AI 模型，包括文本生成和嵌入。您可以通过 Cohere API 访问他们的模型。

如何获取 API 密钥：

前往 Cohere 并登录。
导航到账户设置中的"API 密钥"部分创建新的 API 密钥。

# Perplexity

Perplexity AI 通过其 API 提供对启用在线的 Sonar 模型的访问，用于实时研究和信息检索。

官方入门指南：Perplexity 快速入门

如何获取 API 密钥：

前往 Perplexity 并登录。
前往"API 计费"部分购买 API 使用的积分。
导航到设置中的"API 密钥"部分创建新的 API 密钥。

# Fireworks AI

Fireworks AI 是一个高性能平台，提供快速、经济高效的访问最先进开源语言模型的途径。该平台提供与 OpenAI 兼容 API 的无服务器部署，并支持高达 256,000 个令牌的上下文窗口。

如何获取 API 密钥：

前往 Fireworks AI 并创建账户或登录。
导航到账户设置中的 API 密钥页面。
点击"创建 API 密钥"并提供描述性名称（例如，"SillyTavern"）。

# 自定义 OpenAI 兼容端点

重要的是要注意，我们不为您可能遇到的问题提供支持！我们不保证与每个可能的 API 端点的兼容性！

如果您打算使用此功能来使用本地端点，如 TabbyAPI、Oobabooga、Aphrodite 或任何类似的端点，您可能想要查看这些端点的内置兼容性。自定义端点功能主要用于与暴露 OpenAI 兼容 API 聊天完成端点的其他服务和程序一起使用。

大多数文本完成 API 支持比 OpenAI 标准允许的更大的自定义选项。这些更大的自定义选项，如 Min-P 采样器，可能值得 SillyTavern 用户查看，这可以大大提高生成质量。

您可以为聊天完成后端配置替代端点。此自定义端点可以连接到任何支持通用 OpenAI API 模式的服务器。

兼容后端的示例包括：

# 连接

要访问此功能：

切换到"聊天完成"API 类型
为"聊天完成源"选择"自定义（OpenAI 兼容）"

输入自定义端点 URL 和 API 密钥（如果需要）。例如，TabbyAPI 需要 API 密钥进行身份验证。

**提示：**如果您遇到连接问题，请尝试在端点 URL 末尾添加 /v1。不要添加 /chat/completions 后缀。

# 选择模型

如果自定义 API 实现 /v1/models 端点以提供可用模型列表，您可以从下拉列表中选择。否则，使用文本字段手动输入模型 ID。

勾选"绕过 API 状态检查"以防止 SillyTavern 警告您功能异常的 API 端点。如果您的 API 端点正常工作但 SillyTavern 继续显示警告，请启用此选项。

点击"测试消息"通过向模型发送简单提示来验证连接性。

# 提示后处理

**注意：**当使用"无工具"的后处理选项时，不支持工具调用！

一些端点可能对传入提示的格式施加特定限制，如只允许一个系统消息或严格交替角色。

SillyTavern 提供内置提示转换器来帮助满足这些要求（从最少到最多限制）：

无 - 除非 API 严格要求，否则不应用显式处理
合并来自同一角色的连续消息
半严格 - 合并角色并只允许一个可选的系统消息
严格 - 合并角色，只允许一个可选的系统消息，并要求用户消息在前
单个用户消息 - 将所有角色的所有消息合并为单个用户消息

合并、半严格和严格还会从提示中删除任何工具调用，除非选择了"带工具"变体。这对于不支持工具调用且现有提示包含工具调用的 API 很有用。

较少限制的选项对 SillyTavern 中实现的其他较严格端点（"自定义 OpenAI 兼容"除外）没有影响；自定义可能在无效请求时出错。

在严格模式下，如果在第一个助手消息之前不存在用户消息，则会插入 config.yaml 中的 promptPlaceholder，默认为"[开始新聊天]"。