Skip to content

WebSocket 代理

Luker 提供了 WebSocket(WS)代理功能,通过持久的 WebSocket 隧道传输 AI 生成请求,替代传统的 HTTP 请求方式。这在网络不稳定或受限的环境中尤其有用。

什么是 WS 代理

在传统模式下,每次 AI 生成请求都是一个独立的 HTTP 请求。如果网络出现波动,请求可能中断,导致生成结果丢失。

WS 代理将这些请求通过一条持久的 WebSocket 连接进行传输。WebSocket 连接一旦建立,就会保持打开状态,所有的生成请求和响应都通过这条连接进行双向通信,无需反复建立新连接。

简单来说:

  • 传统 HTTP 模式:每次生成 → 建立连接 → 发送请求 → 接收响应 → 关闭连接
  • WS 代理模式:建立一次连接 → 所有生成请求复用这条连接 → 持续通信

为什么需要 WS 代理

网络不稳定环境

在移动网络、跨国网络或 Wi-Fi 信号较弱的环境中,HTTP 长连接容易因为短暂的网络波动而中断。WS 代理通过心跳保活和自动重连机制,能够更好地应对这些情况。

防火墙和代理限制

某些网络环境中,防火墙或企业代理可能会对长时间的 HTTP 连接进行超时断开。WebSocket 协议在建立连接后的通信方式不同于普通 HTTP,在部分场景下能够绕过这些限制。

流式生成的可靠性

AI 生成通常使用流式传输(SSE),一次生成可能持续数十秒。WS 代理为流式传输提供了更可靠的底层通道。

重连与恢复能力

WS 代理内置了多项健壮性机制:

心跳保活

连接建立后,客户端和服务端会定期交换心跳消息,确保连接处于活跃状态。如果一方长时间未收到心跳,会主动检测连接状态。

断线自动重连

当 WebSocket 连接意外断开时,客户端会自动尝试重新建立连接,无需用户手动干预。

流偏移恢复

如果在 AI 生成过程中连接短暂中断,WS 代理支持流偏移恢复——重连后从断点处继续接收生成内容,而不是从头开始。这意味着即使网络闪断,你也不会丢失已经生成的内容。

使用场景

以下场景特别适合使用 WS 代理:

  • 移动设备使用 — 手机网络切换(Wi-Fi ↔ 蜂窝)时保持生成不中断
  • 远程服务器部署 — Luker 部署在远程服务器上,通过不稳定的网络访问
  • 长文本生成 — 生成较长的回复时,减少因超时导致的失败
  • 企业网络环境 — 绕过可能干扰长连接的网络设备

TIP

WS 代理是 Luker 的内部传输优化,对用户来说是透明的——你不需要进行额外配置,Luker 会在适当的时候自动使用。

相关页面

Built upon SillyTavern