首页博客 › 技术

局域网多机共享大模型算力的 token 计费设计

👤 智志AI📖 技术👁 15 阅读
技术计费局域网架构

场景与目标

一台带 GPU 的电脑部署 Ollama,局域网所有设备共享。目标是按实际 token 消耗公平计费,且防止白嫖。

双池 KEY 设计

LAN- 池走局域网算力,CLD- 池走官方云模型。两类 KEY 在网关层隔离,互不串用。

扣费公式

扣 token 数 = 实际 token × (模型单价 / 用户套餐单价)。模型越贵用户消耗越快,实现了价格差异化。

← 返回博客列表