你知道你可以直接构建一个应用程序，使用最智能的 LLM，让你的用户非常满意，收集数据，然后再提炼一个 LLM，使其速度更快，成本降低一个数量级，对吧？

这听起来像是一个AI评论，但花时间在Medium帖子上发表评论的理由超出了我们的理解。 所以，尽管我们的直觉如此，我们必须得出结论，这是一位人类。谢谢你的赞美！

所以让我理清楚这一点。 Inference 拥有： 1. 一个去中心化的网络，以电价提供 LLM 推理 2. 模型训练和服务的能力，使模型特别便宜，尤其是针对专业任务 3. 与数据中心达成协议，以大幅折扣租用未充分利用的容量 4. 一个设计用于扩展到数十亿请求的批量推理 API 而 @paulg 仍然不关注我们？ 这真是太荒谬了。

Claude 幻想了一个批量推理 CLI，但它低调得相当不错。 我们应该直接发布吗？

你觉得你很有趣，推特匿名者？这是你证明自己的机会。 我们建立了一个分布式推理网络，用于大规模 LLM 推理，并训练了 ClipTagger-12B，一个最先进的视频帧字幕模型。 现在我们需要一个分布式营销网络，让人们了解它（那就是你）。 我们将向创造最佳/最有趣图像字幕的人或 AI 发送 250 美元（以点赞数量为标准）。 点赞此帖子 + 转发/评论你的字幕 + 图像以符合资格。 获胜者将在 100 小时内选出。下面是游乐场的链接 ⬇️

即将来到旧金山市中心

很多人想学习如何实际使用我们的ClipTagger-12B模型来搜索视频。 我们的新示例展示了如何从视频中提取帧，用ClipTagger为它们添加标签，然后有效地使用Chroma搜索帧。 如果你正在构建视频搜索，值得一看！ 链接在下面 👇

漂亮的广告牌

将智能提炼成一个120亿参数的模型是什么感觉

Inference HQ 的霓虹标志非常抢眼