Reddit · r/SaaS· K3NCHO·· 20 天前精选AI 评分41
搜索 API 团队复盘降本:向量库迁入 Neon Postgres 并自建 embedding 模型
What cut our infra costs the most as a search API
AI 导读
运营图像与语义文本搜索 API 的团队复盘过去一年的降本措施:放弃 Pinecone,将向量数据迁入 Neon 上的 Postgres,从付费两个数据库变为一个;同时停用第三方按次计费的 embedding 服务,改在自有 GPU 服务器上运行自建模型,每块 GPU 处理速度约 110 张图片每秒。作者总结的路径是先租用托管服务验证需求,等用量可预测后再把高成本环节自建。
推荐理由
作者公开了搜索 API 降本的两条具体路径和迁移逻辑,可迁移性强。
来源:Reddit · r/SaaS · reddit.com