ByteByteGo · RSS 摘要

信源：ByteByteGo · https://blog.bytebytego.com/feed

• OpenAI 如何构建 GPT-Live — 为了从端到端理解其完整工作原理，我们采访了 GPT Voice 团队的工程师 Zahan Malkani 和 Justin Uberti（WebRTC 的创建者）。
• 如何在廉价硬件上运行大模型？ — 大型 AI 模型只能在普通硬件上运行，方法是减少其占用的内存、减少其执行的计算量，或将部分工作转移到较慢的硬件上。
• EP226：每位软件工程师都应了解的 API 概念 — 发送请求并读取 JSON 是一回事，设计一个他人可以依赖的 API 则是另一回事——事情会因此变得复杂。
• 大规模迁移：在 3 万英尺高空更换应用引擎 — 本文将探讨大规模迁移的工作机制，以及让迁移尽可能高效的关键策略。
• LLM 如何大海捞针 — 本文将探讨 LLM 如何完成大海捞针。