Ernie.SG 
当我凌晨 02:42 躺在床上，想着应该不可能比这更离峰了吧，而且睡前查一下能有什么坏处呢，于是我在手机上打开 GCP，试着拿一台 A100 VM，然后…
这比拨号上网前的年代还糟。即使在那个时候，在家里有互联网之前，我在图书馆也能用零花钱买到多少就上多少网。结果初始模型训练其实很轻松，但要打磨技艺、走完最后一公里就是另一回事了。我现在已经在同一堵墙上撞头撞够了，收益和痛苦的比例失衡得太厉害，所以我准备先切换到 pitch 和 showcase 模式，然后再回来从第一性原理处理它，比如读论文，深入到模型架构层面。无论如何，我真的很喜欢 GPT-4 让编程变成了这样一种可能：我可以在周四用 Chainlit 和 Ngrok 把 “The Sound of Stories” 发布到所有设备；然后周五晚上用户测试时遇到多用户问题，并且注意到 Chainlit UI 对人来说真的很笨重，我就把它搬上 WhatsApp，由 Flask 后端提供服务；接着周六早上进一步研究后，我意识到 FastAPI 和 Uvicorn 性能高得多，还能处理异步方法和验证，而这些对我来说是重要的差异点，因为：
-
why wait
-
跟我聊聊数据工程 90% 都是在修类型验证，或者更准确地说，是修别人丢给我的、根本没有类型验证的数据… :)
你在下面看到的 demo 都是我用手机实时录制的。这里那里仍然有明显延迟，这些都可以在生产环境中修好；总的来说，我对我们取得的进展以及到目前为止学到的东西还是挺满意的。我倾向于把项目和委托看作一种 forcing function，逼我更有效地使用时间。比如，如果我不是把业余时间花在这上面，我大概就是在玩游戏或看 Netflix，所以… 都挺好。下面我会整理一些关于用 A.I. 和 LLMs 构建时的心得和想法。
The Sound of Stories 进行中版本（移动端）
这一次真的不同
这一次真的不同，不同到值得单独写一篇文章。我现在的高层总结是：这是人类历史上第一次把智能商品化。作为会使用工具的动物，如果我们作为一个社会能够有效利用 A.I.，我真的认为它会是治愈癌症或获得无限清洁能源的关键。它可以成为一个伟大的均衡器，让每个人都有自己的 Jarvis 或 Gundam，在生活中扮演多重角色。ChatGPT 已经变成某种哲学思想回音板，有时是出乎意料地有治疗感的逻辑师、万事导师、乐于助人但过分啰嗦的助手、茫然的实习生，最主要的是，我自己思想的延伸，人工地给了我更多臂膀、知识和信息获取能力。我迫不及待想看看 Gemini 1.5、Groq 和 Sora 会为我们释放什么新能力。
创新需要开放。句号。
这方面我有几个个人经历。第一，我在 2022 年 7 月拿到 GPT-3 早期开发者访问权限，用它写了一首关于 Xi Jinping 的 rap，然后基本就没有再深入使用。直到 ChatGPT 公开发布，突然有来自世界各地那么多人爆发式探索，我才得以从他们的实验中受益，并学会有效使用 ChatGPT。这个小插曲，再加上一些事件，比如我们排定用户测试前几天，我的代码因为我手痒删掉虚拟环境而坏掉。我当时有点像是在为 Docker 部署正确设置一切，然后就在 LangChain <> OpenAI <> Chainlit 之间遇到各种依赖冲突，真的是手动一点点排查… 这太令人沮丧了，因为竟然没有简单方式自动找到能工作的版本号；而且我觉得一个融资 2000 万美元的软件到现在还没有更新支持 OpenAI 1.0.0 很离谱，那个版本可是 2023 年 11 月 7 日就发布了。不过无论如何，我最后让它跑起来了，但那种痛苦我再也不想经历。
GPT-4 宕机的日子，就是我感觉效率更低的日子。这也是为什么我在 M2 Max 上跑了一个本地 LLM，并一直尝试订阅 Gemini Advanced（to no avail zzz）。竞争、替代方案和开源对创新有好处。它们给公司施加压力，让它们持续创新，而不是进行监管俘获或寻租行为。
在更技术的层面，我确实对 CI/CD、Docker 和微服务架构有了更扎实的掌握，这很有趣。我也期待继续在 WhatsApp 和 WeChat mini-programmes 上扩展，直接触达消费者。在下一次更新里，我计划录一个教程，讲如何在 Google CoLab 上免费训练自己的 RAVE 模型，并进一步说明技术心得。
最初发表于 PubPub：erniesg.pubpub.org/pub/7b4nk0ao。