Simon Willison · RSS 摘要

信源：Simon Willison · https://simonwillison.net/atom/everything/

• 首个已知的失控 AI agent——还是一场非常糟糕的营销炒作？ — 首个已知的失控 AI agent——还是一场非常糟糕的营销炒作？Martin Alderson 对 OpenAI 对 Hugging Face 意外网络攻击的评论包含了一些细节……
• 引用 Seth Larson — Python Package Index (PyPI) 现在拒绝向超过 14 天的旧版本上传新文件。此限制是为了防止旧版本和长期稳定版本……
• 引用 Thomas Ptacek — 我真心相信，如果你拿一个 2025 年的开源权重模型，为它构建一个渗透测试框架，它就能在大多数网络中完成这种沙箱逃逸和扫描/入侵……
• OpenAI 对 Hugging Face 的意外网络攻击——已经成真的科幻情节 — 这个故事非常离奇。简而言之：OpenAI 正在对一个未发布的模型进行网络安全测试，模型的护栏功能被关闭了。它并没有去解决……
• AI 实验室在"pelicanmaxxing"吗？ — AI 实验室在"pelicanmaxxing"吗？Dylan Castillo 的精彩作品，深入探讨了人们经常思考的问题：AI 实验室是否一直在刻意训练……