#AI
这几天好累没有更新🥹 简单 mark 一下。

https://fixupx.com/Manjusaka_Lee/status/1944414735715479807

NadeshikoManju@薫る花は凛と咲く7月5日播出(@Manjusaka_Lee):讲一下目前自己对于目前 AI 路线的一个小想法
个人目前觉得 AI Agent 在迎来自己的真正的 iPhone4 时有一个问题是需要解决。即如何高效的去创建 Sandbox。
如同大家所看到的一样,目前 MCP 也好,还是其余协议也好,随着我们赋予模型或者 Agent 的权限越来越大。意味着攻击手段也会越来越多样化(如同容器一样,你可能永远不知道你引入的 prompt 或者你依赖的 API Provider 加了什么料),比如最近的一个很有趣的例子是附录1提到基于 Supabase MCP 攻击。
这意味着我们需要一个更有效率的 Sandbox 让我们进行 dry run 的操作。
而更有效率的 Sandbox 意味着几点
1. 强隔离(runc 这种逃逸满天飞的还是有点不太适合)
2. 启动快
3. 能耗小
而在这方面,Apple 实际上进行了一个先手布局。在 macOS 11.0 之后,Apple 发布了一套快速,轻量的虚拟框架 vz(参见附录2),而最近,Apple 更进一步的发布了开源的 container 套件(参见附录3)。VZ 开发体验相对良好,能耗表现极好。我觉得是为后续 macOS 生态的 AI Agent 铺平了道路
说回下一个时代的 Sandbox,看着几点主要诉求,可能很多同学第一时间就反应过来了这不是 Serverless 之前衍生出来的高性能的安全容器的需求嘛?这个时候,再去会看 NSDI 2020 AWS 发布的 Firecracker: Lightweight Virtualization for Serverless Applications (参见附录4),就会有一种恍惚感。技术路线总是会在不经意间交叉
而至于 Windows,其实 WSL 的开源我觉得也是在为后续的可定制化的 AI Sandbox 打样。但是我自己对于 hyperv 体系不甚了解就不在此处乱讲了。
差不多就这样,深夜的一点胡乱思考
附录:
1. https://read.readwise.io/new/read/01jztvkzkv792149kne27x2v95
2. https://developer.apple.com/documentation/virtualization
3. https://github.com/apple/container
4. https://www.usenix.org/conference/nsdi20/presentation/agache
 
 
Back to Top