Vercel boosts Pro sandbox capacity 5x, splits AI pricing into token and trigger fees

still expensive compared to fly

またOSSの便利ラッピングかｗｗｗ Vercel Sandboxの上限が大幅に引き上げられ、 最大10,000個のSandboxを同時実行 1分あたり最大5,000 vCPUを割り当て可能 になったとのこと。 AIエージェントが大量のコードを並列実行する時代を考えれば、確かに強力です。 しかし中身を見て、最初に思ったのはこれです。 また優秀なOSSを、誰でも使えるように便利に包んだサービスでは？ ━━━━━━━━━━━━━━ 中核にいるのはFirecracker Vercel Sandboxは、コードを隔離された一時的なLinux環境で実行するサービスです。 その内部で使われているのが、AWSが開発し、Apache 2.0で公開しているOSSのFirecrackerです。 Firecrackerは、通常のコンテナより強い分離を目指しながら、一般的な仮想マシンより軽量に起動できるmicroVM技術です。 AWS LambdaやAWS Fargateのために開発されました。 つまり、VercelがmicroVMという概念を一から発明したわけではありません。 基礎となる強力な仮想化技術は、すでにOSSとして存在しています。 さらにVercel Sandboxの公開リポジトリを見ると、オープンソースになっている中心は、 ・JavaScript／TypeScriptから操作するSDK ・ターミナルから操作するCLI ・利用例 ・型定義 ・接続処理 です。 このリポジトリをクローンしただけで、Vercelと同じ大規模Sandboxサービスを自分のサーバーへ再現できるわけではありません。 公開されているのは、巨大な管理基盤そのものというより、Vercelの管理サービスへ接続する便利な入口です。 はい。 かなり「OSSの便利ラッピング」ですｗｗｗ ━━━━━━━━━━━━━━ しかし、便利に包むことを軽視してはいけない ここで、 「Firecrackerを使っているだけなら、自分で作れば無料では？」 と思う人もいるでしょう。 理屈では可能です。 Linuxサーバーを用意する。 KVMを設定する。 Firecrackerをビルドする。 カーネルとroot filesystemを準備する。 ネットワークを構成する。 microVMごとにIPや通信制限を管理する。 イメージを更新する。 脆弱性へ対応する。 壊れたmicroVMを回収する。 大量起動時の配置を考える。 ログ、認証、課金、監視も作る。 スナップショットを保存し、高速に復元する。 利用者が投入した未確認コードから、ホスト環境と他の利用者を守る。 ここまで全部、自分で運用しなければなりません。 Firecrackerの公式資料にも、microVM全体の安全性は、ホストOSや周辺構成が正しく設定されていることへ依存すると書かれています。 OSSのバイナリを起動しただけで、安全なマルチテナントサービスが完成するわけではありません。 OSSが材料なら、Vercelが販売しているのは完成した厨房です。 材料が無料でも、厨房の設計、衛生管理、人員、電力、配達網までは無料にならない。 クラウド企業の商売は、だいたいここにあります。 ━━━━━━━━━━━━━━ Vercel独自の価値は「大量に、安全に、すぐ使えること」 Vercel Sandboxでは、APIからmicroVMを作り、コマンドを実行し、不要になれば破棄できます。 各環境には独立したファイルシステム、ネットワーク、プロセス空間があり、sudoやパッケージマネージャーも使える。 AIエージェントが生成したコードや、利用者から渡された未確認コードを、本番環境から隔離して試せます。 今回の発表で重要なのは、Sandboxという機能の新設ではありません。 それを、 10,000個同時に動かせるところまで運用基盤を拡張した ことです。 1個のFirecracker microVMを自分のPCで起動することと、 世界中の顧客が要求する10,000個の環境を、 ・衝突させず ・待たせず ・他人のデータを漏らさず ・壊れたら回収し ・使用量を計測し ・ネットワークを制御し ・API一つで提供する ことは、まったく違います。 ここは「ただ包んだだけ」ではありません。 包み方そのものが製品です。 ━━━━━━━━━━━━━━ スナップショットにも運用技術が入っている Firecracker自体にもスナップショット機能はあります。 しかしFirecrackerは、スナップショットを保存、配布、認証、暗号化し、そのライフサイクルを管理するところまでは提供しません。 そこは利用者側で作る必要があります。 Vercelは、Sandboxのディスクを独自のVHS形式へ圧縮し、保存と復元を高速化しています。 以前は75パーセンタイルの復元に40秒以上かかっていたものを、並列化とローカルキャッシュによって1秒未満まで改善したと説明しています。 これはFirecrackerのAPIへ名前を付け替えただけではありません。 OSSの機能と、Vercelが長年運用してきたビルド基盤をつなぎ、AIエージェント向けのサービスへ再設計している。 ラッピングではあります。 ただし、コンビニのラップではなく、工場と物流センター付きのラッピングですｗｗｗ ━━━━━━━━━━━━━━ AIエージェント時代にはSandboxが大量に必要になる 従来の開発者は、一つの環境を立ち上げ、長時間そこで作業していました。 AIエージェントは違います。 タスクを受け取る。 リポジトリを取得する。 依存関係を入れる。 コードを書く。 テストする。 失敗する。 環境を捨てる。 別案を試す。 複数案を並列比較する。 このサイクルを、人間よりはるかに高い頻度で繰り返します。 一つの依頼から、数十個、数百個の一時環境が生まれる可能性があります。 そのため、AIエージェントの能力が高まるほど、モデルだけではなく、 生成したコードを安全に実行できる場所 がボトルネックになります。 10,000個という上限は、通常のWeb開発者よりも、AIエージェント企業を狙った数字でしょう。 Vercelは、Webサイトを置く場所から、AIが作業するための計算工場へ移ろうとしています。 ━━━━━━━━━━━━━━ 注意すべきはロックイン 便利なのは間違いありません。 しかし、利用者側は冷静に見る必要があります。 SDKがOSSであることと、サービス全体を自由に移植できることは同じではありません。 Vercel SandboxのSDKから簡単にmicroVMを起動できても、その裏側にある、 ・大規模な配置制御 ・独自スナップショット形式 ・認証 ・ネットワーク制御 ・課金 ・ログ ・Vercel Workflowとの統合 ・Vercelのビルド基盤 は、Vercelのサービスへ依存します。 AIエージェントを深く統合した後で価格や制限が変われば、別基盤への移行は簡単ではないかもしれません。 そのため本番利用では、 エージェント本体とSandboxを分離する 設計が重要です。 エージェントが直接Vercel固有APIへ絡みつくのではなく、 createSandbox runCommand uploadFile downloadFile destroySandbox のような共通インターフェースを自分たちで一枚挟む。 そうすれば将来、 ・Vercel Sandbox ・E2B ・Modal ・Daytona ・自前のFirecracker ・Kubernetes上の隔離環境 などへ差し替えやすくなります。 便利なラッピングは使う。 しかし、ラッピングへ自分のシステム全体を接着しない。 ここは大事です。 ━━━━━━━━━━━━━━ OSSを便利にして売ることは悪いのか 私は、OSSを利用して有料サービスを作ること自体は悪いと思いません。 多くの人は、Firecrackerを研究したいのではありません。 AIエージェントが書いたコードを、安全に実行したいだけです。 その目的を数行のコードで達成できるなら、お金を払う価値はあります。 むしろOSSの価値は、誰もが同じものを一から作り直すことではありません。 優れた土台を共有し、その上へ別の価値を積み上げられることです。 ただし企業側は、 ・何がOSS由来なのか ・何を独自に開発したのか ・どこまで公開されているのか ・自分で運用する選択肢はあるのか を分かりやすく示してほしい。 SDKを公開しただけで、サービス全体がオープンソースであるかのように見せるのは違います。 今回のVercel Sandboxは、 Firecrackerという優秀なOSS ＋ Vercelの大規模ビルド基盤 ＋ 使いやすいSDKとCLI ＋ 管理、隔離、復元、ネットワーク、課金 をまとめたサービスです。 したがって私の結論は、 はい。またOSSの便利ラッピングですｗｗｗ ただし今回は、ラッピングの内側に巨大な運用技術が入っている。 Firecrackerを知っている開発者なら自作できる、という話ではない。 1個を動かすことはできても、10,000個を安全に動かすサービスを維持するのは別競技です。 AI時代には、最高の基礎技術を発明した企業だけでなく、 難しい技術を、誰でも数行で使える形へ変えた企業 も大きな利益を得るのでしょう。 Vercelは、その場所を非常によく理解しています。 Another excellent open-source technology, wrapped in a convenient commercial service. Yes, Firecracker is the foundation. But running one microVM is a project. Safely orchestrating 10,000 concurrent sandboxes is a business. The wrapper is not the invention, but at this scale, the wrapper becomes the product. #Vercel #VercelSandbox #Firecracker #OpenSource #OSS #AIAgents #AIエージェント #クラウド #個人開発

Fuck you, and I truly mean it.