AI·THE EXPLAINERニュースを理解する
Magnitude launches open source inference engine for agentsMagnitude、自己最適化推論エンジンを公開
YC-backed startup Magnitude launched a free, open source desktop app that tunes its kernels to a user's exact hardware to run open AI models faster.YC出身のスタートアップMagnitudeが、ユーザーのハードウェアに合わせてカーネルを自動調整し、オープンモデルを高速実行する無料のオープンソース推論エンジンを公開した。
THE SOURCE TRAIL情報の根拠
Based on linked publications. No first-party document or classified news organization is linked in this record.掲載元の記事をもとにしています。この記録には当事者・公的資料や、分類済みの報道機関へのリンクがありません。
Claims checked against source text主張と原典の照合記録（英語）
An automated review linked these claims to supplied source text. This is not a human fact-check or independent verification of the source.自動点検が、記事の主張と入力した原典本文を対応づけた記録です。人による事実確認や、原典自体の正しさを独立して検証した結果ではありません。
Magnitude is a YC S25 startup launching an open source inference engine that compiles/tunes kernels on-device
github.com ↗Claimed up to 2x faster than llama.cpp, with 92% faster decode on Metal and 19% on CUDA
github.com ↗Free desktop app for macOS, Windows, Linux with built-in CLI, Apache 2.0 license, connects to agents like Pi, OpenCode, Hermes, Codex, Claude Code, Cline, or via OpenAI-compatible API
github.com ↗
Reviewed: 照合日時：
What happened何が起きたか
Magnitude, a Y Combinator S25 startup, launched an open source inference engine that compiles and tunes its kernels on the user's own device before running a model. The company says this makes open models run up to 2x faster than llama.cpp, citing 92% faster decode on Metal and 19% on CUDA. It ships as a free desktop app for macOS, Windows, and Linux, with a built-in CLI, under the Apache 2.0 license.Y Combinator S25出身のMagnitudeが、ユーザーの端末上でカーネルをコンパイル・調整してから動かす、オープンソースの推論エンジンを公開した。同社によると、これによりオープンモデルがllama.cppより最大2倍高速になり、Metalでのデコードが92%、CUDAで19%高速化するという。macOS、Windows、Linux向けにCLI内蔵の無料デスクトップアプリとして提供され、ライセンスはApache 2.0。
Why it matters何が変わるのか
Developers running open-weight models locally can get faster performance on whatever hardware they already own, from Apple Silicon and NVIDIA/AMD GPUs down to CPU-only machines, with no token costs since nothing leaves the device. It connects with one click to agents including Pi, OpenCode, Hermes, Codex, Claude Code, and Cline, or any tool via an OpenAI-compatible API.ローカルでオープンウェイトモデルを動かす開発者は、Apple Silicon、NVIDIA/AMD GPU、CPUのみの環境まで、手持ちのハードウェアでより高速な実行を得られ、データが外部に出ないためトークン課金も発生しない。Pi、OpenCode、Hermes、Codex、Claude Code、Clineなどのエージェントにワンクリックで接続でき、それ以外もOpenAI互換APIで利用できる。
A little context · terms in this story理解の手がかり · この記事の用語
- Open weights
- The model’s learned parameters are available to download. The license still determines how you may use or redistribute them; open weights does not necessarily mean open source.AIが学習したパラメーターをダウンロードできること。利用・再配布の条件はライセンスで決まり、オープンソースと同じ意味とは限りません。
- AI agent
- Software that uses an AI model and tools to carry out steps toward a task. How independently it can act depends on the product and the permissions you give it.AIモデルとツールを使い、目的に向けて複数の手順を実行するソフトウェア。自律的に動ける範囲は製品や与える権限によって異なります。
- Token
- A unit of text processed by a language model, often a word or part of a word. Input and output tokens may have different prices.言語モデルが文章を処理する単位。単語や単語の一部などに分かれ、入力と出力で料金が異なる場合があります。
- API
- An interface that lets one piece of software use another service. An AI API lets a developer send requests to a model from their own application.ソフトウェアから別のサービスを利用するための窓口。AIのAPIなら、自分のアプリからモデルに処理を依頼できます。
Read the sources原典を読む
The marked texts informed this summary. Other links provide related coverage; a link is not independent verification.印のある記事本文を要約の材料にしています。ほかは関連情報です。リンクの数は独立した裏付けの数を意味しません。
More in AIAIのほかの記事
MiniMax launches M3.1 Flash, cuts agent task costs 70%MiniMax、M3.1 Flash発表 エージェント費用7割減
12 linked sites関連12サイト
Mistral launches Voxtral 3 speech models and voice agent SDKMistral、音声エージェントSDK「Voxtral 3」公開
1 linked site関連1サイト
Anthropic opens Claude Duet preview on waitlistAnthropic、Claude Duetの先行体験開始
19 linked sites関連19サイト