「ローカルLLM」の記事
「ローカルLLM」タグの記事一覧。PyTorch MPS の強化など、手元のマシン上で LLM を学習・実行するためのライブラリやハードウェア最適化の更新を、一次情報の出典つきで解説します。クラウドに送らずローカル実行に関心がある開発者に役立つ情報を掲載します。
関連タグ
PyTorch 2.15のMPSバックエンド強化とは？FP8対応とMoEデコード高速化を一次情報で解説（2026年10月20日）
PyTorch 2.15 の MPS バックエンド強化は、Apple Silicon（Mac）で FP8（torch.float8_e4m3fn）が使えるようになった更新です。MoE モデルのデコードが 5〜6.5 倍速くなり、動画 VAE デコードのメモリ使用量は 270 GiB から 8 GiB に減りました。必要要件と試し方を一次情報で解説します。