ローカルLLM導入

AI Tips

LLM Studioについて†

https://lmstudio.ai/ からWindows版をダウンロード・インストール
起動後、左サイドバーの 検索（虫眼鏡アイコン） からモデルを検索

モデルについて†

GPD Win4は以下がよさそう

• コード生成 Qwen3.8-27B Q8_0
  Qwen3-Coder-30B-A3B
  

• 文書生成 G9v3-39A5B(GGUFがみつからない)
  Muse Glimmer 30B Q8_0
  
  RTX5080
  Qwen3.8-27B Q4_K_M
  Muse Glimmer Q4_K_M
  

インストールしたら検索欄からダウンロードしたいモデルで検索してダウンロード
Muse GlimmerとQwen3.8はドラフト版(高速化)があるので一緒にダウンロードしておくこと

Windows

Windows Tips

Software Tips

Programming Tips

初期セットアップ Tips

Linux

Linux Tips

Software Tips

Programming Tips

macOS

macOS Tips

Software Tips

Programming Tips

Android

Android Tips

Software Tips

Programming Tips

Synology

Synology Tips

AI

AI Tips

総計:67

今日:2

昨日:0

最新の20件

edit