ローカルAIをmini PC(Aoostar AMD Ryzen 7 8845HS 32GB-DDR5)に載せてみた。
Arch LinuxのAURでlmstudio-binをインストールし、Developmentから実行。
google/gemma-4-e2bをダウンロードして、chatしてみた。日本語でも問題ないスピードで会話できる。ただし、具体的な話になると内容がない。google/gemma-4-12bになると返事の内容が濃くなるが、thinkingが長いので繰り返し質問して内容を深めていく気にはならない。
この構成でローカルAIは実用的ではない。
AMD用の生成AI”amuse v3.5.2”を導入してみた。Windows 11で使ったが、Image(512×512)なら快適な速度で動くが、Videoなどはエラーになって動かなかった。また、Pythonの仮想環境はフリーズと思うほど時間がかかった。
最初にmodelをLoadしないと、Promptが入力できず焦がった。A-Zovya Photorealだとイラスト風の絵が簡単にできてうれしい。
UEFI SettingからVRAMの割り当てを変更できるが、あまり大きな差はなかった。
DELキーで起動して、Advanced、AMD CBS、NBIO Common Options、GFX Configuratuion
iGPU Configuration-UMA-Specified, UMA Frame Buffer Size 8GBで変更できる。
autoのときのUMAは512MBのようだった。
コメント