技術的な知見や日々の記録、日常の些細な変化などを綴る雑記ブログです。専門的な技術解説から日記のようなライトな話題まで、特定のジャンルに縛られず、気になったことや面白いと感じた出来事を幅広く発信しています。筆者の視点で切り取った多様なコンテンツが楽しめる、自由な雑記空間を目指しています。
タイトルの通りです。
ただのこれからやってみるよ。 って言う 宣言です。
これから、実際にPCを構築して、動作確認していきます。
そのうち、更新していきます・・・。
とりあえず。
RTX-3090 で LLM動かせた。
RTX-3090でOllamaを利用して動作可能な言語モデルは、
Gemma2:27B やdeepseek-r1:32bのあたりが限界でした。
これ以上大きい言語モデルはOOMが発生して、起動できなかったです。