前回の記事では、私がローカルLLMに興味を持った理由を書きました。
今回は、実際にOllamaをインストールした時の話です。
正直に言うと、かなり不安でした。
ターミナルは以前に少し触ったことはありました。
とはいえ、ほぼ初心者です。
黒い画面を見るだけで、
「何か間違えたらMacが壊れるんじゃないか？」
そんなイメージがありました。
それでも思い切ってOllamaをインストールしました。
実際にやってみると、思ったより簡単でした。
難しい設定もなく、比較的スムーズに進みます。
私が実際に使ったコマンド
Ollamaをインストールした後、ターミナルを開いてAIモデルをダウンロードしました。
私が使ったのはQwen3.6 27Bです。
以下のコマンドを入力しました。
ollama run qwen3:27bこのコマンドを実行すると、モデルがまだインストールされていない場合は自動でダウンロードが始まります。
初心者の私は、
「本当にこれでいいの？」
と思いながら見守っていました。
AIモデルのダウンロードが始まる
ターミナルには進捗状況が表示されます。
データが少しずつダウンロードされていく様子を見ながら、
「ちゃんと動いてるみたいだ」
と少し安心したのを覚えています。
しばらく待つとダウンロードが完了しました。
初めてAIを起動した
モデルのダウンロードが終わると、そのままAIが起動します。
もし後から起動する場合は同じコマンドを入力します。
ollama run qwen3:27b
私が最初に入力した言葉は、
「こんにちは」
でした。
とてもシンプルです。
突然流れ始めた謎の文字列
すると突然、画面に文字がどんどん流れ始めたのです。
私は一瞬固まりました。
「え？」
「壊れた？」
「何か失敗した？」
正直かなり焦りました。
AIの返答を待っているだけなのに、見慣れない文字列が次々と表示されていました。
私は怖くなって、そのままターミナルを終了してしまいました。
今思えばかなり初心者らしい反応ですが、その時は本気で焦っていました。
壊れていたわけではなかった
後からネットで調べてたら、それは正常な動作でした。
AIが考えている過程を表示していただけでした。
壊れたわけでも、エラーでもありませんでした。
ほっとして、もう一度起動して「こんにちは」と入力。
ついにAIから返事が来た
今度は慌てずに待ってみます。
すると、ちゃんとAIが返事をしてくれました。
返ってきたのは「こんにちは」という短い返事でした。
でも、その時は妙に感動したのを覚えています。
「本当に自分のパソコンでAIが動いているんだ」
そう実感した瞬間でした。
Ollamaデスクトップアプリはさらに使いやすかった
その後、Ollamaのデスクトップアプリも使ってみました。
こちらはChatGPTのような感覚で使えます。
ターミナルの黒い画面を見ながら使うより、ずっと気軽に使えました。
モデルの切り替えも簡単です。
初心者の私には、とても使いやすく感じました。
こうして私は、無事にローカルLLMを動かすことができました。
最初は不安だらけでしたが、無事に動いた時は本当にホッとしました。
ただ、次の悩みがすぐに出てきます。
Qwen？
Gemma？
結局どのAIモデルを選べばいいのだろう。
次回予告
次回は、実際に複数のAIモデルを試してみた感想を書こうと思います。
QwenやGemmaなど、初心者の私が感じた違いを正直にお伝えします。
コメント