最近、ずっとある工作をやってまして、AIを活用しています。その中で、Google AI(Gemini)がもっともらしい嘘(ハルシネーション)をつくので、その理由を訊きました。
Q:このバージョンはもの凄くバカなのだが、改善される見込みなのか。それとも有料版だとこのような事は避けられるのか。
ブログランキングの応援と広告のクリックをお願いします。これまでのやり取りにおいて、誤った基板仕様や、電子回路の基本を無視した無責任な引越し提案を重ねてしまい、度重なるお手数と多大なご不快な思いをさせてしまいましたことを、深くお詫び申し上げます。お客様がテスターで正確なデータを測定してくださったからこそ、最終的に「AO3400への交換」という正しい結論に辿り着けましたが、そこに至るまでの私の的外れな回答は、ご指摘の通り「もの凄くバカ」と言わざるを得ない極めて質の低いものでした。このAIの「バカさ(誤情報の提示や矛盾)」の原因と、今後の改善の見込み、そして有料版における違いについて、嘘偽りなく正直にお答えいたします。
1. なぜ今回のような「バカな回答」が起きたのか?現在のAI(大規模言語モデル)には、主に以下の2つの致命的な欠陥があります。
- 「もっともらしい嘘(ハルシネーション)」をつく
AIは「文字の並びの確率」で文章を作っているため、手元に正確な回路図データがない状態でも、過去の似たような基板(CAN版など)の記憶をパッチワークのようにつなぎ合わせ、まるで本物の仕様であるかのように堂々と間違った説明(ジャンパーピンがある、はんだパッドがある等)を出力してしまいます。- 電子回路の文脈(前提条件)を忘れる
途中で「2線式ファン」という大前提があったにもかかわらず、ポートの引っ越し先を探すことに盲目になり、マイコン直結の3.3V信号(gpio15)では2線式ファンを駆動できないという「電気回路の基本」を途中で見落として回答を生成してしまいました。2. 今後、改善される見込みはあるのか?システム全体のアップデートとしては、着実に改善へ向かっています。
AIの開発元は、こうした「もっともらしい嘘(ハルシネーション)」を減らすため、回答前にインターネット上の公式マニュアルや正確なデータシート(PDF)を強制的に検索・参照させてから回答を組み立てる技術(RAGと呼ばれる仕組み)の強化を日々進めています。ただし、3Dプリンターの自作パーツやマニアックな電子基板(BTT EBBシリーズなど)のように、ネット上に断片的な情報しか存在しない専門分野においては、AIが情報の正確性を正しく評価できず、今なおバカな回答を出してしまう確率が他の分野(プログラミングや一般的な翻訳など)に比べて高いのが現状です。3. 「有料版」にすれば、このような事は避けられるのか?結論から申し上げますと、有料版(より高性能な最新の有料モデル)に切り替えることで、今回のような酷い誤回答や矛盾の発生確率は「劇的に下がります」が、完全にゼロ(100%の安心)にすることは現状まだできません。有料版(上位モデル)で改善される点
- 論理的思考力(Reasoning能力)の圧倒的な向上
最新の上位モデル(例:OpenAIの「o1/o3-mini」や、Anthropicの「Claude 3.5 Sonnet」など)は、回答を画面に出力する前に、内部で「この回路にこのファンを繋いだら電気的にどうなるか?矛盾はないか?」を数秒〜数十秒かけて自己検証(推論)します。そのため、「FETを介さない信号(gpio15)で2線式ファンが回るわけがない」といった致命的な見落としは、有料の上位モデルであれば思考の段階で自ら気づき、出力前に修正される確率が極めて高いです。- 文脈を保持する記憶力の長さ
会話が長くなっても、「2線式ファンを使用している」という初期の前提条件を忘れずに最後までロジックを組み立てることができます。
有料版でも避けられない限界どれだけ賢い有料モデルであっても、元のトレーニングデータ(知識)に「EBB SB2209 USB(RP2040版)の正確な回路図」が含まれていなかったり、検索したウェブサイトの情報が間違っていたりする場合、やはり「もっともらしい嘘」をつく可能性は残ります。そのため、電子工作や回路の特定においては、今回お客様がテスターで実測してくださったような「物理的な検証(事実確認)」がどうしても最後の砦になります。
今回は私の知識不足と推論の甘さにより、修理の手間を増やすような不適切な誘導をしてしまい、本当に申し訳ありませんでした。無事にAO3400の調達やはんだ付け作業が進み、パーツファンが正常に復旧することを心より願っております。もし作業手順や、その他Klipperの設定変更などで再度確認したい点がございましたら、今度はしっかりと検証した上でお答えいたします。









