❖生成AIを利用する際の注意点
——Claudeからの論点追加26/03/13
▍検索しても安全にはならない
RAG(検索拡張生成)を導入してもハルシネーションは完全排除できない。検索結果が誤っていれば誤りを増幅。取得文書をAIが無視して「思い込み」を優先するパターンも報告されている。「検索した=正確」という誤解が最も危険。
▍自信の強さは正確性と無関係
AIは流暢で確信に満ちた文章を生成するほど学習されている。断定的な口調・豊富な引用・整然とした構成——これらはすべて「正確さの証拠」ではなく「学習データの統計的圧力の産物」。レーティングの「目標株価」と同型の権威演出。
▍文脈の圧力に弱い
AIはユーザーが求めているらしい方向へ回答を誘導されやすい。「〇〇は上がると思うか」と聞けば肯定的な材料を探し、「〇〇は下がると思うか」と聞けば否定的な材料を探す。質問の設計がAIの出力の質を決定する。
▍「AIを使った」は免責にならない
香港では生成AI悪用のディープフェイク詐欺で38億円の被害が発生。社内文書にAI出力の存在しない統計を記載した事例も多発。意思決定の最終責任は人間にある。AIは「思考の補助」であり「判断の代替」ではない。