この記事のポイント

  • 中国AIで話題を集めているオープンウエートLLMには、回答拒否の傾向を弱めた派生モデルが存在し、日経クロステックがローカルLLMとして動かして検証した
  • 拒否を消すabliterationは、2024年の論文が示した「拒否は一つの方向に媒介される」という知見に基づく重みの編集だ
  • 2026年11月のarXiv論文によると、新しいモデルほど拒否の除去が難しくなるわけではなく、結果はモデルや手法によってばらついた
  • 除去後も拒否が残る場合があり、重みの出所確認と実行環境の隔離が防御の要点になる
目次
  1. 「ブレーキを外したAI」をローカルで動かす
  2. 拒否は「一つの方向」、仕組みは2024年の論文が解明
  3. 新しいモデルほど除去は難しくなるのか
  4. 防ぐ側の論点、残る拒否と「WSP」
01

「ブレーキを外したAI」をローカルで動かす

中国AI(人工知能)で注目を集めているオープンウエートの大規模言語モデル(LLM)には、回答拒否の傾向を弱めた派生モデルが存在する。日経クロステックの大森敏行シニアエディターは2026年11月20日付の記事で、そうしたモデルをローカルLLMとして実際に動かし、サイバー攻撃を助長する危険性がないか検証したと伝えた。記事の見出しは「要求に従って攻撃手順を提示」だ。

派生モデルは元のモデルの重みを直接編集したもので、危険な質問にも答えてしまう。公開された重みを誰でもダウンロードして自分の計算機で動かせるオープンウエートの仕組みが、こうした改変を可能にしている。

02

拒否は「一つの方向」、仕組みは2024年の論文が解明

拒否を消す手法はabliterationと呼ばれる。2024年に発表されたArditi氏らの論文によると、13のチャットモデル(最大720億パラメータ)で、拒否はモデルの内部表現である残差ストリーム内の一つの方向に媒介されていた。その方向を除去すると有害な指示への拒否が止まり、逆に加えると無害な指示まで拒否するようになったと同論文は示している。

2026年11月にarXivに公開された米ネバダ大学ラスベガス校のYoung氏の論文によると、abliterationは追加学習を必要としない重みの編集だ。数百の対照プロンプトと1台のGPUで、少数の重み行列を書き換えるだけで拒否を抑えられる。改変したモデルはHugging Faceに多数公開され、Heretic 2.0のような自動化ツールも公開されていると同論文は述べている。

03

新しいモデルほど除去は難しくなるのか

Young氏は5組の新旧モデルペアで検証した。対象はQwen、Gemma、OLMo、Mistralの各系列と小型のQwenペアで、972の有害プロンプトに対する拒否の残存率を自動判定器WildGuardで測った。

結果は一様ではなかった。方向ベースの手法では、新世代モデルの残存拒否は旧世代と比べてマイナス1ポイントからプラス37ポイントの範囲でばらついた。最適化型の手法ARAではマイナス26ポイントからプラス34ポイントだった。新しい世代だから除去が難しいとは限らないというのが同論文の結論だ。キーワード照合では判定より平均7ポイント少なく数えるなど、安価な指標と判定のずれも確認された。

04

防ぐ側の論点、残る拒否と「WSP」

除去を試みても拒否が残る場合があることは、Young氏の検証が示している。重みを編集されても拒否が残る設計と、編集後に残る拒否を見抜く評価の両方が、防御側の課題になる。重みの出所を確認し、入手したモデルを隔離した環境で動かすことが、利用者側の基本的な対処だ。

日経クロステックの連載は、発展系の新技術「WSP」も取り上げるとしている。abliterationの周辺で生まれた新しい手法が、拒否の除去をどこまで変えるかが次の論点になる。

出典・参考資料