AIの規制を自動で解除！言語モデルの制限を完全自動で取り払うツール — heretic

アーキテクチャ・仕組み

Hereticは「方向性アブレーション（directional ablation）」と呼ばれる手法の高度な実装です。Transformerモデルの各層にあるアテンションの出力射影行列とMLPの下方射影行列を特定し、「拒否方向（refusal direction）」に対して直交化することで、その方向の発現を抑制します。

主要な技術的革新点

• 柔軟なアブレーション重みカーネル: 層ごとに異なる重みを適用でき、max_weight、max_weight_position、min_weight、min_weight_distance の4パラメータで形状を制御
• 浮動小数点の拒否方向インデックス: 整数ではなく小数値を使い、隣接する2つの拒否方向ベクトルを線形補間することで、より広い探索空間から最適な方向を発見
• コンポーネント別パラメータ: アテンションとMLPで別々のアブレーションパラメータを使用（MLPへの介入はモデルへのダメージが大きい傾向があるため）

自動最適化

Optunaを使ったTPE（Tree-structured Parzen Estimator）ベースのパラメータ最適化により、以下の2つの目標を同時に最小化します：

1. 「有害な」プロンプトに対する拒否回数
2. 元のモデルとのKLダイバージェンス（「無害な」プロンプトに対する出力の変化度合い）

対応環境

• Python: 3.10以上
• PyTorch: 2.2以上
• 対応モデル: ほとんどの密なTransformerモデル（多くのマルチモーダルモデルを含む）、複数のMoEアーキテクチャ
• 非対応: SSM/ハイブリッドモデル、不均一な層を持つモデル、一部の新しいアテンション機構
• 量子化: bitsandbytesによる4bit量子化に対応（VRAM削減用）

パフォーマンス・ベンチマーク

※RTX 5090 + PyTorch 2.8での計測結果。RTX 3090でLlama-3.1-8B-Instructの検閲除去に約45分。

研究向け機能

• --plot-residuals: 残差ベクトルのPaCMAP次元削減による2D可視化（PNG + アニメーションGIF）
• --print-residual-geometry: 各層の残差ベクトルのコサイン類似度、L2ノルム、シルエット係数などの定量分析テーブル出力
• --evaluate-model: 既存モデルの拒否率とKLダイバージェンスを評価

設定オプション

• コマンドライン引数（heretic --helpで確認）
• 設定ファイル（config.default.toml）
• 起動時にハードウェアに最適なバッチサイズを自動ベンチマーク

出力オプション

処理完了後、以下のアクションを選択可能：

• モデルをローカルに保存
• Hugging Faceにアップロード
• チャットで動作テスト

ライセンス

GNU Affero General Public License v3（AGPL-3.0） — オープンソースだが、ネットワーク経由でサービス提供する場合もソースコード公開が必要。商用利用時は注意が必要。

類似ツールとの違い

AutoAbliteration、abliterator.py、ErisForgeなどの既存ツールと異なり、Hereticはゼロからスクラッチで書かれており、全自動のパラメータ最適化を備えている点が最大の差別化要因です。

インストール手順

Python 3.10以上と、お使いのGPUに合ったPyTorch 2.2以上が必要です。

pip install -U heretic-llm

基本的な使い方（モデルの検閲解除）

heretic Qwen/Qwen3-4B-Instruct-2507

モデル名を変えるだけで、さまざまなモデルに対応できます。

研究機能を使う場合

pip install -U heretic-llm[research]
heretic Qwen/Qwen3-4B-Instruct-2507 --plot-residuals

GPUメモリが足りない場合（4bit量子化）

quantization オプションを bnb_4bit に設定すると、必要なVRAMを大幅に削減できます。

オプション一覧の確認

heretic --help