Ablate

理解并衡量开源大语言模型的拒绝行为。

Ablate 是一款面向开源大语言模型的"方向消融"（abliteration）工具包，能够自动识别并移除模型在残差流中的拒绝方向，从而实现审查/拒绝行为的可解释化与可测量化。它内置 KL 引导搜索与 LLM 评判测试框架，并支持一键推送至 HuggingFace Hub，让研究者和开发者可以快速复现并对比不同模型的拒答表现。