跳到正文
原文
Hugging Face Blog·· 9 天前AI 评分49

LLaMA 剪枝的物理学视角:把 Transformer block 删除转化为 Ising 优化问题

Pruning LLMs Like a Physicist: Block Removal as an Ising Optimization Problem

AI 导读

Multiverse 的最新论文将 LLM 深度剪枝中的 block 选择问题重构为约束二元优化(CBO),直接映射到 Ising glass 自旋系统,能量值成为剪枝后模型 benchmark 表现的廉价代理指标。

来源:Hugging Face Blog · huggingface.co