投機的デコード

空間知能ベンチマークの再設計・投機的デコードの高速化・エッジ推論の最前線

空間認識評価の欠陥を修正するReVSIから、ブロック拡散モデルを利用したDFlash、エッジデバイス向け三値LLM推論のBitnet.cppまで、実用的な高速化・評価改善研究が相次いで発表された。