🦄九游下载中心_九游游戏中心官网这款模子主打“预计解码”才智-九游下载中心_九游游戏中心官网

IT之家 9 月 29 日音讯，AMD在 Huggingface平台公布了自家首款“小讲话模子”AMD-Llama-135m，该模子具有预计解码功能，领有6700亿个token，袭取 Apache 2.0开源许可，IT之家附模子地址如下（点此探听）。

据先容，这款模子主打“预计解码”才智，其基答应趣是使用微型草稿模子生成一组候选token，然后由更大的办法模子进行考证。这种体式允许每次前向传递生成多个token，而不会影响性能，从而显贵减少 RAM 占用，兑现成果晋升。

AMD暗示，这款模子在四个AMD Instinct MI250节点锤真金不怕火了六天，其“编程专用版块”变体AMD-Llama-135m-code则特别摧毁了四天工夫进行微调。