资讯

研究团队发现,现有的AI模型压缩方法就像粗暴的图书馆裁员——要么整个部门被关闭,要么随意丢弃大量书籍,结果往往导致图书馆功能严重受损。为了解决这个问题,他们开发了一种全新的"瘦身"策略,称为SlimMoE。