微软打造了一款13亿参数的语言模型phi-1

2023-06-27 • IT资讯

微软日前最近发布了一款13亿参数的语言模型phi-1，采用“教科书等级”的高品质资料集训练而成，据称“实际效果胜于千亿参数的GPT3.5”。微软团队表示，比起增加模型的参数量，通过提高模型的训练数据集质量，也许更能强化模型的准确率和效率，于是，他们利用高质量数据训练出了phi-1模型。在测试中，phi-1的分数达到50.6%，比起1750亿参数的GPT-3.5（47%）还要好。