據(jù)昆侖萬維消息，6月3日，昆侖萬維宣布開源2千億稀疏大模型Skywork-MoE，性能強(qiáng)勁，同時(shí)推理成本更低。Skywork-MoE基于之前昆侖萬維開源的Skywork-13B模型中間checkpoint擴(kuò)展而來，是首個(gè)完整將MoE Upcycling技術(shù)應(yīng)用并落地的開源千億MoE大模型，也是首個(gè)支持用單臺4090服務(wù)器推理的開源千億MoE大模型。（泰伯網(wǎng)綜合）