Terra Quantum基于受量子启发的张量网络推出大语言模型压缩算法

量子技术公司Terra Quantum昨日推出了一种能缩小大语言模型的压缩算法:TQCompressor。与其他压缩方法相比,他们的这种压缩技术能显著减少目标任务进行预训练所需的数据集大小。他们研究表明,这种受量子启发的张量网络方法能将GPT-2 small模型的参数量减少35%,可以显著降低大语言模型的能源和计算成本。

WWW.QTC.COM.CN

量科快讯