DeepSeek推出NSA,用于超快速的長(zhǎng)上下文訓(xùn)練和推理
鈦媒體App 2月18日消息,DeepSeek稱,NSA是一種與硬件一致且本機(jī)可訓(xùn)練的稀疏注意力機(jī)制,用于超快速的長(zhǎng)上下文訓(xùn)練和推理。通過針對(duì)現(xiàn)代硬件的優(yōu)化設(shè)計(jì),NSA加快了推理速度,同時(shí)降低了預(yù)訓(xùn)練成本,而不會(huì)影響性能。在一般基準(zhǔn)測(cè)試、長(zhǎng)上下文任務(wù)和基于指令的推理上,它的表現(xiàn)與完全注意力模型相當(dāng)甚至更好。
本文內(nèi)容僅供參考,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求,請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論
這意思是訓(xùn)練的機(jī)器成本再降低一點(diǎn)?普通機(jī)器也能玩?