本文由大发娱乐整理发布:
快科技10月24日消息,据报道,GitHub开发者Zagitta近日发布了一个名为gpu-unlock的开源项目,能够解锁部分NVIDIA RTX 30系列显卡在Tensor Core矩阵计算中的吞吐限制,让老显卡释放出被隐藏的AI算力,免费获得接近一倍的AI算力提升。
受影响的主要是采用Ampere架构GA102和GA104核心的显卡,包括RTX 3090、3080、3070等型号。
开发者发现,这些显卡在执行FP16和BF16精度的Tensor Core运算时,指令发射速率被人为限制在专业卡的大约一半水平。
需要指出的是,解锁并非超频,也没有增加任何计算单元,而是通过修改硬件速度选择寄存器,移除了这道吞吐限制。
实测数据相当可观。
据社区用户提交的报告,RTX 3090的BF16矩阵乘法性能从77.
5 TFLOPS提升至129.
6 TFLOPS,涨幅约67%。
RTX 3090 Ti的BF16吞吐量从87.
5 TFLOPS跃升至157.
4 TFLOPS,提升接近80%。
一位用户使用PyTorch在360W功耗上限下测得,RTX 3090的计算吞吐率从75 TFLOPS提升至135 TFLOPS。
不过这项解锁并非万能。
它不会提升游戏帧率,DLSS相关渲染也没有经过验证的性能改善。
在本地大模型推理中,16K长提示词处理速度提升约16%,但token生成速度基本没有变化。
目前项目以Linux版本为主,Windows版需要借助UEFI启动程序在驱动加载前完成解锁,操作门槛较高,且涉及底层硬件寄存器修改,存在兼容性风险,不建议在主力电脑上尝试。
特别
更多体育热点,关注大发娱乐。
发表评论