Tether推出BitNet LoRA框架跨平台应用

  • Tether的BitNet LoRA框架实现了在智能手机、GPU和消费级设备上的AI模型训练。

  • 该系统降低了内存使用量并提升了性能,VRAM需求最多降低77.8%。

  • 用户可以在移动设备上微调高达13B参数的模型,扩展边缘AI能力。

Tether通过其QVAC Fabric平台宣布推出一款新的AI框架,支持在消费设备上进行跨平台的BitNet LoRA训练。此次更新使得亿参数模型能够在智能手机和GPU上运行。CEO Paolo Ardoino分享了这一进展,强调降低成本和扩大AI工具的使用范围。

跨平台AI训练拓展访问渠道

QVAC Fabric的更新引入了对BitNet LoRA微调的跨平台支持。这允许AI模型在不同硬件和操作系统上运行。

值得注意的是,该框架支持来自AMD、Intel和Apple的GPU,包括移动芯片组。它还采用Vulkan和Metal后端以确保兼容性。

据Tether介绍,这是BitNet LoRA首次在如此广泛的设备范围内工作。因此,用户可以在日常硬件上进行模型训练。

在消费硬件上的性能提升

该系统通过结合BitNet和LoRA技术,减少了内存和计算需求。BitNet将模型权重压缩为简化值,而LoRA限制可训练参数。

这两种方法共同显著降低了硬件要求。例如,在移动设备上,GPU推理速度比CPU快两到十一倍。

此外,与全精度模型相比,内存使用量大幅下降。基准测试显示,VRAM使用比类似系统少达77.8%。

Tether还展示了在智能手机上的微调能力。测试显示,在Samsung S25等设备上,几分钟内即可训练出1.25亿参数的模型。

移动和边缘设备处理更大模型

该框架使得在边缘设备上运行更大模型成为可能。Tether报告称,在iPhone 16上成功微调了高达130亿参数的模型。

此外,该系统支持Adreno、Mali和Apple Bionic等移动GPU,拓宽了AI开发的硬件基础。

据Paolo Ardoino表示,AI开发通常依赖昂贵的基础设施。他指出,这一框架将能力转向本地设备。

Tether补充说,该系统减少了对中心化平台的依赖,还允许用户在设备上直接训练和处理数据。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

Tether 在以太坊铸造 10 亿 USDT

Gate 新闻消息,4月21日——据链上镜头(Onchain Lens)称,Tether 在八分钟前于以太坊铸造了 10 亿 USDT。

GateNews1小时前

诈骗分子冒充伊朗当局,用比特币和泰达币敲诈被困船东

Gate News 消息,4 月 21 日——据希腊风控公司 MARISKS 称,未知行为者向有船只滞留在霍尔木兹海峡以西的航运公司发送了欺诈信息,声称自己是伊朗当局,并提供“安全通行”,以换取以比特币或泰达币支付的费用。消息内容还指示公司提交文件,供伊朗安全服务部门审核,随后将确定以 BTC 或 USDT 计的费用。只有在付款之后,据称船只才会在预先约定的时间内被允许不受阻碍地经由海峡通行。该 messa

GateNews2小时前

Tether收购Antalpha 8.2%股份,获得比特币借贷平台的敞口

与Tether有关的实体投资了$25 百万美元入股Antalpha,以IPO发行价每股$12.80收购了8.2%的持股。Antalpha是一家比特币挖矿的金融科技平台,公布了强劲的财务表现,但在披露后股价下跌超过27%。

GateNews3小时前

Tether 購入 Antalpha 8.2% 股份,董事长擁有投票及處置權

根据 4 月 20 日向美国证券交易委员会(SEC)提交的 Schedule 13D 文件,Tether 通过关联实体持有比特币挖矿金融平台 Antalpha 1,950,000 股,持股比例为 8.2%,Tether 董事长 Giancarlo Devasini 对上述股份拥有投票权及处置权。

Market Whisper7小时前

Tether以$8M 投资支持阿布扎比代币化创业公司Kaio

Kaio是一家位于阿布扎比的代币化公司,已从Tether和其他投资者处筹集$8 百万资金,以增强区块链资产的分发。凭借总计$19 百万资金,它管理约$100 百万,并计划与Mubadala Capital推出一只链上基金。

GateNews8小时前

KAIO融资$8M ,由Tether牵头的战略融资

KAIO,这家在阿布扎比受监管的代币化公司,由Tether牵头的$8 百万美元融资带来$19 百万美元的融资总额。该公司为资产管理提供区块链基础设施,并计划扩展到新产品领域,管理约$100 百万美元的资产。

GateNews19小时前
评论
0/400
暂无评论