FP32 是单精度浮点数,用8bit 表示指数,23bit 表示小数;FP16半精度浮点数,用5bit 表示指数,10bit 表示小数;BF16是对FP32单精度浮点数截断数据,即用8bit 表示指数,7bit 表示小数。 在数据表示范围上,FP32和BF16 表示的整数范围是一样的,小数部分表示不一样,存在舍入误差;FP32和FP16 表示的数据范围不一...
lora训练fp16和bf16区别 10 2 3 分享 举报发布时间:2024-11-22 18:52编程知识导航 粉丝861获赞5539 关注 相关视频 00:49 麒麟9010加入ai功能 #华为手机 #华为pure70 #麒麟9010芯片 #pure70ultra首发麒麟9010 #资讯 182小李爱吃饭 06:22 Flux大总结:5大模型fp16、fp8kijia、fp8org、nf4、gguf,3大插件...