VB.NET双精度数保留三位小数输出到RichTextBox时报转换错误如何解决
报错原因
DataGridView单元格的Value属性是Object类型,本身只支持无参的ToString()方法,没有接收格式化字符串的重载。直接给它传"F3"作为参数调用时,编译器匹配不到对应方法,会错误尝试把字符串"F3"转为整数匹配其他不存在的方法重载,最终抛出类型转换异常。
解决步骤
- 先将单元格存储的值强制转换为
Double数值类型,再调用数值类型自带的、支持自定义格式的ToString("F3")方法。 - 字符串拼接统一使用VB标准的
&运算符,替代容易触发隐式类型冲突的+连接符,减少额外的转换错误。 - 如果需要严格截断为三位小数(而非默认的四舍五入规则),可以在格式化前对数值做取整处理,匹配精度要求。
可正常运行的代码示例:
For i = 0 To DataGridView3.Rows.Count - 2 ' 读取单元格值并转为Double类型 Dim cellVal1 As Double = Convert.ToDouble(DataGridView3.Rows(i).Cells(0).Value) Dim cellVal2 As Double = Convert.ToDouble(DataGridView3.Rows(i).Cells(1).Value) Dim cellVal3 As Double = Convert.ToDouble(DataGridView3.Rows(i).Cells(2).Value) ' 严格截断三位小数的处理,如需保留四舍五入规则可直接注释这段 cellVal1 = Math.Truncate(cellVal1 * 1000) / 1000 cellVal2 = Math.Truncate(cellVal2 * 1000) / 1000 cellVal3 = Math.Truncate(cellVal3 * 1000) / 1000 ' 格式化拼接内容输出到RichTextBox RichTextBox3.AppendText(Environment.NewLine & "K, " & (i + 1).ToString() & ", " & cellVal1.ToString("F3") & ", " & cellVal2.ToString("F3") & ", " & cellVal3.ToString("F3")) Next
注意:如果单元格可能存在空值、非数值内容,建议用Double.TryParse替代Convert.ToDouble做容错,给异常值设置默认值,避免运行时再次触发类型转换错误。
内容的提问来源于stack exchange,提问作者Chimerabit
相关产品推荐
相关产品推荐

