0
点赞
收藏
分享

微信扫一扫

C#decimal数据类型——有效长度问题

先峰老师 2022-02-07 阅读 69


C#decimal整数部分有效长度

通过累计数字做数据容纳量测试:

从1累加到一百万亿测试:


//累计数据
//1++++++100=5050
//1+++++++100000000000000(一百万亿)
//(n+1)*n/2


//C#处理数据长度,最长29位
decimal n = decimal.Parse("100000000000000");//一百万亿
decimal one=decimal.Parse("1");
decimal two=decimal.Parse("2");
decimal v = (n + one) * n / two;
Console.WriteLine(v);
Console.WriteLine(v.ToString().Length);

C#decimal数据类型——有效长度问题_c#

从1累加到一千万亿测试:

decimal n = decimal.Parse("1000000000000000");//一千万亿
decimal one=decimal.Parse("1");
decimal two=decimal.Parse("2");
decimal v = (n + one) * n / two;
Console.WriteLine(v);
Console.WriteLine(v.ToString().Length);

异常如下:

C#decimal数据类型——有效长度问题_数据_02

基础长度测试:

//C#处理数据长度,最长29位
string len = "100000000000000000000000000000";
Console.WriteLine(decimal.Parse(len));
Console.WriteLine("最大长度:"+ len.Length);

 C#decimal数据类型——有效长度问题_数据_03

长度30的时候就会报错异常。


举报

相关推荐

0 条评论