SELECT CONVERT(NUMERIC(38,10), 1.0/3.0)
--0.3333330000
SELECT CONVERT(REAL,1.0/3)
--0.333333
SELECT CAST(CAST(1 AS DECIMAL)/CAST(3 AS DECIMAL) AS DECIMAL(18,6))
--0.333333
SQL的服务器属性这我看了，是初始状态的38位
请教还有哪里有相应的设置还是我的计算方式不对？
-
等级
本版专家分：309结帖率 100% -
现在遇到一个问题，简单的计算1/3，不管怎么设置运算后的结果只有6位有效的结果，如果我现在需要保存8位10位，这怎么设置，是不是SQL的运算环境有相应的配置
SQL的服务器属性这我看了，是初始状态的38位
请教还有哪里有相应的设置还是我的计算方式不对？展开阅读全文
-
等级
本版专家分：209598勋章
-
- 签到新秀 累计签到获取，不积跬步，无以至千里，继续坚持！
-
-
银牌
2016年8月 总版技术专家分月排行榜第二
2011年11月 总版技术专家分月排行榜第二
-
-
优秀版主
2016年10月优秀大版主
2016年8月论坛优秀版主
2015年4月优秀版主
2014年11月论坛优秀版主
-
-
微软MVP
2016年4月 荣获微软MVP称号
2015年4月 荣获微软MVP称号
2014年4月 荣获微软MVP称号
2013年4月 荣获微软MVP称号
2009年1月 荣获微软MVP称号
2012年4月 荣获微软MVP称号
2011年4月 荣获微软MVP称号
2010年4月 荣获微软MVP称号
-
-
等级
本版专家分：309
-
谢谢大板这么晚的回复，看这小数位取的最大是6位，有什么设置能让这个小数位超过6位吗？
-
等级
本版专家分：209598勋章
-
- 签到新秀 累计签到获取，不积跬步，无以至千里，继续坚持！
-
-
银牌
2016年8月 总版技术专家分月排行榜第二
2011年11月 总版技术专家分月排行榜第二
-
-
优秀版主
2016年10月优秀大版主
2016年8月论坛优秀版主
2015年4月优秀版主
2014年11月论坛优秀版主
-
-
微软MVP
2016年4月 荣获微软MVP称号
2015年4月 荣获微软MVP称号
2014年4月 荣获微软MVP称号
2013年4月 荣获微软MVP称号
2009年1月 荣获微软MVP称号
2012年4月 荣获微软MVP称号
2011年4月 荣获微软MVP称号
2010年4月 荣获微软MVP称号
-
-
SELECT CONVERT(NUMERIC(38,10),
CAST(1.0 AS decimal(18,8))
/3.0)
--只能这样处理，在除时先转换
-
等级
本版专家分：309
-
感谢感谢！
-
等级
本版专家分：209598勋章
-
- 签到新秀 累计签到获取，不积跬步，无以至千里，继续坚持！
-
-
银牌
2016年8月 总版技术专家分月排行榜第二
2011年11月 总版技术专家分月排行榜第二
-
-
优秀版主
2016年10月优秀大版主
2016年8月论坛优秀版主
2015年4月优秀版主
2014年11月论坛优秀版主
-
-
微软MVP
2016年4月 荣获微软MVP称号
2015年4月 荣获微软MVP称号
2014年4月 荣获微软MVP称号
2013年4月 荣获微软MVP称号
2009年1月 荣获微软MVP称号
2012年4月 荣获微软MVP称号
2011年4月 荣获微软MVP称号
2010年4月 荣获微软MVP称号
-
-
SELECT CONVERT(NUMERIC(38,10), 1.0/CAST(3.0 AS NUMERIC(38,10)))
--只能这样处理，在除数先转换
- python保存两位小数的几种方法
python保存两位小数的几种方法文章目录：一、保留两位小数 且 做四舍五入处理1、使用字符串格式化2、使用python内置的round() 函数3、使用python内置的decimal模块二、保留两位小数 且 不做四舍五入处理1、使用序列...
- Matlab怎么修改显示数值格式/精度/小数位数
如图，matlab命令窗口中显示的数值默认只是4位小数，最后一位采用四舍五入。 在计算中精度要求可能会更高，如果要修改显示的小数位数，需要操作一下，matlab2013以前的版本的版本请看原文链接（最上方） format ...
- java保留两位小数
1.使用java类库中自带的DecimalFormat类，使数字输出结果保留2位小数 代码如下: 运行结果如下: 2. 输出结果为: String.format表示字符串的格式化 3.使用BigDecimal四舍五入方法 需要导入BigDecimal类:import ...
- (转)C++中保留小数位数的方法
...在C++中输出一个浮点数n，并保留指定的小数位数，...首先先把iomanip头文件包含进来，然后对浮点数n按下列操作输出(假设保留2位小数)： cout （以下来自百度百科） iomanip的作用: 主要是对c
- C++保留小数位数问题
首先 介绍主角： setprecision() 和 setiosflags() 这两个函数是头文件#include<iomanip>里的函数，记得加头文件#include&...且不保留小数后的0。比如： int pi = 3.14...
- ACMNO.12有一分数序列： 2/1 3/2 5/3 8/5 13/8 21/13...... 求出这个数列的前N项之和，保留两位小数。 输入...
有一分数序列： 2/1 3/2 5/3 8/5 13/8 21/13...... 求出这个数列的前N项之和，保留两位小数。 输入 N 输出 数列前N项和 样例输入 10 样例输出 16.48 来源/分类 C语言 题目截图： 思路： 看到这个题瞬间就有...
- 【C语言】将一个浮点数四舍五入保留两位小数
【C语言】将一个浮点数四舍五入保留两位小数 第一次做这个题目的时候，我用了一个比较傻的方法：利用强制类型转换可以得到该浮点数的整数部分，然后分别取出十分位、百分位、千分位上的数字，判断千分位上的数字是否...
- 使用for循环编写程序实现以下功能：计算1-1/3+1/5-1/7+...-1/99+......，结果保留2位小数。
**要求：**使用for循环编写程序实现以下功能：计算1-1/3+1/5-1/7+…-1/99+…。 **输入：**输入该表达式的项数...**输出：**计算结果保留2位小数。 n=eval(input()) sum=0 s=1 for i in range(1,n+1): sum+=s/(2...
- C语言计算1/1+1/2+1/3+…+1/n
只用注意一个问题，整数的除法结果是整数，所以要用浮点型来转换成小数 #include <stdio.h> int main() { int n; float sum = 0; scanf("%d", &n); for (int i = 1; i <= n; i++) { //printf...
- Python保留指定位数的小数
Python保留指定位数的小数1 ’%.2f’ %f 方法(推荐)2 format函数(推荐)3 round（）函数4 不进行四舍五入，直接进行截断 1 ’%.2f’ %f 方法(推荐) f = 1.23456 print('%.4f' % f) print('%.3f' % f) print('%....
- C#中保留浮点型小数位数问题
C# 保留2位小数 1.只要求保留N位不四舍5入 float f = 0.55555f; int i =(int)(f * 100); f = (float)(i*1.0)/100; 2.保留N位,四舍五入 . decimal d= decimal.Round(decimal.Parse( "0.55...
- 求1-1/2+2/3-3/5+5/8.。。。。。前20项的和，保留6位小数
个人博客网站：... #include <stdio.h> #include <math.h> int main(int argc, char *argv[]) ... int n,i,a=1,b=1,y=1; float sum=0; scanf("%d",&n); for(i=1;i<=n;i++...
- Impala笔记-保留小数位问题
Impala笔记-保留小数位问题问题描述一段代码(最终代码)问题分析总结 问题描述 开发给了一段impala sql，表示Round函数保留小数位数时失效了，结果不准确。 一段代码(最终代码) --需要使用Cast As Decimal Select m....
- Java截取2位小数 Math.round((1.0/3)*100)/100.0
Java截取2位小数 Math.round((1.0/3)*100)/100.0 ==0.33 Math.round((1.0/3)*1000)/1000.0 ==0.333 /** * 保留2位小数 * @param d * @return */ public double formatDouble2(double d) { ...
- 【C/C++】：如何获得一个float数的小数位数？
给出一个简单例子，给出a = 3.8766,如何获得a的小数位？ 正确的结果应该是4给出思路： 1，先分离出小数位 2，每次循环给小数位乘上10，如果一个数a是整数，那么就会满足 a - (int)a ==0;通过这种方式我们就能...
- C语言：求e的值。 e=1+1/1! +1/2! +1/3! ...+1/n!（for循环）
用for循环，计算前50项。 方法:应用for循环 #include<stdio.h> void main() { ... double sum =1,t=1; printf("输入n:\n"); scanf("%d",&n); for(i=1;i<=n;i++) { t=t*i; ...
- MATLAB中小数位数的设置方法
format：设置输出格式 对浮点性变量，缺省为format short. ...整型变量总是根据不同的类（class）以合适的数据位显示，例如，3位数字显示显示int8范围 -128：127。format short, long不影响整...
- 求1-2/3+3/5-4/7+5/9-6/11+...的前n项和，结果保留3位小数。
#include<stdio.h>.../*求1-2/3+3/5-4/7+5/9-6/11+…的前n项和，结果保留3位小数。 */ int i; int n; double den = 1.0; double num = 0.0; double pen = 1.0; double figh = 1.0;//符号 sca...
- java 商业中保留有效位数和小数位数
环境 jdk：1.7 前言 之前，我曾写过一篇 java使用BigDecimal 处理...问题的主要因为是我没有弄清保留有效位和保留小数位是互斥的关系 在此之前，我想写出一个通用的方法，就是既能保留有效位，又能保留小数位；
- BigDecimal 运算及取小数位
Java在java.math包中提供的API类BigDecimal，用来对超过16位有效位的数进行精确的运算。双精度浮点型变量double可以处理16位有效数。在实际应用中，需要对更大或者更小的数进行运算和处理。float和double只能用来做...
- 输入一个自然数n，如果n为奇数，输出表达式1+1/3+.....+1/n的值；...输出表达式结果保留2位小数。
def oushu(x): s = 0 k = 0 for i in range(x/2): s += 1/(k + 2) k += 2 return s def jishu(x): s = 0 for i in range(1,x+1): if i%2 != 0: s ...
- Java实现若干个数计算平均值并保留小数位 java计算平均值 java四舍五入保留小数
Java实现若干个数计算平均值并保留小数位 java计算平均值 java四舍五入保留小数 ...3、因求取平均值后，可能会有若干位小数，需要对小数位进行处理，分别使用 java.math.BigDecimal 和 java.te...
- C / C++ 保留两位小数（setprecision(n)的一些用法总结）
做题遇到保留两位小数的题目，课本上写的又多又杂，网上查来的也是一堆内容需要筛选，눈_눈还是自己总结一下吧。 首先说C++代码 #include &amp;amp;amp;lt;iomanip&amp;amp;amp;gt...
- BigDecimal类型专题 ，保留小数位问题
参数定义 ROUND_CEILING Rounding mode to round towards positive infinity. 向正无穷方向舍入 ROUND_DOWN Rounding mode to round towards zero.... 向零方向舍入 ROUND_FLOOR Rounding mode to ...
- hive-sql查询结果保留特点小数位数的方法
一、ceil：向上取整 ceil(DOUBLE d): d是DOUBLE类型的，返回>=d的最小的BIGINT值 spark-hive> select ceil(123.58); _c0 124 Time taken: 0.093 s spark-hive> select ceil(123.28);...二、flo...
- C++计算：1+1/2+1/3+…+1/N的值
//输入n，输出1+1/2+1/3+…+1/N的和（保留6位小数） #include<bits/stdc++.h> using namespace std; int main() { int a; double s=0; cin>>a; for(int i=1;i<=a;i++) s+=(doub...
- 有一分数序列： 2/1 3/2 5/3 8/5 13/8 21/13… 求出这个数列的前N项之和，保留两位小数。C语言描述
有一分数序列： 2/1 3/2 5/3 8/5 13/8 21/13… 求出这个数列的前N项之和，保留两位小数。C语言描述。 在这题中，我们第一眼可以看出来的是它可能属于一个斐波那契数列，但是如果按照那个去做就出错了，下面来说思路...
- java保留两位小数4种方法
import java.math.BigDecimal; import java.text.DecimalFormat; import java.text.NumberFormat; public class format { double f = 111231.5585; public void m1() { Big...
- C/C++ 保留N位小数
保留N位小数 方法一：使用fixed和setprecision #include <iostream> #include <iomanip> //需要包含此头文件 using namespace std; int main() { double x=3.1415926; int N=3; ...
- jdk1.8 64位官方正式版 jdk-8u91-windows
jdk1.8 64位官方正式版 jdk-8u91-windows