lua精度问题 [问题点数:50分]

Bbs1
本版专家分:0
结帖率 94.83%
Bbs1
本版专家分:0
Bbs1
本版专家分:0
lua 小数点后面几位
string.format("%0.1f", dt)  一位 string.format("%0.2f", dt)  两位
lua中的number数值 根据小数点第三位保留值
math.floor(i*100+0.5)*0.01,不加0.5就是不四舍五入的了   
Lua保留指定小数位数
默认会四舍五入 比如:%0.2f 会四舍五入后,保留小数点后2位 print(string.format("%.1f",0.26)) ---会输出0.3,而不是0.2 Lua保留一位小数 --- nNum 源数字 --- n 小数位数 function Tool. GetPreciseDecimal(nNum, n) if type(nNum) ~= "number" then ...
Lua 获取毫秒ms和微秒
Lua自带的os函数,os.time()只取到秒。网上搜索<em>lua</em> 毫秒都是要使用 <em>lua</em>socket,觉得真没那个必要为了一个函数,用一套用不上的东西。试着写了个扩展,代码如下。 C语言: #include #include #include #include #include //微秒 static int getmicrosecond(<em>lua</em>_State *L) {
lua错误总结
1.getPosition 需要再次转换ccp(getPosition) 2.获取到node时,用的时候需要强制转换下to<em>lua</em>.cast(pNode, "CCNode")再使用 3.添加注册一个会调用函数:参考CCMenuItem.cpp的registerScriptTapHandler(可以实现<em>lua</em>的的重载其中的成员方法) a.添加一个成员变量作为保存handler b.在CCLua
lua math.fmod使用注意小数问题
<em>lua</em> math.fmod使用注意小数: --Returns the remainder of the division of x by y. function math.fmod (x, y) end //取模运算 这里需要注意小数的问题,看下面两个例子: 1、 local x = math.fmod(15, 4) print(x) 结果:4 2、 local x = math.fm
精度问题
请问有没有可以控制数字精确度的包可以用,可以控制保留的小数位数,实现四舍五入等功能,还是要自己写函数来实现?
精度问题.
我的sql server2000个人版里为什么不能给float型指定精度呢?
05,Lua 基本数值类型(1)
Lua基本数值类型
lua里面number变量的边界值是多少
没有找到<em>lua</em>的讨论区, 就写在这吧 在<em>lua</em>里面做数字加法运算, 超过百万级的数字都能算出正确结果, 貌似没有越界问题, 很奇怪哦
lua取出小数的整数部分和小数部分
modf 取整数和小数部分 local Index = 20.2 local a , b = math.modf(Index ); 取出的值 a = 20,b=0.2
lua 获取某个数精确到小数点后n位的结果
x = math.pi -- 3.14 print( x - x % 0.01 )
【Lua】不进位保留小数点X位数
游戏需求常常因为数值太大,需要简化显示,例XX.XX亿。 XX.XX万 <em>lua</em>在对两个整数进行除法操作时不会向C#那样将结果转换成整数,而是自动转换成浮点数。 所以当我们保留小数使用string.format("%.2f",str)的时候,会自动完成四舍五入操作 那么当不想进位的时候怎么做呢: function NumberToShow(number) if number = n
浮点数精度丢失的原因
http://blog.sina.com.cn/s/blog_827d041701017ctm.html 问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么? 来自MSDN的解释: http://msdn.microsoft.com/zh-cn/c151dt3s.aspx 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形
精度问题
假设float只能精确表示3位数字,现float a = 0.1234567;rnCout<
精度问题
0.1/1000000 = ? rn0.01/100000 = ?rnrn我算出来得分别是:rn1.0000000000000001E-7rn1.0E-7rnrn为什么是这样?rn为什么不是:rn1.0E-7rn1.0E-7rnrn请帮帮我,谢谢
lua使用毫秒
<em>lua</em>自带的时间函数只能到秒的精度。 为了统计到毫秒精度的时间,可以使用<em>lua</em>socket。下载地址http://files.<em>lua</em>forge.net/releases/<em>lua</em>socket/<em>lua</em>socket 编译安装的时候,你可能需要在源码包根目录下的config文件中指定LUAINC变量为你的<em>lua</em>路径。 代码如下: local socket = require "socket
科学计数法还原成实数 CodeForces - 697B(分类讨论)
题目:巴尼站在酒吧里盯着一个漂亮的女孩。 他想用他的爱情之箭射击她,但他需要知道他和女孩之间的距离,使他射击准确。巴尼问了酒保卡尔这个距离的具体数值,但卡尔正忙着和客户交谈,所以他在餐巾纸上写了距离值(这是一个真正的数字)。 问题是他以科学计数法写下来。 他将实数 x 表示成了 AeB的形式,其中 A 是一个实数而 B 是一个整数,并且 x = A × 10B 。在这里 A 的值在 0 到 9 之...
Lua笔记----关于LUA取整,取余操作分析
1,Lua取余     1)‘%’ 此操作与C一样,举例:a=8,b=3,  a%b的结果为:2     2)math.floor()函数,此函数也是取余,当左值小于右值的时候,math.floor()会输出0,详细看代码: print(8%3) --输出 2 print(1%2) --输出 1 math.floor(8%3) --输出 2 math.floor(1%2...
Lua 基础之运算符
算术运算符<em>lua</em> 的算术运算符有加减乘除、n次方(或开方)、求余等。
lua实现大数运算
<em>lua</em>实现的大数运算,代码超短,眼下仅仅实现的加减乘运算 ------------------------------------------------ --name: bigInt --create: 2015-4-1 --author: 闲云 --blog: blog.csdn.net/xianyun2009 --QQ: 836663997 --QQ group: ...
精度问题...
double c1,c2;rnrnc1= pow(31,17);rnc2 = fmod(c1,2773);rnrn正确结果:c1=22550116774162743178682911rn c2=587rnrn显示结果:c1=22550116774162744000000000.00000rn c2=1968.000000rnrn有啥解决办法或建议,谢谢
Lua中使用math.floor产生bug的问题
引子: local testNum1 = 38.48 print("testNum1 = ", testNum1) local testNum2 = testNum1 * 100 print("testNum2 = ", testNum2) local testNum3 = math.floor(testNum2) print("testNum3 = ", testNum3) --[[ ...
lua 取整 取余
使用math.modf(x/y)此函数,第一参数返回整数部分,第二个参数返回小数部分 t1,t2 = math.modf(30/10);
lua math库
math.pi =  = 3.14159265358979323846 abs 取绝对值 math.abs(-15) 15 acos 反余弦函数 math.acos(0.5) 1.04719755 asin 反正弦函数 math.asin
关于lua除法的问题
<em>lua</em>版本5.0      数字都是浮点型,除法出来的数也是浮点型,但是今天碰到一个问题,1603272359/100,直接算出来的是16032724!!!!,很是不解,前面的数字是个时间格式,我要去小时,导致23h变成24h,莫名的bug。只能认为数太大了,除法有问题,解决方法就是先摸除一下,取2359再做除法。
Lua几种计算公式
--Lua-四舍五入(常用) function Round(num, i)     local mult = 10^(i or 0)     local mult10 = mult * 10     return math.floor((num * mult10 + 5)/10)/ mult end --Lua-四舍五入(奇进偶舍) function Round2(num, i)     lo
精度问题!!!!!!!
可以把下面个表示赋值给一个double变量吗?应该不可以吧,有没有什么办法达到我想要的效果???rncout<
lua 取一个数字的整数部分
<em>lua</em>在对两个整数进行除法操作时不会向C那样将结果转换成整数,而是自动转换成浮点数。(<em>lua</em>没有数据类型之分)。如果要实现此功能需要取得结果中的整数部分。math.ceil (x)Returns the smallest integer larger than or equal to x.--取一个数的整数部分function getIntPart(x)if x    return math.ceil(x);<br /
LUA取整
今天遇到一个挺有趣的问题,记录一下! 先上代码和结果代码: 结果:先粗略介绍下图t1,t2=math.modf(n/m)这个方法,这是将一个数的整数给t1,小数给t2。 那么开始– 得到t2=0.2,那么0.2*10=2 放到while里面却打印了3次t2,而且最后一次打印出t2的结果是1.7几的负15次方,反正大于0,所有运行了3次while,我后来发现这个问题都瞎了。。。不过想想也对,
Lua 取整,取余
一下内容转载或引用或参考 http://blog.csdn.net/goodai007/article/details/17142915 使用math.modf(x/y)此函数,第一参数返回整数部分,第二个参数返回小数部分 t1,t2 = math.modf(30/10);
Lua取整数部分
使用计算方式 使用%运算符,得到的结果是数字。 x%1 表示x的小数部分,x-x%1 表示x的整数部分。 使用函数库 math.ceil() math.ceil(12.2)//返回13 math.ceil(12.7)//返回13 math.ceil(12.0)// 返回12 使用字符串格式化 得到的结果是字符串形式 string.format(“%d”, 17.325) //输出17
Lua5.3 异或操作的一个坑
最近在开发项目时,需要用到Lua的一些位操作,其中用到了异或,当时想当然的就以为在Lua5.3里,异或操作也像C语言一样是^, 然后就写下去了, 后来跑的时候也没报错,就没再深究,直到今天在测试这段代码的时候,发现结果怎么也不对,之前写的“异或”,得出来的结果居然是inf, 无穷大。 而实际上,在Lua5.3里,^是乘方,~才是异或,这一点实在是坑,因为~还是按位非符号,这里贴出云风的
javascript 精度问题
这是个有趣的问题!把数字在后台转成字符串再传值不就行了么….比如:5125254512251525251256255 变成:“5125254512251525251256255”就加个双引号!
JS精度问题
在JS处理算法时,有时会存在<em>精度问题</em>。   如694.84+(-300)有<em>精度问题</em>,但694.64+(-300)没有<em>精度问题</em>。   如0.263*256.3有<em>精度问题</em>,但0.263*256.5没有<em>精度问题</em>。      但在实际应用中,是绝对不能出现此类问题的。如下提供了一种解决此类<em>精度问题</em>的方法,供参考。   &amp;lt;html&amp;gt; &amp;lt;head&amp;gt;&amp;lt;/hea...
浮点数精度问题
NULL 博文链接:https://bocolijun.iteye.com/blog/469625
Lua游戏逆向及破解方法介绍
背景介绍 随着手游的发展,越来越多的Cocos-<em>lua</em>端游开发者转移到手游平台。Lua脚本编写逻辑的手游也是越来越多,如梦幻西游、刀塔传奇、开心消消乐、游龙英雄、奇迹暖暖、疾风猎人、万万没想到等手游。随着Lua手游的增加,其安全性更值得关注,在此归纳一些常用的分析方法,同时介绍一些辅助工具。 识别Lua游戏 Android平台的apk包可以直接解压,找到./lib目录下的so逻辑模块,一个个...
lua 提取文字
需求: 从<em>lua</em>脚本中提取出文字 首先io.open打开脚本,读取出脚本所有文本,通过string.gmatch 找到所有双引号中的内容 再通过UTF-8中汉字的范围,判断提取出的内容里有无汉字 ,有的话就将其写入到一个空的<em>lua</em>里 function get_text_extract() local filelist = {"<em>lua</em>test"} for k,v in...
请教对于NUMBER类型的字段怎样才可以不使用科学计数法存放大于15位的整数?
对于NUMBER的字段,当数据大于15位如100000000000000这样的数据ORACLE就用科学技术法来存储了,请教对于NUMBER类型的字段怎样才可以不使用科学计数法存放大于15位的数据? 超
科学计数法的坑爹
在测试账号中存在几亿亿的金币的时候c#会把普通计数法转成科学计数法 (9.22337203452387E+18  string类型) 比如这么大一个数字肿么办 只能使用下面的代码了 先利用 Convert.ToDecimal(Decimal.Parse(strData.ToString(), System.Globalization.NumberStyles.Float)); --str
将科学计数法转为正常数据并保留两位小数,转为字符串输出(四舍五入)
(new BigDecimal(Double.valueOf(getStr(o[3])).doubleValue()/10000.0) .divide(new BigDecimal(1) ,2 ,BigDecimal.ROUND_HALF_UP)).toPlainString()
精度问题,谢谢!
double d=8.7;rnd*200=1739.9999999999998;rnrn如何才能成为1740?
精度问题讨论
当作散分吧rnrn今天一直在想这个问题rn不明白问什么会有奇怪的结果rn找了书,查了资料rn深入理解计算机系统都搬出来看了rn想了很多道理都不能解释的通rnrn System.out.println(1.20-1.10);rn System.out.println(1.30-1.10);rn System.out.println(1.40-1.10);rn System.out.println(1.50-1.10);rn System.out.println(1.60-1.10);rn System.out.println(1.70-1.10);rn System.out.println(1.80-1.10);rn System.out.println(1.90-1.10);rn System.out.println(2.00-1.10);rn System.out.println(2.10-1.10);rnrn打印结果:rn0.09999999999999987rn0.19999999999999996rn0.2999999999999998rn0.3999999999999999rn0.5rn0.5999999999999999rn0.7rn0.7999999999999998rn0.8999999999999999rn1.0rnrn按照官方解释是说1.10这个数字不能被精确表示成为一个double,因此它被表示成为最接近它的double值(从而会造成一堆数字)rnrn我接受了,但是大家可以看到上面的结果是0.5,0.7和1.0都还是很好的结果rn而且我在想其实像1.10这样的数字实在是太多了,从统计上来讲有一大半都是不能被有限二进制表示的,难道这些都要造成这么复杂的结果?rnrn关键是这里打印出来了0.5,0.7和1.0rn经过实验,人为造出了这些数字的有一串的形式,列举如下:rn System.out.println(2.20-1.70);rn System.out.println(2.20-1.50);rn System.out.println(2.20-1.20);rn System.out.println(1.0000000000000003);rnrn打印结果如下:rn0.5000000000000002rn0.7000000000000002rn1.0000000000000002rn1.0000000000000002rnrn从而消除了0.5,0.7和1.0是因为可以被有限表示而有很好结果的可能rn(最后一个是该数的最近表示,作为参考)rnrn我暂时的问题就在这里了rn假如说是1.10的问题,为什么0.5,0.7和1.0却能够出现?rnrn欢迎大家讨论~~
数据精度问题
#includern#includernmain()rnint i=0,j,k,m,t=1,q,g;rn int a[10],b[10];rn long int s,N=0;rn printf("Please input a number();rnrnwhile(b[0]!=0);rnreturn 0;rnrn不知道怎么回事,当输入数据大于18后就不对呢!rn请哪位高手帮我解决一下!急!
数值精度问题
输出数值的精度C++#include #include using namespace std;int main(void) { const double value = 12.3456789; cout << value << endl; // 默认以6精度,所以输出为 12.3457 cout << setprecision(4) <
lua mac地址转整数,去掉科学计算
--mac 转整数 print(string.format("%d",tonumber("bc20ba918072",16))) --整数转mac print(string.format("%x","206848755073138"))
1024 科学计数法
科学计数法是科学家用来表示很大或很小的数字的一种方便的方法,其满足正则表达式 [+-][1-9].[0-9]+E[+-][0-9]+,即数字的整数部分只有 1 位,小数部分至少有 1 位,该数字及其指数部分的正负号即使对正数也必定明确给出。 现以科学计数法的格式给出实数 A,请编写程序按普通数字表示法输出 A,并保证所有有效位都被保留。 输入格式: 每个输入包含 1 个测试用例,即一个以科学...
Lua学习笔记(二)
1.type函数总是返回一个字符串,因此    print(type(type(x)))    的输出结果是string 2.函数是作为"第一类值"来看待的,可以像操作其他值一样来操作一个函数值 3.一个全局变量在第一次赋值前的默认值就是nil 4.Lua将值false和nil视为"假",而将除此之外的其它值视为"真"。例如数字零和空字符串都视为"真" 5.科学计数法的表示形式,例如:
lua浮点型取整型
LUA 浮点型转整型 <em>lua</em>脚本语言不像C语言一样,整型除以整型结果为整型。<em>lua</em>得出的结果是浮点型,有时会用到整型,所以必须进行取整。直接上代码: function FloatToInt(s)–输入参数为浮点型,整型都可 local i local j local q local temp i = tostring(s) j= string.find(i,"%.",1) if j~=nil an...
lua实现一个小数取整数部分
function getIntPart(x) if x<= 0 then return math.ceil(x) end if math.ceil(x) == x then x = math.ceil(x) else x = math.ceil(x)-1 end return x end
float的精度问题
import java.io.*;rnpublic class ch3_9rnrnpublic static void main(String args[])rnfloat sz;rn String s;rn tryrn System.out.print("请输入一个浮点数:");rn BufferedReader br=new BufferedReader(new InputStreamReader(System.in));rn s=br.readLine();rn sz=Float.parseFloat(s);rn rnrn System.out.print("输入的浮点数的整数部分是"+(int)sz);rn System.out.print("\n输入的浮点数的小数部分是"+(sz-(int)sz));rn catch(IOException e)rn rn rn疑惑一:rn碰到的第一个问题是把输入的字符串转换成浮点数,结果模仿书上字符串转换成整形的rn做法通过。感觉似乎有点。。。。(不知道大家这里怎么搞的)rn疑惑二:rn关于java里面浮点形的有效数字的问题,似乎java里float的有效数字是8位的,double的有效数字是17位的,有什么方法能改变吗(寻求解决的方法^_^)。rnrn欢迎大家提出自己的思路rn
关于精度问题
请问如何控制dbgrid输出的数字的精度。例如:123.12
坐标精度问题……
怎样在鼠标响应事件中获得的坐标能精确点?rn通常应该是整型的吧rn能不能获得更精确的呢
SQL精度问题
SQL为什么只能获取到小数后六位?rn例如:select 1.00/3.00只能取到后六位。rnrnSELECT cast((1.00/3.00) as decimal(10,9))这样设置后也是只能取六位,后三位被设置为0.
bigdecimal的精度问题
BigDecimal a = new BigDecimal("0.0");rnrnBigDecimal b = BigDecimal.ZERO;rnrn他们有什么区别吗?比如在计算的时候会造成精度不一致?
二进制转十进制整数及浮点数lua实现
local function BinIntToHexInt(b1,b2,b3,b4)  --二进制转十进制整数     local x = 0     x = x*0x100 + b4     x = x*0x100 + b3     x = x*0x100 + b2     x = x*0x100 + b1     return x end local function Bi
open() 和 fopen() 的区别
本文转自:http://hi.baidu.com/stoneboy100200/blog/item/f5f8bc37ecadecbbd0a2d39f.html fopen /open区别 UNIX环境下的C 对二进制流文件的读写有两套班子:1) fopen,fread,fwrite ; 2) open, read, write 这里简单的介绍一下他们的区别。 1. fopen
Lua 八种数据类型以及基本语法
8种数据类型 number 实数 ,可以是整数,浮点数 string 字符串,一旦赋值不能被修改,可以通过方法string.gsub()来修改 nil 全局变量没被赋值默认为nil,删除变量就赋值为 nil boolean(bool) false 和nil为假 ,其它都为真 function 函数 table 数组、容器 userdata (类,其它语言转换过来就变成userda...
lua匹配浮点数或者整数
写<em>lua</em>脚本中遇到一个问题: 一个字符串里面有浮点数和整数,怎样写正则表达式取出浮点数和整数? 比如: str = "每 2.01秒造成 4 点伤害" 怎样用<em>lua</em>取出2.01与4 谢谢! (P.s:
lua--从小白开始(3)
<em>lua</em>笔记
计时器的精度问题
我是用Chronometer实现计时器的rn但是精度好像只到秒(可能我没找到设置方法)rnrn有没有精度到毫秒级别的计时器rnrnrn请指教
小数的精度问题
有两张表,packing和invoice,要根据invoice.fc的值来半段精度,若invoice.fc = “JPY”则packing.price取整数,否则保留两位(四舍五入)rnrnselect case when invoice.fc = 'JPY' then floor(packing.price) else round(packing.price,2) end as price from packing inner join invoice on....以上查询出来的结果还是保留小数点后4位,只起到了四舍五入的效果,求高人指点,或有什么好的方法没有?谢谢先了~~
Lua数据类型转换
Lua提供了类型转换函数,这些转换函数包括:转换成数字和转换成字符串等。1.转换成字符串tostring()可以将布尔类型和数值类型转换为字符串类型,示例:local bVar = false; print(tostring(bVar)); -- 输出"false"local num1 = 10; local num2 = 10.0; local num3 = 10.03; print(tostri
浮点型 float double
index next | previous | C++ Example 1.0 documentation » 基础知识 » Table Of Contents 浮点型 float double 存储结构取值范围比较浮点数相等 忽略精度直接降低精度 浮点型转整型 ftol的一种实现方式<em>lua</em>中double to int 的实现
Lua基础 类型和值(一)
Lua是一个动态类型的语言,没有类型定义,每个值都有自己的类型。 Lua有8个基本类型,nil, boolean, number, string, userdata, function, thread, table,利用type函数可以打印出一个给定值的类型。 注意最后一行,无论x为什么值,结果一定是string,因为type函数的结果总是一个string。 变量没有预定义的类型...
lua之数据类型
两个取值false和true。但要注意Lua中所有的值都可以作为条件。在控制结构的条件中除了false和nil为假,其他值都为真。所以Lua认为0和空串都是真。
lua保留n位小数方法
本文转载至http://www.cnblogs.com/pk-run/p/4444582.html 1. string.format() function GetPreciseDecimal(nNum, n) if type(nNum) ~= "number" then return nNum; end n = n or
思考题(精度问题
下面程序的运行结果是什么? 提示:请上机实验,不要凭主观感觉回答。#include int main() { double i; for(i=0;i!=10;i+=0.1) printf("%.lf\n",i); return 0; } 由于浮点误差的存在,i一直满足i!=10这个条件,程序就没有了使其终止的限制条件。 i精确点的取
Double的精度问题
一段代码记住一个Java精度计算实数类:/** *@author 修炼到救赎 *@date 2016-03-19 0:00 *BigDecimal类的加减乘除方法申明: *public BigDecimal add(BigDecimal augend); *public BigDecimal subtract(BigDecimal subtrahend); *public Bigdecimal mu
iOS 精度问题
后端返回数字类型的数据,AFN解析会出现丢失精度的现象,处理方式: (1)使用NSDecimalNumber进行处理 NSString *doubleString = [NSString stringWithFormat:@”%lf”,_gbValue.doubleValue]; NSDecimalNumber *decNumber = [NSDecimalNum...
vc 什么函数可以实现精确除法(保留4位小数精度),???若没有,怎么实现这一功能???嘻嘻谢谢
vc 什么函数可以实现精确除法(保留4位小数精度),???若没有,怎么实现这一功能???嘻嘻谢谢
lua之诡异的tonumber
昨晚翻看<em>lua</em>源码的时候,发现在<em>lua</em>O_str2num有特殊处理,确切来说是在l_str2int(字符串转换成整形),lstr2d(字符串转换成double类型)size_t <em>lua</em>O_str2num (const char *s, TValue *o) { <em>lua</em>_Integer i; <em>lua</em>_Number n; const char *e; if ((e = l_str2int(
精度问题c
# include rnrnvoid main()rnrn /* 定义变量并赋初值 */rn int a=5; rn char c='a'; rn float f=5.3; rn double m=12.65; rn double result;rn rn /* 同类型数据间进行运算并输出结果 */rn printf("a + c = %d\n", a + c);rn printf("a + c = %c\n", a + c);rn printf("f + m = %f\n", f + m);rnrn /* 不同类型数据间进行运算并输出结果 */rn printf("a + m = %f\n", a + m);rn printf("c + f = %f\n", c + f);rnrn /* 将上述四个变量进行混合运算,并输出结果 */rn result = a + c * (f + m);rn printf("double = %f\n", result);rn
图的判断 图的拓扑排序 单源最短路径 求最大生成树下载
实现图的判断,图的拓扑排序,单源最短路径,求最大生成树等主要算法!!! 相关下载链接:[url=//download.csdn.net/download/zhaolianyun2008/2678313?utm_source=bbsseo]//download.csdn.net/download/zhaolianyun2008/2678313?utm_source=bbsseo[/url]
ElecwokrsFQX下载
点击上传资源即表示您确认该资源不违反资源分享的使用条款,并且您拥有该资源的所有版权或者上传资源的授权 相关下载链接:[url=//download.csdn.net/download/fanjunhu/3644428?utm_source=bbsseo]//download.csdn.net/download/fanjunhu/3644428?utm_source=bbsseo[/url]
使用Photoshop让灰暗照片变得更鲜艳下载
使用Photoshop让灰暗照片变得更鲜艳 相关下载链接:[url=//download.csdn.net/download/evonne315/4092803?utm_source=bbsseo]//download.csdn.net/download/evonne315/4092803?utm_source=bbsseo[/url]
我们是很有底线的