java中中文问题详解

[数据娃掘]

谁有java中中文问题的详解，谢谢

[liublog]

中文问题

[liublog]

预备知识：
　1.字节和unicode
　　Java内核是unicode的，就连class文件也是，但是很多媒体，包括文件/流的保存方式
　　是使用字节流的。 因此Java要对这些字节流经行转化。char是unicode的，而byte是字节.
　　Java中byte/char互转的函数在sun.io的包中间有。其中ByteToCharConverter类是中调度，
　　可以用来告诉你，你用的Convertor。其中两个很常用的静态函数是
　　 public static ByteToCharConverter getDefault() ;
　　 public static ByteToCharConverter getConverter(String encoding);
　　如果你不指定converter，则系统会自动使用当前的Encoding,GB平台上用GBK,EN平台上用
　　8859_1
　　
　　我们来就一个简单的例子：
　　　　　"你"的gb码是：0xC4E3 ,unicode是0x4F60
　　　　　你用:
　　　　　--encoding="gb2312";
　　　　　--byte b[]={(byte)"u00c4",(byte)"u00E3"};
　　　　　--convertor=ByteToCharConverter.getConverter(encoding);
　　　　　--char [] c=converter.convertAll(b);
　　　　　--for(int i=0;i 　　　　　--{
　　　　　-- System.out.println(Integer.toHexString(c[i]));
　　　　　--}
　　　　　--打印出来是0x4F60
　　　　　--但是如果使用8859_1的编码，打印出来是
　　　　　--0x00C4,0x00E3
　　　　　----例１
　　　　 反过来：
　　　　 --encoding="gb2312";
　　　　 　　　char c[]={"u4F60"};
　　　　　　　 convertor=ByteToCharConverter.getConverter(encoding);
　　　　　--byte [] b=converter.convertAll(c);
　　　　　--for(int i=0;i 　　　　　--{
　　　　　-- System.out.println(Integer.toHexString(b[i]));
　　　　　--}
　　　　　　--打印出来是：0xC4,0xE3
　　　　　　----例２
　　　　　　--如果用8859_1就是0x3F，?号，表示无法转化　　　　　　--
　　　　　 很多中文问题就是从这两个最简单的类派生出来的。而却有很多类　　
　　不直接支持把Encoding输入，这给我们带来诸多不便。很多程序难得用encoding
　　了，直接用default的encoding，这就给我们移植带来了很多困难
　　--
　　2.UTF-8
　　--UTF-8是和Unicode一一对应的，其实现很简单
　　--
　　 -- 7位的Unicode: 0 _ _ _ _ _ _ _
　　--11位的Unicode: 1 1 0 _ _ _ _ _ 1 0 _ _ _ _ _ _
　　--16位的Unicode: 1 1 1 0 _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
　　--21位的Unicode: 1 1 1 1 0 _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _ 1 0 _ _ _ _ _ _
　　--大多数情况是只使用到16位以下的Unicode:
　　--"你"的gb码是：0xC4E3 ,unicode是0x4F60
　　--我们还是用上面的例子
　　--　　--例１：0xC4E3的二进制：
　　--　　--　　　 1 1 0 0 0 1 0 0 1 1 1 0 0 0 1 1
　　--　　--　　　 由于只有两位我们按照两位的编码来排，但是我们发现这行不通，
　　--　　--　　　 因为第７位不是0因此，返回"?"
　　--　　--　　　
　　--　　--例２：0x4F60的二进制：
　　--　　--　　　 0 1 0 0 1 1 1 1 0 1 1 0 0 0 0 0
　　--　　--　　　 我们用UTF-8补齐，变成：
　　--　　--　　　 11100100 10111101 10100000
　　--　　--　　　 E4--BD-- A0
　　--　　--　　　 于是返回0xE4,0xBD,0xA0
　　--　　--
　　3.String和byte[]
　　--String其实核心是char[],然而要把byte转化成String，必须经过编码。
　　--String.length()其实就是char数组的长度，如果使用不同的编码，很可
　　--能会错分，造成散字和乱码。
　　--例：
　　----byte [] b={(byte)"u00c4",(byte)"u00e3"};
　　----String str=new String(b,encoding);　　----
　　----如果encoding=8859_1，会有两个字，但是encoding=gb2312只有一个字　　----
　　--这个问题在处理分页是经常发生
　　4.Reader,Writer/InputStream,OutputStream
　　--Reader和Writer核心是char，InputStream和OutputStream核心是byte。
　　--但是Reader和Writer的主要目的是要把Char读/写InputStream/OutputStream
--一个reader的例子：
--文件test.txt只有一个"你"字，0xC4,0xE3--
--String encoding=;
--InputStreamReader reader=new InputStreamReader(
----new FileInputStream("text.txt"),encoding);
--char []c=new char[10];
--int length=reader.read(c);
--for(int i=0;i ----System.out.println(c[i]);
　　--如果encoding是gb2312，则只有一个字符，如果encoding=8859_1，则有两个字符
　　--------
--
--
　　
　　 ----
　2.我们要对Java的编译器有所了解：
　--javac -encoding
　 我们常常没有用到ENCODING这个参数。其实Encoding这个参数对于跨平台的操作是很重要的。
　 如果没有指定Encoding，则按照系统的默认Encoding,gb平台上是gb2312，英文平台上是ISO8859_1。　
　--Java的编译器实际上是调用sun.tools.javac.Main的类，对文件进行编译，这个类　--
　有compile函数中间有一个encoding的变量,-encoding的参数其实直接传给encoding变量。
　编译器就是根据这个变量来读取java文件的，然后把用UTF-8形式编译成class文件。
　一个例子：
　--public void test()
　--{
　----String str="你";
　----FileWriter write=new FileWriter("test.txt");
　----write.write(str);
　----write.close();
　--}
　----例３
--如果用gb2312编译，你会找到E4 BD A0的字段
--
--如果用8859_1编译，
--00C4 00E3的二进制：
--00000000 11000100 00000000 11100011--
--因为每个字符都大于7位，因此用11位编码：
--11000001 10000100 11000011 10100011
--C1-- 84--　C3--　 A3
--你会找到C1 84 C3 A3 --
　　　　
　　但是我们往往忽略掉这个参数，因此这样往往会有跨平台的问题：
　　--　　例３在中文平台上编译，生成ZhClass
　　--　　例３在英文平台上编译，输出EnClass
　　--1.　 ZhClass在中文平台上执行OK,但是在英文平台上不行
　　--2.　 EnClass在英文平台上执行OK,但是在中文平台上不行
　　原因：
　--1.在中文平台上编译后，其实str在运行态的char[]是0x4F60,　----
　--在中文平台上运行，FileWriter的缺省编码是gb2312,因此
　--CharToByteConverter会自动用调用gb2312的converter,把str转化
　--成byte输入到FileOutputStream中，于是0xC4,0xE3放进了文件。
　--但是如果是在英文平台下，CharToByteConverter的缺省值是8859_1,
　--FileWriter会自动调用8859_1去转化str,但是他无法解释，因此他会
　--输出"?"　----
　--2.　在英文平台上编译后，其实str在运行态的char[]是0x00C4 0x00E3,　----
　--在中文平台上运行，中文无法识别，因此会出现??
　--　　在英文平台上，0x00C4-->0xC4,0x00E3->0xE3，因此0xC4,0xE3被放进了
　--文件