JAVA中文比较问题的分析和解决

    技术2022-05-11  114

    JAVA中文比较问题的分析解决

    游晶(yousp@yeah.net

     

     Java的中文问题由来已久,前不久笔者需要做内存中的中文比较排序,对字符串进行GBK或者GB2312编码以后,使用String.compareTo方法仍然不能得到正确结果。因此,怀着怀疑的态度,对JDK中String类的源代码做了一翻探究。(作者使用JDK为1.3.1版本)

     

    以下是String.java中compareTo的源代码,请注意其中的注释:

     

     

    public class String

    {

          

        public int compareTo(String anotherString) {

           int len1 = count;

           int len2 = anotherString.count;

     

     

           //n为两个字符串长度的最小者

           int n = Math.min(len1, len2);

          

           //获取字符数组

           char v1[] = value;

           char v2[] = anotherString.value;

          

           //取偏依位置

        /** The offset is the first index of the storage that is used. */

           //offset 是第一个存储索引

     

           int i = offset;

           int j = anotherString.offset;

     

           //如果i == j

           //这里可能是判断取同一内存中两个字符串的情景。。。

           // A   <--   <----

           // B    s1      |

           // C   <--      |

           // D            s2

           // E            |

           // F            |

           // G   <----------

           // 可能这种情况 i = j

           if (i == j) {

               int k = i;

               int lim = n + i;

                 

               while (k < lim)

                  {

                         char c1 = v1[k];

                         char c2 = v2[k];

                        

                         if (c1 != c2) file://直到找到一个不相等的字符返回c1 - c2

                                return c1 - c2;

                         k++;

               }

           } else {

               while (n-- != 0) file://直到两个字符串长度记数为0

                  {

                         char c1 = v1[i++]; file://分别取字符

                         char c2 = v2[j++];

                         if (c1 != c2) {  //发现不相等立即返回c1 - c2;

                                return c1 - c2;

                         }

               }

           }

           return len1 - len2;

    //最后这里可能出现的情况是: 两个字符串比较完之后还没有得到结果。相等的情况

        }

    }//end of class String

     

     

     

    为什么Java在做汉字的CompareTo时比较会有问题呢通过对compareTo源代码的分析发现关键在于JDKcompareTo实现是直接使用Char来进行比较的

     

                char c1 = v1[k];

                char c2 = v2[k];

     

    可是当Java使用GB2312编码时,一个对汉字所获取到的Char值却是不规则的,即一个汉字在Java中作为一个char来处理(双字节字符)时,将这样的双字节字符进行强制转换成int类型时,所得到的不是包含了汉字编码顺序的中文内码。可以看一下一组测试数据可以看到其中奥妙:

     

    字符

    Char值

    Byte[]值

    按Byte[]合成的值

    25105

    [50:46]

    [-5046]

    29233

    [80:82]

    [-8082]

    21271

    [79:79]

    [-7979]

    20140

    [66:87]

    [-6687]

    22825

    [52:20]

    [-5220]

    23433

    [80:78]

    [-8078]

    38376

    [61:59]

    [-6159]

    A

    65

    [-65]

    [65]

    B

    66

    [-66]

    [66]

    C

    67

    [-67]

    [67]

    D

    68

    [-68]

    [68]

     

    按照中文顺序:“我”字应该在“爱”字后面,因此理论上来讲"我"字的Char值应该比“爱"字的char值要大。可是不知道为什么Java的汉字char(两个byte)->int类型的转换会发生很大偏差。而失去了汉字原本在GBK规范当中,按内码排列好的顺序。但从一个汉字拆分成2个字节的byte[]时,所得到的值并没有打乱GBK编码规定的顺序,因此得到解决问题的思路:将String进行GB2312编码后取得某个汉字获取其Char值时,将汉字拆分成2个字节byte[]再进行计算,从而得到正确的内码。

     

    因此我自己写了下面这样几个函数,基本上解决了汉字比较的问题:

        函数包括三个,你可以随意放置到任何类当中作为辅助函数使用(Private Helper)。

     

    n         public int compare(String s1, String s2) :主要工作是为比较做一些前期的编码工作可以说是系统的一个外壳。

    n         public int chineseCompareTo(String s1, String s2):该函数则是中文字符串比较主体,其内部实现了比较的最基本逻辑,和JDK的compareTo所使用的逻辑是一样的。调用接口也一样。

    n         public static int getCharCode(String s):该函数则负责将一个以字符串形式存在的字符转换成为int编码,儿不损失其位置信息。注意输入通常是:“我”或者“A”,如果输入更长的字符串,则改函数获得的是第一个字符的值。

     

     

    private static String __ENCODE__ = "GBK"; file://一定要是GBK

    private static String __SERVER_ENCODE__ = "GB2312"; file://服务器上的缺省编码

    /*

    比较两字符串

    */

           public int compare(String s1, String s2)

           {

                  String m_s1 = null, m_s2 = null;

                  try

                  {

                         //先将两字符串编码成GBK

                         m_s1 = new String ( s1.getBytes(__SERVER_ENCODE__), __ENCODE__);

                         m_s2 = new String ( s2.getBytes(__SERVER_ENCODE__), __ENCODE__);

                  }

                  catch( Exception ex)

                  {

                         return s1.compareTo(s2);

                  }

                  int res = chineseCompareTo(m_s1, m_s2);

     

                  System.out.println("比较" + s1 + " | " + s2 + "==== Result: " + res);

                  return res;

           }

     

    //获取一个汉字/字母的Char

           public static int getCharCode(String s)

           {

                  if (s==null && s.equals(“”)) return -1; file://保护代码

    byte [] b = s.getBytes();

                  int value = 0;

                  //保证取第一个字符(汉字或者英文)

                  for (int i = 0; i < b.length && i <= 2; i ++)

                  {

                         value = value * 100 + b[i];

                  }

                  return value;

           }

     

    //比较两个字符串

           public int chineseCompareTo(String s1, String s2)

           {

                  int len1 = s1.length();

                  int len2 = s2.length();

     

                  int n = Math.min(len1, len2);

     

                  for (int i = 0; i < n; i ++)

                  {

                         int s1_code = getCharCode(s1.charAt(i) + "");

                         int s2_code = getCharCode(s2.charAt(i) + "");

                         if (s1_code != s2_code) return s1_code - s2_code;

                  }

                  return len1 - len2;

           }

     

     

    可见,对系统源代码的解剖,能让我们在迷惑之余同样有机会窥探系统内部运作的奥妙。不过让人非常费解的是,Java内部的某些类书写风格非常不好,同时存在一些Bug。不过这也许是笔者个人感受。偶有所获,愿与大家共同分享,其中疏漏之处望不吝赐教。


    最新回复(0)