Perl 的 utf8 与编码处理 /Perl Unicode全攻略

Perl 的 utf8 与编码处理

  本文基于笔者查阅的 perldoc 和试验结果。鉴于经常有人被编码问题困扰,现笔者把所了解的关于 Perl utf8 与编码处理的资料总结一下。由于所知有限,可能会有讲错的地方,如有需要,可自行查阅:
perldoc Encode
perldoc PerlIO
perldoc utf8
perldoc encoding

下面用到这几个函数,能提供有用的帮助:
Encode::is_utf8($str)        # 当字符串 utf8 flag 为on时,返回真,否则返为假
utf8::is_utf8($str)        # 同上
Encode::_utf8_on($str)        # 手工设置 utf8 flag 为on
Encode::_utf8_off($str)        # 手工设置 utf8 flag 为off
PerlIO::get_layers(FP)        # 得到语柄的 layers

一. 基本概念

  Perl 以 ascii 方式或者 utf8 方式解释字符串,取决 Perl 字符串内部的 utf8 flag ,utf8 flag 影响着 Perl 对字符的定义。以下代码演示 utf8 flag 的影响:
#!/bin/env perl

# fileencoding: utf8

# termencoding: gbk

use strict;

use warnings;

use Encode;

use Encode::CN;

my $str = ”中文字符串”;

&testing($str);

Encode::_utf8_on($str);

&testing($str);

sub testing

{

        my ($str) = @_;

        if (Encode::is_utf8($str))

        {

                print ”utf8: Yes/n”;

        }

        else

        {

                print ”utf8: No/n”;

        }

        print ”Length: ”, length($str), ”/n”;

        while ($str =~ /(.)/g)

        {

                print encode(“gbk”, $1), ” ”;

        }

        print ”/n/n”;

}
复制代码
输出结果为:
utf8: No
Length: 15
? ? - ? ? ? ? - ? ? ? | ? ? 2

utf8: Yes
Length: 5
中 文 字 符 串

可以看到,当 utf8 flag 为 off 时,字符串按 ascii 处理;当为 on 时,则按 utf8 处理。注意 utf8 flag 跟字符串是否真为 utf8 编码无关,当字符串 utf8 flag 为 on 但非 utf8 编码时,print 会提示非法 utf8 字符。

二. Encode::encode ,Encode::decode ,PerlIO encoding layer

  当 decode(ENCODING, $str) 时,字符串被按 ENCODING 解码为 utf8 编码并设置 utf8 flag 为 on ;当 encode(ENCODING, $str) 时,字符串被从 utf8 编码重新编码为 ENCODING 并设置 utf8 flag 为 off ;假如原字符串为 utf8 编码,而 Encode::_utf8_on($str) ,Encode::_utf8_off($str) 分别和 $str = decode(“utf8″, $str) ,$str = encode(“utf8″, $str) 起的作用一致,但速度更快。
可以给文件句柄加上 encoding(ENCODING) 的 layer ,则会在读入或者输出时自动处理。比如 open(FILE, ”<+:encoding(gbk)”, $location) 或者 binmode(FILE, ”:encoding(gbk)”) 时,则会在读入时自动调用 decode(“gbk”, …) ,输出时自动调用 encode(“gbk”, …) 。

三. use utf8 progma 与 use encoding ENCODING progma

  当 use utf8 时,脚本里的字符串,若包含非 ascii 字符,而自动设置字符串 utf8 flag 为 on :
#!/bin/env perl

# fileencoding: utf8

# termencoding: gbk

use strict;

use warnings;

use utf8;

my $str = ”abcd”;

my $str2 = ”甲乙丙丁”;

foreach ($str, $str2)

{

        if (utf8::is_utf8($_))

        {

                print ”Yes/n”;

        }

        else

        {

                print ”No/n”;

        }

}
复制代码
输出结果为:
No
Yes

而 use encoding ENCODING 允许脚本为 ENCODING 编码而非一定为 utf8 编码。脚本里的字符串,自动按 ENCODING 转化为 utf8 编码并设置 utf8 flag 为 on ,就像自动调用了 decode(ENCODING, $str) 般,并自动给 STDIN 和 STDOUT 加上 encode(ENCODING) 的 layer :
#!/bin/env perl

# fileencoding: gbk

# termencoding: gbk

use strict;

use warnings;

use encoding ”gbk”;

my $str = ”abcd”;

my $str2 = ”甲乙丙丁”;

foreach ($str, $str2)

{

        if (utf8::is_utf8($_))

        {

                print ”Yes/n”;

        }

        else

        {

                print ”No/n”;

        }

}

print ”/n”;

print STDOUT $str2, ”/n”;

print STDERR $str2, ”/n”;

print ”/n”;

binmode(STDERR, ”:encoding(gbk)”);

print STDOUT $str2, ”/n”;

print STDERR $str2, ”/n”;
复制代码
输出结果为:
Yes
Yes

甲乙丙丁
Wide character in print at D:/test.pl line 26.
�蹭�涓��

甲乙丙丁
甲乙丙丁

$str 和 $str2 的 utf8 flag 都为 on,由于 STDERR 没有被自动设置 encoding(ENCODING) ,所以第一个 print STDERR 打印为乱码,造成那个 warning 的原因是,print 发现字符串里包含非 ascii 字符而且 utf8 flag 为真。

四. 使用 use utf8 和 use encoding ENCODING 的建议

1. 如果不很了解这两个 progma 起的作用,最好别用。
2. 在 tk 和 gtk 里,为了显示中文,手工的 decode(ENCODING, $text) 可能是更好的选择。
3. 使用 use encoding ENCODING 时,要注意字符串实际上是存为 utf8 格式的,比如这个代码,用来测试中文目录是否存在:
#!/bin/env perl

# fileencoding: gbk

# termencoding: gbk

use strict;

use warnings;

use encoding ”gbk”;

use Encode;

my $dir = ”d:/备份数据/”;

if (-d encode(“gbk”, $dir))

{

        print ”$dir 存在/n”;

}
复制代码
在这里,用 -d 测试 $dir 存在,手工的 encode 是必要的

Perl Unicode全攻略

耐心看完本文,相信你今后在unicode处理上不会再有什么问题。

本文内容适用于perl 5.8及其以上版本。

perl internal form

在Perl看来, 字符串只有两种形式。 一种是octets, 即8位序列, 也就是我们通常说的字节数组. 另一种utf8编码的字符串, perl管它叫string。 也就是说: Perl只认识两种编码: Ascii(octets)和utf8(string)。

utf8 flag

那么perl如何确定一个字符串是octets还是utf8编码的字符串呢? perl可没有什么智能, 他完全是靠字符串上的utf8 flag。在perl内部, 字符串结构由两部分组成: 数据utf8 flag。比如字符串“中国”在perl内部的存储是这样:

utf8 flag     

数据

On

中国

如果utf8 flag是On的话, perl就会把中国当成utf8字符串来处理, 如果utf8 flag为Off, perl就会把他当成octets来处理。所有字符串相关的函数包括正则表达式都会受utf8 flag的影响。让我们来看个例子:

程序代码:

use Encode;
use strict;

my $str = ”中国”;
Encode::_utf8_on($str);
print length($str) . ”/n”;
Encode::_utf8_off($str);
print length($str) . ”/n”;

运行结果是:

2
6

这里我们使用Encode模块的_utf8_on函数和_utf8_off函数来开关字符串“中国”的utf8 flag。可以看到, utf8 flag打开的时候,“中国”被当成utf8字符串处理, 所以其长度是2。 utf8 flag关闭的时候,“中国”被当成octets(字节数组)处理, 出来的长度是6(我的编辑器用的是utf8编码, 如果你的编辑器用的是gb2312编码, 那么长度应该是4)。

再来看看正则表达式的例子:

程序代码:

use Encode;
use strict;

my $a = ”china—-中国”;
my $b = ”china—-中国”;
Encode::_utf8_on($a);
Encode::_utf8_off($b);
$a =~ s//W+//g;
$b =~ s//W+//g;
print $a, ”/n”;
print $b, ”/n”;

运行结果:

Wide character in print at unicode.pl line 10.
china中国
china

结果第一行是一条警告, 这个我们稍后再讨论。结果的第二行说明, utf8 flag开启的情况下, 正则表达式中的/w能够匹配中文, 反之则不能。

如何确定一个字符串的utf8 flag是否已开启? 使用Encode::is_utf8($str)。这个函数并不是用来检测一个字符串是不是utf8编码, 而是仅仅看看它的utf8 flag是否开启。

eq

eq是一个字符串比较操作符, 只有当字符串的内容一致并且utf8 flag的状态也是一致的时候, eq才会返回真。

理论就是上面这些, 一定要搞明白, 记清楚! 下面是实际应用。

unicode转码

如果你有一个字符串“中国”, 它是gb2312编码的。 如果它的utf8 flag是关闭的, 它就会被当成octets来处理, length()会返回4, 这通常不是你想要的。 而如果你开启它的utf8 flag, 则它会被当做utf8编码的字符串来处理。由于它本来的编码是gb2312的, 不是utf8的,这就可能导致错误发生。由于gb2312和utf8内码范围部分重叠, 所以很多时候, 不会有错误报出来, 但是perl可能已经错误地拆解了字符。严重的时候, perl会报警, 说某个字节不是合法的utf8内码。

解决的方法很显然, 如果你的字符串本来不是utf8编码的, 应该先把它转成utf8编码, 并且使它的utf8 flag处于开启状态。对于一个gb2312编码的字符串, 你可以使用

程序代码:

$str = Encode::decode(“gb2312″, $str);

来将其转化为utf8编码并开启utf8 flag。如果你的字符串编码本来就是utf8, 只是utf8 flag没有打开, 那么你可以使用以下三种方式中的任一种来开启utf8 flag:

程序代码:

$str = Encode::decode_utf8($str);
$str = Encode::decode(“utf8″, $str);
Encode::_utf8_on($str);

最后一种方式效率最高, 但是官方不推荐。以下划线开头的函数是内部函数, 出于礼貌, 一般不从外部调用。

字符串连接

. 是字符串连接操作符。连接两个字符串时, 如果两个字符串的utf8 flag都是Off, 那么结果字符串也是Off. 如果其中任何一个字符串的utf8 flag是On的话, 那么结果字符串的utf8 flag将是On。连接字符串并不会改变它们原来的编码, 所以如果你把两个不同编码的字符串连在一起, 那么以后不管对这个字符串怎么转码, 都总会有一段是乱码。这种情况一定要避免, 连接两个字符串之前应该确保它们编码一致。如有必要, 先进行转码, 再连接字符串。

perl unicode编程基本原则

对于任何要处理的unicode字符串, 1)把它的编码转换成utf8; 2)开启它的utf8 flag

字符串来源

为了应用上面说到的基本原则, 我们首先要知道字符串本来的编码和utf8 flag开关情况, 这里我们讨论几种情况。

1) 命令行参数和标准输入。 从命令行参数或标准输入(STDIN)来的字符串, 它的编码跟locale有关。如果你的locale是zh_CN或zh_CN.gb2312, 那么进来的字符串就是gb2312编码, 如果你的locale是zh_CN.gbk, 那么进来的编码就是gbk, 如果你的编码是zh_CN.UTF8, 那进来的编码就是utf8。 不管是什么编码, 进来的字符串的utf8 flag都是关闭的状态。

2) 你的源代码里的字符串。 这要看你编写源代码时用的是什么编码。 在editplus里, 你可以通过“文件”->“另存为”查看和更改编码。 在linux下, 你可以cat一个源代码文件, 如果中文正常显示, 说明源代码的编码跟locale是一致的。源代码里的字符串的utf8 flag同样是关闭的状态。

如果你的源代码里含有中文, 那么你最好遵循这个原则: 1) 编写代码时使用utf8编码, 2)在文件的开头加上“use utf8;”语句。这样, 你源代码里的字符串就都会是utf8编码的, 并且utf8 flag也已经打开。

3) 从文件读入。 这个毫无疑问, 你的文件是什么编码, 读进来就是什么编码了。读进来以后, utf8 flag是off状态。

4) 抓取网页。网页是什么编码就是什么编码, utf8 flag是off状态。网站的编码可以从响应头里或者html的<head>标签里获得。也有可能出现响应头和html head里都没说明编码的情况, 这个就是做的很不礼貌的网页了。这时候只能用程序来猜:

程序代码:

use Encode;
use LWP::Simple qw(get);
use strict;

my $str = get ”http://www.sina.com.cn”;

eval {my $str2 = $str; Encode::decode(“gbk”, $str2, 1)};
print ”not gbk: $@/n” if $@;

eval {my $str2 = $str; Encode::decode(“utf8″, $str2, 1)};
print ”not utf8: $@/n” if $@;

eval {my $str2 = $str; Encode::decode(“big5″, $str2, 1)};
print ”not big5: $@/n” if $@;

输出:

程序代码:

not utf8: utf8 ”/xD0″ does not map to Unicode at /usr/local/lib/perl/5.8.8/Encode.pm line 162.

not big5: big5-eten ”/xC8″ does not map to Unicode at /usr/local/lib/perl/5.8.8/Encode.pm line 162.

我们给decode函数传递了第三个参数, 要求有异常字符的时候报错。我们用eval捕获错误, 转码失败说明字符串本来不是这种编码。另外注意我们每次都把$str拷贝到$str2, 这是因为decode第三个参数为1时, decode以后, 传给它的字符串参数(第二个参数会被清空)。我们拷贝一下, 这样每次被清空的都是$str2, $str不变。

来看结果, 既然不是utf8, 也不是big5, 那就应该是gbk了。对于其他不知编码的字符串, 也可以使用这种方法来猜。不过因为几种编码的内码范围都差不多, 所以如果字符串比较短, 就可能出不了异常字符, 所以这个方法只适用于大段的文字。

输出

字符串在程序内被正确地处理后, 要展现给用户。这时我们需要把字符串从perl internal form转化成用户能接受的形式。简单地说, 就是把字符串从utf8编码转换成输出的编码或表现界面的编码。这时候, 我们使用$str = Encode::encode(‘charset’, $str);。同样可以分为几种情况。

1) 标准输出。标准输出的编码跟locale一致。输出的时候utf8 flag应该关闭, 不然就会出现我们前面看到的那行警告:

Wide character in print at unicode.pl line 10.

2) GUI程序。这个应该是不用干什么, utf8编码, utf8 flag开启就行。没有实际测试过。

3) http post。看网页表单要求什么编码。utf8 flag开或关无所谓, 因为http post发送出去的只是字符串中的数据部分, 不管utf8 flag。

PerlIO

PerlIO为我们的输入/输出转码提供了便利。它可以针对某个文件句柄, 输入的时候自动帮你转码并开启utf8 flag, 输出的时候, 自动帮你转码并关闭utf8 flag。假设你的终端locale是gb2312, 看下面的例子:

程序代码:

use strict;
binmode(STDIN, ”:encoding(gb2312)”);
binmode(STDOUT, ”:encoding(gb2312)”);
while (<>) {
chomp;
print $_, length, ”/n”;
}

运行后输入”中国”, 结果:

中国2

这样我们就省去了输入和输出时转码的麻烦。PerlIO可以作用于任何文件句柄, 具体请参考perldoc PerlIO。

相关API

都是Encode模块的:

$octets = encode(ENCODING, $string [, CHECK]) 把字符串从utf8编码转成指定的编码, 并关闭utf8 flag。

$string = decode(ENCODING, $octets [, CHECK]) 把字符串从其他编码转成utf8编码, 并开启utf8 flag, 不过有个例外就是, 如果字符串是仅仅ascii编码或EBCDIC编码的话, 不开启utf8 flag。

is_utf8(STRING [, CHECK]) 看看utf8 flag是否开启。如果第二个参数为真, 则同时检查编码是否符合utf8。这个检测不一定准确, 跟decode方式检测效果一样。

_utf8_on(STRING) 打开字符串的utf flag

_utf8_off(STRING) 关闭字符串的utf flag

最后两个是内部函数, 不推荐使用。

参考perldoc Encode。

utf8和utf-8

前面我们提到的一直都是utf8。在perl中, utf8和utf-8是不一样的。utf-8是指国际上标准的utf-8定义, 而utf8是perl在国际标准上做了一些扩展, 能兼容的内码要比国际标准的多一些。perl internal form使用的是utf8。另外顺便提一下, 字符集的名称是不区分大小写的并且“_”和“-”是等价的。

EBCDIC

EBCDIC是一套遗留的宽字符解决方案, 不同于unicode, 它不是Ascii的超集。上面介绍的方案并不完全适用于EBCDIC。关于EBCDIC, 请参考perldoc perlebcdic。

转贴自:http://bbs.lostcode.org/index.php?topic=9.0

 

发表评论

电子邮件地址不会被公开。 必填项已用 * 标注

您可以使用这些 HTML 标签和属性: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>