|
|
转载请注明文章出处:https://itlanyan.com/string-unicode-utf8-converter/
- S5 ^0 P2 ~' @+ J& X- ^- w想知道某个字符串的UTF8编码,图方便打算使用在线工具。坑爹的是,号称“UTF8汉字互转”的网页几乎全是字符串和unicode码点互转,并不提供与UTF8编码互转功能。没搞懂unicode码点(code point)和UTF8编码的关系,还大言不惭的说UTF8编码,真让人无语。8 P2 {- f% a6 M3 I
) V% C; S% j4 v, [7 y! ] m
8 n5 t8 A {* Z: J) f0 D% M
# v2 ]1 i/ e( Z6 b( ], q# P3 x) F# N; g* }' O6 B
" o! ]! l5 S# E# p# D字符、字节和字节序,unicode和UTF8编码,是理解字符编码重要的概念,详情可查看本人之前博文文件和字符编码。本文讨论unicode和UTF8之间的转换,先简要介绍两个概念:unicode是将字符与码点(code point,一个整数)一一对应的编码方案;码点通常用\uXXXX或者U+XXXX的方式表示,XXXX是码点的十六进制;UTF8是unicode的一个具体编码方案,规定字符存储的方式;UTF8编码字节数可变,不存在大小端问题,互联网通信中常采用此种编码方式。+ p8 k* _) X, Z5 s$ m) y
回顾一下那成片的“汉字UTF8编码互转”网页所做的事情。以“中国”为例,两个汉字码点分别为20013和22269,十六进制表示4E2D 56FD,UTF8编码E4 B8 AD E5 9B BD。随手打开搜索结果中的http://www.ip138.com/utf8/,输入“中国”,点击“转换UTF-8”按钮,下方出现码点的十六进制编码4E2D 56FD(&#x可以理解为十六进制的前缀0x),并非UTF8编码。
5 V, p) s' v% A% VJavaScript的String对象有charCodeAt和codePointAt(兼容性不如charCodeAt)方法。根据这个函数,网页的转换工作可用如下代码实现:
7 \1 x. @ O, {function encode(str) {
% m; z+ F: V) i: M4 C2 |. B var result = '';8 A1 w+ E; n; e I, s. ^9 G4 M
var len = str.length;9 W( J5 s- [0 ^! d1 q
for (var i = 0; i 调用encode(“中国”)或者其他字符串,将得到每个字符对应码点的十六进制。但这不是字符串的UTF8编码!" c" N- k3 d# j, ]: j
要拿到UTF8编码,需要在码点的基础上多走一步。先回顾unicode码点与UTF8的转换关系:( }* P' R& s5 J: K+ Q2 Y
| unicode码点(十六进制)[/td]UTF-8(二进制) | | 0000 0000-0000 007F | 0xxxxxxx | | 0000 0080-0000 07FF | 110xxxxx 10xxxxxx | | 0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx | | 0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx | 根据这个表,结合charCodeAt函数,可以写出字符串到UTF8编码的函数:
5 A4 L/ c. |" M3 m8 l8 b# F% M) e// 获取字符串的utf8字节流
/ q1 ^+ u( `% \# e3 y0 G2 g' {9 kfunction getUTF8Bytes(str) {
) w& O0 \9 N+ N var bytes = [];
: p" I- F8 w) R8 V) L: s+ [. I* A5 D% f5 [ var len = str.length;; D5 [( o5 U2 X2 Y6 m
for (var i = 0; i = 0x10000 && code > 18) | 0xf0); // 第一个字节
1 U5 L; m5 n# Z0 z- _& P bytes.push(((code >> 12) & 0x3f) | 0x80);
, R. S8 o3 Q! H' w7 D/ d2 a' h bytes.push(((code >> 6) & 0x3f) | 0x80);
6 S$ O# u: J l bytes.push((code & 0x3f) | 0x80);
- n9 i, V" g5 d( C/ c2 \ } else if (code >= 0x800 && code > 12) | 0xe0);4 a4 k9 G2 H; r2 `% B
bytes.push(((code >> 6) & 0x3f) | 0x80);
# X5 v' y8 g6 g( ] bytes.push((code & 0x3f) | 0x80);" q+ G a3 X/ y' a; d* ?- ~' O
} else if (code >= 0x80 && code > 6) | 0xc0);
' r# ?/ }* d# ]* h y bytes.push((code & 0x3f) | 0x80);( N; z- t/ v& v! s3 B& c; H
} else {
5 }) C8 }& t7 H2 l# G bytes.push(code)
6 k7 o3 w5 X# }3 k }
- s/ `% i" X3 B3 `/ R( N7 j+ m; S }
0 u7 r2 A! I" j return bytes;
2 v% i, X3 b8 B/ l* L, @3 R$ O}
. v4 n2 C* ]8 v6 D/ ?; }7 T2 o( a// 将字节流转换成16进制字符串
3 Z7 M2 h5 t) l0 t/ ~/ ? X# _. W& }function hexString(bytes) {
* n7 F$ I7 g9 j4 F# A L; |- E var arr = bytes.map(function (code) {$ n+ x8 i( O" c( Q7 Y9 z
return (code).toString(16).toUpperCase();5 }& z1 U B# J9 }6 I
});
, }5 A6 z/ ]4 C( _7 J8 G return arr.join(' ');. c% w- v1 W0 p' q- m
}* H2 F, V/ h2 w) S% Y
function utf8(str) {2 {6 @, H+ R' x; T. `0 u5 l
return hexString(getUTF8Bytes(str));; {- @! n0 Q) u/ e4 s
}0 b4 D6 \# ~# F: ]( A& c2 {
调用函数utf8,这才是JavaScript得到字符串的UTF8编码的正确姿势!从UTF8编码转换到字符串,做相反工作即可。
6 v L: H3 S) {. TAD:【国外VPS推荐】 Vultr全球16个数据中心,高速SSD硬盘,月付2.5$起,注册充10$送100$打赏赞(1) |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
x
|