如何在Erlang中计算UTF8编码二进制数据的字符长度
Erlang统计UTF8编码二进制字符长度的实现方法
方法1:使用unicode模块(全版本兼容)
这个方法适用于所有主流Erlang版本,通过先把UTF8二进制转成Unicode字符列表,再统计列表长度得到字符数,同时可以识别非法UTF8编码。unicode:characters_to_list/2接收两个参数,第一个是待处理的二进制,第二个指定编码为utf8,返回转换后的字符列表,用length/1直接统计即可。
代码示例:
% 普通场景调用 Utf8Bin = <<"你好,世界!hello world 🌍"/utf8>>, CharList = unicode:characters_to_list(Utf8Bin, utf8), CharLen = length(CharList). % 带错误处理的封装 get_utf8_len(Bin) when is_binary(Bin) -> case unicode:characters_to_list(Bin, utf8) of List when is_list(List) -> {ok, length(List)}; {error, _, _} -> {error, invalid_utf8_binary} end.
方法2:使用string:length/1(高性能,OTP 17+支持)
OTP 17及以上版本的string模块已经原生支持直接统计UTF8二进制的字符长度,不需要中间转列表,性能比第一种方法更高,不需要额外指定编码。
代码示例:
Utf8Bin = <<"你好,世界!hello world 🌍"/utf8>>, CharLen = string:length(Utf8Bin).
避坑提示
- 不要直接用
byte_size/1统计,这个函数返回的是二进制的字节数,UTF8中中文、emoji等字符占2-4个字节,结果会和实际字符数不符。 - 如果需要严格校验输入的二进制是否为合法UTF8编码,优先选择第一种方法做错误处理。
内容的提问来源于stack exchange,提问作者Joquantinbalow
相关产品推荐
相关产品推荐

