PHP實現Unicode和Utf-8編碼的互相轉換

qianfeng 發布于2019-06-27 11:23 / 585人閱讀

摘要：假如在中漢字你的編碼為，把它轉換為二進制為，然后按照的方法進行轉換。在將所得到的結果左移位與最高字節所得的結果取或，第二位就這樣完成了，得到的結果為。

最近恰好要用到unicode編碼的轉換，就去查了一下php的庫函數，居然沒找到一個函數可以對字符串進行Unicode的編碼和解碼！也罷，找不到的話就自己實現一下了。。。

Unicode和Utf-8編碼的區別

Unicode是一個字符集，而UTF-8是Unicode的其中一種，Unicode是定長的都為雙字節，而UTF-8是可變的，對于漢字來說Unicode占有的字節比UTF-8占用的字節少1個字節。Unicode為雙字節，而UTF-8中漢字占三個字節。
UTF-8編碼字符理論上可以最多到6個字節長,然而16位BMP（Basic Multilingual Plane）字符最多只用到3字節長。下面看一下UTF-8編碼表：

U-00000000 - U-0000007F: 0xxxxxxx 
U-00000080 - U-000007FF: 110xxxxx 10xxxxxx 
U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx 
U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx 
U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 
U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

xxx 的位置由字符編碼數的二進制表示的位填入，越靠右的 x 具有越少的特殊意義，只用最短的那個足夠表達一個字符編碼數的多字節串。注意在多字節串中, 第一個字節的開頭"1"的數目就是整個串中字節的數目。而第一行中以0開頭，是為了兼容ASCII編碼，為一個字節，第二行就為雙字節字符串，第三行為3字節，如漢字就屬于這種，以此類推。(個人認為：其實我們可以簡單的把前面的1的個數看成字節數)

Unicode怎么轉換成Utf-8呢

為了要將Unicode轉換為UTF-8，當然要知道他們的區別到底在什么地方。下面來看一下，在Unicode中的編碼是怎樣轉換成UTF-8的，在UTF-8中，如果一個字符的字節小于0x80（128）則為ASCII字符，占一個字節，可以不用轉換，因為UTF-8兼容ASCII編碼。假如在Unicode中漢字“你”的編碼為“u4F60”，把它轉換為二進制為100111101100000，然后按照UTF-8的方法進行轉換。可以將Unicode二進制從低位往高位取出二進制數字，每次取6位，如上述的二進制就可以分別取出為如下所示的格式，前面按格式填補，不足8位用0填補。

unicode: 100111101100000                   4F60

utf-8:    11100100,10111101,10100000       E4BDA0

從上面就可以很直觀的看出Unicode到UTF-8之間的轉換，當然知道了UTF-8的格式后，就可以進行逆運算，就是按照格式把它在二進制中的相應位置上取出，然后在轉換就是所得到的Unicode字符了（這個運算可以通過“位移”來完成）。如上述的“你”的轉換，由于其值大于0x800小于0x10000，因此可以判斷為三字節存儲，則最高位需要向右移“12”位再根據三字節格式的最高位為11100000（0xE0）求或（|）就可以得到最高位的值了。同理第二位則是右移“6”位，則還剩下最高位和第二位的二進制值，可以通過與111111（0x3F）求按位于（&）操作，再和11000000（0x80）求或（|）。第三位就不用移位了，只要直接取最后六位（與111111（ox3F）取&），在與11000000(0x80)求或（|）。

Utf-8怎么逆轉回Unicode呢

當然在UTF-8到Unicode的轉換也是通過移位等來完成的，就是把UTF-8那些格式相應的位置的二進制數給揪出來。在上述例子中“你”為三個字節，因此要每個字節進行處理，有高位到低位進行處理。在UTF-8中“你”為11100100,10111101,10100000。從高位起即第一個字節11100100就是把其中的"0100"給取出來，這個很簡單只要和11111（0x1F）取與（&），由三字節可以得知最到位肯定位于12位之前，因為每次取六位。所以還要將得到的結果左移12位，最高位也就這樣完成了0100,000000,000000。而第二位則是要把“111101”給取出來，則只需將第二字節10111101和111111(0x3F)取與（&）。在將所得到的結果左移6位與最高字節所得的結果取或（|），第二位就這樣完成了，得到的結果為0100,111101,000000。以此類推最后一位直接與111111（0x3F）取與（&），再與前面所得的結果取或（|）即可得到結果0100,111101,100000。

PHP代碼實現

/**
 * utf8字符轉換成Unicode字符
 * @param  [type] $utf8_str Utf-8字符
 * @return [type]           Unicode字符
 */
function utf8_str_to_unicode($utf8_str) {
    $unicode = 0;
    $unicode = (ord($utf8_str[0]) & 0x1F) << 12;
    $unicode |= (ord($utf8_str[1]) & 0x3F) << 6;
    $unicode |= (ord($utf8_str[2]) & 0x3F);
    return dechex($unicode);
}

/**
 * Unicode字符轉換成utf8字符
 * @param  [type] $unicode_str Unicode字符
 * @return [type]              Utf-8字符
 */
function unicode_to_utf8($unicode_str) {
    $utf8_str = "";
    $code = intval(hexdec($unicode_str));
    //這里注意轉換出來的code一定得是整形，這樣才會正確的按位操作
    $ord_1 = decbin(0xe0 | ($code >> 12));
    $ord_2 = decbin(0x80 | (($code >> 6) & 0x3f));
    $ord_3 = decbin(0x80 | ($code & 0x3f));
    $utf8_str = chr(bindec($ord_1)) . chr(bindec($ord_2)) . chr(bindec($ord_3));
    return $utf8_str;
}

測試一下了

$utf8_str = "我";

//這是漢字“你”的Unicode編碼
$unicode_str = "4f6b";

//輸出 6211
echo utf8_str_to_unicode($utf8_str) . "
";

//輸出漢字“你”
echo unicode_str_to_utf8($unicode_str);

以上這些轉換是針對中文漢字【往大了說是非ASCII】的測試，因為如果是ASCII的話，轉來轉去都是一樣的，也用不著費那么大工夫。
還有就是這兩個函數只是簡單的實現了一下，只支持單個字符【一個完整的utf8字符或是一個完整的Unicode字符】互相轉換，大家如果明白了得話就可以盡情去擴展了。。。

GPU云服務器云服務器 unicode編碼轉換問題 unicode編碼轉換器 php和jsp的轉換 PHP編碼轉換

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://m.specialneedsforspecialkids.com/yun/21033.html

WebSocket系列之字符串如何與二進制數據間進行互相轉換

摘要：總結通過使用和，我們能夠在數據和二進制數據中進行互相轉換。下一篇系列相關的博客，將會介紹如何通過來向后端傳遞二進制數據，以及如何處理通過收到的二進制數據。概述上一篇博客我們說到了如何進行數字類型（如Short、Int、Long類型）如何在JavaScript中進行二進制轉換，如果感興趣的可以可以閱讀本系列第二篇博客——WebSocket系列之JavaScript中數字數據如何轉換為...

stackfing 2019-08-22 15:53 評論0 收藏0
JavaScript如何實現UTF-16編碼轉換為UTF-8編碼——utfx.js源碼解析

摘要：編碼轉換為編碼下面讓我們來看下如何將編碼的數據轉換為編碼的數據。該方法是將碼進行編碼轉換，從而得到編碼的數據。概述當你在前端需要通過二進制數據與服務端進行通信時，你可能會遇到二進制數據的編碼問題。大部分服務端的字符串編碼類型都為UTF-8，而JavaScript中字符串編碼類型是UTF-16，因此，你需要一個能夠將字符串在兩種編碼方式間進行轉換的方法。本文通過對utfx.js這個...

maybe_009 2019-08-22 16:21 評論0 收藏0
Python編碼問題及中文解決方案

摘要：中國人民看到這樣很不錯，于是就把這種漢字方案叫做。結果擴展之后的編碼方案被稱為標準，包括了的所有內容，同時又增加了近個新的漢字包括繁體字和符號。聲明：文章借鑒自【徹底搞懂 python 中文亂碼問題】一. 各種編碼的由來 1.1 ASCII編碼很久很久以前，有一群人，他們決定用8個可以開合的晶體管來組合成不同的狀態，以表示世界上的萬物。他們看到8個開關狀態是好的，于是他們把這稱為...

kevin 2019-07-31 11:14 評論0 收藏0
Unicode中UTF-8與UTF-16編碼詳解

摘要：概念是一種針對的可變長度字符編碼，又稱萬國碼。通過上面的介紹我們可以知道，是一種非常通用的可變長字符編碼方式。概念是字符編碼五層次模型的第三層字符編碼表，也稱為的一種實現方式。概述本文通過介紹Unicode編碼以及對應的兩種編碼方式UTF-8和UTF-16，讓讀者能夠了解關于字符串編碼的相關知識，同時能夠弄清楚Unicode和UTF-8和UTF-16之間的關系。本文的主要內容為：...

cod7ce 2019-08-22 16:14 評論0 收藏0
python編碼的意義

摘要：而他們的中文釋義，就是對新手的最大陷阱編碼。而碼，也就是美國信息交換標準碼，年發布，位字符編碼中影響最大的一種。編碼，還是編碼！ python2的直鉤——編碼異常當你用python打開一篇中文文檔，準備讀取里面的數據開始實驗...當你處理好你的數據，打算打印出易于閱讀的結果給boss檢查...甚至當你剛剛開始編寫自己的代碼，就寫了一句話... text = 什么鬼只要你開始運行自...

e10101 2019-07-24 18:19 評論0 收藏0