现在的位置: 首页 > 综合 > 正文

Windows使用UTF-16,创建UTF-16文件请设置前两个字节为0xfffe,这是UTF-16的BOM码

2012年01月26日 ⁄ 综合 ⁄ 共 1420字 ⁄ 字号 评论关闭
windows下的Unicode是UTF-16,每个字都用两个字节来表示。编程的时候,通过TEXT宏,以及在项目中定义Unicode, _Unicode变量,就可以保证整个项目都是在Unicode下工作。

现在在将字符串写入文件的时候,发生了一些问题。写文件用的是WriteFile函数,字符串本身都是UTF-16的,写入文件后发现用vim和记事本打开都无法正确显示。用16进制的方式查看,每个字都是对的,都是2个字节,如果是英文字母,第二个字节就是00。

google 了一下,发现了答案。要在文件开头写入0xfffe,这是Unicode file的identifier,windows下的记事本和写字板读到这个头之后,就能正确识别这是一个Unicode文件了。所以,在代码中,创建文 本文件的时候,要多写这样一段(用ScheduleDownload的logger.cpp来做个例子):

                    // logfile doesn't exist, create it, that's all
          hFile = CreateFile(log_file_path, GENERIC_WRITE, NULL, NULL, CREATE_NEW, FILE_ATTRIBUTE_NORMAL, NULL);
          
if (hFile == INVALID_HANDLE_VALUE) {
             operate_result 
= FALSE;
          } 
else {
             
// write 0xfffe at the beginning of the file, this makes Notepad reads Unicodes well
             WORD unicode_identifier = 0xfeff;
             
if (WriteFile(hFile, &unicode_identifier, sizeof(WORD), &bytes_written, NULL)) {
                operate_result 
= TRUE;
             } 
else {
                operate_result 
= FALSE;
             }
          }
          
goto finished;

    finished:
       if (hFile != NULL && hFile != INVALID_HANDLE_VALUE)
          CloseHandle(hFile);
       
return operate_result;

 

这里不要奇怪为什么设置给unicode_identifier变量的值是0xfeff,这是因为x86是little endian,所以代码中的oxfeff存在寄存器中,然后设置到内存的时候,从低地址到高地址就变成了fffe,这样最后将这个WORD写入文件之后就 正好是fffe了。

最后我自己又测试了一下,写入中文也是没有问题的。使用gvim来打开的话需要设置一下,我在Ubuntu下打开文件是OK的,windows下的gvim的.vimrc设置和Ubuntu一样的话,应该也是没问题的。

抱歉!评论已关闭.