如何确定文件编码格式的方法

如何确定文件编码格式的方法？？

当我们用SystemIOStreamReader读取包含汉字的txt文件时，经常会读出乱码（StreamWriater写文本文件也有类似的问题），原因很简单，就是文件的编码（encoding）和StreamReader/Writer的encoding不对应。

为了解决这个问题，我写了一个类，来取得一个文本文件的encoding，这样我们就可以创建对应的StreamReader和StreamWriter来读写，保证不会出现乱码现象。其实原理很简单，文本编辑器（比如XP自带的记事本）在生成文本文件时，如果编码格式和系统默认的编码（中文系统下默认为GB2312）不一致时，会在txt文件开头部分添加特定的“编码字节序标识（Encoding Bit Order Madk，简写为BOM）”，类似PE格式的"MZ"文件头。这样它在读取时就可以根据这个BOM来确定该文本文件生成时所使用的Encoding。这个BOM我们用记事本等程序打开默认是看不到的，但是用stream按字节读取时是可以读到的。我的这个TxtFileEncoding类就是根据这个BOM“文件头”来确定txt文件生成时用到的编码的。

//　作者：袁晓辉

//　2005-8-8

// // // // // //

using System;

using SystemText;

using SystemIO;

namespace FarprocText

{

/// <summary>

/// 用于取得一个文本文件的编码方式(Encoding)。

/// </summary>

public class TxtFileEncoding

{

public TxtFileEncoding()

{

//

// TODO: 在此处添加构造函数逻辑

//

}

/// <summary>

/// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符，EncodingDefault将被返回。

/// </summary>

/// <param name="fileName">文件名。</param>

/// <returns></returns>

public static Encoding GetEncoding(string fileName)

{

return GetEncoding(fileName, EncodingDefault);

}

/// <summary>

/// 取得一个文本文件流的编码方式。

/// </summary>

/// <param name="stream">文本文件流。</param>

/// <returns></returns>

public static Encoding GetEncoding(FileStream stream)

{

return GetEncoding(stream, EncodingDefault);

}

// <summary>

/// 取得一个文本文件的编码方式。

/// </summary>

/// <param name="fileName">文件名。</param>

/// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。</param>

/// <returns></returns>

public static Encoding GetEncoding(string fileName, Encoding defaultEncoding)

{

FileStream fs = new FileStream(fileName, FileModeOpen);

Encoding targetEncoding = GetEncoding(fs, defaultEncoding);

fsClose();

return targetEncoding;

}

/// <summary>

/// 取得一个文本文件流的编码方式。

/// </summary>

/// <param name="stream">文本文件流。</param>

/// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。</param>

/// <returns></returns>

public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding)

{

Encoding targetEncoding = defaultEncoding;

if(stream != null && streamLength >= 2)

{

//保存文件流的前4个字节

byte byte1 = 0;

byte byte2 = 0;

byte byte3 = 0;

byte byte4 = 0;

//保存当前Seek位置

long origPos = streamSeek(0, SeekOriginBegin);

streamSeek(0, SeekOriginBegin);

int nByte = streamReadByte();

byte1 = ConvertToByte(nByte);

byte2 = ConvertToByte(streamReadByte());

if(streamLength >= 3)

{

byte3 = ConvertToByte(streamReadByte());

}

if(streamLength >= 4)

{

byte4 = ConvertToByte(streamReadByte());

}

//根据文件流的前4个字节判断Encoding

//Unicode {0xFF, 0xFE};

//BE-Unicode {0xFE, 0xFF};

//UTF8 = {0xEF, 0xBB, 0xBF};

if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe

{

targetEncoding = EncodingBigEndianUnicode;

}

if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode

{

targetEncoding = EncodingUnicode;

}

if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8

{

targetEncoding = EncodingUTF8;

}

//恢复Seek位置　

streamSeek(origPos, SeekOriginBegin);

}

return targetEncoding;

}

}

}

由于在GB2312和UTF7编码都没有BOM，所以需要指定一个默认的Encoding，在找不到合法的BOM时，将返回这个Encoding。有谁知道如何区分GB2312和UTF7编码txt文件的方法，也请告诉我。

由于只是static方法，所以不用new，直接通过类名调用方法，使用起来也很简单。

using System;

using FarprocText;

using SystemText;

using SystemIO;

namespace ConsoleApplication1

{

/// <summary>

/// Class1 的摘要说明。

/// </summary>

class Class1

{

/// <summary>

/// 应用程序的主入口点。

/// </summary>

[STAThread]

static void Main(string[] args)

{

//

// TODO: 在此处添加代码以启动应用程序

//

string fileName = @"e:\atxt";

//生成一个big endian Unicode编码格式的文本文件

StreamWriter sw = new StreamWriter(fileName, false, EncodingBigEndianUnicode);//你可以试试其他编码，比如EncodingGetEncoding("GB2312")或UTF8

swWrite("这是一个String");

swClose();

//读取

Encoding fileEncoding = TxtFileEncodingGetEncoding(fileName, EncodingGetEncoding("GB2312"));//取得这txt文件的编码

ConsoleWriteLine("这个文本文件的编码为：" + fileEncodingEncodingName);

StreamReader sr = new StreamReader(fileName, fileEncoding);//用该编码创建StreamReader

//用下面的方法虽然可以让系统自动判断文本文件的编码格式，但是我们无法取得该文本文件的编码

//srCurrentEncoding永远为 Unicode(UTF-8)

//StreamReader sr = new StreamReader(fileName, true);

//ConsoleWriteLine("这个文本文件的编码为：" + srCurrentEncodingEncodingName);

ConsoleWriteLine("这个文本文件的内容为：" + srReadToEnd());

srClose();

ConsoleReadLine();

}

}

}

NET下的string永远是Unicode的，所以只能判断txt文件的Encoding。对于byte[]，只有自己知道它的Encoding才能转换为string 转换为其他编码的byte[]，一个例外是把整个txt文件通过stream读入byte[]后也可以根据它的前几个字节判断Encoding，对于片断，我们就无能为力了:)

常见的比如在Visual Studio 中写的C\C++程序需要放到Linux主机上编译，而程序的中文注释则显示为乱码，比较严重的是由于编码原因，linux上的编译器报错。

1、用VIM查看文件编码

在Vim 中可以直接查看文件编码

:set fileencoding

即可显示文件编码格式。

2、 改写~/vimrc 文件 如果你只是想查看其它编码格式的文件或者想解决用Vim查看文件乱码的问题，那么你可以在

~/vimrc 文件中添加以下内容：

set encoding=utf-8 fileencodings=ucs-bom,utf-8,cp936

这样，就可以让vim自动识别文件编码（可以自动识别UTF-8或者GBK编码的文件），其实就是依照 fileencodings提供的编码列表尝试，如果没有找到合适的编码，就用latin-1(ASCII)编码打开。

3、 用ICONV文件编码转换

我们利用iconv工具对文件的编码进行转换。

iconv 转换，iconv的命令格式如下：

iconv -f encoding -t encoding inputfile

比如将一个GBK 编码的文件转换成UTF-8编码

iconv -f GBK -t UTF-8 file1 -o file2

其中的参数的意义表示

-f From 某个编码

1、文件编码格式一般指文件内文本字符采用什么样的字符集，

通常简体中文windows采用GB2312，极个别文本字符采用utf-8字符集，

2、有时文件编码格式也通常指代文件的类型，windows对程序或数据文件的识别，一般通过文件扩展名来完成，也就是通过扩展名来识别一个文件是数据文件、可执行文件、文本文件、音乐文件~~

以上就是关于如何确定文件编码格式的方法全部的内容，包括:如何确定文件编码格式的方法、linux下如何查看文件编码格式及转换文件编码、如何查看文件编码格式等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！