當(dāng)我們用System.IO.StreamReader讀取包含漢字的txt文件時,經(jīng)常會讀出亂碼(StreamWriater寫文本文件也
有類似的問題),原因很簡單,就是文件的編碼(encoding)和StreamReader/Writer的encoding不對應(yīng)。 為了解決這個問題,我寫了一個類,來取得一個文本文件的encoding,這樣我們就可以創(chuàng)建對應(yīng)的 StreamReader和StreamWriter來讀寫,保證不會出現(xiàn)亂碼現(xiàn)象。其實原理很簡單,文本編輯器(比如XP自帶的記事 本)在生成文本文件時,如果編碼格式和系統(tǒng)默認(rèn)的編碼(中文系統(tǒng)下默認(rèn)為GB2312)不一致時,會在txt文件開頭 部分添加特定的“編碼字節(jié)序標(biāo)識(Encoding Bit Order Madk,簡寫為BOM)”,類似PE格式的"MZ"文件頭。這樣 它在讀取時就可以根據(jù)這個BOM來確定該文本文件生成時所使用的Encoding。這個BOM我們用記事本等程序打開默認(rèn) 是看不到的,但是用stream按字節(jié)讀取時是可以讀到的。我的這個TxtFileEncoding類就是根據(jù)這個BOM“文件頭” 來確定txt文件生成時用到的編碼的。 // 作者:袁曉輝
// 2005-8-8 // // // // // // using System; using System.Text; using System.IO; namespace Farproc.Text { /// <summary> /// 用于取得一個文本文件的編碼方式(Encoding)。 /// </summary> public class TxtFileEncoding { public TxtFileEncoding() { // // TODO: 在此處添加構(gòu)造函數(shù)邏輯 // } /// <summary> /// 取得一個文本文件的編碼方式。如果無法在文件頭部找到有效的前導(dǎo)符,Encoding.Default將被返回。 /// </summary> /// <param name="fileName">文件名。</param> /// <returns></returns> public static Encoding GetEncoding(string fileName) { return GetEncoding(fileName, Encoding.Default); } /// <summary> /// 取得一個文本文件流的編碼方式。 /// </summary> /// <param name="stream">文本文件流。</param> /// <returns></returns> public static Encoding GetEncoding(FileStream stream) { return GetEncoding(stream, Encoding.Default); } /// <summary> /// 取得一個文本文件的編碼方式。 /// </summary> /// <param name="fileName">文件名。</param> /// <param name="defaultEncoding">默認(rèn)編碼方式。當(dāng)該方法無法從文件的頭部取得有效的前導(dǎo)符時,將返回該編碼方式。</param> /// <returns></returns> public static Encoding GetEncoding(string fileName, Encoding defaultEncoding) { FileStream fs = new FileStream(fileName, FileMode.Open); Encoding targetEncoding = GetEncoding(fs, defaultEncoding); fs.Close(); return targetEncoding; } /// <summary> /// 取得一個文本文件流的編碼方式。 /// </summary> /// <param name="stream">文本文件流。</param> /// <param name="defaultEncoding">默認(rèn)編碼方式。當(dāng)該方法無法從文件的頭部取得有效的前導(dǎo)符時,將返回該編碼方式。</param> /// <returns></returns> public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding) { Encoding targetEncoding = defaultEncoding; if(stream != null && stream.Length >= 2) { //保存文件流的前4個字節(jié) byte byte1 = 0; byte byte2 = 0; byte byte3 = 0; byte byte4 = 0; //保存當(dāng)前Seek位置 long origPos = stream.Seek(0, SeekOrigin.Begin); stream.Seek(0, SeekOrigin.Begin); int nByte = stream.ReadByte(); byte1 = Convert.ToByte(nByte); byte2 = Convert.ToByte(stream.ReadByte()); if(stream.Length >= 3) { byte3 = Convert.ToByte(stream.ReadByte()); } if(stream.Length >= 4) { byte4 = Convert.ToByte(stream.ReadByte()); } //根據(jù)文件流的前4個字節(jié)判斷Encoding //Unicode {0xFF, 0xFE}; //BE-Unicode {0xFE, 0xFF}; //UTF8 = {0xEF, 0xBB, 0xBF}; if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe { targetEncoding = Encoding.BigEndianUnicode; } if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode { targetEncoding = Encoding.Unicode; } if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8 { targetEncoding = Encoding.UTF8; } //恢復(fù)Seek位置 stream.Seek(origPos, SeekOrigin.Begin); } return targetEncoding; } } } 由于在GB2312和UTF7編碼都沒有BOM,所以需要指定一個默認(rèn)的Encoding,在找不到合法的BOM時,將返回這個 Encoding。有誰知道如何區(qū)分GB2312和UTF7編碼txt文件的方法,也請告訴我。 由于只是static方法,所以不用new,直接通過類名調(diào)用方法,使用起來也很簡單。 using System; //讀取 //用下面的方法雖然可以讓系統(tǒng)自動判斷文本文件的編碼格式,但是我們無法取得該文本文件的編碼 .NET下的string永遠(yuǎn)是Unicode的,所以只能判斷txt文件的Encoding。對于byte[],只有自己知道它的 Encoding才能轉(zhuǎn)換為string 轉(zhuǎn)換為其他編碼的byte[],一個例外是把整個txt文件通過stream讀入byte[]后也可以根據(jù)它的前幾個字節(jié)判斷 Encoding,對于片斷,我們就無能為力了:) |
|