关于 Google Insights for Search 中可下载的 csv 格式趋势数据文件，我遇到了一个我自己无法解决的问题。
我懒得重新格式化 I4S 手动给我的文件意味着什么:用实际趋势数据提取部分并重新格式化列，以便我可以将它用于我为学校做的建模程序。
所以我写了一个小脚本，它应该为我完成工作:获取一个文件，做一些魔术，然后给我一个格式正确的新文件。
它应该做的是读取文件内容，提取趋势部分，用换行符拆分它，拆分每一行，然后重新排序列并可能重新格式化它们。
当查看未修改的 I4S csv 文件时，它看起来很正常，在换行符处包含 CR LF 字符(也许那只是因为我使用的是 Windows)。
当只是读取内容然后使用脚本将它们写入新文件时，奇怪的亚洲字符出现在 CR 和 LF 之间。我用手动编写的类似文件尝试了脚本，甚至尝试了来自 Google Trends 的 csv 文件，它工作正常。
我使用 Python 和用于以下示例的脚本(片段) 看起来像这样:
# Read from an input file
file = open(file,"r")
contents = file.read()
file.close()
cfile = open("m.log","w+")
cfile.write(contents)
cfile.close()
有人知道为什么会出现这些字符吗？？？谢谢你的帮助!
我给你举个例子:
I4S csv 文件的前几行:
Web Search Interest: foobar
Worldwide; 2004 - present
Interest over time
Week foobar
2004-01-04 - 2004-01-10 44
2004-01-11 - 2004-01-17 44
2004-01-18 - 2004-01-24 37
2004-01-25 - 2004-01-31 40
2004-02-01 - 2004-02-07 49
2004-02-08 - 2004-02-14 51
2004-02-15 - 2004-02-21 45
2004-02-22 - 2004-02-28 61
2004-02-29 - 2004-03-06 51
2004-03-07 - 2004-03-13 48
2004-03-14 - 2004-03-20 50
2004-03-21 - 2004-03-27 56
2004-03-28 - 2004-04-03 59
读写内容时的输出文件:
Web Search Interest: foobar
圀漀爀氀搀眀椀搀攀㬀 ㈀ 㐀 ⴀ 瀀爀攀猀攀渀琀ഀഀ
䤀渀琀攀爀攀猀琀 漀瘀攀爀 琀椀洀攀ഀഀ
Week foobar
㈀ 㐀ⴀ ⴀ 㐀 ⴀ ㈀ 㐀ⴀ ⴀ ऀ㐀㐀ഀഀ
2004-01-11 - 2004-01-17 44
㈀ 㐀ⴀ ⴀ㠀 ⴀ ㈀ 㐀ⴀ ⴀ㈀㐀ऀ㌀㜀ഀഀ
2004-01-25 - 2004-01-31 40
㈀ 㐀ⴀ ㈀ⴀ ⴀ ㈀ 㐀ⴀ ㈀ⴀ 㜀ऀ㐀㤀ഀഀ
2004-02-08 - 2004-02-14 51
㈀ 㐀ⴀ ㈀ⴀ㔀 ⴀ ㈀ 㐀ⴀ ㈀ⴀ㈀ऀ㐀㔀ഀഀ
2004-02-22 - 2004-02-28 61
㈀ 㐀ⴀ ㈀ⴀ㈀㤀 ⴀ ㈀ 㐀ⴀ ㌀ⴀ 㘀ऀ㔀ഀഀ
2004-03-07 - 2004-03-13 48
㈀ 㐀ⴀ ㌀ⴀ㐀 ⴀ ㈀ 㐀ⴀ ㌀ⴀ㈀ ऀ㔀 ഀഀ
2004-03-21 - 2004-03-27 56
㈀ 㐀ⴀ ㌀ⴀ㈀㠀 ⴀ ㈀ 㐀ⴀ 㐀ⴀ ㌀ऀ㔀㤀ഀഀ
2004-04-04 - 2004-04-10 69
㈀ 㐀ⴀ 㐀ⴀ ⴀ ㈀ 㐀ⴀ 㐀ⴀ㜀ऀ㘀㔀ഀഀ
2004-04-18 - 2004-04-24 51
㈀ 㐀ⴀ 㐀ⴀ㈀㔀 ⴀ ㈀ 㐀ⴀ 㔀ⴀ ऀ㔀ഀഀ
2004-05-02 - 2004-05-08 56
㈀ 㐀ⴀ 㔀ⴀ 㤀 ⴀ ㈀ 㐀ⴀ 㔀ⴀ㔀ऀ㔀㈀ഀഀ
2004-05-16 - 2004-05-22 54
㈀ 㐀ⴀ 㔀ⴀ㈀㌀ ⴀ ㈀ 㐀ⴀ 㔀ⴀ㈀㤀ऀ㔀㔀ഀഀ
2004-05-30 - 2004-06-05 74
㈀ 㐀ⴀ 㘀ⴀ 㘀 ⴀ ㈀ 㐀ⴀ 㘀ⴀ㈀ऀ㔀㜀ഀഀ
2004-06-13 - 2004-06-19 50
㈀ 㐀ⴀ 㘀ⴀ㈀ ⴀ ㈀ 㐀ⴀ 㘀ⴀ㈀㘀ऀ㔀㐀ഀഀ
2004-06-27 - 2004-07-03 58
㈀ 㐀ⴀ 㜀ⴀ 㐀 ⴀ ㈀ 㐀ⴀ 㜀ⴀ ऀ㔀㤀ഀഀ
2004-07-11 - 2004-07-17 59
㈀ 㐀ⴀ 㜀ⴀ㠀 ⴀ ㈀ 㐀ⴀ 㜀ⴀ㈀㐀ऀ㘀㈀ഀഀ
请您参考如下方法:
repr() 是你的 friend (Python 3.X 除外；请改用 ascii())。
prompt>\python26\python -c "print repr(open('report.csv','rb').read()[:300])"
'\xff\xfeW\x00e\x00b\x00 \x00S\x00e\x00a\x00r\x00c\x00h\x00 \x00I\x00n\x00t\x00e
\x00r\x00e\x00s\x00t\x00:\x00 \x00f\x00o\x00o\x00b\x00a\x00r\x00\r\x00\n\x00W\x0
[snip]
x001\x007\x00\t\x004\x004\x00\r\x00\n\x002\x000\x00'
在我看来，前两个字节确实像 UTF-16LE BOM (U+FEFF)。
Notepad.* 不是您的 friend 。 UTF-16 不应被称为“UCS-2”或“Unicode”。
以下应该有助于下一步做什么:
>>> import codecs
>>> lines = list(codecs.open('report.csv', 'r', encoding='UTF-16'))
>>> import pprint
>>> pprint.pprint(lines[:8])
[u'Web Search Interest: foobar\r\n',
u'Worldwide; 2004 - present\r\n',
u'\r\n',
u'Interest over time\r\n',
u'Week\tfoobar\r\n',
u'2004-01-04 - 2004-01-10\t44\r\n',
u'2004-01-11 - 2004-01-17\t44\r\n',
u'2004-01-18 - 2004-01-24\t37\r\n']
>>>
更新:为什么您的输出文件看起来像 gobbledegook。
首先，您正在使用某种东西(可能是记事本*)查看文件，这些东西知道这些文件据称是用 UTF-16LE 编码的，并相应地显示它们。所以你的输入文件看起来不错。
但是，您的脚本将输入文件读取为原始字节。然后它以文本模式('w')(相对于二进制模式('wb'))将输出文件写入原始字节。因为您在 Windows 上，所以每个 \n 都将替换为 \r\n。这是向每一行添加一个字节(UTF-16 字符的一半)。所以每第二行将是 bassackwards aka UTF-16BE ... UTF-16LE 中的\x41\x00 字母 A 将丢失其尾随\x00 并从字符左侧拾取前导字节(可能是\x00) .\x00\x41 是 CJK(“亚洲”)字符的 UTF-16LE。
