下面所说的都是针对python2.7

复制代码 代码如下:

#coding:utf-8

#chardet 需要下载安装

import chardet

#抓取网页html

line = "http://www.***.com"

html_1 = urllib2.urlopen(line,timeout=120).read()

#print html_1

encoding_dict = chardet.detect(html_1)

#print encoding

web_encoding = encoding_dict['encoding']

if web_encoding == 'utf-8' or web_encoding == 'UTF-8':

html = html_1

else :

html = html_1.decode('gbk','ignore').encode('utf-8')

#有以上处理，整个html就不会是乱码。