pythonurl汉字编码

❶ python语言中的如何输入编号叫什么

Python 默认脚本文件都是 ANSCII 编码的，当文件 中有非 ANSCII 编码范围内的字符的时候就要使用"编码指示"来修正。 一个mole的定义中，如果.py文件中包含中文字符（严格的说是含有非anscii字符），则需要在第一行或第二行指定编码声明：

# -*- coding=utf-8 -*-或者 #coding=utf-8 其他的编码如：gbk、gb2312也可以； 否则会出现类似:SyntaxError: Non-ASCII character '/xe4' in file ChineseTest.py on line 1, but no encoding declared; see http://www.pytho for details这样的异常信息；n.org/peps/pep-0263.html

命令查看脚本默认的编码方式
>>> import sys
>>> sys.getdefaultencoding()
'ascii'
>>>

2.2 python中的编码与解码

先说一下python中的字符串类型，在python中有两种字符串类型，分别是str和unicode，他们都是basestring的派生类；str类型是一个包含Characters represent (at least) 8-bit bytes的序列；unicode的每个unit是一个unicode obj;所以：

len(u'中国')的值是2；len('ab')的值也是2；

在str的文档中有这样的一句话：The string data type is also used to represent arrays of bytes, e.g., to hold data read from a file. 也就是说在读取一个文件的内容，或者从网络上读取到内容时，保持的对象为str类型；如果想把一个str转换成特定编码类型，需要把str转为Unicode,然后从unicode转为特定的编码类型如：utf-8、gb2312等；

2.2.1 print 语句解释编码问题

print 是打印默认的编码方式，相当于对任何对象encode编码转化成str对象。默认是gbk的编码就是对Unicode进行自动的gbk编码，再按照gbk编码输出。

当print语句碰到一个unicode目标的时候，会用当前python shell环境的默认编码格式首先对unicode对象进行encode（此时unicode对象已经变成了一个str对象了），然后再以默认编码格式为基础，根据其包含的汉字和编码的对应规则，把这个str对象解释成中文并显示出来。但是当print语句碰到的直接是个str目标的时候，就不管其从unicode转到str时用的编码格式是什么，直接用默认编码格式的对应规则来解释成中文。所以，当unicode对象转换成str时的编码格式和print语句的默认编码格式不一致的时候就会出现乱码现象。比如在cmd的python shell里面：

复制代码
复制代码
证明Python 系统默认编码gbk
>>> s= '你好'
>>> s
'\xc4\xe3\xba\xc3'
>>> s = u'你好'
>>> s
u'\xc4\xe3\xba\xc3'
>>> s = '你好'
>>> s
'\xc4\xe3\xba\xc3'
>>> print type(s)
<type 'str'>
>>>unicode 编码打印错误，print 解析字符串而不是Unicode 编码
>>> s = u'你好'
>>> print s
ÄãºÃ
>>>uni = u'你好' #存入一个unicode对象
>>>print uni
你好 #可以正常显示 相当于Unicode.encode（gbk）
>>>uni.encode("gbk")
'\xc4\xe3\xba\xc3' #显示的是个str对象了，如果type(uni.encode("gbk"))得到的就是str对象
>>>print uni.encode("gbk")
你好 #可以正常显示，因为在cmd下的pythonshell里默认个编码格式就是gbk，gbk解析
>>>uni.encode("utf-8")
'\xe4\xbd\xa0\xe5\xa5\xbd' #可以看到，encode用的编码格式不同，编成的字符串也是不同的
>>>print uni.encode("utf-8")
浣犲ソ #乱码，因为用了gbk中汉字和字符串编码格式对应规则去解释了用utf-8编码成的字符串。解释的编码格式不对应。
#######さらに######
>>>print '\xc4\xe3' #自己写出来的这么个字符串（前面不加r）的话也会被print解释成中文，按照编码格式输出
你
>>>print uni.encode("utf-8").decode("gbk")
浣犲ソ
'''
乱码，而且和上面的乱码一样，这是因为，在uni被utf-8 encode之后，这个对象变成了str对象，是'\xe4\xbd\xa0\xe5\xa5\xbd' 这个。
后来，它又被按照gbk的规则解码，又变回了unicode，但是此时它在内存里的二进制数据已经和最初的uni不一样了。
最初的uni，应该是'\xc4\xe3\xba\xc3'.decode("gbk")，而现在的这个东西，他decode之前的字符串已经变过了。
这么一个东西再拿去print，又把它编码成了gbk格式，相当于前面那步decode没有做，变回了'\xe4\xbd\xa0\xe5\xa5\xbd'。
再解释成汉字，当然就和最开始用uni编码成utf-8格式再解释成汉字的乱码一样了
'''

复制代码

2.2.2 脚本print 打印的正确方式

上面已经证明了系统的默认编码方式是gbk，就是print 最后正确的编码方式应该是gbk

两种解决编码不匹配的情况：

一是明确的指示出 s 的编码方式
# -*- coding: utf-8 -*-
s = '中文'
s.decode('utf-8').encode('gb2312')
二是更改 sys.defaultencoding 为文件的编码方式
#! /usr/bin/env python
# -*- coding: utf-8 -*-
import sys
reload(sys) # Python2.5 初始化后会删除 sys.setdefaultencoding 这个方法，我们需要重新载入
sys.setdefaultencoding('utf-8')
str = '中文'
str.encode('gb2312')

三、实践经验中爬取数据的获得

复制代码
# -*- coding: utf-8 -*-
'''
#加油两个字可以很好的比较编码正确和错误
#### 错误的处理方式，
s = "中文"
print s
#这里print就不是输出gbk的编码，是按照头文件utf-8的格式输出
# 结果：中文
print s.decode('utf-8')
#结果中文，s进行解码称为Unicode，print打印就和系统print打印一样自动将Unicode进行
#解码，不用encode编码也能输出，但是最好转化成为字符串输出。
上面实例就是错误使用编码，错误使用编码会出现个别字体的乱码。
'''

'''
要点1、声明头文件# -*- coding: utf-8 -*- 说明所有的代码和中文是utf-8的编码方式
要点2、print输出函数输出到前台cmd中的默认系统编码方式是GBK，
要点3、尽量将Unicode转化成为字符串str （gbk或者utf-8），再去处理。

#unicode 转化成为字符串
s = u'加油'
print s
#结果：加油。原因：系统自动将Unicode升级gbk编码成为字符串，然后系统print 打印gbk
print s.encode('utf-8')
#结果：锷犳补。错误原因：Unicode 编码成为utf-8的字符串形式，但是print打印系统是gbk的，编码冲突。
print s.encode('gbk')
#结果：加油。原因：和print s等价，认为编码了gbk，系统打印
ss = "加油"
print ss
#结果：锷犳补。原因：ss为utf-8的字符串str，print 打印的对应编码字符串是gbk的，所以编码冲突。
print ss.decode('utf-8').encode('gbk')
#结果：加油。原因：ss首先从字符串编码utf-8解码成为unicode，然后进行编码gbk，等价使用print ss.decode('utf-8')。
'''

'''
3.1python中关于中文转换url编码的问题
爬虫的时候我们经常会碰到中文链接编码出现变换的问题，
例如'丽江'中文在url的地址编码却是'%E4%B8%BD%E6%B1%9F'，
因此需 要做一个转换。这里我们就用到了模块urllib。
'''
import urllib
data = '丽江'
print data.decode('utf-8').encode('gbk')
#对utf-8的中文编码
print urllib.quote(data)
#那我们想转回去呢？
print urllib.unquote('%E4%B8%BD%E6%B1%9F').decode('utf-8').encode('gbk')

'''
'丽江'在网页编码是gbk的转换码是'%C0%F6%BD%AD'，utf-8中的转化码是'%E4%B8%BD%E6%B1%9F'，其实是编码问题。
网络的是gbk，其他的一般网站比如google就是utf8的。所以可以用下列语句实现。
'''

#江苏课题的编码转化
import sys,urllib
s = '江苏'
print urllib.quote(s.decode(sys.stdin.encoding).encode('gbk'))
print urllib.quote(s.decode(sys.stdin.encoding).encode('utf8'))

for place in ['南京','无锡','徐州','常州','苏州','盐城','南通','连云港','淮安','盐城','扬州']:
print urllib.quote(place)

####################
#结果:
'''
>>>
丽江
%E4%B8%BD%E6%B1%9F
丽江
%E4%B8%BD%E6%B1%9F
%E6%B6%93%E8%8A%A5%E7%9D%99
>>>
'''

❷ python 无法转url 编码怎么解决

今天要处理网络贴吧的东西。想要做一个关键词的list，每次需要时，直接添加 到list里面就可以了。但是添加到list里面是中文的情况（比如‘丽江’），url的地址编码却是'%E4%B8%BD%E6%B1%9F'，因此需 要做一个转换。这里我们就用到了模块urllib。
>>> import urllib
>>> data = '丽江'
>>> print data
丽江
>>> data
'\xe4\xb8\xbd\xe6\xb1\x9f'
>>>urllib.quote(data)
'%E4%B8%BD%E6%B1%9F'
那我们想转回去呢？
>>> urllib.unquote('%E4%B8%BD%E6%B1%9F')
'\xe4\xb8\xbd\xe6\xb1\x9f'
>>> printurllib.unquote('%E4%B8%BD%E6%B1%9F')
丽江
细心的同学会发现贴吧url中出现的是%C0%F6%BD%AD，而非'%E4%B8%BD%E6%B1%9F'，其实是编码问题。网络的是gbk，其他的一般网站比如google就是utf8的。所以可以用下列语句实现。
>>> import sys,urllib
>>> s = '丽江'
>>> urllib.quote(s.decode(sys.stdin.encoding).encode('gbk'))
'%C0%F6%BD%AD'
>>> urllib.quote(s.decode(sys.stdin.encoding).encode('utf8'))
'%E4%B8%BD%E6%B1%9F'
>>>
另一个方法
#!/usr/bin/python
import urllib
import sys
string = sys.argv[1]
string = unicode(string,"gbk")
utf8_string = string.encode("utf-8")
gbk_string=string.encode("gbk")
gbk=urllib.quote(gbk_string)
utf8=urllib.quote(utf8_string)
print gbk
print utf8

❸ #Python爬虫 如何将网址中的汉字转换成16进制字符串

• from urllib.parse import quote

• main_url = "https://ke..com/item"

• universitys = ["北京航空航天大学", "清华大学", "武汉大学", "华中科技大学"]

• for university in universitys:

• url = f"{main_url}/{quote(university)}"

• print(url)

结果如下:

https://ke..com/item/%E5%8C%97%E4%BA%AC%E8%88%AA%E7%A9%BA%E8%88%AA%E5%A4%A9%E5%A4%A7%E5%AD%A6

https://ke..com/item/%E6%B8%85%E5%8D%8E%E5%A4%A7%E5%AD%A6

https://ke..com/item/%E6%AD%A6%E6%B1%89%E5%A4%A7%E5%AD%A6

https://ke..com/item/%E5%8D%8E%E4%B8%AD%E7%A7%91%E6%8A%80%E5%A4%A7%E5%AD%A6

❹ python utf8 gbk 编码问题

你是不是想在python里把中文变成链接中%E5%BE%85这种形式？直接用urllib.urlencode({'word':'中文'})方法
而显示\xe5\xbe\x85\是因为你没有使用read()方法，加上后变成：'待解析网页'.decode('gbk').encode('utf-8').read()，就是你熟悉的中文了。
不过，'待解析网页'.decode('gbk').encode('utf-8')这句我要吐槽一下，网页明显是utf-8编码，你在文件开头声明utf-8编码就可以了，这一句是多余的。在这基础上读取网页直接用 '待解析网页'.read()

❺ python 爬虫中文编码转换出错

importurllib
if__name__=='__main__':
enc=r"%C0%FA%CA%B7%C9%CF%C4%C7%D0%A9%C5%A3%C8%CB%C3%C7.pdf"
string=urllib.unquote(enc).decode('gb2312')
printtype(string),string

这是python2的，简单点。只能帮这么多了。

❻ python 抓取的网页链接，链接中的中文乱码问题

应该是shell的编码和listinfo编码不一样导致的，部分正常，部分乱码有可能是因为两种编码部分字符恰好一样。

试试

importsys
printi[i].encode(sys.getdefaultencoding())

❼ python url 编码解码

中文的gbk(GB2312)编码： 一个汉字对应两组%xx，即%xx%xx
中文的UTF-8编码： 一个汉字对应三组%xx，即%xx%xx%xx

❽ url编码问题在python中怎么解决

最近在抓取一些js代码产生的动态数据，需要模拟js请求获得所需用的数据，遇到对url进行编码和解码的问题，就把遇到的问题总结一下，有总结才有进步，才能使学到的知识更加清晰。对url进行编码和解码，python提供了很方便的接口进行调用。

url中的query带有特殊字符（不是url的保留字）时需要进行编码。当url中带有汉字时，需要特殊的处理才能正确编码，以下都只针对这种情形，当然也适用于纯英文字符的url。

(1) url编码：

import urllib

url = 'wd=哈哈' #如果此网站编码是gbk的话，需要进行解码，从gbk解码成unicode，再从Unicode编码编码为utf-8格式。

url = url.decode('gbk', 'replace')

print urllib.quote(url.encode('utf-8', 'replace'))

结果: 3a%2f%2ftest.com%2fs%3fwd%3d%e5%93%88%e5%93%88

(2) url解码:

import urllib

encoded_url = est.com%2fs%3fwd%3d%e5%93%88%e5%93%88'

print urllib.unquote(encoded_url).decode('utf-8', 'replace').encode('gbk', 'replace') #反过来

函数调用的参数以及结果都是utf-8编码的，所以在对url编码时，需要将参数串的编码从原始编码转换成utf-8，

对url解码时，需要将解码结果从utf-8转换成原始编码格式。

依据网站采用的编码不同，或是gbk或是utf-8，赋赋予不同的编码，进行不同的url转码。GBK格式，一个中文字符转为%xx%xx，共两组；utf-8格式，一个中文字符转为%xx%xx%xx，共三组。

• >>>importsys,urllib
  

• >>>s='杭州'

• >>>urllib.quote(s.decode(sys.stdin.encoding).encode('gbk'))
  

• %BA%BC%D6%DD

• >>>urllib.quote(s.decode(sys.stdin.encoding).encode('utf8'))
  

• '%E6%9D%AD%E5%B7%9E'

[python]view plain

• a="墨西哥女孩被拐4年接客4万次生的孩子成为人质-搜狐新闻"

• printurllib.quote(urllib.quote(a))

进行两次编码转换后，会变为：%25E5%25A2%25A8%25E8%25A5%25BF%25E5%2593%25A5%25E5%25A5%25B3%25E5%25AD%25A9%25E8%25A2%25AB%25E6%258B%25904%25E5%25B9.................................................................................这样的形式。

同样需要两次解码后才能得到中文。



最近用python写了个小爬虫自动下点东西，但是url 是含中文的，而且中文似乎是 gbk 编码然后转成 url的。举个例子吧，我如果有个unicode字符串“历史上那些牛人们.pdf”，那么我转换成url之后是，
t="%20%E5%8E%86%E5%8F%B2%E4%B8%8A%E9%82%A3%E4%BA%9B%E7%89%9B%E4%BA%BA%E4%BB%AC.pdf"，
但是对方网站给的是 s="%C0%FA%CA%B7%C9%CF%C4%C7%D0%A9%C5%A3%C8%CB%C3%C7.PDF"


>>>print urllib.unquote("%C0%FA%CA%B7%C9%CF%C4%C7%D0%A9%C5%A3%C8%CB%C3%C7.PDF").decode('gbk').encode('utf-8')


>>>历史上那些牛人们.PDF

❾ python url编码两次怎么结

面是中文的情况（比如‘丽江'），url的地址编码却是'%E4%B8%BD%E6%B1%9F'，因此需 要做一个转换。这里我们就用到了模块urllib。
?

1
2
3
4
5
6
7
8

>>> import urllib
>>> data = '丽江'
>>> print data
丽江
>>> data
'\xe4\xb8\xbd\xe6\xb1\x9f'