问题:解码Python字符串中的HTML实体?
我正在使用Beautiful Soup 3解析一些HTML,但是它包含HTML实体,Beautiful Soup 3不会自动为我解码:
>>> from BeautifulSoup import BeautifulSoup
>>> soup = BeautifulSoup("<p>£682m</p>")
>>> text = soup.find("p").string
>>> print text
£682m
如何解码HTML实体text
以获得"£682m"
而不是"£682m"
。
回答 0
Python 3.4以上
import html
print(html.unescape('£682m'))
FYI html.parser.HTMLParser.unescape
已过时,应该保留在3.5中,尽管它是错误地遗忘的。它将很快从语言中删除。
Python 2.6-3.3
您可以HTMLParser.unescape()
从标准库中使用:
- 对于python 2.6-2.7
HTMLParser
- 对于Python 3
html.parser
>>> try:
... # Python 2.6-2.7
... from HTMLParser import HTMLParser
... except ImportError:
... # Python 3
... from html.parser import HTMLParser
...
>>> h = HTMLParser()
>>> print(h.unescape('£682m'))
£682m
您还可以使用six
兼容性库来简化导入:
>>> from six.moves.html_parser import HTMLParser
>>> h = HTMLParser()
>>> print(h.unescape('£682m'))
£682m
回答 1
Beautiful Soup处理实体转换。在Beautiful Soup 3中,您需要为构造函数指定convertEntities
参数BeautifulSoup
(请参见存档文档的“实体转换”部分)。在Beautiful Soup 4中,实体会自动解码。
美丽的汤3
>>> from BeautifulSoup import BeautifulSoup
>>> BeautifulSoup("<p>£682m</p>",
... convertEntities=BeautifulSoup.HTML_ENTITIES)
<p>£682m</p>
美丽汤4
>>> from bs4 import BeautifulSoup
>>> BeautifulSoup("<p>£682m</p>")
<html><body><p>£682m</p></body></html>
回答 2
您可以使用w3lib.html库中的replace_entities
In [202]: from w3lib.html import replace_entities
In [203]: replace_entities("£682m")
Out[203]: u'\xa3682m'
In [204]: print replace_entities("£682m")
£682m
回答 3
Beautiful Soup 4允许您将格式化程序设置为输出
如果您传入
formatter=None
,Beautiful Soup将不会在输出上完全修改字符串。这是最快的选项,但可能导致Beautiful Soup生成无效的HTML / XML,如以下示例所示:
print(soup.prettify(formatter=None))
# <html>
# <body>
# <p>
# Il a dit <<Sacré bleu!>>
# </p>
# </body>
# </html>
link_soup = BeautifulSoup('<a href="http://example.com/?foo=val1&bar=val2">A link</a>')
print(link_soup.a.encode(formatter=None))
# <a href="http://example.com/?foo=val1&bar=val2">A link</a>
回答 4
我有一个类似的编码问题。我使用了normalize()方法。将数据框导出到另一个目录中的.html文件时,使用pandas .to_html()方法时出现Unicode错误。我最终做到了,它奏效了…
import unicodedata
数据框对象可以是任何您喜欢的对象,我们称之为表…
table = pd.DataFrame(data,columns=['Name','Team','OVR / POT'])
table.index+= 1
对表格数据进行编码,以便我们可以将其导出到模板文件夹中的.html文件(可以是您希望的任何位置:))
#this is where the magic happens
html_data=unicodedata.normalize('NFKD',table.to_html()).encode('ascii','ignore')
将规范化的字符串导出到html文件
file = open("templates/home.html","w")
file.write(html_data)
file.close()
回答 5
这可能与这里无关。但是要从整个文档中消除这些html实体,您可以执行以下操作:(假设document = page,请原谅草率的代码,但是如果您有关于如何使其变得更好的想法,我想所有人-我是新手这个)。
import re
import HTMLParser
regexp = "&.+?;"
list_of_html = re.findall(regexp, page) #finds all html entites in page
for e in list_of_html:
h = HTMLParser.HTMLParser()
unescaped = h.unescape(e) #finds the unescaped value of the html entity
page = page.replace(e, unescaped) #replaces html entity with unescaped value