热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

PythonHTML过滤处理实例解析:深入探讨代码实现与应用场景

本文深入解析了Python在处理HTML过滤时的实现方法及其应用场景。通过具体实例,详细介绍了如何利用Python代码去除HTML字符串中的标签和其他无关信息,确保内容的纯净与安全。此外,文章还探讨了该技术在网页抓取、数据清洗等领域的实际应用,为开发者提供了宝贵的参考。

python对html过滤处理的方法

如下所示:

##过滤HTML中的标签

#将HTML中标签等信息去掉

#@param htmlstr HTML字符串.

def filter_tags(htmlstr):

#先过滤CDATA

re_cdata=re.compile('//]*//\]\]>',re.I) #匹配CDATA

re_script&#61;re.compile(&#39;<\s*script[^>]*>[^<]*<\s*/\s*script\s*>&#39;,re.I)#Script

re_style&#61;re.compile(&#39;<\s*style[^>]*>[^<]*<\s*/\s*style\s*>&#39;,re.I)#style

re_br&#61;re.compile(&#39;
&#39;)#处理换行

re_h&#61;re.compile(&#39;?\w&#43;[^>]*>&#39;)#HTML标签

re_comment&#61;re.compile(&#39;&#39;)#HTML注释

re_stopwords&#61;re.compile(&#39;\u3000&#39;)#去除无用的&#39;\u3000&#39;字符

s&#61;re_cdata.sub(&#39;&#39;,htmlstr)#去掉CDATA

s&#61;re_script.sub(&#39;&#39;,s) #去掉SCRIPT

s&#61;re_style.sub(&#39;&#39;,s)#去掉style

s&#61;re_br.sub(&#39;\n&#39;,s)#将br转换为换行

s&#61;re_h.sub(&#39;&#39;,s) #去掉HTML 标签

s&#61;re_comment.sub(&#39;&#39;,s)#去掉HTML注释

s&#61;re_stopwords.sub(&#39;&#39;,s)

#去掉多余的空行

blank_line&#61;re.compile(&#39;\n&#43;&#39;)

s&#61;blank_line.sub(&#39;\n&#39;,s)

s&#61;replaceCharEntity(s)#替换实体

return s

##替换常用HTML字符实体.

#使用正常的字符替换HTML中特殊的字符实体.

#你可以添加新的实体字符到CHAR_ENTITIES中,处理更多HTML字符实体.

#&#64;param htmlstr HTML字符串.

def replaceCharEntity(htmlstr):

CHAR_ENTITIES&#61;{&#39;nbsp&#39;:&#39; &#39;,&#39;160&#39;:&#39; &#39;,

&#39;lt&#39;:&#39;<&#39;,&#39;60&#39;:&#39;<&#39;,

&#39;gt&#39;:&#39;>&#39;,&#39;62&#39;:&#39;>&#39;,

&#39;amp&#39;:&#39;&&#39;,&#39;38&#39;:&#39;&&#39;,

&#39;quot&#39;:&#39;"&#39;,&#39;34&#39;:&#39;"&#39;,}

re_charEntity&#61;re.compile(r&#39;?(?P\w&#43;);&#39;)

sz&#61;re_charEntity.search(htmlstr)

while sz:

entity&#61;sz.group()#entity全称&#xff0c;如>

key&#61;sz.group(&#39;name&#39;)#去除&;后entity,如>为gt

try:

htmlstr&#61;re_charEntity.sub(CHAR_ENTITIES[key],htmlstr,1)

sz&#61;re_charEntity.search(htmlstr)

except KeyError:

#以空串代替

htmlstr&#61;re_charEntity.sub(&#39;&#39;,htmlstr,1)

sz&#61;re_charEntity.search(htmlstr)

return htmlstr

以上这篇python对html过滤处理的方法就是小编分享给大家的全部内容了&#xff0c;希望能给大家一个参考&#xff0c;也希望大家多多支持码农之家。

Python使用正则表达式过滤或替换HTML标签方法介绍

这篇文章主要介绍了Python使用正则表达式过滤或替换HTML标签的方法,简单介绍了Python正则相关语法并结合具体实例形式分析了Python基于正则表达式的HTML标签过滤与替换相关操作技巧,需要的朋友可以参考下

本文实例讲述了Python使用正则表达式过滤或替换HTML标签的方法。分享给大家供大家参考&#xff0c;具体如下&#xff1a;

python正则表达式关键内容:

python正则表达式转义符:

. 匹配除换行符以外的任意字符

\w 匹配字母或数字或下划线或汉字

\s 匹配任意的空白符

\d 匹配数字

\b 匹配单词的开始或结束

^ 匹配字符串的开始

$ 匹配字符串的结束

\W 匹配任意不是字母&#xff0c;数字&#xff0c;下划线&#xff0c;汉字的字符

\S 匹配任意不是空白符的字符

\D 匹配任意非数字的字符

\B 匹配不是单词开头或结束的位置

[^x] 匹配除了x以外的任意字符

[^aeiou] 匹配除了aeiou这几个字母以外的任意字符

常用的python正则表达式限定符代码/语法说明:

*重复零次或更多次

&#43;重复一次或更多次

?重复零次或一次

{n}重复n次

{n,}重复n次或更多次

{n,m}重复n到m次

关于python正则表达式命名组:

命名组:(?P.....)

这篇文章里面还提到了界定( 问号开头,前向则有个&#39;<&#39;号,非则有个&#39;!&#39; 号 ):

前向界定 (?<&#61;…)

后向界定 (?&#61;…)

前向非界定 (?

后向非界定 (?!.....)

Python通过正则表达式去除(过滤)HTML标签示例代码

#-*- coding:utf-8 -*-

import re

##过滤HTML中的标签

# 将HTML中标签等信息去掉

# &#64;param htmlstr HTML字符串.

def filter_tags(htmlstr):

# 先过滤CDATA

re_cdata &#61; re.compile("//

CDATA\[[>]∗//

\]>", re.I) #匹配CDATA

re_script &#61; re.compile(&#39;<\s*script[^>]*>[^<]*<\s*/\s*script\s*>&#39;, re.I) # Script

re_style &#61; re.compile(&#39;<\s*style[^>]*>[^<]*<\s*/\s*style\s*>&#39;, re.I) # style

re_br &#61; re.compile(&#39;
&#39;) # 处理换行

re_h &#61; re.compile(&#39;?\w&#43;[^>]*>&#39;) # HTML标签

re_comment &#61; re.compile(&#39;&#39;) # HTML注释

s &#61; re_cdata.sub(&#39;&#39;, htmlstr) # 去掉CDATA

s &#61; re_script.sub(&#39;&#39;, s) # 去掉SCRIPT

s &#61; re_style.sub(&#39;&#39;, s) # 去掉style

s &#61; re_br.sub(&#39;\n&#39;, s) # 将br转换为换行

s &#61; re_h.sub(&#39;&#39;, s) # 去掉HTML 标签

s &#61; re_comment.sub(&#39;&#39;, s) # 去掉HTML注释

# 去掉多余的空行

blank_line &#61; re.compile(&#39;\n&#43;&#39;)

s &#61; blank_line.sub(&#39;\n&#39;, s)

s &#61; replaceCharEntity(s) # 替换实体

return s

##替换常用HTML字符实体.

# 使用正常的字符替换HTML中特殊的字符实体.

# 你可以添加新的实体字符到CHAR_ENTITIES中,处理更多HTML字符实体.

# &#64;param htmlstr HTML字符串.

def replaceCharEntity(htmlstr):

CHAR_ENTITIES &#61; {&#39;nbsp&#39;: &#39; &#39;, &#39;160&#39;: &#39; &#39;,

&#39;lt&#39;: &#39;<&#39;, &#39;60&#39;: &#39;<&#39;,

&#39;gt&#39;: &#39;>&#39;, &#39;62&#39;: &#39;>&#39;,

&#39;amp&#39;: &#39;&&#39;, &#39;38&#39;: &#39;&&#39;,

&#39;quot&#39;: &#39;"&#39;&#39;"&#39;, &#39;34&#39;: &#39;"&#39;, }

re_charEntity &#61; re.compile(r&#39;?(?P\w&#43;);&#39;)

sz &#61; re_charEntity.search(htmlstr)

while sz:

entity &#61; sz.group() # entity全称&#xff0c;如>

key &#61; sz.group(&#39;name&#39;) # 去除&;后entity,如>为gt

try:

htmlstr &#61; re_charEntity.sub(CHAR_ENTITIES[key], htmlstr, 1)

sz &#61; re_charEntity.search(htmlstr)

except KeyError:

# 以空串代替

htmlstr &#61; re_charEntity.sub(&#39;&#39;, htmlstr, 1)

sz &#61; re_charEntity.search(htmlstr)

return htmlstr

def repalce(s, re_exp, repl_string):

return re_exp.sub(repl_string, s)

if __name__ &#61;&#61; &#39;__main__&#39;:

s &#61; file(&#39;test.html&#39;).read()

news &#61; filter_tags(s)

print news

以上就是Python使用正则表达式过滤或替换HTML标签方法介绍的详细内容&#xff0c;更多请关注码农之家其它相关文章&#xff01;

以上就是本次给大家分享的关于java的全部知识点内容总结&#xff0c;大家还可以在下方相关文章里找到相关文章进一步学习&#xff0c;感谢大家的阅读和支持。



推荐阅读
  • 本文详细介绍如何使用Python进行配置文件的读写操作,涵盖常见的配置文件格式(如INI、JSON、TOML和YAML),并提供具体的代码示例。 ... [详细]
  • 技术分享:从动态网站提取站点密钥的解决方案
    本文探讨了如何从动态网站中提取站点密钥,特别是针对验证码(reCAPTCHA)的处理方法。通过结合Selenium和requests库,提供了详细的代码示例和优化建议。 ... [详细]
  • 根据最新发布的《互联网人才趋势报告》,尽管大量IT从业者已转向Python开发,但随着人工智能和大数据领域的迅猛发展,仍存在巨大的人才缺口。本文将详细介绍如何使用Python编写一个简单的爬虫程序,并提供完整的代码示例。 ... [详细]
  • 本文详细介绍了Java中org.neo4j.helpers.collection.Iterators.single()方法的功能、使用场景及代码示例,帮助开发者更好地理解和应用该方法。 ... [详细]
  • 使用 Azure Service Principal 和 Microsoft Graph API 获取 AAD 用户列表
    本文介绍了一段通用代码示例,该代码不仅能够操作 Azure Active Directory (AAD),还可以通过 Azure Service Principal 的授权访问和管理 Azure 订阅资源。Azure 的架构可以分为两个层级:AAD 和 Subscription。 ... [详细]
  • 前言--页数多了以后需要指定到某一页(只做了功能,样式没有细调)html ... [详细]
  • 本文详细解析了Python中的os和sys模块,介绍了它们的功能、常用方法及其在实际编程中的应用。 ... [详细]
  • 掌握远程执行Linux脚本和命令的技巧
    本文将详细介绍如何利用Python的Paramiko库实现远程执行Linux脚本和命令,帮助读者快速掌握这一实用技能。通过具体的示例和详尽的解释,让初学者也能轻松上手。 ... [详细]
  • 本文探讨了如何在给定整数N的情况下,找到两个不同的整数a和b,使得它们的和最大,并且满足特定的数学条件。 ... [详细]
  • 本文介绍了在Windows环境下使用pydoc工具的方法,并详细解释了如何通过命令行和浏览器查看Python内置函数的文档。此外,还提供了关于raw_input和open函数的具体用法和功能说明。 ... [详细]
  • 使用Python在SAE上开发新浪微博应用的初步探索
    最近重新审视了新浪云平台(SAE)提供的服务,发现其已支持Python开发。本文将详细介绍如何利用Django框架构建一个简单的新浪微博应用,并分享开发过程中的关键步骤。 ... [详细]
  • 本文介绍如何使用Python进行文本处理,包括分词和生成词云图。通过整合多个文本文件、去除停用词并生成词云图,展示文本数据的可视化分析方法。 ... [详细]
  • 本文介绍了如何使用JQuery实现省市二级联动和表单验证。首先,通过change事件监听用户选择的省份,并动态加载对应的城市列表。其次,详细讲解了使用Validation插件进行表单验证的方法,包括内置规则、自定义规则及实时验证功能。 ... [详细]
  • 本文详细介绍了Java中org.eclipse.ui.forms.widgets.ExpandableComposite类的addExpansionListener()方法,并提供了多个实际代码示例,帮助开发者更好地理解和使用该方法。这些示例来源于多个知名开源项目,具有很高的参考价值。 ... [详细]
  • 本文详细介绍了Akka中的BackoffSupervisor机制,探讨其在处理持久化失败和Actor重启时的应用。通过具体示例,展示了如何配置和使用BackoffSupervisor以实现更细粒度的异常处理。 ... [详细]
author-avatar
手机用户2502893535
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有