热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

PythonHTML过滤处理实例解析:深入探讨代码实现与应用场景

本文深入解析了Python在处理HTML过滤时的实现方法及其应用场景。通过具体实例,详细介绍了如何利用Python代码去除HTML字符串中的标签和其他无关信息,确保内容的纯净与安全。此外,文章还探讨了该技术在网页抓取、数据清洗等领域的实际应用,为开发者提供了宝贵的参考。

python对html过滤处理的方法

如下所示:

##过滤HTML中的标签

#将HTML中标签等信息去掉

#@param htmlstr HTML字符串.

def filter_tags(htmlstr):

#先过滤CDATA

re_cdata=re.compile('//]*//\]\]>',re.I) #匹配CDATA

re_script&#61;re.compile(&#39;<\s*script[^>]*>[^<]*<\s*/\s*script\s*>&#39;,re.I)#Script

re_style&#61;re.compile(&#39;<\s*style[^>]*>[^<]*<\s*/\s*style\s*>&#39;,re.I)#style

re_br&#61;re.compile(&#39;
&#39;)#处理换行

re_h&#61;re.compile(&#39;?\w&#43;[^>]*>&#39;)#HTML标签

re_comment&#61;re.compile(&#39;&#39;)#HTML注释

re_stopwords&#61;re.compile(&#39;\u3000&#39;)#去除无用的&#39;\u3000&#39;字符

s&#61;re_cdata.sub(&#39;&#39;,htmlstr)#去掉CDATA

s&#61;re_script.sub(&#39;&#39;,s) #去掉SCRIPT

s&#61;re_style.sub(&#39;&#39;,s)#去掉style

s&#61;re_br.sub(&#39;\n&#39;,s)#将br转换为换行

s&#61;re_h.sub(&#39;&#39;,s) #去掉HTML 标签

s&#61;re_comment.sub(&#39;&#39;,s)#去掉HTML注释

s&#61;re_stopwords.sub(&#39;&#39;,s)

#去掉多余的空行

blank_line&#61;re.compile(&#39;\n&#43;&#39;)

s&#61;blank_line.sub(&#39;\n&#39;,s)

s&#61;replaceCharEntity(s)#替换实体

return s

##替换常用HTML字符实体.

#使用正常的字符替换HTML中特殊的字符实体.

#你可以添加新的实体字符到CHAR_ENTITIES中,处理更多HTML字符实体.

#&#64;param htmlstr HTML字符串.

def replaceCharEntity(htmlstr):

CHAR_ENTITIES&#61;{&#39;nbsp&#39;:&#39; &#39;,&#39;160&#39;:&#39; &#39;,

&#39;lt&#39;:&#39;<&#39;,&#39;60&#39;:&#39;<&#39;,

&#39;gt&#39;:&#39;>&#39;,&#39;62&#39;:&#39;>&#39;,

&#39;amp&#39;:&#39;&&#39;,&#39;38&#39;:&#39;&&#39;,

&#39;quot&#39;:&#39;"&#39;,&#39;34&#39;:&#39;"&#39;,}

re_charEntity&#61;re.compile(r&#39;?(?P\w&#43;);&#39;)

sz&#61;re_charEntity.search(htmlstr)

while sz:

entity&#61;sz.group()#entity全称&#xff0c;如>

key&#61;sz.group(&#39;name&#39;)#去除&;后entity,如>为gt

try:

htmlstr&#61;re_charEntity.sub(CHAR_ENTITIES[key],htmlstr,1)

sz&#61;re_charEntity.search(htmlstr)

except KeyError:

#以空串代替

htmlstr&#61;re_charEntity.sub(&#39;&#39;,htmlstr,1)

sz&#61;re_charEntity.search(htmlstr)

return htmlstr

以上这篇python对html过滤处理的方法就是小编分享给大家的全部内容了&#xff0c;希望能给大家一个参考&#xff0c;也希望大家多多支持码农之家。

Python使用正则表达式过滤或替换HTML标签方法介绍

这篇文章主要介绍了Python使用正则表达式过滤或替换HTML标签的方法,简单介绍了Python正则相关语法并结合具体实例形式分析了Python基于正则表达式的HTML标签过滤与替换相关操作技巧,需要的朋友可以参考下

本文实例讲述了Python使用正则表达式过滤或替换HTML标签的方法。分享给大家供大家参考&#xff0c;具体如下&#xff1a;

python正则表达式关键内容:

python正则表达式转义符:

. 匹配除换行符以外的任意字符

\w 匹配字母或数字或下划线或汉字

\s 匹配任意的空白符

\d 匹配数字

\b 匹配单词的开始或结束

^ 匹配字符串的开始

$ 匹配字符串的结束

\W 匹配任意不是字母&#xff0c;数字&#xff0c;下划线&#xff0c;汉字的字符

\S 匹配任意不是空白符的字符

\D 匹配任意非数字的字符

\B 匹配不是单词开头或结束的位置

[^x] 匹配除了x以外的任意字符

[^aeiou] 匹配除了aeiou这几个字母以外的任意字符

常用的python正则表达式限定符代码/语法说明:

*重复零次或更多次

&#43;重复一次或更多次

?重复零次或一次

{n}重复n次

{n,}重复n次或更多次

{n,m}重复n到m次

关于python正则表达式命名组:

命名组:(?P.....)

这篇文章里面还提到了界定( 问号开头,前向则有个&#39;<&#39;号,非则有个&#39;!&#39; 号 ):

前向界定 (?<&#61;…)

后向界定 (?&#61;…)

前向非界定 (?

后向非界定 (?!.....)

Python通过正则表达式去除(过滤)HTML标签示例代码

#-*- coding:utf-8 -*-

import re

##过滤HTML中的标签

# 将HTML中标签等信息去掉

# &#64;param htmlstr HTML字符串.

def filter_tags(htmlstr):

# 先过滤CDATA

re_cdata &#61; re.compile("//

CDATA\[[>]∗//

\]>", re.I) #匹配CDATA

re_script &#61; re.compile(&#39;<\s*script[^>]*>[^<]*<\s*/\s*script\s*>&#39;, re.I) # Script

re_style &#61; re.compile(&#39;<\s*style[^>]*>[^<]*<\s*/\s*style\s*>&#39;, re.I) # style

re_br &#61; re.compile(&#39;
&#39;) # 处理换行

re_h &#61; re.compile(&#39;?\w&#43;[^>]*>&#39;) # HTML标签

re_comment &#61; re.compile(&#39;&#39;) # HTML注释

s &#61; re_cdata.sub(&#39;&#39;, htmlstr) # 去掉CDATA

s &#61; re_script.sub(&#39;&#39;, s) # 去掉SCRIPT

s &#61; re_style.sub(&#39;&#39;, s) # 去掉style

s &#61; re_br.sub(&#39;\n&#39;, s) # 将br转换为换行

s &#61; re_h.sub(&#39;&#39;, s) # 去掉HTML 标签

s &#61; re_comment.sub(&#39;&#39;, s) # 去掉HTML注释

# 去掉多余的空行

blank_line &#61; re.compile(&#39;\n&#43;&#39;)

s &#61; blank_line.sub(&#39;\n&#39;, s)

s &#61; replaceCharEntity(s) # 替换实体

return s

##替换常用HTML字符实体.

# 使用正常的字符替换HTML中特殊的字符实体.

# 你可以添加新的实体字符到CHAR_ENTITIES中,处理更多HTML字符实体.

# &#64;param htmlstr HTML字符串.

def replaceCharEntity(htmlstr):

CHAR_ENTITIES &#61; {&#39;nbsp&#39;: &#39; &#39;, &#39;160&#39;: &#39; &#39;,

&#39;lt&#39;: &#39;<&#39;, &#39;60&#39;: &#39;<&#39;,

&#39;gt&#39;: &#39;>&#39;, &#39;62&#39;: &#39;>&#39;,

&#39;amp&#39;: &#39;&&#39;, &#39;38&#39;: &#39;&&#39;,

&#39;quot&#39;: &#39;"&#39;&#39;"&#39;, &#39;34&#39;: &#39;"&#39;, }

re_charEntity &#61; re.compile(r&#39;?(?P\w&#43;);&#39;)

sz &#61; re_charEntity.search(htmlstr)

while sz:

entity &#61; sz.group() # entity全称&#xff0c;如>

key &#61; sz.group(&#39;name&#39;) # 去除&;后entity,如>为gt

try:

htmlstr &#61; re_charEntity.sub(CHAR_ENTITIES[key], htmlstr, 1)

sz &#61; re_charEntity.search(htmlstr)

except KeyError:

# 以空串代替

htmlstr &#61; re_charEntity.sub(&#39;&#39;, htmlstr, 1)

sz &#61; re_charEntity.search(htmlstr)

return htmlstr

def repalce(s, re_exp, repl_string):

return re_exp.sub(repl_string, s)

if __name__ &#61;&#61; &#39;__main__&#39;:

s &#61; file(&#39;test.html&#39;).read()

news &#61; filter_tags(s)

print news

以上就是Python使用正则表达式过滤或替换HTML标签方法介绍的详细内容&#xff0c;更多请关注码农之家其它相关文章&#xff01;

以上就是本次给大家分享的关于java的全部知识点内容总结&#xff0c;大家还可以在下方相关文章里找到相关文章进一步学习&#xff0c;感谢大家的阅读和支持。



推荐阅读
  • 二维码的实现与应用
    本文介绍了二维码的基本概念、分类及其优缺点,并详细描述了如何使用Java编程语言结合第三方库(如ZXing和qrcode.jar)来实现二维码的生成与解析。 ... [详细]
  • Java 中的十进制样式 getZeroDigit()方法,示例 ... [详细]
  • 数据类型--char一、char1.1char占用2个字节char取值范围:【0~65535】char采用unicode编码方式char类型的字面量用单引号括起来char可以存储一 ... [详细]
  • web页面报表js下载,web报表软件 ... [详细]
  • 在1995年,Simon Plouffe 发现了一种特殊的求和方法来表示某些常数。两年后,Bailey 和 Borwein 在他们的论文中发表了这一发现,这种方法被命名为 Bailey-Borwein-Plouffe (BBP) 公式。该问题要求计算圆周率 π 的第 n 个十六进制数字。 ... [详细]
  • 问题描述现在,不管开发一个多大的系统(至少我现在的部门是这样的),都会带一个日志功能;在实际开发过程中 ... [详细]
  • 如何将955万数据表的17秒SQL查询优化至300毫秒
    本文详细介绍了通过优化SQL查询策略,成功将一张包含955万条记录的财务流水表的查询时间从17秒缩短至300毫秒的方法。文章不仅提供了具体的SQL优化技巧,还深入探讨了背后的数据库原理。 ... [详细]
  • 深入理解:AJAX学习指南
    本文详细探讨了AJAX的基本概念、工作原理及其在现代Web开发中的应用,旨在为初学者提供全面的学习资料。 ... [详细]
  • 本文介绍如何手动实现一个字符串连接函数,该函数不依赖于C语言的标准字符串处理函数,如strcpy或strcat。函数原型为void concatenate(char *dest, char *src),其主要作用是将源字符串src追加到目标字符串dest的末尾。 ... [详细]
  • 根据官方定义,RxJava是一种用于异步编程和可观察数据流的API。其核心特性在于流式处理能力和丰富的操作符支持。 ... [详细]
  • 本文详细介绍了如何在Android应用中实现重复报警功能。示例代码可在以下路径找到:https://developer.android.com/samples/RepeatingAlarm/index.html。首先,我们将从Manifest文件开始分析。 ... [详细]
  • 使用HTML和JavaScript实现视频截图功能
    本文介绍了如何利用HTML和JavaScript实现从远程MP4、本地摄像头及本地上传的MP4文件中截取视频帧,并展示了具体的实现步骤和示例代码。 ... [详细]
  • python模块之正则
    re模块可以读懂你写的正则表达式根据你写的表达式去执行任务用re去操作正则正则表达式使用一些规则来检测一些字符串是否符合个人要求,从一段字符串中找到符合要求的内容。在 ... [详细]
  • 本文详细介绍了 Spark 中的弹性分布式数据集(RDD)及其常见的操作方法,包括 union、intersection、cartesian、subtract、join、cogroup 等转换操作,以及 count、collect、reduce、take、foreach、first、saveAsTextFile 等行动操作。 ... [详细]
  • 浅析python实现布隆过滤器及Redis中的缓存穿透原理_python
    本文带你了解了位图的实现,布隆过滤器的原理及Python中的使用,以及布隆过滤器如何应对Redis中的缓存穿透,相信你对布隆过滤 ... [详细]
author-avatar
手机用户2502893535
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有