完成巨量html标签的去除(bs4的妙用)

2024-10-15 08:25:24

1、python、pip、bs4的安装,bs4用pip install命令获取

2、先看原始文件,全是html标签,总共1.7亿字

完成巨量html标签的去除(bs4的妙用)

4、打开python命令行(这里我为了看起来方便用了idel,但是命令行处理能力较强)载入BeautifulSoup模块来去除html标签

完成巨量html标签的去除(bs4的妙用)

6、然后用open 'r' 读取文件,168Mb纯文本,几秒就读完了。因为文本中含有中文,要加encoding='utf-8',否则会出错。

完成巨量html标签的去除(bs4的妙用)

8、关掉python,可以看到新文件已经缩减为了原来的四分之一

完成巨量html标签的去除(bs4的妙用)
猜你喜欢