使用 Beautiful Soup 在 Python 中进行网页抓取和解析 HTML

利用python和beautiful soup从网络抓取midi数据,训练magenta神经网络生成经典任天堂风格音乐。本文将引导您完成整个过程,从环境搭建到数据下载,并提供代码示例。

准备工作与依赖安装

首先,确保已安装Python 3和pip。建议创建一个虚拟环境,以避免包冲突。 激活虚拟环境后,运行以下命令安装必要的库:

pip install requests==2.22.0 beautifulsoup4==4.8.1

我们使用Beautiful Soup 4,因为它比已不再维护的版本3更稳定。

使用requests抓取数据,Beautiful Soup解析

立即学习“Python免费学习笔记(深入)”;

以下代码从指定网页获取HTML,并创建一个Beautiful Soup对象用于解析:

import requestsfrom bs4 import BeautifulSoupvgm_url = 'https://www.vgmusic.com/music/console/nintendo/nes/'html_text = requests.get(vgm_url).textsoup = BeautifulSoup(html_text, 'html.parser')

soup 对象允许您遍历和搜索HTML中的数据。例如,soup.title 获取页面标题,print(soup.get_text()) 打印所有文本内容。

了解Beautiful Soup的核心方法

find()find_all() 是Beautiful Soup中最常用的方法。find() 用于查找单个元素,例如 soup.find(id='banner_ad').text 获取指定ID元素的文本。 find_all() 用于查找所有匹配条件的元素,例如以下代码打印页面上所有超链接的URL:

for link in soup.find_all('a'):    print(link.get('href'))

find_all() 支持多种参数,例如正则表达式或属性,以精确过滤搜索结果。

解析和导航HTML

在编写解析代码之前,建议使用浏览器开发者工具检查目标网页的HTML结构。 下图显示了目标网页截图和开发者工具的使用方法。

使用 Beautiful Soup 在 Python 中进行网页抓取和解析 HTML使用 Beautiful Soup 在 Python 中进行网页抓取和解析 HTML

我们的目标是从网页下载MIDI文件,但需要排除重复曲目和混音版本。

使用Beautiful Soup过滤和下载MIDI文件

以下代码使用正则表达式过滤链接,仅下载不包含括号的MIDI文件:

import reimport requestsfrom bs4 import BeautifulSoupvgm_url = 'https://www.vgmusic.com/music/console/nintendo/nes/'html_text = requests.get(vgm_url).textsoup = BeautifulSoup(html_text, 'html.parser')def download_track(count, track_element):    track_title = track_element.text.strip().replace('/', '-')    download_url = '{}{}'.format(vgm_url, track_element['href'])    file_name = '{}_{}.mid'.format(count, track_title)    r = requests.get(download_url, allow_redirects=True)    with open(file_name, 'wb') as f:        f.write(r.content)    print('Downloaded: {}'.format(track_title))if __name__ == '__main__':    attrs = {'href': re.compile(r'.mid$')}    tracks = soup.find_all('a', attrs=attrs, string=re.compile(r'^((?!().)*$'))    count = 0    for track in tracks:        download_track(count, track)        count += 1    print(len(tracks))

运行此代码将下载所有过滤后的MIDI文件。

使用 Beautiful Soup 在 Python 中进行网页抓取和解析 HTML

总结与展望

通过Beautiful Soup,您可以轻松地从网页中抓取所需数据。 请记住,网页结构可能会发生变化,需要定期检查和更新代码。 您可以使用mido等库进一步处理MIDI数据,并使用Magenta训练神经网络生成音乐。 希望您能利用这些技术创建令人惊叹的项目!

以上就是使用 Beautiful Soup 在 Python 中进行网页抓取和解析 HTML的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1355513.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月13日 19:16:16
下一篇 2025年12月13日 19:16:22

相关推荐

  • 网页抓取教程:使用 Python 从网站中提取数据

    利用Python进行网络数据抓取,实现网站数据自动化提取。本教程将指导您编写一个Python脚本,从目标网站抓取产品信息。我们将涵盖核心步骤、常见问题以及高效的数据存储和应用方法。 网络数据抓取概述 网络数据抓取是指从网站获取数据并将其以结构化形式保存的过程。此技术广泛应用于数据分析、价格比对和机器…

    2025年12月13日
    000
  • 您真的需要人工智能代理吗?

    人工智能代理的出现为处理复杂工作流程带来了革命性变革。这些系统赋予大型语言模型 (LLM) 动态规划工作流程的能力,从而在传统预设流程无法胜任的情况下提供灵活的解决方案。然而,代理并非总是最佳选择。有时,简单的确定性工作流程能带来更好的结果。那么,如何判断何时该使用代理,何时又该避免使用呢?让我们深…

    2025年12月13日
    000
  • Gen AI 开发者周第 5 天

    Gen AI 开发人员第 1 周 – 第 5 天。有效的数据可视化连接…… |作者:Sai Chinmay Tripurari | 2025 年 1 月 |中 Sai Chinmay Tripurari · 2025 年 1 月 5 日 · saichinmayt.Medium 以上就是…

    2025年12月13日
    000
  • 日列表功能、任务

    split(): split() 方法根据分隔符将字符串划分为子字符串列表。 加入(): join() 方法使用调用它的字符串作为分隔符,将可迭代的元素连接成单个字符串。 使用循环的示例: s = “today is thursday”reverse = “”i = 0while i<len(…

    好文分享 2025年12月13日
    000
  • Flask 路由与 Flask-RESTful 路由

    本文将从语法层面比较flask路由和flask-restful路由,帮助您理解两者在定义url路径、服务器资源和http方法上的差异。 什么是路由? 路由是客户端与服务器之间通信的通道,包含三个核心组件: URL路径: 客户端请求的服务器地址,例如/home。服务器资源: 处理请求并返回响应的逻辑单…

    2025年12月13日
    000
  • 那么,人工智能代理的真正定义是什么?

    人工智能代理究竟是什么?它仅仅是一个能访问外部API的大型语言模型(LLM)吗? 答案是:差不多。 我们所说的AI代理,主要指基于LLM的代理。想象一下ChatGPT这样的通用LLM,但并非直接使用,而是为其配备各种工具来增强其能力。 例如,询问ChatGPT明天的天气。LLM本身无法回答,因为它无…

    2025年12月13日
    000
  • Django 身份验证简介:了解核心组件和优点

    Django 身份验证:构建安全可靠的 Web 应用 在现代 Web 开发中,Django 凭借其强大的功能和易用性成为构建可靠网站的热门框架。其内置的身份验证系统更是简化了用户登录、权限管理等关键安全功能的实现。本文将深入探讨 Django 的身份验证系统,涵盖核心组件、优势以及最佳实践。 Dja…

    2025年12月13日
    000
  • 如何在 Python 中配置 VSCode 自动格式化和 Linting

    VSCode Python 自动格式化和代码检查配置指南 VSCode 以其灵活性与强大的功能,成为众多 Python 开发者的首选 IDE。然而,代码编辑和自动化远不止 VSCode 一种工具。PyCharm、Sublime Text 甚至 Vim 等其他 IDE 或编辑器也各有千秋,选择取决于个…

    2025年12月13日
    000
  • 使用 AI 工具和 Azure 静态 Web 应用构建教育游戏(第 1 部分)

    探索游戏化学习:一个使用ren’py和ai构建的教育视觉小说游戏 一直以来,将创造力、技术和趣味性融合于一体的理念都深深吸引着我。最近,我尝试通过开发一款教育性质的视觉小说游戏来探索这种可能性。虽然我缺乏游戏开发经验,但我渴望尝试新事物,因此我选择使用Ren’Py——一个基于…

    2025年12月13日 好文分享
    000
  • PyTorch 中的 CocoCaptions (1)

    请我喝杯咖啡☕ *备忘录: 我的帖子解释了cocodetection()使用带有captions_train2014.json、instances_train2014.json和person_keypoints_train2014.json的train2014、带有captions_val2014.…

    2025年12月13日 好文分享
    000
  • AI 代理初学者教程

    AI 代理入门指南 概述 人工智能(AI)已彻底改变了我们的生活、工作和互动方式,成为现代科技的核心。AI 代理是AI领域的基础概念,赋予机器决策、解决问题和适应变化的能力。本教程将全面介绍AI代理,涵盖AI、机器学习和编程语言的基础知识,以及基于代理的建模和仿真。 什么是AI代理? AI代理是利用…

    2025年12月13日
    000
  • 了解 Python 中的正则表达式:一个实际示例

    简介 正则表达式(Regex或Regexp)是强大的模式匹配和文本处理工具,用于精确查找、匹配和操作字符串。本文通过一个Python客户验证函数的实际案例,演示正则表达式的应用。 背景 假设需要验证客户信息,特别是姓名和手机号码。以下Python代码片段使用正则表达式验证手机号码: 立即学习“Pyt…

    2025年12月13日
    000
  • 周统计

    一周统计学速成:一场略带讽刺的深度探索 本周,我们将深入浅出地探讨统计学的核心概念,力求以严谨的技术手法解释基本原理,并辅以轻松的讽刺,让学习过程更轻松有趣。本文将详细分解我的统计学习之旅,涵盖理论知识、实际案例和 Python 代码实现。 1. 描述性统计:数据概述 描述性统计是将原始数据进行总结…

    2025年12月13日
    000
  • 使用 Elbow 方法进行 K 均值聚类

    概述 聚类分析是一种机器学习技术,用于将未标记的数据集划分成若干组(簇)。简单来说,它将相似的数据点分组到一起。具有相似特征的数据点归为一类,而与其他组差异较大的数据点则被划分到不同的组中。 以购物中心为例,我们可以看到商品按照用途分组:T恤衫在一个区域,裤子在另一个区域,蔬菜区则将苹果、香蕉、芒果…

    2025年12月13日
    000
  • 使用 Amazon Bedrock 构建个性化学习伴侣

    我现在正在攻读硕士学位,我一直想找到方法来减少每天的学习时间。瞧!这是我的解决方案:使用 amazon bedrock 创建一个学习伙伴。 我们将利用 amazon bedrock 来利用 gpt-4 或 t5 等基础模型 (fm) 的力量。 这些模型将帮助我们创建一个生成式人工智能,可以回答用户对…

    好文分享 2025年12月13日
    000
  • PyTorch 中的 CocoCaptions (2)

    请我喝杯咖啡☕ *备忘录: 我的帖子解释了cococaptions()使用带有captions_train2014.json、instances_train2014.json和person_keypoints_train2014.json的train2014、带有captions_val2014.j…

    2025年12月13日 好文分享
    000
  • 上传文件到 OpenAI:传递接力棒

    本文将指导您如何利用 OpenAI 文件 API 上传预处理好的 JSONL 文件,为后续模型微调做好准备,这就好比将整理好的邮件交给邮递员进行投递。 准备工作: 确保已安装 OpenAI Python 包:pip install openai获取您的 OpenAI API 密钥。 上传文件步骤 (…

    2025年12月13日
    000
  • PyTorch 中的 CocoDetection(2)

    请我喝杯咖啡☕ *我的帖子解释了 ms coco。 cocodetection() 可以使用 ms coco 数据集,如下所示。 *这适用于带有captions_train2017.json、instances_train2017.json和person_keypoints_train2017.js…

    2025年12月13日 好文分享
    000
  • PyTorch 中的 CocoDetection (1)

    请我喝杯咖啡☕ *备忘录: 我的帖子解释了cocodetection()使用train2017与captions_train2017.json,instances_train2017.json和person_keypoints_train2017.json,val2017与captions_val2…

    2025年12月13日 好文分享
    000
  • 学习数据科学的最佳方式:有抱负的专家综合指南

    数据科学领域日新月异,需要具备统计学、编程和专业领域知识的独特技能组合。如果您渴望进入这个充满活力的领域,掌握高效的学习方法将帮助您节省时间并最大化学习成果。本文将为您提供一个系统、全面的数据科学学习路线图。 1. 夯实基础 在深入高级主题之前,扎实的基础至关重要,包括: 数学:线性代数、微积分和概…

    2025年12月13日
    000

发表回复

登录后才能评论
关注微信