怎么用python抓取网页内容保存到csv文件

   2025-02-13 4600
核心提示:要使用Python抓取网页内容并保存到CSV文件,可以按照以下步骤进行操作:导入所需的库,包括requests用于发送HTTP请求,csv用于操

要使用Python抓取网页内容并保存到CSV文件,可以按照以下步骤进行操作:

导入所需的库,包括requests用于发送HTTP请求,csv用于操作CSV文件。
import requestsimport csv
发送HTTP请求获取网页内容,并将其存储在一个变量中。可以使用requests.get()方法来发送GET请求,并使用.text属性来获取网页内容。
url = "http://example.com"  # 替换为需要抓取的网页URLresponse = requests.get(url)content = response.text
解析网页内容,提取所需的数据。可以使用Python内置的字符串操作方法或者使用第三方库(如BeautifulSoup)来解析网页。
# 使用示例:使用正则表达式从网页内容中提取所有的链接import repattern = '<a href="(.*?)".*?>'links = re.findall(pattern, content)
创建一个CSV文件,并将数据写入其中。可以使用csv.writer对象来写入CSV文件,通过调用其writerow()方法来写入一行数据。
filename = "data.csv"  # 替换为所需的CSV文件名with open(filename, 'w', newline='') as file:    writer = csv.writer(file)    writer.writerow(["Link"])  # 写入表头    for link in links:        writer.writerow([link])  # 写入数据

完整的代码示例:

import requestsimport csvimport reurl = "http://example.com"  # 替换为需要抓取的网页URLresponse = requests.get(url)content = response.textpattern = '<a href="(.*?)".*?>'links = re.findall(pattern, content)filename = "data.csv"  # 替换为所需的CSV文件名with open(filename, 'w', newline='') as file:    writer = csv.writer(file)    writer.writerow(["Link"])  # 写入表头    for link in links:        writer.writerow([link])  # 写入数据

运行上述代码后,会在当前目录下生成一个名为"data.csv"的文件,其中包含了抓取到的网页链接信息。根据实际需求,可以调整代码来提取其他所需的数据并写入CSV文件。

 
 
更多>同类维修知识
推荐图文
推荐维修知识
点击排行
网站首页  |  关于我们  |  联系方式  |  用户协议  |  隐私政策  |  网站留言