使用python代码,数据采集,做一个比价系统,有前端后端,前端提交查询的商品,后端启用爬虫代码使用多线程,开始比价,最后返回最低价格,该商品的链接,图片等

时间: 2024-04-21 21:26:49 浏览: 12
好的,这个系统需要用到 Python 的 requests 库来获取网页源代码,用到 BeautifulSoup 库来解析网页,用到 threading 库来实现多线程,用到 Flask 库来实现前端和后端的交互。 以下是代码实现: 后端代码: ```python import requests from bs4 import BeautifulSoup from flask import Flask, request, jsonify import threading app = Flask(__name__) def get_price(url): try: # 获取网页源代码 headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36 Edge/16.16299' } r = requests.get(url, headers=headers) r.raise_for_status() r.encoding = r.apparent_encoding soup = BeautifulSoup(r.text, 'html.parser') # 解析网页获取商品价格和图片链接 price = soup.find('span', {'class': 'price'}).get_text() img_url = soup.find('img', {'class': 'img'}).get('src') return price, img_url except: return '获取价格失败', '' @app.route('/compare', methods=['POST']) def compare(): # 获取前端提交的商品名 data = request.json product_name = data['product_name'] # 获取商品链接列表 url_list = [] url_list.append('https://jd.com/search?keyword=' + product_name) url_list.append('https://s.taobao.com/search?q=' + product_name) url_list.append('https://www.amazon.com/s?k=' + product_name) # 多线程获取商品价格和图片链接 results = [] threads = [] for url in url_list: t = threading.Thread(target=results.append(get_price(url)), args=(url,)) threads.append(t) t.start() for t in threads: t.join() # 返回最低价格、商品链接和图片链接 min_price = min(result[0] for result in results) min_result = [result for result in results if result[0] == min_price][0] min_url = url_list[results.index(min_result)] min_img_url = min_result[1] # 返回结果 result = { 'product_name': product_name, 'min_price': min_price, 'min_url': min_url, 'min_img_url': min_img_url } return jsonify(result) if __name__ == '__main__': app.run(debug=True) ``` 前端代码: ```html <!DOCTYPE html> <html> <head> <meta charset="UTF-8"> <title>比价系统</title> <script src="https://cdn.bootcdn.net/ajax/libs/jquery/3.5.1/jquery.min.js"></script> </head> <body> <h1>比价系统</h1> <div> <label>商品名:</label> <input id="product_name" type="text"> <button id="compare_btn">比价</button> </div> <div id="result"> </div> <script> $('#compare_btn').click(function() { var product_name = $('#product_name').val(); $.ajax({ url: '/compare', type: 'POST', contentType: 'application/json', data: JSON.stringify({product_name: product_name}), success: function(result) { var html = '<p>商品名:' + result.product_name + '</p>'; html += '<p>最低价格:' + result.min_price + '</p>'; html += '<p>商品链接:' + result.min_url + '</p>'; html += '<p>图片链接:<img src="' + result.min_img_url + '"></p>'; $('#result').html(html); } }); }); </script> </body> </html> ``` 在命令行中运行后端代码: ``` python backend.py ``` 然后在浏览器中打开前端页面即可。

最新推荐

recommend-type

组成原理课程实验:MIPS 流水线CPU、实现36条指令、转发、冒险检测-内含源码和说明书.zip

组成原理课程实验:MIPS 流水线CPU、实现36条指令、转发、冒险检测-内含源码和说明书.zip
recommend-type

setuptools-50.0.2-py3-none-any.whl

Python库是一组预先编写的代码模块,旨在帮助开发者实现特定的编程任务,无需从零开始编写代码。这些库可以包括各种功能,如数学运算、文件操作、数据分析和网络编程等。Python社区提供了大量的第三方库,如NumPy、Pandas和Requests,极大地丰富了Python的应用领域,从数据科学到Web开发。Python库的丰富性是Python成为最受欢迎的编程语言之一的关键原因之一。这些库不仅为初学者提供了快速入门的途径,而且为经验丰富的开发者提供了强大的工具,以高效率、高质量地完成复杂任务。例如,Matplotlib和Seaborn库在数据可视化领域内非常受欢迎,它们提供了广泛的工具和技术,可以创建高度定制化的图表和图形,帮助数据科学家和分析师在数据探索和结果展示中更有效地传达信息。
recommend-type

setuptools-1.1.6.tar.gz

Python库是一组预先编写的代码模块,旨在帮助开发者实现特定的编程任务,无需从零开始编写代码。这些库可以包括各种功能,如数学运算、文件操作、数据分析和网络编程等。Python社区提供了大量的第三方库,如NumPy、Pandas和Requests,极大地丰富了Python的应用领域,从数据科学到Web开发。Python库的丰富性是Python成为最受欢迎的编程语言之一的关键原因之一。这些库不仅为初学者提供了快速入门的途径,而且为经验丰富的开发者提供了强大的工具,以高效率、高质量地完成复杂任务。例如,Matplotlib和Seaborn库在数据可视化领域内非常受欢迎,它们提供了广泛的工具和技术,可以创建高度定制化的图表和图形,帮助数据科学家和分析师在数据探索和结果展示中更有效地传达信息。
recommend-type

CEA二次开发脚本:用于ECSP配比设计

CEA二次开发脚本:用于ECSP配比设计
recommend-type

环形数组是一种特殊的数据结构

环形数组
recommend-type

zigbee-cluster-library-specification

最新的zigbee-cluster-library-specification说明文档。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

实现实时数据湖架构:Kafka与Hive集成

![实现实时数据湖架构:Kafka与Hive集成](https://img-blog.csdnimg.cn/img_convert/10eb2e6972b3b6086286fc64c0b3ee41.jpeg) # 1. 实时数据湖架构概述** 实时数据湖是一种现代数据管理架构,它允许企业以低延迟的方式收集、存储和处理大量数据。与传统数据仓库不同,实时数据湖不依赖于预先定义的模式,而是采用灵活的架构,可以处理各种数据类型和格式。这种架构为企业提供了以下优势: - **实时洞察:**实时数据湖允许企业访问最新的数据,从而做出更明智的决策。 - **数据民主化:**实时数据湖使各种利益相关者都可
recommend-type

用 Python 画一个可以动的爱心

好的,我可以帮助您使用Python来绘制一个动态的爱心。您可以使用turtle库来实现。以下是实现代码: ```python import turtle import math # 设置画布和画笔 canvas = turtle.Screen() canvas.bgcolor("black") pencil = turtle.Turtle() pencil.speed(0) pencil.color("red", "pink") pencil.pensize(3) # 定义爱心函数 def draw_love(heart_size, x_offset=0, y_offset=0):
recommend-type

JSBSim Reference Manual

JSBSim参考手册,其中包含JSBSim简介,JSBSim配置文件xml的编写语法,编程手册以及一些应用实例等。其中有部分内容还没有写完,估计有生之年很难看到完整版了,但是内容还是很有参考价值的。