"大数据期末课设:电商网站日志数据分析实践报告"

需积分: 5 24 下载量 7 浏览量 更新于2024-01-31 14 收藏 8.54MB DOCX 举报
本次期末课设的主题是电商网站日志数据分析,主要利用Spark和Python结合进行分析和实践。项目报告共有52页,在信息工程学院的课程设计报告中完成并提交。 在背景介绍部分,介绍了电商网站日志数据分析的背景和意义。随着大数据时代的到来,电商网站产生的海量日志数据包含了宝贵的用户行为信息,通过对这些数据进行分析可以帮助电商企业了解用户需求、优化用户体验、提升销售业绩等。 在大数据平台架构设计部分,详细描述了使用Spark构建大数据平台的架构设计。Spark是一种快速通用的集群计算系统,具有高效的分布式数据处理和分析能力。通过构建大数据平台,可以实现对电商网站的日志数据进行高效处理、存储、分析和挖掘,提高数据处理的效率和准确性。 在大数据平台系统设计部分,分析了系统的功能模块和技术选型。系统的功能模块包括数据采集、数据存储、数据处理和数据可视化等。技术选型方面,选择了Spark作为数据处理引擎,HDFS作为数据存储系统,以及Python作为数据分析和可视化的工具。 在数据分析与达成目标部分,介绍了对电商网站日志数据的具体分析目标和方法。通过对用户行为日志的统计、用户画像的构建、产品推荐的实现等分析方法,可以帮助电商企业更好地了解用户需求和行为,提供个性化的推荐服务和精准的营销策略。 在Spark综合编程与Python可视化部分,详细介绍了使用Spark进行数据处理和分析的方法和技巧,以及使用Python进行数据可视化的工具和库。通过实例演示和代码实现,展示了如何利用Spark和Python对电商网站日志数据进行处理、分析和可视化。 最后,在总结与体会部分,总结了整个课设的收获和体会。通过这次课设,深入理解了大数据平台的概念和架构,掌握了Spark和Python在数据分析方面的应用技能,提高了数据处理和分析的能力。 综上所述,本次电商网站日志数据分析的期末课设通过使用Spark和Python进行分析和实践,实现了对电商网站日志数据的高效处理、存储、分析和可视化,为电商企业提供了有价值的数据支撑和决策参考。该课设不仅在理论和实践层面都有较好的展示和应用,还对学生的数据分析能力和实践能力的培养起到了积极的促进作用。
2022-12-24 上传
一、主要路径分析 一切能够进行产品推广、促进用户使用、提升用户粘性和留存、用户自传播、让用户付 费的行为都可以称为运营。在运营中我们可以用AARRR增长模型将产品的运营路径拆分为 :激活、注册、留存、下单、传播,然后根据每个路径进行分析,从而优化产品和运营 策略。 1. 激活 不同行业和模式的激活方式都不太一样,例如:之前我们做的体育app激活方式为——从跑 步群里面导入用户和微信公众号导入,先把目标用户沉淀在微信群,然后利用大型马拉 松的名额来吸引他们呼吁用户下载app进行报名。 然而对于B2B的电商平台,用户激活主要以地推和客服推广为主。因为入驻平台需要一定 的资质证件,且用户自发性地在网上注册的比较少,但地推方式激活的相对成本较高。 2. 注册 注册的时候,常常会因为某个步骤文案描述不清或流程复杂,要求上传的证件太多等原 因让用户流失。这时候,我们就可以用漏斗分析用户是在哪个步骤流失严重,分析具体 原因后再进行产品优化。 3. 留存 用户激活和注册后我们需要看用户的留存率,每个应用对留存的时间定义都是不一样的 。例如: 对于社交软件而言,如果3天不登录可能就被标记为流失用户; 对于我们现在做的医药电商来说,一般用户的采购周期在15天左右,所以我们把超过15 天没下单的用户称为流失用户,对于流失用户我们一般会采取和发送优惠券的方式促进 他再次下单。 4. 营收 我们需要理解到:作为电商平台只有平台提供的商品价格、品类、物流服务有吸引力后 ,用户才愿意来下单。 如果用户在需要购买该商品的时候没有下单,那多半是自身的商品和竞争对手相比,在 价格和服务上吸引力不够。这时候我们就需要通过爬虫爬取竞争对手的商品数据,然后 调整自己的定价和适当做一些营销活动来吸引客户。 5. 传播 由于我们获客成本比较高,因此让用户自传播的方式去拉新也是一种可行的营销方式, 针对这个,我们做了邀请好友得优惠券的方式,鼓励用户去帮我们拉新。 二、行为数据分析 分析的目的:了解用户的使用习惯、使用路径以及使用频率,从而得出用户更偏向于使 用哪些功能,验证产品用户体验是否做得好,上线的运营活动是否受欢迎等。 做行为数据分析之前,首先我们需要做埋点,埋点可以采用第三方埋点和自己做埋点。 各有利弊,这个需要结合公司来做决定。 下面是我们之前做的埋点的表格和用户每次行为记录的字段。埋点主要分为点击事件和 页面曝光两类,然后又可以根据页面曝光事件来统计页面的停留时长和用户的路径。 用户每促发一次事件需要记录的字段(具体还需要根据公司需要采集的数据而定): source; //来源 001-app 002-pc logined; //是否已经登录 1-是,0-否 typeUser; //用户的类型 001-采购商 002-供应商 userId; //用户的id codePage; //页面对应的代码 numEvent; //事件编号 nameEvent; //事件名称 codeEvent; //事件代码 typeEvent; //事件类型 timeEvent; //事件发生的时间 purchaserId; //采购商id ip; //作用是解析地址或识别客户 province; //事件发生的省份 city; //事件发生的城市 os; //操作系统,android或ios mfrs; //生产厂商 如:华为,OPPO,苹果,VIVO typeUnit; //设备型号 如:荣耀R10,OPPO R7,iphone X,VIVO X20 versionSystem; //系统版本 如:android 5.0wifi; //是否使用 wifi,1-是,0-否 firstId; //一级id secondId; //二级id fromPage; //上一页 toPage; //下一页url; // parameter; //参数,同一事件可能包含多个参数 property; //属性,与参数对应 proJson; //KEY-VALUE对的JSON形式 remark; //备注埋点记录的类型和规则 行为数据需要分析的内容 对于电商平台来说主要分析的点有: 1. 用户的注册路径:分析每个注册步奏的转化率,在转化率低的步骤分析原因,然后进行 产品优化。 2. 用户的购买路径: 首页-搜索-购物车-提交订单页- 支付页,通过每个路径的转化率来分析用户在哪个阶段流失最严重,然后去分析用户流 失的原因。 例如:之前我们分析到用户在购物车到提交订单页流失得特别严重,后面经过分析得出 商家设置的最近购买金额太高,导致用户达不到购买金额而提交不了订单。后面我们和 商家协商降低最低购买金额后,转化率提升了不少。 3. 分析运营上线的营销活动的用户点击率、通过活动加入购物车购买的商品数量,从
2022-12-24 上传
电商数据分析案例:首页优化分析 很多人都讨论过关于首页优化的问题,在讨论这个问题之前,我们应该先要问自己。 点击进入首页的用户都是谁? 他们在进入首页之前的上一个页面是哪里? 他们进入首页的目的是什么? 首页的哪部分点击率最高? 首页要完成的任务是什么? 通常,我们可以把点击进入首页的用户进行如下分类 了解了进入首页的用户来源,我们可以把以上来源按照用户浏览目的分为以下四类: 1 对某宝贝感兴趣,希望了解店铺其他宝贝,希望了解本店相关活动,比如包邮,打折等 ,希望了解本店信誉,整体情况。 2 属于老客户,对店铺大题情况已经了解并且信任,希望了解店内最新上架商品 3 寻找客服,寻找店铺导航栏 4 没有具体目的 下面我们就可以确定首页需要展现的内容了。 1、相关打折,团购,包邮活动-------激发第一类用户点击其他宝贝的兴趣; 2、导航栏,客服--------引导第三类用户进行转化; 3、店铺新品---------吸引第二类用户,让老客户进行二次购买; 4、爆款推广--------吸引所有用户; 5、一些类目分层下的热门商品-------将用户按照宝贝需求分层; 下面就要进入到具体的首页优化环节了,我们先要要根据不同行业店铺所面对的用户 的不同浏览习惯,来确定这个店铺的首页结构(由于这部分内容涉及的问题比较多,我 会用其他时间和大家探讨) 首焦图设计,导航位置,客服位置等等设计方面的问题不是本篇的重点,我们具体讨 论一下关于宝贝分层的方法。 宝贝分层的方法,选择更吸引客户的宝贝 我们观察一些大店的首页装修就可以看出大部分的店都会在首页展示一部分宝贝的, 但是这些宝贝并不是随机出现在首页的。他们通常会按照宝贝品牌,宝贝功能类别,宝 贝热度等进行分层。 您的店铺应该按照哪种分类方式比较好呢? 您的宝贝是否足够吸引住用户的眼球呢? 首页大图的点击率很高,那质量如何呢?是不是转化率也很高呢? 首页的各个模块都给店铺带来了多少效益呢? 我们可以模拟两种分类方式进行更进一步的测评和比较。比如按照店中品牌分类,然 后再按照店中功能进行分类,分别比较这两种分类的环比增长率,你会发现都是一样的 宝贝,只是分类不同,引发的二次点击量相差就很多,如此结果一目了然。 明确了分层的标准,下面就该优化每个层次内部的宝贝了,我们应该选择表现更好的 宝贝激发用户的兴趣。用自定义分析工具选择同一个分层里的宝贝,比较每个宝贝之间 的表现情况,将环比增长率低于平均值的宝贝从首页中撤下了,放上环比增长率更高的 宝贝,由此优化了首页。 所谓细节决定成败,一个宝贝的摆放也许无法左右或者判断这个首页是否足够吸引人 ,但是每一个宝贝积累下来就不一样了,尤其是对于大店来说,在首页上多一个吸引人 的宝贝,就是多了一个让用户进入二次点击的入口。 以上是我个人对于首页精益优化的一些简单总结。 数据分析之转化率的四个模块六个层次(附案例 ) 先说个比较有意思的事情,最近我的小女朋友一直觉得我的身材过于油腻,于是我光 荣的进入了减肥期。终于在昨天,我遇见的所有人中有66.7%的人都说我惨瘦都脱人形了 。我非常开心的回家称重,秤告诉我,我依然是个胖子。 想了很久。我觉得是那66.7%的人骗了我:那2个人太坏了。(是的那天我一共遇见了 3个人) 这个故事告诉我们:数据基数过小会影响数据分析 很多人讨论过转化率的问题,但都是针对某一个值进行研究,仔细想来,解决问题的 方式或许不止一个。 用户到底经过几层筛选最后才形成了最终的有效客户? 哪些变量决定了客户自愿将自己划分在某个细分类目下? 以下是对于不同层面转化率的简单概括,四个模块,六个层面 提升任何一层的转化率都将使最终销售量有所提升,所以当一条路走到头了,可以看 看其他路。每一层都优化一下,将会有意想不到的结果。 流量是王道,但我们最应该做的事情是提升自己店铺本身的品质,让走进店铺的人更 多的留在店里成为有效用户。 这让我想到了有些万恶的瘦子(允许我在这里神吐槽一下),他们天天吃进去的乱七 八糟的各种能量物质,最后竟然还是个瘦子!!每天在你面前说:哎呀我各种吃就是吃 不胖啊什么的。我真心觉得他们没有什么好傲娇的!!他们的转化率那么低浪费了多少 国家粮食!! 还是说说该怎么看转化率的问题吧。 很多时候就是,如果你能比别人更早发现用户感兴趣的东西,你就是赚钱最多的那个 人。 所以你应该知道一周后卖的最好的宝贝会是什么? 判断一个宝贝是否有可能是爆款的条件: 有派友曾经很困惑,这么多数据软件,为什么给出的最后结论不一样? 那是因为他们的数据模型是基于不同维度的,所以我们要了解他们的判断依据是什么 选一款潜力宝贝的步骤可以概括为: 第一步:寻找各个类目下的比较有潜力的宝贝 第二步:比较不同类目的潜力宝贝的最终潜力值,选出一款或几款潜力宝贝进行相关