SparkSQL案例实操（二）
[TOC]一、需求1.1 需求简介各区域热门商品 Top3这里的热门商品是从点击量的维度来看的，计算各个区域前三大热门商品备注上每个商品在主要城市中的分布比例超过两个城市用其他显示示例地区商品名称点击次数城市备注华北商品 A100000北京 21.2%，天津 13.2%，其他 65.6%华北商品 P80200北京 63.0%，太原 10%，其他 27.0%华北商品 M40000北京 63.0...
SparkSQL案例实操（一）
[TOC]一、需求统计每个用户的累计访问次数要求使用SQL统计出每个用户的累积访问次数，如下表所示：用户id月份小计累积u012021-011111u012021-021223u022021-011212u032021-0188u042021-0133说明：累计访问次数按照月份进行排序，根据每个用户逐月进行累加二、数据准备user_access_count.csv文件userid,visit...
SparkCore之广播变量
[TOC]一、定义广播变量：分布式共享只读变量二、作用在多个并行操作中（Executor）使用同一个变量，Spark默认会为每个任务(Task)分别发送，这样如果共享比较大的对象，会占用很大工作节点的内存。广播变量用来高效分发较大的对象。向所有工作节点发送一个较大的只读值，以供一个或多个Spark操作使用。比如，如果你的应用需要向所有节点发送一个较大的只读查询表，甚至是机器学习算法中的一个很...
SparkCore之累加器
[TOC]前言本篇将先从一个案例入手，对Driver端和Executer端执行过程进行一个简单了解，在深入讲解累加器。一、累加操作案例案例需求将1,2,3,4进行累加求和操作代码import org.apache.spark.rdd.RDD import org.apache.spark.{SparkConf, SparkContext} /** * @author lilinchao...
Spark Core案例实操（十）
[TOC]一、需求影评分析：按照年份进行分组。计算每部电影的平均评分，平均评分保留小数点后一位，并按评分大小进行排序。评分一样，按照电影名排序。相同年份的输出到一个文件中。结果展示形式（年份，电影id，电影名字，平均评分）要求：尝试使用自定义分区、自定义排序和缓冲。二、数据说明说明：以::对数据进行分隔movies.dat电影列表文件第一列：电影ID第二列：电影名称第三列：电影类型ratin...
Spark Core案例实操（九）
一、需求分析CDN日志统计出访问PV、UV、IP地址：计算独立ip数统计每个视频独立ip数统计一天中每个小时的流量(统计每天24小时中每个小时的流量)说明PV（page view）: 页面浏览量，页面点击率；通常衡量一个网站或者新闻频道一条新闻的指标;UV(unique visitor ): 指访问某个站点或者点击某条新闻的不同的ip的人数二、数据说明100.79.121.48 HIT 33...
Spark Core案例实操（八）
[TOC]一、需求基站停留时间TOPN：根据用户产生的日志信息，分析在哪个基站停留的时间最长在一定范围内，求所有用户经过的所有基站所停留时间最长的TOP2二、数据说明19735E1C66.log：存储的日志信息第一列：手机号码第二列：时间戳第三列：基站ID第四列：连接状态(1连接，0断开)lac_info.txt：存储基站信息第一列：基站id第二列：经度第三列：纬度三、实现3.1 实现步骤1...
Spark Core案例实操（七）
[TOC]一、需求根据访问日志的ip地址做如下操作：计算出访问者的归属地按照省份，计算出访问次数将计算好的结果输出到控制台二、数据分析access.log日志文件第一列：ID第二列：访问者IP第三列：访问网址后面没用到就不详细介绍了ip.txtIP规则文件第一列和第二列：开始IP和结束IP(一个范围)第三列和第四列：开始IP和结束IP十进制第五、六、七、八列：对应地区分别是洲、国家、省/直辖...
Spark Core案例实操（六）
[TOC]一、HanLP介绍HanLP中文分词，面向生产环境的自然语言处理工具包，HandLP是由一系列模型与算法组成的Java工具包，目标是普及自然语言处理在生产环境中的应用。官方网址：http://www.hanlp.com/添加Maven依赖<dependency> <groupId>com.hankcs</groupId> <...
