浅谈spark应用程序的性能调优 -凯发k8网页登录

spark是基于内存的分布式计算引擎，以处理的高效和稳定著称。然而在实际的应用开发过程中，开发者还是会遇到种种问题，其中一大类就是和性能相关。在本文中，笔者将结合自身实践，谈谈如何尽可能地提高应用程序性能。

分布式计算引擎在调优方面有四个主要关注方向，分别是cpu、内存、网络开销和i/o，其具体调优目标如下：

1. 提高cpu利用率。
2. 避免oom。
3. 降低网络开销。
4. 减少i/o操作。

第1章 数据倾斜

数据倾斜意味着某一个或某几个partition中的数据量特别的大，这意味着完成针对这几个partition的计算需要耗费相当长的时间。

如 果大量数据集中到某一个partition，那么这个partition在计算的时候就会成为瓶颈。图1是spark应用程序执行并发的示意图，在 spark中，同一个应用程序的不同stage是串行执行的，而同一stage中的不同task可以并发执行，task数目由partition数来决 定，如果某一个partition的数据量特别大，则相应的task完成时间会特别长，由此导致接下来的stage无法开始，整个job完成的时间就会非 常长。

要避免数据倾斜的出现，一种方法就是选择合适的key，或者是自己定义相关的partitioner。在spark中block使用 了bytebuffer来存储数据，而bytebuffer能够存储的最大数据量不超过2gb。如果某一个key有大量的数据，那么在调用cache或 persist函数时就会碰到spark-1476这个异常。

下面列出的这些api会导致shuffle操作，是数据倾斜可能发生的关键点所在
1. groupbykey
2. reducebykey
3. aggregatebykey
4. sortbykey
5. join
6. cogroup
7. cartesian
8. coalesce
9. repartition
10. repartitionandsortwithinpartitions

  def rdd: rdd[t] }  // todo view bounds are deprecated, should use context bounds // might need to change classmanifest for classtag in spark 1.0.0 case class demopairrdd[k <% ordered[k] : classmanifest, v: classmanifest](   rdd: rdd[(k, v)]) extends rddwrapper[(k, v)] {   // here we use a single long to try to ensure the sort is balanced,    // but for really large dataset, we may want to consider   // using a tuple of many longs or even a guid   def sortbykeygrouped(numpartitions: int): rdd[(k, v)] =     rdd.map(kv => ((kv._1, random.nextlong()), kv._2)).sortbykey()     .grouped(numpartitions).map(t => (t._1._1, t._2)) }  case class demordd[t: classmanifest](rdd: rdd[t]) extends rddwrapper[t] {   def grouped(size: int): rdd[t] = {     // todo version where withindex is cached     val withindex = rdd.mappartitions(_.zipwithindex)      val startvalues =       withindex.mappartitionswithindex((i, iter) =>          iterator((i, iter.toiterable.last))).toarray().tolist       .sortby(_._1).map(_._2._2.tolong).scan(-1l)(_   _).map(_   1l)      withindex.mappartitionswithindex((i, iter) => iter.map {       case (value, index) => (startvalues(i)   index.tolong, value)     })     .partitionby(new partitioner {       def numpartitions: int = size       def getpartition(key: any): int =          (key.asinstanceof[long] * numpartitions.tolong / startvalues.last).toint     })     .map(_._2)   } }

定义隐式的转换

  implicit def todemordd[t: classmanifest](rdd: rdd[t]): demordd[t] =      new demordd[t](rdd)   implicit def todemopairrdd[k <% ordered[k] : classmanifest, v: classmanifest](     rdd: rdd[(k, v)]): demopairrdd[k, v] = demopairrdd(rdd)   implicit def tordd[t](rdd: rddwrapper[t]): rdd[t] = rdd.rdd }

在spark-shell中就可以使用了

import rddconversions._  yourrdd.grouped(5)

第2章 减少网络通信开销

spark 的shuffle过程非常消耗资源，shuffle过程意味着在相应的计算节点，要先将计算结果存储到磁盘，后续的stage需要将上一个stage的结 果再次读入。数据的写入和读取意味着disk i/o操作，与内存操作相比，disk i/o操作是非常低效的。

使用iostat来查看disk i/o的使用情况，disk i/o操作频繁一般会伴随着cpu load很高。

如果数据和计算节点都在同一台机器上，那么可以避免网络开销，否则还要加上相应的网络开销。 使用iftop来查看网络带宽使用情况，看哪几个节点之间有大量的网络传输。
图2是spark节点间数据传输的示意图，spark task的计算函数是通过akka通道由driver发送到executor上，而shuffle的数据则是通过netty网络接口来实现。由于akka 通道中参数spark.akka.framesize决定了能够传输消息的最大值，所以应该避免在spark task中引入超大的局部变量。

为了提高spark应用程序的效率，尽可能的提升cpu的利用率。并发数应该是可用cpu物理核数的两倍。在这里，并发数过低，cpu得不到充分的利用，并发数过大，由于spark是每一个task都要分发到计算结点，所以任务启动的开销会上升。

并发数的修改，通过配置参数来改变spark.default.parallelism，如果是sql的话，可能通过修改spark.sql.shuffle.partitions来修改。

第1项 repartition vs. coalesce

repartition和coalesce都能实现数据分区的动态调整，但需要注意的是repartition会导致shuffle操作，而coalesce不会。

第2节 reducebykey vs. groupby

groupby操作应该尽可能的避免，第一是有可能造成大量的网络开销，第二是可能导致oom。以wordcount为例来演示reducebykey和groupby的差异

reducebykey     sc.textfile(“readme.md”).map(l=>l.split(“,”)).map(w=>(w,1)).reducebykey(_   _)

shuffle过程如图2所示

groupbykey     sc.textfile(“readme.md”).map(l=>l.split(“,”)).map(w=>(w,1)).groupbykey.map(r=>(r._1,r._2.sum))

建议: 尽可能使用reducebykey, aggregatebykey, foldbykey和combinebykey
假设有一rdd如下所示，求每个key的均值

val data = sc.parallelize( list((0, 2.), (0, 4.), (1, 0.), (1, 10.), (1, 20.)) )

方法一：reducebykey

data.map(r=>(r._1, (r.2,1))).reducebykey((a,b)=>(a._1   b._1, a._2   b._2)).map(r=>(r._1,(r._2._1/r._2._2)).foreach(println)

方法二：combinebykey

data.combinebykey(value=>(value,1),     (x:(double, int), value:double)=> (x._1 value, x._2   1),     (x:(double,int), y:(double, int))=>(x._1   y._1, x._2   y._2))

第3节 broadcasthashjoin vs. shufflehashjoin

在join过程中，经常会遇到大表和小表的join. 为了提高效率可以使用broadcasthashjoin, 预先将小表的内容广播到各个executor, 这样将避免针对小表的shuffle过程，从而极大的提高运行效率。

其实broadcasthashjoin核心就是利用了broadcast函数，如果理解清楚broadcast的优点，就能比较好的明白broadcasthashjoin的优势所在。

以下是一个简单使用broadcast的示例程序。

val lst = 1 to 100 tolist val examplerdd = sc.makerdd(1 to 20 toseq, 2) val broadcastlst = sc.broadcast(lst) examplerdd.filter(i=>broadcastlst.valuecontains(i)).collect.foreach(println)

第4节 map vs. mappartitions

有时需要将计算结果存储到外部数据库，势必会建立到外部数据库的连接。应该尽可能的让更多的元素共享同一个数据连接而不是每一个元素的处理时都去建立数据库连接。
在这种情况下，mappartitions和foreachpartitons将比map操作高效的多。

第5节 数据就地读取

移动计算的开销远远低于移动数据的开销。

spark中每个task都需要相应的输入数据，因此输入数据的位置对于task的性能变得很重要。按照数据获取的速度来区分，由快到慢分别是：

1.process_local
2.node_local
3.rack_local

spark在task执行的时候会尽优先考虑最快的数据获取方式，如果想尽可能的在更多的机器上启动task，那么可以通过调低spark.locality.wait的值来实现, 默认值是3s。

除 了hdfs，spark能够支持的数据源越来越多，如cassandra, hbase,mongodb等知名的nosql数据库，随着elasticsearch的日渐兴起，spark和elasticsearch组合起来提供 高速的查询凯发天生赢家一触即发官网的解决方案也成为一种有益的尝试。

上述提到的外部数据源面临的一个相同问题就是如何让spark快速读取其中的数据， 尽可能的将计算结点和数据结点部署在一起是达到该目标的基本方法，比如在部署hadoop集群的时候，可以将hdfs的datanode和spark worker共享一台机器。

以cassandra为例,如果spark的部署和cassandra的机器有部分重叠，那么在读取cassandra中数据的时候，通过调低spark.locality.wait就可以在没有部署cassandra的机器上启动spark task。

对于cassandra, 可以在部署cassandra的机器上部署spark worker，需要注意的是cassandra的compaction操作会极大的消耗cpu，因此在为spark worker配置cpu核数时，需要将这些因素综合在一起进行考虑。

这一部分的代码逻辑可以参考源码tasksetmanager::addpendingtask

private def addpendingtask(index: int, readding: boolean = false) {   // utility method that adds `index` to a list only if readding=false or it's not already there   def addto(list: arraybuffer[int]) {     if (!readding || !list.contains(index)) {       list  = index     }   }    for (loc <- tasks(index).preferredlocations) {     loc match {       case e: executorcachetasklocation =>         addto(pendingtasksforexecutor.getorelseupdate(e.executorid, new arraybuffer))       case e: hdfscachetasklocation => {         val exe = sched.getexecutorsaliveonhost(loc.host)         exe match {           case some(set) => {             for (e <- set) {               addto(pendingtasksforexecutor.getorelseupdate(e, new arraybuffer))             }             loginfo(s"pending task $index has a cached location at ${e.host} "                 ", where there are executors "   set.mkstring(","))           }           case none => logdebug(s"pending task $index has a cached location at ${e.host} "                 ", but there are no executors alive there.")         }       }       case _ => unit     }     addto(pendingtasksforhost.getorelseupdate(loc.host, new arraybuffer))     for (rack <- sched.getrackforhost(loc.host)) {       addto(pendingtasksforrack.getorelseupdate(rack, new arraybuffer))     }   }    if (tasks(index).preferredlocations == nil) {     addto(pendingtaskswithnoprefs)   }    if (!readding) {     allpendingtasks  = index  // no point scanning this whole list to find the old task there   } }

如果准备让spark支持新的存储源，进而开发相应的rdd，与位置相关的部分就是自定义getpreferredlocations函数，以elasticsearch-hadoop中的esrdd为例，其代码实现如下。

override def getpreferredlocations(split: partition): seq[string] = {   val essplit = split.asinstanceof[espartition]   val ip = essplit.espartition.nodeip   if (ip != null) seq(ip) else nil }

第6节 序列化

使用好的序列化算法能够提高运行速度，同时能够减少内存的使用。

spark在shuffle的时候要将数据先存储到磁盘中，存储的内容是经过序列化的。序列化的过程牵涉到两大基本考虑的因素，一是序列化的速度，二是序列化后内容所占用的大小。

kryoserializer与默认的javaserializer相比，在序列化速度和序列化结果的大小方面都具有极大的优势。所以建议在应用程序配置中使用kryoserializer.

spark.serializer  org.apache.spark.serializer.kryoserializer

默认的cache没有对缓存的对象进行序列化，使用的storagelevel是memory_only,这意味着要占用比较大的内存。可以通过指定persist中的参数来对缓存内容进行序列化。

examplerdd.persist(memory_only_ser)

需要特别指出的是persist函数是等到job执行的时候才会将数据缓存起来，属于延迟执行; 而unpersist函数则是立即执行，缓存会被立即清除。

作者简介：许鹏， 《apache spark源码剖析》作者，关注于大数据实时搜索和实时流数据处理，对elasticsearch, storm及drools多有研究，现就职于携程。