本文由爱奇艺技术团队分享,作者isno,原题“爱奇艺海外app的网络优化实践”,下文进行了排版和内容优化等。
做海外市场,特别目标是面向全球的用户,网络的重要性不言而喻。试想一个移动端应用,比如即时通讯im,聊天消息的本质就是人跟人在说话,一条消息从发送到接受需要10秒的时间,这恐怕会让用户崩溃,随之就是被无情地卸载,开拓海外市场那就是做梦了。
本次分享的文章内容,基于爱奇艺面向全球用户推出的国际版,在海外跨国网络环境复杂的前提下,针对性地做了一系列弱网优化实践,取得了不错的效果,在此总结分享我们的一些做法和优化思路,希望对你有所帮助。
总结下来,跨国弱网优化实践的几个核心就是:
- 1)能不请求网络就不请求;
- 2)请求的链接目标 0-rtt;
- 3)请求的内容越小越好。
正文内容我们将逐个技术点展开了分享。
技术交流:
- 移动端im开发入门文章:《》
- 开源im框架源码:()
)
本文是系列文章中的第 3 篇,本系列文章的大纲如下:
- 《》
- 《》
- 《》(* 本文)
如果您是im开发初学者,强烈建议首先阅读《》。
在 app 初期版本内增加请求链路的采样。样本数足够的情况下,可以清楚你要推广的市场是怎样的环境。样本数据让我们清楚发现了各个国家、地区网络的问题,在大规模宣传和投入前,做好 app 的基础工作非常重要。
海外用户至海外数据中心的网络延迟(这是监测节点数据,用户端延迟更高):
海外主要国家、地区移动网络情况:
在调研阶段,我们发现了以下问题比较明显,切实影响我们的运营及 app 体验。
这些问题主要是:
- 1)运营商劫持严重,dns 劫持、http 劫持;
- 2)移动端网络复杂 ,东南亚的网络基础建设还待改善;
- 3)低端 android 机有一定的占比,数量级别影响决策;
- 4)国际网络用户端到服务器的延迟高。
在初期阶段,技术工作的核心是解决以上问题,为后续的运营做好基础建设。因为业务接口大部分为 http 形式,就开始围绕 https 进行针对性改进。
一个https请求阶段分析:
一个 https 在第一请求会有 5 个 rtt:
1rtt(dns) 1rtt(tcp 握手) 2rtt(tls1.2) 1rtt(http 链接)
如果以端到服务 50ms 延迟为例:
一个 https 的接口延迟 = 350ms = 50*5 100ms(服务端)
如果目标是一个非国内用户,打开凯发k8网页登录首页需要 1.1s, 这个时间显然有点长。
下面开始进行技术改进的正文,以下是概括技术性优化的关键点:
4.1dns 优化调整
dns 的解析改为 httpdns,dns 的改进上线后观察初始连接请求提升 17% 的效率。
目的主要是:
- 1)解决域名劫持问题 (东南亚地区回传的数据显示有不少劫持);
- 2)解决 localdns 非就近分配问题;
- 3)结合业务可以做解析预热。
4.2传输层的优化调整
mtu 的问题 :
- 1)client 端和 server 端不同的 mtu 值会导致丢包率过高。aws 某些场景实例默认巨型帧:mtu 是 9001,但接收端默认 1500,这时候就会出现一些丢包的现象;
- 2)如果你用了多个云商服务,用 vpn 组网,ip隧道封装的数据临界 1500,又会造成丢包、包重传问题;
- 3)最严重的情况:部分网络封杀 icmp 协议,导致 mtu 无法自动协商。
tcp 拥塞控制优化:
拥塞窗口 congwin 是未接收到接收端确认情况下连续发送的字节数; 。congwin 是动态调整,取决于带宽和延迟的积,比如 100mb 的带宽 100ms 的延迟环境。
时延带宽积 = 100mbps*100ms = (100/8)*(100/1000) = 1.25mb
理论上 congwin 窗口可以最大化到 1.25mb。centos 默认congwin = 20*mss,在 29kb 左右,离上限 1.26mb 差太多了,默认值上调tcp的启动会更快。
tcp 快速打开 (tcp fast open:tfo):
tcp 的 keepalive 下依然会有链接断掉重建的情况,tfo 是针对这种情况的优化。
tfo 的原理机制:
在我们观察中开启 tfo 机制,海外业务一个 rtt 通常时间在 100ms 以上,http 请求效率提升了 12% 左右。
5.1http 的优化
http1.1 有个 keep-alive 作用是复用 tcp 链接,减少新建的消耗,对于浏览器的业务比较适用,但对于移动端这种时间分散的请求,大部分请求还是新建连接。
http1.1 的串行机制有头部阻塞的问题。
5.2ssl 层优化
尽量升级到 tls1.3(微信的tls1.3实践:《》),利用 pre-shared key 机制,开启 ssl_early_data 可以进一步优化 “0-rtt ”,如果无法升级 tls 版本,优化密钥算法为 ecdhe,运算速度快,握手的消息往返由 2-rtt 减少到 1-rtt,能达到与 tls1.3 类似的效果。
tls 版本的区别:
tls1.3 经过优化后,一个 http 请求由之前的 4 个 rtt 减少为 3 个 rtt。
5.3升级 http2.0
几个重要的改进点:
多路复用:
在 http/2 中,两个非常重要的概念:帧(frame)和流(stream)。帧代表着最小的数据单位,每个帧会标识出该帧属于哪个流,流也就是多个帧组成的数据流。多路复用,就是在一个 tcp 连接中可以存在多条流。这些改进可以避免 http 队头阻塞问题,提高传输性能。
头部压缩:
开发人员如果不注意对 header 内容的控制,会造成 header 内容失控的现象,客户端极容易存储一个非常大的 cookie。
http2 的分帧传输机制:
5.4边缘节点动态加速
这个是非常有效的方式。
尽可能离用户最近,利用边缘节点对路由、链路进行优化,提高动态服务的效率。相较于直连模式,使用动态加速后,p90 的接口延迟效率提升了 60%。
爱奇艺海外动态加速的效果提升(请求时间为秒):
5.5启用兜底机制
对于失败的请求,启用兜底的协议 quic 或者 kcp。
客户端的失败率在 3% 左右,对这部分请求使用 udp 协议兜底尝试,在我们的观察成功率提升了 45%。
6.1应用 brotli
因为预置了字典,在同等级别的压缩率下,对比 gzip 至少提升了 17% 的压缩比,接口平均的 content-size 由 30kb,降至 18kb。
6.2接口由 json 改为 google protobuf
应用 protobuf 的重要原因是解析效率比 json 至少高四五倍,在节点深度和数据量大的情况下更明显。
但注意 protobuf 内部的 varint 压缩,只对小于 128 的数字进行可变长压缩。实际效果不大,生产环境如果数据量大,外层的压缩如 gzip 不可少。
ps:关于protobuf的资料,可以进一步阅读《》。
6.3图片格式升级为 webp
在应用 webp 的同时,降低海报图片的质量,实践看海报的 quality 设置为 85% 肉眼难以分辨,相对同质量的 jpeg 或者 png ,可以最大减小 45% 的体积。
应用效果明显。app 打开凯发k8网页登录首页图片的加载提升肉眼可见。
7.1减少不必要请求:
一些通用内容,如导航、频道,通常由运营人员主动更新。
如下图:增加一个启动阶段请求的接口,里面放入内容更新的时间戳,与本地 cache 的时间戳有差异,则异步请求更新。
7.2区别用户网络,适应不同的策略
具体作法是:
- 1)对于视频,非 wifi 默认启播码率为 360p;
- 2)对于海报,后端接口提供两种质量的 url,wifi 高质,4g 低质。
7.3更多的业务优化
增加请求重试、调整 http 的超时时间,请求缓存等等 这些可以根据业务的需求进行调整。
爱奇艺海外版app经过一系列细节优化,用户体验持续上升。用户接口延迟、客户端失败率、视频播放成功率一系列的关键指标得到很大的改善。这也助力爱奇艺在东南亚多个国家的应用市场排名升至 top 1。
另外 app 优化、server 延迟优化、产品体验的改进,这一系列只有相辅相成才可以最大化提升用户体验。
[1] -
[2]
[3]
[4]
[5]
[6]
[7]
[8]
[9]
[10]
[11]
[12]
[13]
[14]
[15]
[16]
[17]
[18]
[19]
[20]
)
作者: (点击作者姓名进入github)
出处:
交流:欢迎加入即时通讯开发交流群
讨论:
jack jiang同时是和的作者,可前往下载交流。
本博文
欢迎转载,转载请注明出处(也可前往 找到我)。