
问题描述
- 面试官:后端一次性返回10万条数据给你,你如何处理?
- 我:歪嘴一笑,what the f**k!
问题考察点
看似无厘头的问题,实际上考查候选人知识的广度和深度,虽然在工作中这种情况很少遇到...
- 考察前端如何处理大量数据
- 考察候选人对于大量数据的性能优化
- 考察候选人处理问题的思考方式(关于这一点,文末会说到,大家继续阅读)
- ......
文末会提供完整代码,供大家更好的理解
使用express创建一个十万条数据的接口
若是道友对express相关不太熟悉的话,有空可以看看笔者的这一篇全栈文章(还有完整代码哦):《Vue+Express+Mysql全栈项目之增删改查、分页排序导出表格功能》
js复制代码route.get("/bigData", (req, res) => { res.header('Access-Control-Allow-Origin', '*'); // 允许跨域 let arr = [] // 定义数组,存放十万条数据 for (let i = 0; i < 100000; i++) { // 循环添加十万条数据 arr.push({ id: i + 1, name: '名字' + (i + 1), value: i + 1, }) } res.send({ code: 0, msg: '成功', data: arr }) // 将十万条数据返回之})
点击按钮,发请求,获取数据,渲染到表格上
html结构如下:
html复制代码<el-button :loading="loading" @click="plan">点击请求加载</el-button><el-table :data="arr"> <el-table-column type="index" label="序" /> <el-table-column prop="id" label="ID" /> <el-table-column prop="name" label="名字" /> <el-table-column prop="value" label="对应值" /></el-table>data() { return { arr: [], loading: false, };},async plan() { // 发请求,拿数据,赋值给arr}
方案一 直接渲染所有数据
如果请求到10万条数据直接渲染,页面会卡死的,很显然,这种方式是不可取的
js复制代码 async plan() { this.loading = true; const res = await axios.get("http://ashuai.work:10000/bigData"); this.arr = res.data.data; this.loading = false;}
方案二 使用定时器分组分批分堆依次渲染(定时加载、分堆思想)
- 正常来说,十万条数据请求,需要2秒到10秒之间(有可能更长,取决于数据具体内容)
- 而这种方式就是,前端请求到10万条数据以后,先不着急渲染,先将10万条数据分堆分批次
- 比如一堆存放10条数据,那么十万条数据就有一万堆
- 使用定时器,一次渲染一堆,渲染一万次即可
- 这样做的话,页面就不会卡死了
用户所看到的效果图是如下
效果图

分组分批分堆函数
- 我们先写一个函数,用于将10万条数据进行分堆
- 所谓的分堆其实思想就是一次截取一定长度的数据
- 比如一次截取10条数据,头一次截取0~9,第二次截取10~19等固定长度的截取
- 举例原来的数据是:[1,2,3,4,5,6,7]
- 假设我们分堆以后,一堆分3个,那么得到的结果就是二维数组了
- 即:[ [1,2,3], [4,5,6], [7]]
- 然后就遍历这个二维数组,得到每一项的数据,即为每一堆的数据
- 进而使用定时器一点点、一堆堆赋值渲染即可
分组分批分堆函数(一堆分10个)
js复制代码function averageFn(arr) { let i = 0; // 1. 从第0个开始截取 let result = []; // 2. 定义结果,结果是二维数组 while (i < arr.length) { // 6. 当索引等于或者大于总长度时,即截取完毕 // 3. 从原始数组的第一项开始遍历 result.push(arr.slice(i, i + 10)); // 4. 在原有十万条数据上,一次截取10个用于分堆 i = i + 10; // 5. 这10条数据截取完,再截取下十条数据,以此类推 } return result; // 7. 最后把结果丢出去即可}
创建定时器去依次赋值渲染
比如我们每隔一秒钟去赋值渲染一次
js复制代码 async plan() { this.loading = true; const res = await axios.get("http://ashuai.work:10000/bigData"); this.loading = false; let twoDArr = averageFn(res.data.data); for (let i = 0; i < twoDArr.length; i++) { // 相当于在很短的时间内创建许多个定时任务去处理 setTimeout(() => { this.arr = [...this.arr, ...twoDArr[i]]; // 赋值渲染 }, 1000 * i); // 17 * i // 注意设定的时间间隔... 17 = 1000 / 60 } },
这种方式,相当于在很短的时间内创建许多个定时任务去处理,定时任务太多了,也耗费资源啊。
实际上,这种方式就有了大数据量分页的思想
方案三 使用requestAnimationFrame替代定时器去做渲染
关于requestAnimationFrame比定时器的优点,道友们可以看笔者的这篇文章:《性能优化之通俗易懂学习requestAnimationFrame和使用场景举例》
反正大家遇到定时器的时候,就可以考虑一下,是否可以使用请求动画帧进行优化执行渲染?
如果使用请求动画帧的话,就要修改一下代码写法了,前面的不变化,plan方法中的写法变一下即可,注意注释:
js复制代码async plan() { this.loading = true; const res = await axios.get("http://ashuai.work:10000/bigData"); this.loading = false; // 1. 将大数据量分堆 let twoDArr = averageFn(res.data.data); // 2. 定义一个函数,专门用来做赋值渲染(使用二维数组中的每一项) const use2DArrItem = (page) => { // 4. 从第一项,取到最后一项 if (page > twoDArr.length - 1) { console.log("每一项都获取完了"); return; } // 5. 使用请求动画帧的方式 requestAnimationFrame(() => { // 6. 取出一项,就拼接一项(concat也行) this.arr = [...this.arr, ...twoDArr[page]]; // 7. 这一项搞定,继续下一项 page = page + 1; // 8. 直至完毕(递归调用,注意结束条件) use2DArrItem(page); }); }; // 3. 从二维数组中的第一项,第一堆开始获取并渲染(数组的第一项即索引为0) use2DArrItem(0); },
方案四 搭配分页组件,前端进行分页(每页展示一堆,分堆思想)
这种方式,笔者曾经遇到过,当时的对应场景是数据量也就几十条,后端直接把几十条数据丢给前端,让前端去分页
后端不做分页的原因是。他当时临时有事情请假了,所以就前端去做分页了。
- 数据量大的情况下,这种方式,也是一种解决方案
- 思路也是在所有数据的基础上进行截取
- 简要代码如下:
js复制代码getShowTableData() { // 获取截取开始索引 let begin = (this.pageIndex - 1) * this.pageSize; // 获取截取结束索引 let end = this.pageIndex * this.pageSize; // 通过索引去截取,从而展示 this.showTableData = this.allTableData.slice(begin, end); }
完整案例代码,请看笔者的这篇文章:《后端一次性返回所有的数据,让前端截取展示做分页》
实际上,这种大任务拆分成许多小任务,这种方式,做法,应用的思想就是分片的方式(时间),在别的场景,比如大文件上传的时候,也有这种思想,比如一个500MB的大文件,拆分成50个小文件,一个是10MB这样...至于大文件上传的文章,那就等笔者有空了再写呗...
方案五 表格滚动触底加载(滚动到底,再加载一堆)
这里重点就是我们需要去判断,何时滚动条触底。判断方式主要有两种
- scrollTop + clientHeight >= innerHeight
- 或
- new MutationObserver()去观测
目前市面上主流的一些插件的原理,大致是这两种。
笔者举例的这是,是使用的插件v-el-table-infinite-scroll,本质上这个插件是一个自定义指令。对应npm地址:www.npmjs.com/package/el-…
当然也有别的插件,如vue-scroller 等:一个意思,不赘述
注意,触底加载也是要分堆的,将发请求获取到的十万条数据,进行分好堆,然后每触底一次,就加载一堆即可
在el-table中使用el-table-infinite-scroll指令步骤
安装,注意版本号(区分vue2和vue3)
cnpm install --save el-table-infinite-scroll@1.0.10
注册使用指令插件
js复制代码// 使用无限滚动插件import elTableInfiniteScroll from 'el-table-infinite-scroll';Vue.use(elTableInfiniteScroll);
因为是一个自定义指令,所以直接写在el-table标签上即可
js复制代码<el-table v-el-table-infinite-scroll="load" :data="tableData"> <el-table-column prop="id" label="ID"></el-table-column> <el-table-column prop="name" label="名字"></el-table-column></el-table>async load() { // 触底加载,展示数据...},
案例代码
为了方便大家演示,这里笔者直接附上一个案例代码,注意看其中的步骤注释即可
html复制代码<template> <div class="box"> <el-table v-el-table-infinite-scroll="load" height="600" :data="tableData" border style="width: 80%" v-loading="loading" element-loading-text="数据量太大啦,客官稍后..." element-loading-spinner="el-icon-loading" element-loading-background="rgba(255, 255, 255, 0.5)" :header-cell-style="{ height: '24px', lineHeight: '24px', color: '#606266', background: '#F5F5F5', fontWeight: 'bold', }" > <el-table-column type="index" label="序"></el-table-column> <el-table-column prop="id" label="ID"></el-table-column> <el-table-column prop="name" label="名字"></el-table-column> <el-table-column prop="value" label="对应值"></el-table-column> </el-table> </div></template><script>// 分堆函数function averageFn(arr) { let i = 0; let result = []; while (i < arr.length) { result.push(arr.slice(i, i + 10)); // 一次截取10个用于分堆 i = i + 10; // 这10个截取完,再准备截取下10个 } return result;}import axios from "axios";export default { data() { return { allTableData: [], // 初始发请求获取所有的数据 tableData: [], // 要展示的数据 loading: false }; }, // 第一步,发请求,获取大量数据,并转成二维数组,分堆分组分块存储 async created() { this.loading = true; const res = await axios.get("http://ashuai.work:10000/bigData"); this.allTableData = averageFn(res.data.data); // 使用分堆函数,存放二维数组 // this.originalAllTableData = this.allTableData // 也可以存一份原始值,留作备用,都行的 this.loading = false; // 第二步,操作完毕以后,执行触底加载方法 this.load(); }, methods: { // 初始会执行一次,当然也可以配置,使其不执行 async load() { console.log("自动多次执行之,首次执行会根据高度去计算要执行几次合适"); // 第五步,触底加载相当于把二维数组的每一项取出来用,取完用完时return停止即可 if (this.allTableData.length == 0) { console.log("没数据啦"); return; } // 第三步,加载的时候,把二维数组的第一项取出来,拼接到要展示的表格数据中去 let arr = this.allTableData[0]; this.tableData = this.tableData.concat(arr); // 第四步,拼接展示以后,再把二维数组的第一项的数据删除即可 this.allTableData.shift(); }, },};</script>
效果图

方案六 使用无限加载/虚拟列表进行展示
什么是虚拟列表?
- 所谓的虚拟列表实际上是前端障眼法的一种表现形式。
- 看到的好像所有的数据都渲染了,实际上只渲染可视区域的部分罢了
- 有点像我们看电影,我们看的话,是在一块电影屏幕上,一秒一秒的看(不停的放映)
- 但是实际上电影有俩小时,如果把两个小时的电影都铺开的话,那得需要多少块电影屏幕呢?
- 同理,如果10万条数据都渲染,那得需要多少dom节点元素呢?
- 所以我们只给用户看,他当下能看到的
- 如果用户要快进或快退(下拉滚动条或者上拉滚动条)
- 再把对应的内容呈现在电影屏幕上(呈现在可视区域内)
- 这样就实现了看着像是所有的dom元素每一条数据都有渲染的障眼法效果了
关于前端障眼法,在具体工作中,如果能够巧妙使用,会大大提升我们的开发效率的
写一个简单的虚拟列表
效果图

这里笔者直接上代码,大家复制粘贴即可使用,笔者写了一些注释,以便于大家理解。当然也可以去笔者的仓库中去瞅瞅哦,GitHub仓库在文末
代码
html复制代码<template> <!-- 虚拟列表容器,类似“窗口”,窗口的高度取决于一次展示几条数据 比如窗口只能看到10条数据,一条40像素,10条400像素 故,窗口的高度为400像素,注意要开定位和滚动条 --> <div class="virtualListWrap" ref="virtualListWrap" @scroll="handleScroll" :style="{ height: itemHeight * count + 'px' }" > <!-- 占位dom元素,其高度为所有的数据的总高度 --> <div class="placeholderDom" :style="{ height: allListData.length * itemHeight + 'px' }" ></div> <!-- 内容区,展示10条数据,注意其定位的top值是变化的 --> <div class="contentList" :style="{ top: topVal }"> <!-- 每一条(项)数据 --> <div v-for="(item, index) in showListData" :key="index" class="itemClass" :style="{ height: itemHeight + 'px' }" > {{ item.name }} </div> </div> <!-- 加载中部分 --> <div class="loadingBox" v-show="loading"> <i class="el-icon-loading"></i> <span>loading...</span> </div> </div></template><script>import axios from "axios";export default { data() { return { allListData: [], // 所有的数据,比如这个数组存放了十万条数据 itemHeight: 40, // 每一条(项)的高度,比如40像素 count: 10, // 一屏展示几条数据 start: 0, // 开始位置的索引 end: 10, // 结束位置的索引 topVal: 0, // 父元素滚动条滚动,更改子元素对应top定位的值,确保联动 loading: false, }; }, computed: { // 从所有的数据allListData中截取需要展示的数据showListData showListData: function () { return this.allListData.slice(this.start, this.end); }, }, async created() { this.loading = true; const res = await axios.get("http://ashuai.work:10000/bigData"); this.allListData = res.data.data; this.loading = false; }, methods: { // 滚动这里可以加上节流,减少触发频次 handleScroll() { /** * 获取在垂直方向上,滚动条滚动了多少像素距离Element.scrollTop * * 滚动的距离除以每一项的高度,即为滚动到了多少项,当然,要取个整数 * 例:滚动4米,一步长0.8米,滚动到第几步,4/0.8 = 第5步(取整好计算) * * 又因为我们一次要展示10项,所以知道了起始位置项,再加上结束位置项, * 就能得出区间了【起始位置, 起始位置 + size项数】==【起始位置, 结束位置】 * */ const scrollTop = this.$refs.virtualListWrap.scrollTop; this.start = Math.floor(scrollTop / this.itemHeight); this.end = this.start + this.count; /** * 动态更改定位的top值,确保联动,动态展示相应内容 * */ this.topVal = this.$refs.virtualListWrap.scrollTop + "px"; }, },};</script><style scoped lang="less">// 虚拟列表容器盒子.virtualListWrap { box-sizing: border-box; width: 240px; border: solid 1px #000000; // 开启滚动条 overflow-y: auto; // 开启相对定位 position: relative; .contentList { width: 100%; height: auto; // 搭配使用绝对定位 position: absolute; top: 0; left: 0; .itemClass { box-sizing: border-box; width: 100%; height: 40px; line-height: 40px; text-align: center; } // 奇偶行改一个颜色 .itemClass:nth-child(even) { background: #c7edcc; } .itemClass:nth-child(odd) { background: pink; } } .loadingBox { position: absolute; top: 0; left: 0; right: 0; bottom: 0; width: 100%; height: 100%; background-color: rgba(255, 255, 255, 0.64); color: green; display: flex; justify-content: center; align-items: center; }}</style>
使用vxetable插件实现虚拟列表
如果不是列表,是table表格的话,笔者这里推荐一个好用的UI组件,vxetable,看名字就知道做的是表格相关的业务。其中就包括虚拟列表。
vue2和vue3版本都支持,性能比较好,官方说:虚拟滚动(最大可以支撑 5w 列、30w 行)
强大!
官方网站地址:vxetable.cn/v3/#/table/…
效果图
效果很丝滑

安装使用代码
注意安装版本,笔者使用的版本如下:
cnpm i xe-utils vxe-table@3.6.11 --save
main.js
js复制代码// 使用VXETableimport VXETable from 'vxe-table'import 'vxe-table/lib/style.css'Vue.use(VXETable)
代码方面也很简单,如下:
html复制代码<template> <div class="box"> <vxe-table border show-overflow ref="xTable1" height="300" :row-config="{ isHover: true }" :loading="loading" > <vxe-column type="seq"></vxe-column> <vxe-column field="id" title="ID"></vxe-column> <vxe-column field="name" title="名字"></vxe-column> <vxe-column field="value" title="对应值"></vxe-column> </vxe-table> </div></template><script>import axios from "axios";export default { data() { return { loading: false, }; }, async created() { this.loading = true; const res = await axios.get("http://ashuai.work:10000/bigData"); this.loading = false; this.render(res.data.data); }, methods: { render(data) { this.$nextTick(() => { const $table = this.$refs.xTable1; $table.loadData(data); }); }, },};</script>
方案七 开启多线程Web Worker进行操作
本案例中,使用Web Worker另外开启一个线程去操作代码逻辑,收益并不是特别大(假如使用虚拟滚动列表插件的情况下)
不过也算是一个拓展的思路吧,面试的时候,倒是可以说一说,提一提。
对Web Worker不熟悉的道友们,可以看看笔者之前的这篇文章:《性能优化之使用vue-worker插件(基于Web Worker)开启多线程运算提高效率》
方案八 未雨绸缪,防患于未然
以下为笔者愚见,仅供参考...
- 在上述解决方案都说完以后,并没有结束。
- 实际上本题目在考查候选人知识的广度和深度以外,更是考查了候选人的处理问题的思考方式,这一点尤其重要!
- 笔者曾做过候选人去求职,也曾做过面试官去面试。就程序员开发工作而言,技术知识点不熟悉,可以快速学习,如文档、谷歌、百度、技术交流群,相关同事都可提供一定的支持
- 更重要的是看中候选人的思考方式,思维模式
- 试想,两个候选人实力水平差不多,但是一个只知道埋头苦干,有活就干,不去斟酌;而另外一个却是在用心工作的时候,也会仰望星空,会分析如何干活能够高性价比地完成任务,注重过程与结果
- 这样的话,哪个更加受欢迎一些呢?
如果笔者是候选人,笔者在说了上述7种方案以后,会再补充第八种方案:未雨绸缪,防患于未然
场景模拟
面试官随意打量着其手中我的简历,抚须怪叫一声:“小子,后端要一次性返回10万条数据给你,你如何处理?”
我眉毛一挑,歪嘴一笑:“在上述7种方案陈述完以后,我想类似的问题,我们可以从根本上去解决。即第八种方案,要未雨绸缪,防患于未然。”
“哦?”面试官心中疑惑,缓缓放下我的简历:“愿闻其详。”
我不紧不慢地答道:“在具体开发工作中,我们在接到一个需求时,在技术评审期间,我们就要和后端去商量比较合适的技术解决方案。这个问题是后端要一次性返回我10万条数据,重点并不在10万条这么多数据,而在于后端为什么要这样做?”
面试官抬头,瞳孔中倒映出我的身影,认真听了起来。
我一字一顿地说道:“除去**业务真正需要这种方案**的话(若是客户要求的,那就没啥好说的,干就完了),后端这样做的原因大致有两种,第一种他不太懂sql的limit语句,但这基本不可能,第二种就是他有事情,随便敷衍写了一下。所以,就是要和他沟通,从大数据量接口请求时长过长,以及过多的dom元素渲染导致性能变差,以及项目的可维护性等角度去沟通,我相信只要正确的沟通,就能从根源上去避免这种不太合理的情况发生。”
面试官又突然狡黠地发问:“要是沟通以后,后端死活不给你分页呢?你咋办?嗨嗨!你的沟通无效果!你如何处理!人家不听你的!”似乎是觉得这个问题很刁钻,他双臂抱在胸前,靠在椅背上,发出桀桀桀的诡异笑声,他等待着看到我脸上即将绽放的回答不上来的,尴尬笑容。
我内心冷哼一声:雕虫小技...
我盯着面试官的眼睛,认真说道:“如果工作中沟通无效果,要么是我自己沟通语言表达的问题,这一点我会注意,不断提升自己的沟通技巧和说话方式,要么就是...”
我声音扬起了三分:“我沟通的这个人有问题!他工作摸鱼偷懒耍滑!固执己见!为难他人!高高在上!自以为是!这种情况下,我会找到我的直属领导去介入,因为这已经不是项目的需求问题了,而是员工的基本素养问题!”
停顿了一秒,我声音又柔和了几分:“但是,但是我相信咱们公司员工中是绝对没有这样的人存在的,各个都是能力强悍,态度端正的优秀员工。毕竟咱们公司在行业中久负盛名,我也是因此慕名而来的。您说对吧?”
面试官眼中闪过震惊之色,他没有想到我居然把皮球又踢给他了,不过他为了维持形象,旋即恢复了镇定,只是面部肌肉在止不住的微微颤抖。
“那是当然,公司人才济济。”面试官随口接话道。
我又补充道:“实际上在工作中,前端作为比较贴近用户的角色而言,需要和各个岗位的同事进行沟通,比如后端、产品、UI、测试等。我们需要通过合理的沟通方式,去提升工作效率,完成项目,实现自己的价值,为公司创造收益,我想这是每一个员工需要做的,也是必须要做到的。”
面试官又抚须怪叫一声:“小子表现还行,你被录用了!一个月工资2200,自带电脑,无社无金,007工作制,不能偷吃公司零食,以及...”
我:阿哒...
定位性能瓶颈
凭直观感觉,数据量大是页面渲染的主要性能瓶颈,但是作为开发人员,还是要以客观事实为依据,不能凭感觉做事。那如何定位出页面卡顿的性能瓶颈呢?
其实前端有一些工具可以评估网站的性能,如lighthouse、chrome的devtool的Performance,下面主要是以这两个工具配合着来定位性能问题。
下面针对4000条数据的页面渲染,尝试使用lighthouse和chorme的Performance来进行性能开销定位。
lighthouse给出优化建议
首先,通过lighthouse工具给出的网站性能指标,其中的几项关键指标的定义可以参考Web 指标。如下图所示:

透过该工具,我们可以得到当前页面性能的一个大概得分,它是基于各个指标的分数按照一定的权重比例系列换算而来的,是一个综合性的评价结果,分数越低性能越差。当前页面性能的19分的计算如下图:

lighthouse每次跑的分数有波动,跟当前的网速有一定的关系;不过没有关系,最重要的看它给的优化建议。
针对当前页面,lighthouse给出的优化建议如下图所示:

因为是在本地开发环境跑的lighthouse,所以有些优化项如压缩js等不用关注,我们主要看红框标记的几项,可以说这几项是导致性能差的主要原因,需要重点关注优化。
- 减少主线程的工作
- 主线程耗费9.4s,主要开销包括:
- 14个长任务的执行
- 纯js部分的执行耗时7.2s
- 避免dom数过大
- 页面有24530个dom元素,包括表格渲染的dom,地图marker渲染的dom等;dom过多会导致页面操作卡顿,可以参考网页dom元素过多为什么会导致页面卡顿
- 避免大量的网络负载
- 因为本地开发环境跑的结果,代码没有压缩可以先不管,真正要关注的是接口的请求响应时长,因为接口返回的数据量约48kb,导致接口耗时1.3s左右,后端接口需要优化
通过lighthouse的优化建议,总结一下当前页面的主要问题:
- 主线程耗时长,包括14个长任务
- 页面dom数量过大
- 接口响应耗时长,达1.4s
针对主线程耗时长的问题,lighthouse会给出了浏览器渲染的整个流程中每一部分的耗时时长,但它不会详细告诉我们每一部分具体耗时在什么地方,这正是chrome devtool的Performance面板的强项。
Performance面板定位耗时真因
Performance用于记录和分析我们的应用在运行时的所有活动,它呈现多维度的数据,可以帮助我们很好地定位性能问题。其中,利用Performance面板main项,展示的是浏览器主线程有关的内容,包括:
- 查看浏览器渲染的整个过程,包括数据加载、html解析、样式解析计算、js加载执行、composite layers、绘制等各个阶段
- 查看js脚本执行过程的调用栈信息及对应的耗时,很容易定位性能耗时长的地方
如下图是使用chrome Performance面板跑出的结果。

从中可以得知,数据渲染完毕页面耗时近10s,其中js执行耗时花费7.6s左右,从js执行的调用栈看出主要是Microtasks下的花费3.4s的_next和3.94s的fulfilled两部分:
- _next部分主要是页面组件的渲染耗时,包括表格的每行渲染,以及地图自定义marker组件的执行耗时
- fulfilled部分是将_next生成的marker和popup组件添加到地图中,因为是使用dom渲染,在添加地图后,涉及到marker和popup的html解析及渲染过程。
从图上可以看出,fulfilled部分耗时主要是循环添加marker及其popup到地图中并完成渲染。
结合lighthouse和Performance面板的分析,可以定位前端方面影响页面性能的主要原因有:
- 表格渲染因数据量大耗时过长,因为一次性全量渲染
- 地图marker渲染以dom形式渲染,涉及到dom的解析和渲染,在大数据量时性能差
- 表格和地图marker同时渲染,导致_next部分耗时长,阻塞后续其他重要流程的执行
性能问题拆解
针对上面定位出页面的性能问题,想到的优化解决方案:
- 表格不要一次性渲染所有数据
- 以dom形式渲染的marker改为canvas渲染
- 表格和地图分开渲染,并且地图marker分片渲染
大数据列表渲染
分片渲染
针对大数据表格渲染,首先想到的是分片渲染,简单来说就是将大数据量列表划分为n个一组进行渲染,一组称做一个数据片。其设计思路:
建立一个队列,通过定时器来向渲染队列中添加渲染的切片数据。
提示一点,渲染队列中已经渲染的分片在进行渲染时,只是耗费节点diff时间,不会重新渲染。demo如下所示:
code.juejin.cn/pen/7142775…
分片渲染存在下面几个主要问题:
- 总渲染时间增加,因为通过定时器分片渲染,存在间隔
- 数据最终是全量渲染的结果,导致dom数量过大
- 快速上拉加载闪屏,可以使用requestAnimationFrame来解决,参考高性能渲染10万条数据(时间分片)
虚拟列表
虚拟列表是解决大数量表格渲染的另一种常见的解决方案,其设计思路是:
只对可视区域内的内容进行渲染,对非可视区域的内容不做渲染或者渲染一部分(俗称缓冲区)
这种方案要处理的是从大量数据中过滤出可视区或者加上缓冲区的数据并渲染,主要是根据滚动事件来进行筛选,其他大部分数据内容不会渲染真正的DOM,这大大减少表格的渲染时间以及页面dom数量,带来的性能提升是非常可观的。
一图胜千言,图片出自这里。

社区对于虚拟列表的介绍方案很多,具体的实现细节这里就不做过多介绍,可以参考下面两篇文章:
- 花三个小时,完全掌握分片渲染和虚拟列表~
- 手把手教你写React虚拟列表
项目按照虚拟列表方案优化的参考antd提供的demo。
以上面提到的4000条数据做实验,在没有对地图数据做优化的前提下,使用虚拟列表优化后的效果如下图:

可以看到_next部分执行时间不到1s,并且js执行的时间减少至4621ms,性能提升明显。
地图大数据量渲染
地图marker元素是以dom方式来渲染的,数据量少的情况下没有什么问题,但随着数据量增多,dom渲染的性能越来越吃力,导致页面卡顿甚至崩溃。鉴于地图使用的是leaflet,所以想到的解决方案是用canvas来绘制,至于为什么canvas相较于dom渲染性能得到提升,可以参考这篇文章HTML界的“苏炳添”——详解Canvas优越性能和实际应用]。
因为地图中的marker交互比较简单,点击marker展示对应的popup,所以项目选用leaflet官方推荐的plugins Leaflet.Canvas-Markers来生成marker,该插件需要用图片来设置marker,具体可参考demo。
地图marker渲染优化前:
jsx复制代码<MapContainer {...props}> { stops.map((stop) => { return <CustomMarker key={stop.id} data={stop} />; }) } </MapContainer> // CustomMarker实现: function CustomMarker(props) { ... // react-leaflet提供的Marker是以Dom形式渲染的 <Marker ... position={position} > <Popup {...props} > ... // popup内容 </Popup> </Marker> }
优化后:
jsx复制代码 // 主页面的render部分有关地图部分 <MapContainer {...props}> <CanvasMarkers data={stops} /> </MapContainer> // CanvasMarkers实现 import 'leaflet-canvas-marker'; function CanvasMarkers({data}) { const map = useMap(); const canvasLayerRef = useRef(); const icon = window.L.icon({ iconUrl: '图片地址', iconSize: [8, 8], iconAnchor: [4, 4], }); useEffect(() => { if (!data.length) { canvasLayerRef.current?.onRemove(map); return; } canvasLayerRef.current = window.L.canvasIconLayer({}).addTo(map); const canvasMarkers = []; for (let i = 0, len = data.length; i < len; i++) { const { lat, lng } = data[i]; const marker = window.L.marker([lat, lng], { icon, }).bindPopup(popupHtml); canvasMarkers.push(marker); } canvasLayerRef.current?.addLayers(canvasMarkers); }, [markers, icon, map]); return null; }
通过渲染后的dom结构可以看出,该插件最终将所有的marker元素在同一个canvas中渲染绘制出来。

为了跟上一节效果做对比,同样以4000条数据做实验,在使用虚拟列表优化的同时,使用canvas渲染地图元素优化后的效果如下图所示:

可以看出fulfilled部分执行时间减少至不到100ms,整个js执行时间降至1102ms,canvas渲染的性能提升较可见一斑。
长任务分割
根据前面4000条数据在未进行任何优化的Performance面板分析,js执行的长任务占比7.4s左右,占整个主流程的近75%,主要是表格和地图同时渲染导致,严重影响后面任务的执行。长任务分割的一个好处减少任务的执行时间,可以为后面的任务腾出执行时间。
借鉴于列表的分片渲染方案,可不可以将表格渲染和地图数据按照先后顺序依次渲染呢,并且地图数据采用分片渲染的机制呢?
这在技术上是可行的,而页面在大数据量下可以先让用户看比较重要的数据,然后逐渐渲染出整个页面的内容是可以接受的。
所以,在技术上做了如下两方面优化:
- 1、表格数据与地图数据先后渲染,先表格后地图元素展示
- jsx复制代码
- // 先table渲染后地图数据渲染,关键代码 setTableData(tableData); // setTableData为react的useState提供方法 setTimeout(() => { // 延迟100ms初始化地图数据 setMarkers(stops); // setMarkers为react的useState提供方法 }, 100);
- 2、地图元素分片渲染
- CanvasMarkers组件改造如下:
- jsx复制代码
import 'leaflet-canvas-marker'; function CanvasMarkers({data}) { ... const [data, setData] = useState([]); // 地图marker数据,分割渲染核心逻辑 const sliceData = useCallback((list, index: number = 0, num = 100) => { const endIdx = Math.ceil(list.length / num); if (index === endIdx) { return; } setTimeout(() => { // 每200ms执行一个批次的渲染 const toBeRenderList = list.slice(index * num, (index + 1) * num); setData(toBeRenderList); console.log(toBeRenderList, toBeRenderList.length); sliceData(list, index + 1, num); }, 200); }, []); useEffect(() => { const len = markers.length; if (len === 0) { canvasLayerRef.current?.onRemove(map); return; } canvasLayerRef.current = window.L.canvasIconLayer({}).addTo(map); // 分割大小的一个简单设置策略 const sliceLen = len > 100000 ? 2000 : len > 50000 ? 1000 : 500; sliceData(data, 0, sliceLen); }, [markers, map, sliceData]); // 只关注当前data的内容,为其生成L.marker useEffect(() => { if (!data.length) { return; } const canvasMarkers = []; for (let i = 0, len = data.length; i < len; i++) { const { lat, lng } = data[i]; const marker = window.L.marker([lat, lng], { icon, }).bindPopup(popupHtml); canvasMarkers.push(marker); } canvasLayerRef.current?.addLayers(canvasMarkers); }, [data, map]); return null; }
我们以相同的5万条数据来进行实验,在上面两种优化的前提下,未进行长任务分割优化前的Performance面板结果如下图

经过上面两种方式的优化手段,得到的效果如下图:

可以看到页面总的渲染时间变长了,这是为何?
前面说了分片渲染会增加总的渲染耗时,因为每批次数据在指定的计时器间隔进行异步渲染,所以会拉长总的渲染时长。
但是这并不是我们关注的点,我们更关注页面的 TBT(总的阻塞时间): 由2690ms减少到1045ms,效率提升超过60%; 另外,页面数据在表格渲染完成并且地图第一批数据渲染完成时间大概在4.5s左右,较全量渲染的6.1s减少1.6s左右,性能提升比较明显。
优化效果
以文章开头提到的4000条数据进行比对,经过上面三种方式的优化后的结果如下图:

可以看到性能提升明显:
- js执行时间降为由7453ms减少至1466ms
- 页面总耗时由9979ms减少至2999ms,这其中包括分片总耗时,理论上可以拿地图第一批数据渲染完后的时间进行比较
优化后的页面打开速度几乎达到秒开的效果,用户体验得到很大的提升。
题外话,性能优化是前端老生常谈的一个课题,需要前端开发重点关注的一个方向,尤其是在可视化领域。希望本文分享对大家有所帮助,也希望有经验大佬分享这方面的知识。
总结
有效的沟通,源自于解决问题的思维模式,在多数情况下,重要性,大于当下所掌握的技术知识点
- 网站效果演示地址:ashuai.work:8888/#/bigData
- GitHub仓库地址:github.com/shuirongshu…
版权声明:内容来源于互联网和用户投稿 如有侵权请联系删除