TensorFlow.js 微信小程序插件开始支持模型缓存的方法
通常情况下,微信小程序追求的是短小精悍,即开即用,用完即走,适用于一些简单的应用场景。然而,随着微信小程序开放能力的提高,人们发现用微信小程序可以实现越来越多的功能,小程序也越来越复杂,越来越庞大起来。这个可以从小程序的大小限制的变化看出,最开始小程序的大小限制为1M,后来限制为2M,最新微信又给小程序提供了分包加载机制,开发者将小程序划分成不同的子包,用户在使用时按需进行加载,所有分包大小限制提高到8M。
虽然小程序的大小限制已经大大提升,但对于小程序开发者而言,仍然捉襟见肘。随便几个图片资源、js库就可能导致小程序超重,尤其对于人工智能小程序而言,更是如此。现在的深度学习模型,动辄几十M,多则一两百M。这个时候开发人员就需要进行取舍,选择那些模型规模小,但精度不那么高的模型。比如图片分类,我们就不要选择InceptionV3或ResNet之类的超大规模模型,而是选择针对移动设备优化的MobileNet,也能取得不错的效果。
不过即使是MobileNet,其模型大小也有好几M,对于精简小程序大小仍是一个很大的负担。一种解决方案是从网络加载模型,不增加小程序的体积,但这并不是一个完美的解决方案,毕竟每次推导都需要从网络下载模型,会有一定的网络延迟。在前端开发中,为了保持系统的流畅,通常会采用一些缓存技巧来避免每次从网络加载图片、JS等文件。那能否将模型也作为资源缓存起来呢?
Google团队显然也意识到了这种需求,先是在TensorFlow.js中增加了对tfjs模型缓存的支持。最近,TensorFlow.js微信小程序插件也得到了更新,支持微信小程序模型缓存。
模型缓存利用了微信小程序的storage接口,需要注意微信小程序对storage的限制:同一个微信用户,同一个小程序storage上限为10MB。storage以用户维度隔离,同一台设备上,A用户无法读取到B用户的数据;不同小程序之间也无法互相读写数据。所以我们只能选用小于10M的模型。
启用模型缓存也非常简单,步骤如下:
修改app.json文件,将tfjsPlugin的版本修改为0.0.8.
"plugins":{ "tfjsPlugin":{ "version":"0.0.8", "provider":"wx6afed118d9e81df9" } }
在app.js中提供localStorageHandler函数.
varfetchWechat=require('fetch-wechat'); vartf=require('@tensorflow/tfjs-core'); varplugin=requirePlugin('tfjsPlugin'); //app.js App({ //exposelocalStoragehandler globalData:{localStorageIO:plugin.localStorageIO}, ... });
在模型加载时加入localStorageHandler逻辑。
constLOCAL_STORAGE_KEY='mobilenet_model'; exportclassMobileNet{ privatemodel:tfc.GraphModel; constructor(){} asyncload(){ constlocalStorageHandler=getApp().globalData.localStorageIO(LOCAL_STORAGE_KEY); try{ this.model=awaittfc.loadGraphModel(localStorageHandler); }catch(e){ this.model= awaittfc.loadGraphModel(MODEL_URL); this.model.save(localStorageHandler); } }
和浏览器缓存机制有点不同的是,只有在代码包被清理的时候本地缓存才会被清理。如果需要处理缓存,可以通过wx.setStorage/wx.setStorageSync、wx.getStorage/wx.getStorageSync、wx.clearStorage/wx.clearStorageSync,wx.removeStorage/wx.removeStorageSync对本地缓存进行读写和清理。
另外需要注意的是,当前tfjs模型托管在tfhub上,需要翻墙访问。项目中的说明文件也提及了这个问题,给出了解决方案,但那是针对以前托管在谷歌云上的模型,建立了中国国内用户可以访问到的镜像。耐心等待吧,相信Google的开发人员会解决tfhub的镜像问题的。
以上就是TensorFlow.js微信小程序插件开始支持模型缓存的方法的详细内容,更多关于TensorFlow小程序支持模型缓存请关注毛票票其它相关文章!
声明:本文内容来源于网络,版权归原作者所有,内容由互联网用户自发贡献自行上传,本网站不拥有所有权,未作人工编辑处理,也不承担相关法律责任。如果您发现有涉嫌版权的内容,欢迎发送邮件至:czq8825#qq.com(发邮件时,请将#更换为@)进行举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。