水木社区手机版
首页
|版面-Python的自由天空(Python)|
新版wap站已上线
返回
1/1
|
转到
主题:自定义算法的运行环境为啥是zip包的形式放到spark/hadoop上?
16楼
|
gfkid
|
2024-02-08 08:25:47
|
展开
有这个时间,不如优化一下你的算法
spark本来就巨慢无比,不需要关心zip包解压
【 在 qianfeng018 的大作中提到: 】
: 自己写了个算法,算法所需的运行环境用conda打了个zip包,扔到了hadoop上。在spark上运行用如下命令。
: 这里为什么是个zip包呢? 这样每次运行还得解压,不是浪费时间吗?
: 不能提前把conda环境在hadoop上解压,每次直接运行吗?
: ...................
--
FROM 114.249.21.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版