一般训练的时候用python，因为模型的定义会不断调整变化。上生产的时侯是用已经训练好的模型，这时主要是推理和对推理结果的选择判定，改用c++比较合适。大规模部署的话计算卡也要换成侧重于推理的卡，可以减少成本，当然模型的数据文件也可能要根据目标卡转换一次。
--
FROM 114.246.236.*