CANN/GE图引擎添加副本图API
AddGraphWithCopy【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_api.h库文件libge_runner.so功能说明向Session中添加GraphSession内会生成唯一的Graph ID。注意相比于AddGraph接口此接口传入Graph对象后会产生Graph对象的拷贝。Session中保存的图是Graph对象的一个备份后续对该Graph的修改不影响Session内原有Graph同时Session内图的任何修改也不会影响Graph对象。函数原型Status AddGraphWithCopy(uint32_t graph_id, const Graph graph) Status AddGraphWithCopy(uint32_t graph_id, const Graph graph, const std::mapAscendString, AscendString options)参数说明参数名输入/输出说明graph_id输入Graph对应的ID。graph输入需要加载到Session内的Graph。options输入map表key为参数类型value为参数值均为字符串格式描述Graph配置信息。一般情况下可不填与GEInitialize传入的全局options保持一致。如需单独配置当前Graph的配置信息时可以通过此参数配置支持的配置项范围和GEInitialize一致。返回值说明参数名类型说明-StatusGE_CLI_GE_NOT_INITIALIZEDGE未初始化。SUCCESS图添加成功。FAILED图添加失败。约束说明相同对象的Graph调用此接口注册会导致不同的Graph ID对应不同的备份两个不同Graph ID对应的备份不共享。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考