TensorRT engine context memory sharing

[yuanlehome]

PR types

Others

PR changes

Others

Describe

通过createExecutionContextWithoutDeviceMemory()和setDeviceMemory()接口实现TensorRT engine context memory sharing功能。

总结如下：

1. 增加了config.trt_engine_memory_sharing()函数（内部使用），trt_engine_memory_sharing参数默认为false，在config.EnableTensorRtEngine()函数内开启；
2. 当TensorRT版本低于7.2时createExecutionContextWithoutDeviceMemory()存在bug，因此当版本不符合要求时关闭此功能；
3. 由于setDeviceMemory()要求内存对齐（cudaGetDeviceProperties()，依机器不同可能为256字节或512字节），而memory::Alloc接口从显存池中分配的内存并不能满足对齐要求，因此对申请到的内存进行了内存对齐操作。

[paddle-bot]

你的PR提交成功，感谢你对开源项目的贡献!
请关注后续CI自动化测试结果，详情请参考Paddle-CI手册。
Your PR has been submitted. Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.

[hp03]

LGTM