o TÃilã @s^ddlmZddlZddlmZda  d dejdejdeejdeejdejf d d „ZdS) é)ÚOptionalN)ÚSpatialInferenceBuilderÚ activationÚbiasÚotherÚ other_biasÚreturncCsLtdur tƒ ¡a|durt ||¡S|durt |||¡St ||||¡S)N)Úspatial_cuda_modulerÚloadÚ nhwc_bias_addÚnhwc_bias_add_addÚnhwc_bias_add_bias_add)rrrr©rú`/home/ubuntu/.local/lib/python3.10/site-packages/deepspeed/ops/transformer/inference/bias_add.pyr s  r )NN)ÚtypingrÚtorchÚdeepspeed.ops.op_builderrr ÚTensorr rrrrÚs   ýÿþýý