o ¸i‡ã@stddlZddlmZdedefdd„Zeejdƒr$dZdd lm Z m Z n d Zdd l m Z m Z ee eƒZ ee eƒZ dS) éN)ÚCallableÚdecÚcuda_amp_deprecatedcs‡‡fdd„}|S)Ncsˆrd|d<ˆ|i|¤ŽS)NÚcudaÚ device_type©)ÚargsÚkwargs©rrrúL/home/ubuntu/vllm_env/lib/python3.10/site-packages/flash_attn/utils/torch.pyÚ decoratorsz'custom_amp_decorator..decoratorr)rrr rr r Úcustom_amp_decoratorsr Ú custom_fwdT)rÚ custom_bwdF) ÚtorchÚtypingrÚboolr ÚhasattrÚampÚ deprecatedÚ torch.amprrÚtorch.cuda.amprrrr Ús