o
    NÆÏi!  ã                   @   sü  d Z ddlmZmZmZmZmZmZmZm	Z	 ddl
mZmZ ddlmZmZmZmZmZ ddlmZ ddlmZ ddlmZmZmZmZmZmZmZmZm Z  ddl!m"Z"m#Z#m$Z$m%Z%m&Z&m'Z'm(Z(m)Z)m*Z*m+Z+m,Z,m-Z-m.Z.m/Z/m0Z0m1Z1m2Z2m3Z3m4Z4m5Z5m6Z6m7Z7m8Z8m9Z9m:Z:m;Z;m<Z<m=Z=m>Z>m?Z?m@Z@mAZAmBZBmCZCmDZDmEZEmFZFmGZGmHZHmIZImJZJmKZKmLZLmMZMmNZNmOZOmPZPmQZQmRZRmSZSmTZTmUZUmVZVmWZWmXZXmYZYmZZZm[Z[m\Z\m]Z]m^Z^m_Z_m`Z`maZambZbmcZcmdZdmeZemfZf dd	lgmhZhmiZimjZjmkZkmlZlmmZmmnZnmoZompZpmqZqmrZrmsZs g d
¢ZtdS )z0.18.1é   )Ú MODEL_TYPE_TO_PEFT_MODEL_MAPPINGÚAutoPeftModelÚAutoPeftModelForCausalLMÚ!AutoPeftModelForFeatureExtractionÚ!AutoPeftModelForQuestionAnsweringÚAutoPeftModelForSeq2SeqLMÚ&AutoPeftModelForSequenceClassificationÚ#AutoPeftModelForTokenClassification)Ú
PeftConfigÚPromptLearningConfig)ÚPEFT_TYPE_TO_CONFIG_MAPPINGÚ PEFT_TYPE_TO_MIXED_MODEL_MAPPINGÚPEFT_TYPE_TO_TUNER_MAPPINGÚget_peft_configÚinject_adapter_in_model)Úget_peft_model)ÚPeftMixedModel)	Ú	PeftModelÚPeftModelForCausalLMÚPeftModelForFeatureExtractionÚPeftModelForQuestionAnsweringÚPeftModelForSeq2SeqLMÚ"PeftModelForSequenceClassificationÚPeftModelForTokenClassificationÚget_layer_statusÚget_model_status)EÚAdaLoraConfigÚAdaLoraModelÚAdaptionPromptConfigÚAdaptionPromptModelÚArrowConfigÚ
BOFTConfigÚ	BOFTModelÚ
BoneConfigÚ	BoneModelÚ	C3AConfigÚC3AModelÚ	CPTConfigÚCPTEmbeddingÚDeloraConfigÚDeloraModelÚ	EvaConfigÚFourierFTConfigÚFourierFTModelÚ	HRAConfigÚHRAModelÚ	IA3ConfigÚIA3ModelÚLNTuningConfigÚLNTuningModelÚLoftQConfigÚ
LoHaConfigÚ	LoHaModelÚ
LoKrConfigÚ	LoKrModelÚ
LoraConfigÚ	LoraModelÚLoraRuntimeConfigÚ
MissConfigÚ	MissModelÚMultitaskPromptTuningConfigÚMultitaskPromptTuningInitÚ	OFTConfigÚOFTModelÚ	OSFConfigÚOSFModelÚ
PolyConfigÚ	PolyModelÚPrefixEncoderÚPrefixTuningConfigÚPromptEmbeddingÚPromptEncoderÚPromptEncoderConfigÚ#PromptEncoderReparameterizationTypeÚPromptTuningConfigÚPromptTuningInitÚRandLoraConfigÚRandLoraModelÚ
RoadConfigÚ	RoadModelÚShiraConfigÚ
ShiraModelÚTrainableTokensConfigÚTrainableTokensModelÚVBLoRAConfigÚVBLoRAModelÚ
VeraConfigÚ	VeraModelÚWaveFTConfigÚWaveFTModelÚXLoraConfigÚ
XLoraModelÚcreate_arrow_modelÚget_eva_state_dictÚinitialize_lora_eva_weights)Ú8TRANSFORMERS_MODELS_TO_PREFIX_TUNING_POSTPROCESS_MAPPINGÚPeftTypeÚPeftWarningÚTaskTypeÚ&bloom_model_postprocess_past_key_valueÚcast_mixed_precision_paramsÚget_peft_model_state_dictÚload_peft_weightsÚprepare_model_for_kbit_trainingÚreplace_lora_weights_loftqÚset_peft_model_state_dictÚshift_tokens_right)lr   r   r   r   ra   r   r   r   r   r    r   r   r   r   r   r   r	   r!   r"   r#   r$   r%   r&   r'   r(   r)   r*   r+   r,   r-   r.   r/   r0   r1   r2   r3   r5   r6   r7   r8   r4   r9   r:   r;   r<   r=   r>   r?   r@   rA   rB   rC   r
   r   r   r   r   r   r   r   r   rb   rc   rD   rE   rF   rG   rH   rI   rJ   rK   r   rL   rM   rN   rO   rP   rQ   rR   rS   rd   rT   rU   rV   rV   rW   rX   rY   rZ   r[   r\   r]   re   rf   r^   r_   r   r   r   r   rg   r`   r   rh   ri   rj   rk   rl   N)uÚ__version__Úautor   r   r   r   r   r   r   r	   Úconfigr
   r   Úmappingr   r   r   r   r   Úmapping_funcr   Úmixed_modelr   Ú
peft_modelr   r   r   r   r   r   r   r   r   Útunersr   r   r   r   r    r!   r"   r#   r$   r%   r&   r'   r(   r)   r*   r+   r,   r-   r.   r/   r0   r1   r2   r3   r4   r5   r6   r7   r8   r9   r:   r;   r<   r=   r>   r?   r@   rA   rB   rC   rD   rE   rF   rG   rH   rI   rJ   rK   rL   rM   rN   rO   rP   rQ   rR   rS   rT   rU   rV   rW   rX   rY   rZ   r[   r\   r]   r^   r_   r`   Úutilsra   rb   rc   rd   re   rf   rg   rh   ri   rj   rk   rl   Ú__all__© rw   rw   úA/home/ubuntu/.local/lib/python3.10/site-packages/peft/__init__.pyÚ<module>   s   (
,þ 8G