# Prompt tuning Treine e armazene apenas um conjunto significativamente menor de parâmetros de prompt específicos da tarefa (fonte da imagem). [Prompt tuning](https://hf.co/papers/2104.08691) adiciona um prompt virtual específico da tarefa à entrada, composto por vetores treináveis no espaço de incorporação. Os parâmetros dos tokens virtuais são atualizados de forma independente dos parâmetros do modelo pré-treinado, que permanecem congelados. O resumo do artigo é: *Neste trabalho, exploramos o "prompt tuning", um mecanismo simples, porém eficaz, para aprender "soft prompts" que condicionam modelos de linguagem congelados a executar tarefas específicas de baixo nível. Diferentemente dos prompts de texto discretos usados pelo GPT-3, os soft prompts são aprendidos por retropropagação e podem ser ajustados para incorporar sinal de qualquer número de exemplos rotulados. Nossa abordagem de aprendizado de ponta a ponta supera o aprendizado "few-shot" do GPT-3 por uma grande margem. Mais notavelmente, por meio de ablações no tamanho do modelo usando T5, mostramos que o prompt tuning se torna mais competitivo com a escala: à medida que os modelos excedem bilhões de parâmetros, nosso método "fecha a lacuna" e iguala o forte desempenho do ajuste do modelo (onde todos os pesos do modelo são ajustados). Essa descoberta é especialmente relevante, pois modelos grandes são custosos para compartilhar e servir, e a capacidade de reutilizar um modelo congelado para múltiplas tarefas de baixo nível pode aliviar esse fardo. Nosso método pode ser visto como uma simplificação do "prefix tuning" recentemente proposto por Li e Liang (2021), e fornecemos uma comparação com essa e outras abordagens semelhantes. Finalmente, mostramos que condicionar um modelo congelado com soft prompts confere benefícios em robustez à transferência de domínio, em comparação com o ajuste completo do modelo*. Em contraste com o [prefix tuning](../package_reference/prefix_tuning), apenas a entrada da primeira camada recebe os tokens virtuais. ## Uso Há duas decisões a tomar: quantos tokens virtuais são adicionados à entrada do modelo (`num_virtual_tokens`) — isso definirá quantos parâmetros treináveis haverá — e como esses tokens são inicializados. Crie um [PromptTuningConfig](/docs/peft/main/pt/package_reference/prompt_tuning#peft.PromptTuningConfig) com o tipo de tarefa, o texto inicial de prompt tuning para treinar o modelo, o número de tokens virtuais a serem adicionados e aprendidos e um tokenizer. ```py from peft import PromptTuningConfig, PromptTuningInit, get_peft_model prompt_tuning_init_text = "Classify if the tweet is a complaint or no complaint.\n" peft_config = PromptTuningConfig( task_type="CAUSAL_LM", prompt_tuning_init=PromptTuningInit.TEXT, num_virtual_tokens=len(tokenizer(prompt_tuning_init_text)["input_ids"]), prompt_tuning_init_text=prompt_tuning_init_text, tokenizer_name_or_path="bigscience/bloomz-560m", ) model = get_peft_model(model, peft_config) model.print_healthcheck() ``` ## Visão geral do benchmark