AIF-C01 Question 95

Community Discussion

Written by other learners. Comments can disagree with the marked answer — check the official documentation when in doubt.

• Chose A1

  A is the correct answer

• Chose D2

  D. Sugestão de cadeia de pensamento Explicação:A sugestão de cadeia de pensamento (Chain-of-Thought Prompting) é uma técnica que incentiva o modelo a explicar seu raciocínio passo a passo antes de fornecer a resposta final. Essa abordagem: Reduz a probabilidade de respostas impulsivas ou não filtradas,Ajuda o modelo a seguir instruções com mais rigor, Pode mitigar ataques de injeção imediata, onde o atacante tenta manipular o modelo com instruções escondidas no prompt. Ao forçar o modelo a "pensar antes de responder", você aumenta o controle sobre o processo de inferência e dificulta a execução de comandos maliciosos inseridos no texto de entrada. A. Solicitação contraditória não é uma técnica reconhecida de defesa ou segurança em prompts.

• Chose A6

  Adversarial prompting is a technique designed to prevent prompt injection attacks, which are attempts to manipulate a model's behavior by injecting harmful or misleading instructions within the input prompt. This technique involves using carefully crafted prompts that make it harder for the model to misinterpret or be misled by unwanted inputs. Adversarial prompting can include various methods to detect, block, or neutralize harmful inputs. It might involve incorporating security mechanisms in the prompt itself, such as validating or sanitizing the input or applying certain constraints on the model's output to mitigate the risk of prompt injections.