Interface: TextGenerationStreamDetails

Propriedades

melhores _ de _ sequências

• Optional best_of_sequences: TextGenerationStreamBestOfSequence[]

Sequências adicionais ao usar o parâmetro best_of

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:68

---

finalizar _ motivo

• finish_reason: TextGenerationStreamFinishReason

Motivo de término da geração

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:58

---

tokens gerados

• generated_tokens: number

Número de tokens gerados

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:60

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

Tokens de prompt

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:64

---

seed

• Optional seed: number

Semente de amostragem, caso a amostragem tenha sido ativada

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:62

---

tokens

• tokens: TextGenerationStreamToken[]

Definido em

inference/src/tasks/nlp/textGenerationStream.ts:66

Update on GitHub