Interface : BaseArgs

Propriétés

accessToken

• Optional accessToken : string

Le jeton d'accès à utiliser. Sans lui, vous serez rapidement limité par le nombre de requêtes.

Peut être créé gratuitement sur hf.co/settings/token

Vous pouvez également passer la clé d’un fournisseur d’inférence externe si vous souhaitez appeler un fournisseur compatible tel que Together, Replicate, Cohere…

Défini dans

inference/src/types.ts:125

---

endpointUrl

• Optional endpointUrl : string

L'URL du point de terminaison à utiliser.

Si non spécifié, appellera le point de terminaison par défaut des fournisseurs d'inférence de router.huggingface.co.

Défini dans

inference/src/types.ts:142

---

model

• Optional model : string

Le modèle HF à utiliser.

Si non spécifié, appellera huggingface.co/api/tasks pour obtenir le modèle par défaut pour la tâche.

/!\ Le comportement hérité autorise l'utilisation d'une URL, mais cela est obsolète et sera supprimé à l'avenir. Utilisez plutôt le paramètre endpointUrl.

Défini dans

inference/src/types.ts:135

---

provider

• Optional provider : "baseten" | "cerebras" | "cohere" | "deepinfra" | "fal-ai" | "featherless-ai" | "fireworks-ai" | "groq" | "hf-inference" | "humain-ai" | "novita" | "nscale" | "openai" | "openrouter" | "ovhcloud" | "publicai" | "replicate" | "scaleway" | "together" | "wavespeed" | "zai-org" | "auto"

Définissez un fournisseur d’inférence sur lequel exécuter ce modèle.

Défaut : « auto », c’est-à-dire le premier des fournisseurs disponibles pour le modèle, triés selon l’ordre défini par l’utilisateur dans https://hf.co/settings/inference-providers.

Défini dans

inference/src/types.ts:149

Update on GitHub