Open WebUI

Open WebUI fornece uma interface auto-hospedada para modelos offline. Ative o CORS para servir modelos locais (ele é desativado por padrão por segurança).

transformers serve --enable-cors

Para usar o servidor para transcrição de fala, acesse Configurações > Áudio.

1. Defina Speech-to-Text Engine como OpenAI.
2. Defina a URL como http://localhost:8000/v1.
3. Insira um modelo de transcrição em SST Model (openai/whisper-large-v3). Encontre mais modelos no Hub.

Inicie um chat e fale. O modelo transcreve seu áudio para o campo de entrada.