), ], model_extras={ "logprobs": True } ) Parameter tambahan berikut dapat diteruskan ke model obrolan premium Mistral: Luaskan tabel NamaDeskripsiJenis ignore_eos Apakah akan mengabaikan token EOS dan terus menghasilkan token setelah token EOS dihasilkan. boolean safe_mode Apakah akan men...
), ], model_extras={ "logprobs": True } ) Menerapkan keamanan konten API inferensi model Azure AI mendukung keamanan konten Azure AI. Saat Anda menggunakan penyebaran dengan keamanan konten Azure AI diaktifkan, input dan output melewati ansambel model klasifikasi yang bertujuan mendeteksi...
API inferensi model Azure AI memungkinkan Anda berbicara dengan sebagian besar model yang disebarkan di Azure AI Studio dengan kode dan struktur yang sama, termasuk model obrolan Mistral Nemo. Membuat klien untuk menggunakan model Pertama, buat klien untuk menggunakan model. Kode berikut menggu...