Chat (llama-3.2-3b)

POST {{APIV2}}/api/v2/llama/completions/chat

Request Body

{"model"=>"llama-3.2-3b-instruct:q4_k_m", "version"=>"v1", "messages"=>[{"role"=>"user", "content"=>"Ola, como vai? Quantos planetas existem no sistema solar?"}], "temperature"=>0.9}

RESPONSES

status: OK

{"user":{"first_name":"JONATHAN","email":"jhowjhoe@gmail.com","cellphone":"31994359434","notification":"yes"},"balance":4300.99,"error":false,"data":{"created":1730785309,"object":"chat.completion","id":"16481b91-e07a-408a-8566-1f2d4ee42680","model":"llama-3.2-3b-instruct:q4_k_m","choices":[{"index":0,"finish_reason":"stop","message":{"role":"assistant","content":"Olá! Vou bem, obrigado. Existem 8 planetas no sistema solar: Mercúrio, Vênus, Terra, Marte, Júpiter, Saturno, Urano e Netuno.\n\nVocê quer saber mais sobre o planeta que você está interessado?"}}],"usage":{"prompt_tokens":26,"completion_tokens":61,"total_tokens":87}}}