Локальный API
Запусти API на своём компьютере.
В codef открой
Настройки → Модели и API → Локальный API и нажми
«Запустить».
Сохрани ключ сервера в CODEF_API_KEY, затем запроси
список моделей.
macOS / Linux
curl -H "Authorization: Bearer $CODEF_API_KEY" \
http://127.0.0.1:1234/v1/models
Windows PowerShell
curl.exe -H "Authorization: Bearer $env:CODEF_API_KEY" `
http://127.0.0.1:1234/v1/models
Инструкция по запуску API
Ресурсы для разработчиков
Подставь идентификатор из GET /v1/models вместо
MODEL_ID, чтобы получить ответ модели.
Node.js
const response = await fetch(
"http://127.0.0.1:1234/v1/chat/completions",
{
method: "POST",
headers: {
Authorization: "Bearer " + process.env.CODEF_API_KEY,
"Content-Type": "application/json",
},
body: JSON.stringify({
model: "MODEL_ID",
messages: [{ role: "user", content: "Привет!" }],
}),
},
);
if (!response.ok) throw new Error(await response.text());
const { choices } = await response.json();
console.log(choices[0].message.content);
Python
import json
import os
from urllib.request import Request, urlopen
payload = {
"model": "MODEL_ID",
"messages": [{"role": "user", "content": "Привет!"}],
}
request = Request(
"http://127.0.0.1:1234/v1/chat/completions",
data=json.dumps(payload).encode("utf-8"),
headers={
"Authorization": "Bearer " + os.environ["CODEF_API_KEY"],
"Content-Type": "application/json",
},
)
with urlopen(request) as response:
print(json.load(response)["choices"][0]["message"]["content"])