mirror of
https://github.com/Nick-Hogo/AgentSeed
synced 2026-11-17 16:44:26 +08:00
v0.1: 梦开始的地方 —— LLM调用
This commit is contained in:
@@ -0,0 +1,25 @@
|
||||
import os
|
||||
import httpx
|
||||
|
||||
# 获取模型服务地址、访问密钥和模型名称。
|
||||
base_url = os.environ["OPENAI_BASE_URL"]
|
||||
api_key = os.environ["OPENAI_API_KEY"]
|
||||
model = os.environ["OPENAI_MODEL"]
|
||||
|
||||
while True: # 持续接收用户输入,实现最基础的命令行对话。
|
||||
user_input = input("You> ")
|
||||
|
||||
# 按照 OpenAI Chat Completions 协议向模型服务发送 HTTP 请求。
|
||||
response = httpx.post(
|
||||
f"{base_url.rstrip('/')}/chat/completions",
|
||||
headers={"Authorization": f"Bearer {api_key}"}, # 认证信息
|
||||
json={
|
||||
"model": model, # 选择的模型名称
|
||||
"messages": [{"role": "user", "content": user_input}], # 用户输入的消息
|
||||
},
|
||||
timeout=60,
|
||||
)
|
||||
|
||||
# 将 JSON 响应转换为字典,然后取出模型生成的文本。
|
||||
data = response.json()
|
||||
print("Assistant>", data["choices"][0]["message"]["content"])
|
||||
Reference in New Issue
Block a user