34 lines
947 B
Python
34 lines
947 B
Python
from openai import OpenAI
|
|
from dotenv import load_dotenv
|
|
import os
|
|
from SystemPrompter import generate_prompt
|
|
|
|
#environment variables sind in eigener .env Datei abgespeichert
|
|
load_dotenv(dotenv_path=".env")
|
|
|
|
HOST = os.getenv('HOST')
|
|
PORT = os.getenv('PORT')
|
|
API_KEY = os.getenv('API_KEY')
|
|
MODEL = os.getenv('MODEL')
|
|
|
|
def get_client() -> OpenAI:
|
|
#gibt qwen zurück
|
|
base_url = f"http://{HOST}:{PORT}/v1"
|
|
return OpenAI(base_url=base_url, api_key=API_KEY)
|
|
|
|
client = get_client()
|
|
|
|
def send_message(message: str) -> str:
|
|
# Nachricht aus dem Chatfenster wird für qwen vorbereitet und mit Kontext über SystemPrompter ergänzt
|
|
prompt = generate_prompt(message)
|
|
response = send_prompt(prompt)
|
|
return response
|
|
|
|
def send_prompt(prompt: str) -> str:
|
|
# hier wird send_message() aufgerufen, damit dann an qwen geschickt werden kann
|
|
response = client.responses.create(
|
|
input=prompt)
|
|
return response.output_text
|
|
|
|
|