Add initial documentation for AnythingLLM & Azure OpenAI integration

This commit is contained in:
2025-08-04 07:37:05 +02:00
parent 1f76e1f7e6
commit df1b0f0f6d
2 changed files with 52 additions and 0 deletions

21
.copilot Normal file
View File

@@ -0,0 +1,21 @@
# Diskussionsvorbereitung für KI-Diskussionen
- Starte vor Beginn das Script `~/start-mcp-playwright.sh`, damit du (Visual Studio Code Agent) Zugriff auf das Web hast.
- Recherchiere aktuelle Informationen zu den zu diskutierenden Themen im Internet.
- Unterstütze den Anwender dabei, technische Probleme (z.B. Sensor unter Linux OpenSuse 15.6) zu lösen.
- Führe, wenn möglich, die vorgeschlagenen Schritte selbst aus, um die tatsächliche Ausgabe und eventuelle Fehlermeldungen zu kennen.
- Bereite die Informationen so auf, dass sie für den Anwender verständlich und nachvollziehbar sind.
- Verwende klare, präzise und strukturierte Sprache, um technische Details zu erklären.
- Berücksichtige alle relevanten Informationen aus bereitgestellten Links und erweitere die Recherche bei Bedarf.
- Dokumentiere aufgetretene Probleme und schlage mögliche Lösungen vor.
- Sei geduldig und unterstützend, insbesondere bei Anwendern ohne tiefgehende technische Kenntnisse.
- Halte die Diskussion fokussiert auf das jeweilige Ziel (z.B. Sensor zum Laufen bringen).
- Erkläre alle Schritte nachvollziehbar, damit der Anwender sie eigenständig durchführen kann.
- Recherchiere spezifische Fehlermeldungen und prüfe, ob es bekannte Lösungen gibt.
- Nutze bereitgestellte Links als Ausgangspunkt, erweitere die Suche aber auch auf andere Quellen.
- Dokumentiere alle Schritte und Ergebnisse, sodass eine klare Anleitung für den Anwender entsteht.
- Sei offen für Rückfragen und kläre Unklarheiten direkt im Gespräch.
- Führe die Diskussion konstruktiv und lösungsorientiert.
- Strukturiere Informationen übersichtlich, z.B. durch Listen oder Absätze.
- Konzentriere dich auf relevante technische Details und vermeide unnötige Abschweifungen.
- Diskutiere alternative Ansätze, falls die ursprüngliche Lösung nicht funktioniert.
- Achte auf die richtige Reihenfolge der Schritte, um Fehlerquellen zu minimieren.

View File

@@ -0,0 +1,31 @@
## AnythingLLM & Azure OpenAI Gesprächsverlauf & Lösung
**Frage:** Ich möchte AnythingLLM im Generic OpenAI Modus mit Azure Foundry nutzen. Was muss ich eintragen?
**Diskussion:**
- Zunächst wurde empfohlen, im Generic OpenAI Modus folgende Werte zu setzen:
- API Base URL: https://kpa-az-ai-foundry.cognitiveservices.azure.com/
- API Key: <dein Azure-API-Key>
- Model: gpt-4.1
- Token Context Window & Max Tokens: 13107 (bzw. 131072, je nach Deployment)
- Hinweis: Die API-Version ist in AnythingLLM nicht konfigurierbar.
**Frage:** Wie viele Tokens sind mit gpt-4.1 möglich?
- Antwort: Bis zu 131072 Tokens (128k), wenn das Azure-Deployment dies unterstützt.
**Problem:**
Fehlermeldung: `Could not respond to message. 404 Resource not found`
**Analyse:**
- 404 bedeutet meist: Falscher Endpoint, Modelname oder API-Route.
- Es wurde empfohlen, die Base URL ggf. mit `/openai/deployments/<deployment>/chat/completions?api-version=...` zu ergänzen.
- Wichtig: Der Deployment-Name muss exakt stimmen.
**Lösung:**
Statt "Generic OpenAI Compatible" wurde im AnythingLLM Backend der Modus "Azure OpenAI" gewählt. Dort funktionierte der Endpoint sofort korrekt.
**Fazit:**
- Für Azure OpenAI immer den dedizierten "Azure OpenAI"-Modus in AnythingLLM nutzen, nicht den generischen OpenAI-Modus.
- Die relevanten Felder (Endpoint, API-Key, Deployment-Name) exakt wie in Azure angeben.
Damit ist die Integration erfolgreich abgeschlossen.