So stellen Sie eine Verbindung zu Ihrem dedizierten GPU-Server her
der Anschluss an einen dedizierten GPU-Server von AlexHost ist ein Prozess, der aus mehreren Etappen besteht: von der Wahl des richtigen Tarifs bis zur Einrichtung und dem Beginn der Arbeit. Im Folgenden finden Sie die wichtigsten Schritte für eine erfolgreiche Verbindung und Nutzung des Servers
Auswahl des richtigen Tarifs
AlexHost bietet zwei Tarife für GPU-dedizierte Server an:
- Oobabooga Text Gen UI
- PyTorch (CUDA 12.4 cuDNN)
- SD Webui A1111
- Ubuntu 22.04 VM: GNOME Desktop RDPXFCE Desktop RDPKDE Plasma Desktop RDP
- Auch: Auf Anfrage können wir jedes OS installieren
Wie Sie sich mit Ihrem GPU-Server verbinden




Derzeit werden Frameworks und Tools für die Arbeit mit großen Sprachmodellen (LLMs) nur auf Ubuntu 22.04 unterstützt. Wenn dieses Betriebssystem ausgewählt wird, werden die entsprechenden Installationsskripte für LLM-Frameworks bei der Einrichtung zur Auswahl angeboten.

- Textgenerierung WebUI ist eine Webschnittstelle für die Arbeit mit Textgenerierungsmodellen wie GPT, LLaMA, Mistral und anderen. Es ermöglicht Ihnen, Modelle zu laden, Parameter zu konfigurieren und mit Text-LLMs zu interagieren.
- AUTOMATIC1111 Stable Diffusion WebUI ist eine der beliebtesten Webschnittstellen für die Generierung von Bildern mit dem Stable Diffusion Modell. Sie bietet eine komfortable GUI, über die Sie Modelle laden, Parameter für die Bilderzeugung konfigurieren und zusätzliche Plugins und Erweiterungen verwenden können.
- GNOME / XFCE / KDE Plasma Desktop RDP sind verschiedene grafische Umgebungen für die Fernverbindung zum Server über RDP (Remote Desktop Protocol). Sie stehen nicht in direktem Zusammenhang mit LLM, können aber zur Verwaltung und Arbeit mit dem Server, auf dem die KI-Modelle laufen, verwendet werden.
- PyTorch (CUDA12.4 cuDNN) ist eine Bibliothek für die Arbeit mit neuronalen Netzen und maschinellem Lernen. Sie unterstützt GPU-Beschleunigung (über CUDA) und wird zum Trainieren und Ausführen von LLMs (z. B. GPT, LLaMA) und Bilderzeugungsmodellen (Stable Diffusion) verwendet.


