28.03.2025
Dedizierte Server
So stellen Sie eine Verbindung zu Ihrem dedizierten GPU-Server her
der Anschluss an einen dedizierten GPU-Server von AlexHost ist ein Prozess, der aus mehreren Etappen besteht: von der Wahl des richtigen Tarifs bis zur Einrichtung und dem Beginn der Arbeit. Im Folgenden finden Sie die wichtigsten Schritte für eine erfolgreiche Verbindung und Nutzung des Servers
Auswahl des richtigen Tarifs
AlexHost bietet zwei Tarife für GPU-dedizierte Server an:
Dedizierte Server sind mit zwei leistungsstarken und modernen 2x RTX 4070 Ti SUPER Grafikkarten ausgestattet. Ein weiteres wichtiges Element ist, dass AlexHost ein umfassendes Set an vorinstallierten Tools und Frameworks bereitstellt, die speziell dafür entwickelt wurden, den Einsatz und die Nutzung von Large Language Models (LLMs) zu optimieren, damit Sie sofort mit KI-Lösungen arbeiten können. Dies wird Ihnen helfen, einen Server mit einem sofort einsetzbaren KI-Tool zu bekommen.
- Oobabooga Text Gen UI
- PyTorch (CUDA 12.4 cuDNN)
- SD Webui A1111
- Ubuntu 22.04 VM: GNOME Desktop RDPXFCE Desktop RDPKDE Plasma Desktop RDP
- Auch: Auf Anfrage können wir jedes OS installieren
Wie Sie sich mit Ihrem GPU-Server verbinden
Nach erfolgreicher Zahlung erhalten Sie den Zugang zum Server und die Zugangsdaten per E-Mail. Wir sind auch bereit, Ihnen Anweisungen zu geben, wie Sie sich mit Ihrem GPU Dedicated Server verbinden können. Die Anweisungen sind sehr einfach, folgen Sie einfach den nächsten Schritten, die unten beschrieben sind.
Nachdem Sie also erfolgreich einen GPU-Server bestellt haben, können Sie zu Ihrem Konto gehen und ihn aus der Liste der aktivierten Dienste auswählen. Öffnen Sie ihn dann, indem Sie auf den ausgewählten Dienst klicken.
Um die Anmeldedaten für die Anmeldung bei DCIManager zu sehen, müssen Sie zum Abschnitt Anmeldedetails gehen
Sie können dem Link in Ihrem Konto folgen und sehen dort auch den Benutzernamen und das entsprechende Passwort.
Nachdem Sie die drei Punkte ausgewählt haben, sollten Sie auf Betriebssystem aus einer Vorlage installieren klicken, um die verfügbaren Betriebssystem- und LLM-Modelle anzuzeigen
Sie können jedes in der Vorlagenliste verfügbare Betriebssystem auf Ihrem GPU-Server installieren.
Derzeit werden Frameworks und Tools für die Arbeit mit großen Sprachmodellen (LLMs) nur auf Ubuntu 22.04 unterstützt. Wenn dieses Betriebssystem ausgewählt wird, werden die entsprechenden Installationsskripte für LLM-Frameworks bei der Einrichtung zur Auswahl angeboten.
Derzeit werden Frameworks und Tools für die Arbeit mit großen Sprachmodellen (LLMs) nur auf Ubuntu 22.04 unterstützt. Wenn dieses Betriebssystem ausgewählt wird, werden die entsprechenden Installationsskripte für LLM-Frameworks bei der Einrichtung zur Auswahl angeboten.
Wenn Sie die Option Weitere Skripte auswählen wählen, können Sie alle verfügbaren LLM-Modelle installieren. Werfen wir einen kurzen Blick auf jedes von ihnen:
- Textgenerierung WebUI ist eine Webschnittstelle für die Arbeit mit Textgenerierungsmodellen wie GPT, LLaMA, Mistral und anderen. Es ermöglicht Ihnen, Modelle zu laden, Parameter zu konfigurieren und mit Text-LLMs zu interagieren.
- AUTOMATIC1111 Stable Diffusion WebUI ist eine der beliebtesten Webschnittstellen für die Generierung von Bildern mit dem Stable Diffusion Modell. Sie bietet eine komfortable GUI, über die Sie Modelle laden, Parameter für die Bilderzeugung konfigurieren und zusätzliche Plugins und Erweiterungen verwenden können.
- GNOME / XFCE / KDE Plasma Desktop RDP sind verschiedene grafische Umgebungen für die Fernverbindung zum Server über RDP (Remote Desktop Protocol). Sie stehen nicht in direktem Zusammenhang mit LLM, können aber zur Verwaltung und Arbeit mit dem Server, auf dem die KI-Modelle laufen, verwendet werden.
- PyTorch (CUDA12.4 cuDNN) ist eine Bibliothek für die Arbeit mit neuronalen Netzen und maschinellem Lernen. Sie unterstützt GPU-Beschleunigung (über CUDA) und wird zum Trainieren und Ausführen von LLMs (z. B. GPT, LLaMA) und Bilderzeugungsmodellen (Stable Diffusion) verwendet.
Der letzte Schritt besteht darin, ein Passwort und einen Hostnamen zu wählen. Nachdem Sie diese Felder ausgefüllt haben, können Sie mit der Installation fortfahren.
Ein erfolgreicher Installationsvorgang sieht genau so aus. Bitte beachten Sie, dass der Installationsvorgang bis zu 30 Minuten dauern kann.
