Jak połączyć się z dedykowanym serwerem GPU
podłączenie do serwera dedykowanego GPU od AlexHost to proces składający się z kilku etapów: od wyboru odpowiedniej taryfy po konfigurację i rozpoczęcie pracy. Poniżej przedstawiamy główne kroki niezbędne do pomyślnego podłączenia i korzystania z serwera
Wybór odpowiedniej taryfy
AlexHost oferuje dwie taryfy dla serwerów dedykowanych GPU:
- Interfejs użytkownika Oobabooga Text Gen
- PyTorch (CUDA 12.4 cuDNN)
- SD Webui A1111
- Ubuntu 22.04 VM: GNOME Desktop RDPXFCE Desktop RDPKDE Plasma Desktop RDP
- Ponadto: Na życzenie możemy zainstalować dowolny system operacyjny
Jak połączyć się z serwerem GPU




Obecnie frameworki i narzędzia do pracy z dużymi modelami językowymi (LLM) są obsługiwane tylko w systemie Ubuntu 22.04. Po wybraniu tego systemu operacyjnego odpowiednie skrypty instalacyjne dla frameworków LLM stają się dostępne do wyboru podczas konfiguracji.

- Generowanie tekstu WebUI to interfejs sieciowy do pracy z modelami generowania tekstu, takimi jak GPT, LLaMA, Mistral i inne. Umożliwia ładowanie modeli, konfigurowanie parametrów i interakcję z tekstowymi LLM.
- AUTOMATIC1111 Stable Diffusion WebUI to jeden z najpopularniejszych interfejsów internetowych do generowania obrazów przy użyciu modelu Stable Diffusion. Zapewnia wygodny graficzny interfejs użytkownika, w którym można ładować modele, konfigurować parametry generowania obrazów, korzystać z dodatkowych wtyczek i rozszerzeń.
- GNOME / XFCE / KDE Plasma Desktop RDP to różne środowiska graficzne do zdalnego łączenia się z serwerem za pośrednictwem protokołu RDP (Remote Desktop Protocol). Nie są one bezpośrednio związane z LLM, ale mogą być używane do zarządzania i pracy z serwerem, na którym działają modele AI.
- PyTorch (CUDA12.4 cuDNN) to biblioteka do pracy z sieciami neuronowymi i uczeniem maszynowym. Obsługuje akcelerację GPU (poprzez CUDA) i jest używana do trenowania i uruchamiania LLM (np. GPT, LLaMA) oraz modeli generowania obrazu (Stable Diffusion).


