GPU (skrót od angielskiego „Graphics Processing Unit”) to specyficzny rodzaj procesora, zdolny do przetwarzania dużych ilości danych. Jest on głównie wykorzystywany w procesach związanych ze sztuczną inteligencją, grami oraz renderowaniem grafiki, a większość użytkowników zna go jako kartę graficzną.
W przeciwieństwie do CPU (skrót od angielskiego „Central Processing Unit”), procesora używanego do podstawowych operacji i wykonywania obliczeń sekwencyjnie, GPU jest wykorzystywane tam, gdzie wymagane jest jednoczesne przetwarzanie wielu operacji. Dzięki temu procesy o wysokim obciążeniu mogą być wykonywane szybciej.
Aby jeszcze bardziej przyspieszyć te procesy, można zamówić zasoby w chmurze, hostowane na serwerach wyposażonych w kilka potężnych układów GPU. GigaCloud korzysta z układów NVIDIA T4 i NVIDIA A40, stworzonych specjalnie do wirtualizacji. Jeden układ T4 ma 16 GB pamięci GDDR6, a A40 – 48 GB. W chmurze zasoby GPU są wirtualizowane, a ich moc obliczeniowa dzielona między użytkowników, z których każdy otrzymuje przydział mocy obliczeniowej w formie wirtualnego procesora graficznego (tzw. vGPU).
Zalety kart graficznych w chmurze w porównaniu do fizycznych:
- możliwość szybkiego skalowania, co pozwala na natychmiastowe zwiększenie zasobów,
- oszczędność kosztów związanych z utrzymaniem, ponieważ nie ma potrzeby zakupu i instalacji sprzętu we własnym zakresie,
- dostępność zasobów z dowolnego urządzenia.
Poniżej opisujemy trzy scenariusze zadań, które mogą zostać rozwiązane za pomocą chmury z GPU. Niestety, ze względu na umowy o poufności (NDA) z naszymi klientami, nie możemy ujawnić nazw niektórych firm, dlatego przedstawimy jedynie ogólny zarys ich współpracy z naszą chmurą.
Projekty z zakresu sztucznej inteligencji
Dawniej GPU były wykorzystywane głównie do grafiki, jednak wraz z rozwojem sztucznej inteligencji ich zastosowanie rozszerzyło się na obliczenia ogólnego przeznaczenia na procesorach graficznych (GPGPU), w tym do trenowania modeli AI. Od 2007 roku tworzone jest oprogramowanie, które łączy te dwa obszary. Rozwój technologii chmurowych sprawił, że GPU stały się jeszcze bardziej dostępne do trenowania sieci neuronowych.
Na przykład firma UniTalk korzysta z publicznej chmury z GPU od GigaCloud do realizacji swoich projektów z zakresu sztucznej inteligencji, a mianowicie do tworzenia robota głosowego, który automatyzuje komunikację z klientami. System ten w ciągu zaledwie kilku minut może przetworzyć do kilku tysięcy połączeń, prowadząc pełnowartościowe rozmowy z klientami.
Inna firma, która jest klientem GigaCloud, wykorzystuje zasoby chmurowe do dostosowania swojego generatywnego modelu AI Stable Diffusion do realizacji specyficznych zadań. Przenosząc do chmury wszystkie niezbędne zasoby do trenowania, w tym ogromne zbiory danych, zautomatyzowali proces tworzenia obrazów swoich postaci zgodnych ze stylem korporacyjnym. To rozwiązanie pozwoliło zaoszczędzić czas na tworzeniu szczegółowych grafik na stronę internetową, opakowań produktów i materiałów reklamowych, a także obniżyć budżet projektu, eliminując konieczność zakupu i utrzymania drogiego sprzętu.
Przetwarzanie wideo i grafiki
Najpopularniejsze operacje z użyciem GPU to edycja wizualna, od obrazów 3D po efekty specjalne (SFX). Na przykład, wszystkie filmy na kanale YouTube GigaCloud About są edytowane w Adobe Premiere Pro w chmurze publicznej.
Jeden z naszych klientów, studio produkcji wideo, edytuje filmy w DaVinci Resolve i Adobe Premiere Pro. Komputery, na których zazwyczaj działało to oprogramowanie, działały bardzo wolno i często się zawieszały z powodu przeciążenia systemu. Natomiast po przeniesieniu do chmury GigaCloud firma zyskała możliwość renderowania wideo bez zakłóceń oraz jednoczesnej pracy nad tym samym projektem, łącząc się z jednym wirtualnym pulpitem. To przyspieszyło proces edycji 30-minutowego filmu, skracając go z miesiąca do zaledwie 2 tygodni.
Analiza danych
Operacje na dużych zbiorach danych, tworzenie modeli, obliczenia i symulacje są niemożliwe bez kart graficznych i mają zastosowanie w każdej dziedzinie. Na przykład:
- Handel detaliczny
Jedna z firm z sektora handlu detalicznego, której dostarczamy usługi chmurowe, używa Apache Spark do badania nastrojów klientów, analizowania wyników sprzedaży oraz dostarczania spersonalizowanych ofert dla lojalnych klientów. Połączenie GPU, chmury i sztucznej inteligencji pozwoliło na pięciokrotne przyspieszenie przetwarzania tych danych zakupowych.
- Finanse
Dzięki potężnym procesorom możliwe jest bardziej efektywne monitorowanie ryzyk, co pomaga w ochronie systemów oraz zapobieganiu błędom. Jest to szczególnie istotne w sektorze finansowym, gdzie podejrzane transakcje muszą być szybko identyfikowane wśród dużych zbiorów danych. Przetwarzając ogromne ilości danych klientów, instytucje finansowe mogą trenować sieci neuronowe do wykrywania oszustw transakcyjnych, a niektóre banki korzystające z naszej infrastruktury już to robią.
- Badania naukowe
Wśród klientów GigaCloud znajdują się instytucje edukacyjne, które hostują programy i modele naukowe w naszej chmurze z GPU. Jedna z nich korzysta z systemu informacji geograficznej ArcGIS Pro do badań geodezyjnych — dzięki procesorowi GPU może tworzyć szczegółowe, interaktywne mapy. Inny klient używa narzędzia International Futures do analizy scenariuszy w kontekście stosunków międzynarodowych. Dzięki chmurze znacznie szybciej oblicza wskaźniki ekonomiczne, społeczno-polityczne i geograficzne oraz generuje prognozy na przyszłość.
- Medycyna
Przetwarzanie danych pacjentów, które wymaga głębokiej analizy i szybkiego przeglądu, również wymaga znacznych zasobów. Jeden z naszych klientów, centrum medyczne, hostuje w GigaCloud oprogramowanie FotoFinder, które tworzy mapy znamion. Część funkcji programu wykonuje sztuczna inteligencja, która z czasem uczy się wykrywać nieprawidłowe zmiany w pigmentacji skóry szybciej i dokładniej. Oprogramowanie przetwarza dużą ilość obrazów w wysokiej rozdzielczości, dlatego karta graficzna jest tutaj szczególnie przydatna. Inna klinika wykorzystuje układ GPU do analizy danych stomatologicznych, tworzenia modeli 3D jamy ustnej i symulacji scenariuszy leczenia.
