Choć obecnie w kontekście sztucznej inteligencji bardzo dużo mówi się o Open AI czy Nvidii, to jednak warto podkreślić jak duże zasługi ma na tym polu IBM.  Producent oferuje szerokie portfolio urządzeń przystosowanych do pracy z modelami AI.

Jednym z kamieni milowych w historii sztucznej inteligencji było zwycięstwo opracowanego przez IBM superkomputera AI Deep Blue nad Garrym Kasparowem w meczu szachowym w 1997 roku. Czternaście lat później system IBM Watson zwyciężył w teleturnieju Jeopardy (polskim odpowiednikiem jest Va Banque). Wprawdzie od tego czasu dużo się zmieniło, lecz mimo wszystko IBM nadal odgrywa ważną rolę w świecie AI. Można tutaj wspomnieć chociażby o zaprezentowanej w ubiegłym roku platformie watsonx, umożliwiającej trenowanie, dostrajanie i dystrybucję modeli z możliwościami generatywnej sztucznej inteligencji i uczenia maszynowego. Z kolei organizacje budujące i trenujące modele sztucznej inteligencji coraz częściej korzystają z  pamięci masowych  IBM Storage Scale System, a także serwerów z rodziny IBM Power. Jest to grupa użytkowników wysoko zawieszająca poprzeczkę producentom infrastruktury IT.

Ludzie są bardzo niecierpliwi. Jak wynika z badań przeprowadzonych przez Google, nawet przy niewielkich opóźnieniach rzędu 300-500 milisekund występujących podczas otwierania strony internetowej zaangażowanie spada aż u 20 proc. internautów. Nie inaczej wygląda to w przypadku sztucznej inteligencji czy dużych modelów językowych (LLM).  Ludzie rozmawiający z chat-botami oczekują od nich natychmiastowej odpowiedzi. Specjaliści wyliczyli, że reakcja maszyny komunikującej się z człowiekiem  musi być krótsza niż 200 ms. Nie dotyczy to tylko „pogawędek” z ChatGPT, ale również zapobiegania oszustwom bankowym czy obsługi sytuacji awaryjnych. Nie wszystkie aplikacje AI muszą działać w szaleńczym tempie – tak niskich opóźnień nie wymaga na przykład analiza dokumentów. Dlatego podejście do infrastruktury obsługującej AI nie powinno być uniwersalne, należy je dostosować do odpowiednich zadań, rozmiarów i skali modelu.

IBM Power w świecie AI

IBM Power to rodzina serwerów bazujących  na procesorach IBM Power i obsługujących systemy IBM AIX, IBM i oraz Linux. Urządzenia opracowano z myślą o trudnych oraz intensywnych obliczeniach, w tym również tych związanych ze sztuczną inteligencją.

Serwery IBM Power10 posiadają rozwiązania optymalnie dostosowane do obciążeń AI, w tym wbudowany akcelerator działań matematycznych MMA (Matrix Math Accelerator). W każdym rdzeniu Power 10 umieszczone są cztery jednostki MMA, które stanowią ciekawą alternatywę dla zewnętrznych akceleratorów takich jak GPU. Ich zastosowanie pozwala poprawić wydajność procesów wnioskowania AI oraz zmniejsza koszty powierzchni centrum danych, a także prowadzi do uproszczenia stosu rozwiązań dla AI. Dodatkowe wyróżniki IBM Power10, takie jak  duża pojemność oraz przetwarzanie równoległe,  przyczyniają się do przyspieszenie pracy z obciążeniami AI. W przypadku dużych modeli językowych (LLM) klienci mogą przetwarzać do 42 proc. więcej zapytań wsadowych na sekundę w IBM Power S1022 w porównaniu z serwerami x86 podczas szczytowego obciążenia wynoszącego 40 równoczesnych użytkowników, a opóźnienia w procesie wnioskowania są mniejsze niż 1 sekunda.

Użytkownicy IBM Power10  mogą również skorzystać z obsługi Multi Architecture Cluster (MAC),  pozwalającej im łączyć węzły robocze IBM Power i x86 w jednym klastrze Red Hat OpenShift. Wykorzystanie MAC pomaga klientom dostosować właściwe zadanie AI do odpowiedniej infrastruktury, odpowiadając na potrzebę uruchomienia każdego zadania AI na jednej platformie, aby mogli tworzyć aplikacje tam, gdzie jest to konieczne.

IBM Power pozwala  klientom tworzyć i uruchamiać obciążenie AI w dowolnym miejscu: środowisku lokalnym, chmurze prywatnej czy też publicznej.  Istnieje również możliwość skorzystania elastycznego modelu konsumpcji  z licencjami na infrastrukturę typu „pay-as-you-use”.

AI na brzegu sieci

W czerwcu bieżącego roku IBM powiększył rodzinę serwerów Power wprowadzając na rynek model IBM Power S1012 przeznaczony do uruchamiana obciążeń wnioskowania AI w zdalnych biurach lub innych lokalizacjach brzegowych poza korporacyjnymi centrami danych. Obliczenia brzegowe mogą również zapewnić przewagę konkurencyjną np. poprzez analizę zachowań klientów w handlu detalicznym bądź monitorowanie i optymalizacja procesów produkcyjnych. System bazuje na procesorze Power10 i zapewnia trzykrotny wzrost wydajności na rdzeń w porównaniu ze swoim poprzednikiem IBM Power S812. Wdrażając Power S1012 na krawędzi, klienci mogą uruchamiać wnioskowanie AI w punkcie pobierania danych, eliminując w ten sposób transfery danych.

IBM Power S1012 współpracuje z systemami operacyjnymi IBM AIX, IBM i Linux, a także  obsługuje podstawowe wnioskowanie AI i uczenie maszynowe z funkcją Matrix Math Accelerator (MMA).