Amazon atakuje ekosystem Nvidii od strony oprogramowania

Amazon Web Services wypuścił narzędzie o nazwie TorchNeuron, które ma uprościć przenoszenie aplikacji sztucznej inteligencji na firmowe układy Trainium. Rozwiązanie łączy się bezpośrednio z PyTorch, dzięki czemu deweloperzy mają szansę uruchomić swoje modele na sprzęcie Amazona bez konieczności ingerowania w kod źródłowy. To kolejny ruch AWS w walce z Nvidią, której mocną pozycję na rynku AI utrzymuje głównie ekosystem CUDA, mocno powiązany z najchętniej wykorzystywanymi narzędziami programistycznymi.

Nowe narzędzie działa w parze z PyTorch - otwartym frameworkiem służącym do budowy i trenowania modeli sztucznej inteligencji. Jak zapewnia AWS, przeniesienie aplikacji na Trainium może sprowadzać się do zmiany jednej linijki w konfiguracji. Oznacza to, że programiści nie muszą poznawać nowego środowiska ani od podstaw przebudowywać istniejących rozwiązań.

Z danych Amazona wynika, że mniej więcej 85% aplikacji opartych na AI powstaje właśnie w PyTorch. Framework ten, stworzony pierwotnie przez Facebooka, funkcjonuje dziś jako projekt open source rozwijany pod egidą Linux Foundation. Jego szeroka obecność na rynku od dawna działa na korzyść Nvidii - firmowa platforma CUDA umożliwia uruchamianie aplikacji na kartach graficznych producenta, a ścisłe powiązanie z narzędziami AI uczyniło ten sprzęt naturalnym wyborem dla wielu zespołów. Amazon liczy, że ułatwiając dostęp do innych układów, zdoła nadszarpnąć tę dominację.

AWS chce obniżyć koszty wdrażania AI…

Przejście na Trainium ma być procesem nieskomplikowanym, ale zdaniem Amazona prawdziwą wartością jest dostęp do pełnej infrastruktury AWS, obejmującej cały cykl pracy nad projektem - od pierwszego prototypu po produkcyjne wdrożenie. Firma pozycjonuje tę ofertę jako konkurencję dla wyspecjalizowanych dostawców mocy obliczeniowej, na przykład CoreWeave czy Nebius, których usługi w dużej mierze bazują na rozwiązaniach Nvidii.

AWS podkreśla również, że korzystanie z jednej platformy zarówno do trenowania modeli, jak i ich późniejszego uruchamiania może zmniejszyć łączny koszt przetwarzania danych. Niekoniecznie chodzi tu o najniższą cenę pojedynczego tokena - liczy się raczej opłacalność całego procesu oraz spójność z pozostałymi usługami chmury.

Przykładem ma być firma Deepgram, działająca w obszarze technologii głosowych opartych na AI. Jak podaje AWS, po migracji na Trainium przedsiębiorstwo przetwarza o 70% więcej danych audio w przeliczeniu na wydanego dolara, nie tracąc przy tym dokładności wymaganej w środowisku produkcyjnym.

… i zmienić sam PyTorch

Ambicje Amazona sięgają dalej niż tylko promocja własnych procesorów. Firma deklaruje współpracę ze społecznością skupioną wokół PyTorch, której celem ma być eliminacja elementów kodu wiążących framework z konkretnym producentem sprzętu. Te zmiany mają zostać włączone do głównej gałęzi projektu, co ograniczyłoby uzależnienie od jednego dostawcy i ułatwiło wsparcie dla różnych architektur.

Takie działanie mogłoby przynieść korzyści również producentom takim jak AMD czy Apple, nie tylko samemu Amazonowi. Trzeba jednak zaznaczyć, że większa niezależność od konkretnego sprzętu sama w sobie nie przekłada się automatycznie na wyższą wydajność czy niższe koszty. Różnice między platformami wciąż mogą wymagać dodatkowych prac optymalizacyjnych.

Gdyby Amazonowi udało się realnie zmniejszyć zależność PyTorch od technologii Nvidii, rywalizacja na rynku infrastruktury AI mogłaby przesunąć się z samych układów scalonych na warstwę oprogramowania, które umożliwia ich wykorzystanie. Dla AWS chodzi o pozyskanie klientów dla własnej chmury, natomiast dla Nvidii oznaczałoby to potencjalne nadszarpnięcie przewagi, budowanej przez lata dzięki połączeniu sprzętu z ekosystemem CUDA.