Meta otwiera model Muse Spark Open dla Maców z układami M5 Ultra

Firma Meta wypuściła Muse Spark Open - model sztucznej inteligencji o otwartych wagach, który można postawić we własnej infrastrukturze na komputerach Mac Studio wyposażonych w chipy M5 Ultra. Rozwiązanie ma radzić sobie z zaawansowanym programowaniem oraz zadaniami realizowanymi autonomicznie przez agentów AI. Aby jednak odpalić pełną wersję modelu, konieczne jest spięcie dwóch jednostek Mac Studio, bo dopiero razem oferują one 1 TB zunifikowanej pamięci.

Muse Spark Open to model natywnie multimodalny, liczący łącznie 816 mld parametrów - przy czym w trakcie pracy aktywnych jest 42 mld z nich. Model operuje na oknie kontekstowym sięgającym miliona tokenów. Meta stworzyła go z myślą o skomplikowanych projektach inżynierii oprogramowania, wieloetapowym rozumowaniu oraz długich sekwencjach działań wykonywanych przez agentów AI.

Dwa komputery Mac Studio do uruchomienia modelu

Postawienie modelu takich rozmiarów na lokalnym sprzęcie oznacza spore wymagania zasobowe. Meta dopasowała Muse Spark Open do pracy na Mac Studio z chipami M5 Ultra, opierając się na frameworku MLX. Pojedyncza maszyna tego typu potrafi oddać zintegrowanemu GPU nawet 512 GB zunifikowanej pamięci, więc dopiero dwie sztuki razem mieszczą cały model, a łączna przepustowość pamięci dochodzi - według deklaracji producenta - do 1,2 TB/s.

Jest to opcja skierowana do osób dysponujących odpowiednim zapleczem sprzętowym, a nie do przeciętnego posiadacza komputera Mac. W zamian za nakłady lokalne wdrożenie zapewnia większą kontrolę nad środowiskiem pracy oraz danymi, które są przetwarzane. Jak zauważa serwis Engadget, do uruchomienia modelu niezbędny jest zestaw dysponujący około terabajtem pamięci, co w praktyce sprowadza się do konfiguracji złożonej z dwóch Mac Studio.

AI programuje i montuje wideo

Meta przetestowała model w pracy z Muse Code, czyli terminalem programistycznym opartym na sztucznej inteligencji. W ramach prób Muse Spark Open samodzielnie wprowadzał zmiany w kodzie aplikacji Ice Cubes - klienta sieci społecznościowej Mastodon. Zakres prac obejmował naprawę błędów, dodawanie nowych funkcji oraz kompilację całego projektu.

Model wykorzystano także przy obsłudze programu DaVinci Resolve. Przeglądał materiał wideo klatka po klatce, wyłapywał ciekawe momenty i przycinał je do formatu pionowego. To przykłady zadań, w których sztuczna inteligencja ma działać samodzielnie przez kolejne etapy pracy, a nie jedynie odpowiadać na pojedyncze polecenia czy wypluwać fragmenty kodu.

Wagi dostępne na wielu platformach

Meta udostępnia Muse Spark Open poprzez kilka platform API - Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter oraz Together AI. Same wagi modelu da się pobrać z Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face i Microsoft Foundry Models.

Model działa z silnikami wnioskowania takimi jak SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp czy Unsloth. Meta zapewnia również o optymalizacjach pod układy GPU od AMD, Apple, Intela i NVIDIA. Deweloperzy mogą dopasowywać model do swoich potrzeb, korzystając między innymi z PyTorch oraz narzędzia TorchTitan.

Firma opublikowała też własne kernele GPU o nazwie Helion, dostrojone pod działanie w środowisku SGLang. Jak wynika z jej testów, przyspieszają one wybrane operacje na kartach NVIDIA i AMD od 1,03 do 3,95 raza. Dla karty AMD MI350 ma to oznaczać 3-procentowy wzrost ogólnej wydajności.

Otwarta dostępność z określonymi warunkami

Meta zaznacza, że zanim model trafił do publicznego użytku, przeszedł dodatkowe dostrajanie oraz wewnętrzne testy bezpieczeństwa. Firma twierdzi, że Muse Spark Open spełnił ustalone progi w analizowanych kategoriach ryzyka. Szczegóły tych wyników mają trafić do karty modelu, a pełny raport z ewaluacji zostanie opublikowany w późniejszym terminie.

Udostępnienie wag nie oznacza przy tym zupełnej dowolności w ich wykorzystaniu. Model podlega licencji Muse Model License, która pozwala na bezpłatne korzystanie wielu programistom, ale nakłada konkretne warunki dotyczące zastosowań komercyjnych. Przed wdrożeniem w firmowym środowisku trzeba więc sprawdzić zarówno zapisy licencji, jak i wymagania sprzętowe.