High-endowy gigant w dziedzinie procesorów do smartfonów, Qualcomm, przygotowuje się do wprowadzenia na rynek trzeciej generacji swojego układu Snapdragon 8, a benchmarki Antutu pokazują, że obecny topowy Snapdragon 8 Gen 2 jest drugim najpotężniejszym układem tajwańskiego producenta. Jest to drugi najpotężniejszy układ w historii smartfonów, za Dimensity 9200+ opracowanym przez MediaTek.
While it is expected to be officially unveiled on Tuesday, details of the new chip were leaked online on Monday, and according to MS Poweruser, the new chip promises not only improved performance, but also a significant leap forward in AI capabilities on the device.
Oprócz oczekiwanego wzrostu wydajności, w tym o 25% szybszego GPU i 30% szybszego CPU, nowy system-on-chip (SoC) ma potężny silnik AI, który może obsługiwać wysoką dokładność lokalnych modeli AI, z ponad 10 miliardami parametrów lokalnych modeli językowych na dużą skalę ( LLM). Układ może również uruchamiać modele dyfuzji tekstu na obraz przy użyciu sieci neuronowych ControlNet.
Image: MSPoweruser
Producenci sprzętu mobilnego aktywnie koncentrują się na sztucznej inteligencji. Google, na przykład, zmodernizował swój układ Tensor, aby umożliwić lokalne zarządzanie niezliczonymi funkcjami sztucznej inteligencji obsługiwanymi przez najnowsze telefony Pixel. Podobnie Apple zwiększyło swoje możliwości AI dzięki SoC A17 Pro.
Pojawienie się chipów obsługujących sztuczną inteligencję w urządzeniach konsumenckich zwiastuje okres transformacji w technologii. Zaprojektowane do lokalnego uruchamiania złożonych modeli AI, te zaawansowane procesory wskazują na przyszłość pełną możliwości, od spersonalizowanych asystentów chatbotów i ultra-realistycznych doświadczeń w grach po monitorowanie zdrowia w czasie rzeczywistym i adaptacyjne interfejsy użytkownika.
Obietnica szybszego przetwarzania, w połączeniu z lepszą personalizacją i zwiększoną prywatnością, pozycjonuje te chipy jako kamień węgielny przyszłości, w której nasze urządzenia będą nie tylko inteligentniejsze, ale intuicyjnie dostosowane do naszych potrzeb i preferencji.
Kent Keesey jest dyrektorem generalnym firmy Invoke AI, która przoduje w generowaniu obrazów AI i wykorzystywaniu siły dyfuzji stabilności. Powiedział TCN, że istnieje wiele zalet uruchamiania sztucznej inteligencji na urządzeniach, a nie w chmurze.
„Przetwarzanie w chmurze jest świetną opcją dla dużych przedsiębiorstw, ale dla osób, które chcą tworzyć treści, sztuczna inteligencja na urządzeniu oferuje bardziej przystępną cenowo, spersonalizowaną i prywatną opcję” – powiedział. Podkreślił również potencjał podejścia Apple do wdrażania większego zestawu ujednoliconych pamięci, sugerując przyszłość z potężnymi lokalnymi asystentami LLM zamiast opartej na chmurze Siri, na przykład
But even as powerful as this new chip is, Invoke has no plans to port its apps to Android or iOS devices, Keesey said.
„Nasze komercyjne rozwiązania są zazwyczaj wykorzystywane w bardziej złożonych procesach przepływu pracy”. „Nie mamy natychmiastowych planów tworzenia lokalnych aplikacji OSS na Androida, ale uważnie monitorujemy trajektorię wzorców użytkowania kreatorów i pojawianie się najnowocześniejszych technologii wspierających wdrażanie urządzeń mobilnych”.
Obecnie najlepszą opcją do lokalnego generowania obrazów jest aplikacja Draw Things na iOS; dla użytkowników Androida nie ma porównywalnej opcji.
Keirsey jest optymistą, jeśli chodzi o wpływ nowego chipu Qualcomm na szerszy ekosystem technologiczny.
„Oferując ten chip dla sztucznej inteligencji na urządzeniu, poprawia on możliwości, które można wdrożyć na urządzeniach mobilnych” – wyjaśnił, dodając, że spodziewa się, że twórcy aplikacji włączą funkcje sztucznej inteligencji na żądanie do swoich usług, gdy sprzęt stanie się bardziej wydajny.
Niemniej jednak z każdą innowacją wiążą się wyzwania. W szczególności zastrzeżone modele, takie jak GPT-3 i GPT-4, są ogromne i nie są open source.
„Zwłaszcza w przypadku zastrzeżonych modeli, takich jak GPT-3 i GPT-4, które są ogromne i nie są open source, może to być niewykonalne”. Keirsey podkreślił jednak potencjał modeli open source, takich jak Stable Diffusion i Mistral7B, które mogą zmienić zasady gry.
Jak donosi TCN, Mistral7B to lekki model wyszkolony na siedmiu miliardach parametrów, który wywołał szum w społeczności AI; TCN przetestował swoje odpowiedzi w porównaniu z potężniejszymi konkurentami, takimi jak LlaMA i Stable Beluga 2, i przewyższył ich wyniki. Nawiasem mówiąc, GPT-4 może pochwalić się oszałamiającą liczbą 1,7 biliona parametrów, podczas gdy Mistral 7B działa na 7 miliardach.
Snapdragon 8 Gen 3 firmy Qualcomm to nie tylko mikroprocesor, to zwiastun przyszłości urządzeń mobilnych skoncentrowanych na sztucznej inteligencji. Z liderami branży, takimi jak Qualcomm, Google i Apple na czele, to tylko kwestia czasu, zanim Twój asystent będzie mógł faktycznie pomóc Ci odpowiadać na pytania i wykonywać zadania, zachowując przy tym wszystkie Twoje sekrety.
