Qualcomm, gigant v oblasti špičkových procesorů pro chytré telefony, se chystá vydat třetí generaci čipu Snapdragon 8. Podle benchmarků Antutu je nyní čip Snapdragon 8 druhé generace druhým nejvýkonnějším čipem pro chytré telefony vůbec, hned za Dimensity 9200+ vyvinutým tchajwanským výrobcem MediaTek.
Očekává se, že
bude oficiálně představen v úterý, přičemž podrobnosti o novém čipu unikly na internet již v pondělí. Podle MS Poweruser by měl nový čip nejen zvýšit výkon, ale také výrazně zlepšit schopnosti umělé inteligence v zařízení.
Kromě očekávaného zvýšení výkonu (např. o 25 % u výkonu GPU a o 30 % u výkonu CPU) má nový systém na čipu (SoC) výkonný engine AI, který dokáže podporovat vysoce přesné nativní modely AI a spouštět nativní velké jazykové modely (LLM) s více než 10 miliardami parametrů. Čip dokonce dokáže spustit model převodu textu na obraz Stable Diffusion pomocí neuronových sítí ControlNet.
Image: MSPoweruser
Výrobci mobilního hardwaru se ve velkém pouštějí do umělé inteligence. Například společnost Google přepracovala svůj tensorový čip, aby mohla spravovat rozsáhlou škálu funkcí AI, které její nejnovější telefony Pixel provádějí lokálně, a obešla tak potřebu zpracování v cloudu. Podobně i společnost Apple posílila své schopnosti v oblasti AI díky SoC A17 Pro.
Nástup čipů s podporou AI ve spotřebitelských zařízeních předznamenává éru technologických změn. Tyto pokročilé procesory mohou lokálně spouštět komplexní modely AI, což je předzvěstí budoucnosti nekonečných možností, od personalizovaných chatbotů-asistentů a hyperrealistických herních zážitků až po monitorování zdraví v reálném čase a adaptivní uživatelská rozhraní.
Díky vyšší rychlosti zpracování, lepší personalizaci a většímu soukromí budou tyto čipy základem budoucnosti, kdy budou naše zařízení nejen chytrá, ale také intuitivně přizpůsobitelná našim potřebám a preferencím.
Kent Keirsey je generálním ředitelem společnosti Invoke AI, která stojí v čele neustálého rozšiřování tvorby a využívání obrazů umělé inteligence. Pro TCN uvedl, že provozování AI v zařízeních, a nikoli v cloudu, má mnoho výhod.
„Výpočet v cloudu je skvělou volbou pro velké podniky, nicméně pro jednotlivce, kteří chtějí vytvářet obsah, nabízí AI v zařízení cenově dostupnější, personalizovanější a soukromější možnost,“ řekl. Vyzdvihl také potenciál společnosti Apple nasadit například sjednocenou paměť ve větším měřítku a budoucnost vidí spíše ve výkonné lokální asistentce LLM než v cloudové Siri.
Nicméně i když je tento nový čip výkonný, společnost Invoke nemá v plánu přenášet své aplikace na zařízení se systémy Android nebo iOS, uvedl Keirsey.
„Naše komerční řešení se obvykle používají pro složitější pracovní postupy,“ uvedl.“ Ačkoli nemáme žádné bezprostřední plány na spuštění nativní aplikace OSS pro Android, pozorně sledujeme způsoby používání kreativců a trajektorii nejmodernějších technologií, které podporují mobilní nasazení.
V současné době je nejlepší volbou pro nativní generování obrázků aplikace Draw Things v systému iOS. Uživatelé systému Android podobnou možnost nemají.
Keirsey je optimistický, pokud jde o vlnový efekt, který bude mít nový čip Qualcomm v širším technologickém ekosystému.
„Poskytnutí tohoto čipu pro umělou inteligenci v zařízení zlepšuje funkce nasazené v mobilních zařízeních,“ vysvětluje a dodává, že by rád viděl, kdyby vývojáři aplikací začlenili do svých služeb funkce umělé inteligence na vyžádání, jakmile bude hardware výkonnější.
Každá inovace má však své problémy a Keirsey poukázal na potenciální problémy s distribucí modelových vah do koncových zařízení, zejména proprietárních modelů jako GPT-3 nebo GPT-4, které jsou objemné a nejsou open source.
„To není proveditelné u proprietárních modelů, kde je správa duševního vlastnictví kritická,“ řekl. Keirsey však rychle vyzdvihl potenciál modelů s otevřeným zdrojovým kódem, jako je Stable Diffusion nebo Mistral7B, jako potenciální měniče hry.
Mistral7B, odlehčený model natrénovaný na 7 miliardách parametrů, vyvolal v komunitě AI vlny, podle TCN, která testovala jeho reakce proti jiným, výkonnějším konkurentům, jako jsou LlaMA a Stable Beluga 2, a překonal jejich výstupy. mistral 7B může pracovat na 7 miliardách parametrů. Mistral 7B může běžet na 7 miliardách parametrů, zatímco GPT-4 má ohromujících 1,7 bilionu parametrů.
Qualcomm Snapdragon 8 Gen 3 je víc než jen mikročip – je to předzvěst mobilní budoucnosti zaměřené na umělou inteligenci. Díky lídrům v oboru, jako jsou Qualcomm, Google a Apple, kteří vedou, bude dříve či později váš asistent střežit všechna vaše tajemství za vás a skutečně se bude podílet na zodpovídání otázek a plnění úkolů.
