Qualcomm, титан в областта на процесорите за смартфони от висок клас, се подготвя да представи третото поколение на своя чип Snapdragon 8. Това съобщение заслужава особено внимание, като се има предвид, че неговият настоящ предшественик от най-висок клас, Snapdragon 8 Gen 2, в момента държи титлата на втория най-мощен чип за смартфони в историята, според бенчмарковете на Antutu, надминат единствено от Dimensity 9200+, разработен от тайванския производител MediaTek.
Очаква се новият чип да бъде представен официално във вторник, но в понеделник в интернет изтекоха подробности за него. Според MS Poweruser новият чип обещава не само повишена производителност, но и значителен скок във възможностите за изкуствен интелект на устройството.
В допълнение към очакваните постепенни подобрения на производителността – като 25 % по-бърз графичен процесор и 30 % по-бърз централен процесор – новата система върху чип (SoC) има мощен AI двигател, който може да поддържа висока точност на локалните AI модели и може да изпълнява локални модели на голям език (LLM) с над 10 милиарда параметъра. Чипът дори може да изпълнява модела за преобразуване на текст в изображение Stable Diffusion с невронната мрежа ControlNet.
Изображение: MSPoweruser
Производителите на мобилен хардуер се ориентират решително към изкуствения интелект. Google например обнови своите чипове Tensor, като ги оборудва с възможност да управляват безбройните функции на ИИ, които най-новите телефони Pixel изпълняват локално, заобикаляйки необходимостта от обработка в облака. По подобен начин и Apple повиши ефективността си с A17 Pro SoC, подобрявайки уменията си в областта на изкуствения интелект.
Навлизането на чипове с изкуствен интелект в потребителските устройства е предвестник на ера на трансформация в технологиите. Тези усъвършенствани процесори, предназначени за локално изпълнение на сложни модели на изкуствен интелект, загатват за бъдеще, изпълнено с възможности – от персонализирани асистенти чатботове и хиперреалистични игри до наблюдение на здравето в реално време и адаптивни потребителски интерфейси.
Обещанието за по-бърза обработка, съчетано с по-добра персонализация и повече поверителност, поставя тези чипове като крайъгълен камък на бъдещето, в което нашите устройства са не просто умни, но и интуитивно настроени към нашите нужди и предпочитания.
Кент Кирси е главен изпълнителен директор на Invoke AI – компания, която е в челните редици на генерирането на изображения с изкуствен интелект и използва силата на стабилната дифузия. Той заяви пред TCN, че използването на ИИ на устройство, а не в облака, е свързано с много предимства.
„Базираните в облака изчисления са чудесен вариант за по-големите предприятия, но за физическите лица, които искат да създават съдържание, ИИ на устройство предлага по-достъпна, персонализирана и частна алтернатива“, каза той. Той също така подчерта потенциала на подхода на Apple за разгръщане на по-голям набор от унифицирана памет, предлагайки бъдеще с мощен локален асистент LLM вместо базираната в облака Siri, например.
Колкото и мощен да е новият чип обаче, Invoke не планира да пренася приложението си на устройства с Android или iOS, каза Кирси.
„Нашето търговско решение обикновено се използва за по-сложни процеси на работния процес“, каза той. „Макар че нямаме непосредствени планове за локално, OSS приложение за Android, ние внимателно наблюдаваме траекторията на моделите на използване за творците и появата на най-съвременни технологии, които поддържат мобилното внедряване.“
В момента опцията за локално генериране на изображения е приложението Draw Things за iOS. За потребителите на Android няма подобна опция.
Кирси беше оптимист за ефекта от новия чип на Qualcomm в по-широката технологична екосистема.
„Предлагането на този чип за изкуствен интелект в устройството подобрява възможностите, които могат да бъдат внедрени в мобилните устройства“, обясни той, като добави, че очаква да види разработчици на приложения, които да включат в услугите си възможности за изкуствен интелект по заявка, тъй като хардуерът става все по-способен.
И все пак всяка иновация има своите предизвикателства. Кирси посочи потенциалните проблеми с разпространението на тежестите на моделите до крайните устройства, особено за патентовани модели като GPT-3 или GPT-4, които са огромни и не са с отворен код.
„Това може да се окаже нежизнеспособно за патентован модел, при който управлението на интелектуалната собственост е от първостепенно значение“, каза той. Кирси обаче побърза да отбележи потенциала на моделите с отворен код като Stable Diffusion или Mistral7B като потенциални промени в играта.
Както бе съобщено от TCN, Mistral7B е олекотен модел, обучен на 7 милиарда параметри, който предизвиква вълни в общността на изкуствения интелект. TCN тества отговорите му срещу други по-мощни конкуренти като LlaMA и Stable Beluga 2 и той надмина техните резултати. За контекст, докато Mistral 7B работи със 7 милиарда параметъра, GPT-4 може да се похвали със зашеметяващите 1,7 трилиона параметъра.
Снапдрагонът Snapdragon 8 Gen 3 на Qualcomm е нещо повече от микрочип – той е предвестник на мобилното бъдеще, ориентирано към изкуствения интелект. С лидери в бранша като Qualcomm, Google и Apple, които са водещи, е само въпрос на време вашият асистент да може да пази всичките ви тайни и същевременно да бъде действително полезен в отговарянето на въпроси и изпълнението на задачи.
