MediaTek сотрудничает с Alibaba Cloud в разработке мобильных чипов для крупных моделей

Источник:www.ichunt.com

По данным Sci-Tech Innovation Board Daily, компания MediaTek, производитель чипов для смартфонов, успешно внедрила большие модели с 1,8 миллиардами и 4 миллиардами параметров на своих флагманских чипах, таких как Dimensity 9300, добившись глубокой адаптации большой модели на мобильных чипах и позволяя Тонги Цяньвэню проводить несколько раундов диалога с ИИ даже в офлайн-ситуациях. В будущем обе стороны также адаптируют более крупные модели разных размеров, в том числе модель с 7 миллиардами параметров, основанную на чипе Dimensity.

Alibaba Cloud заявила, что будет тесно сотрудничать с MediaTek для предоставления конечных решений для крупных моделей мировым производителям мобильных телефонов.

В настоящее время MediaTek является полупроводниковой компанией с самым большим объемом поставок чипов для смартфонов в мире. Согласно последним данным Canalys, в четвертом квартале 2023 года было продано более 117 миллионов устройств, заняв первое место, за ним следуют Apple с 78 миллионами поставок и Qualcomm с 69 миллионами поставок. Tongyi Qianwen — фундаментальная большая модель, разработанная Alibaba Cloud. На данный момент компания выпустила версии с количеством параметров до 100 миллиардов и версии с открытым исходным кодом с 72 миллиардами, 14 миллиардами, 7 миллиардами, 4 миллиардами, 1,8 миллиардами и 500 миллионами параметров, а также мультимодальные большие модели, такие как модель визуального понимания Qwen-VL и большая аудиомодель Qwen-Audio.

Во время MWC2024 MediaTek продемонстрировала различные приложения искусственного интеллекта, в том числе чипы Dimensity 9300 и 8300. Понятно, что чип Dimensity 9300 уже поддерживает применение большой модели Meta Llama 2 с 7 миллиардами параметров за рубежом, и он был реализован на телефонах серии vivo X100 в Китае с большой языковой моделью с 7 миллиардами параметров на на конечной стороне, а также успешно запустил модель с 13 миллиардами параметров в конечной экспериментальной среде.

Сотрудничество между MediaTek и Alibaba Cloud знаменует собой первый случай, когда большая модель Tongyi достигла адаптации аппаратного и программного обеспечения на уровне чипа. Сюй Дун, бизнес-руководитель лаборатории Tongyi компании Alibaba, объяснил: «Конечный ИИ — один из важных сценариев применения больших моделей, но он сталкивается со многими проблемами, такими как трудности с адаптацией аппаратного и программного обеспечения, а также несовершенная среда разработки. Alibaba Cloud и MediaTek преодолели ряд технических и инженерных проблем, связанных с базовой адаптацией и разработкой верхнего уровня, по-настоящему интегрировав большую модель в мобильный чип и исследуя новую модель развертывания модели на кристалле для конечного ИИ».

Помимо MediaTek, Qualcomm также активно продвигает внедрение крупных моделей на мобильных устройствах. 18 марта Qualcomm объявила о запуске мобильной платформы Snapdragon 8s третьего поколения, которая поддерживает большие языковые модели с числом до 10 миллиардов параметров, а также может поддерживать мультимодальные генеративные модели искусственного интеллекта, включая Baichuan-7B, Gemini Nano, Llama 2. и Zhipu ChatGLM от таких компаний, как Baidu Xiriver, Google и META. Сообщается, что Xiaomi Civi 4 Pro станет первым смартфоном, оснащенным мобильной платформой Snapdragon 8s.

Аналитик отрасли бытовой электроники заявил, что сотрудничество между Alibaba Cloud и MediaTek означает, что у отечественных производителей мобильных телефонов теперь есть альтернатива Baidu.

Насколько известно репортеру, Honor и Samsung ранее объявили о сотрудничестве с Baidu Wenxin Yiyan. Например, последний флагманский телефон Samsung, серия Galaxy S24, объединяет в себе множество возможностей большой модели Wenxin, включая вызовы, перевод и интеллектуальное обобщение. Кроме того, источник сообщил, что Apple в настоящее время находится в контакте с Baidu, надеясь использовать технологию искусственного интеллекта Baidu, и между двумя сторонами уже состоялись предварительные переговоры.

Линь Дахуа, ведущий ученый Шанхайской лаборатории искусственного интеллекта, заявил, что с экспоненциальным ростом объемов больших облачных моделей конечная сторона вот-вот вступит в золотой период роста. Сотрудничество в облаке станет важной тенденцией в будущем: облачные вычисления станут пределом, а конечные вычисления будут способствовать массовому внедрению пользователей.

По прогнозам консалтинговой компании IDC, объем поставок смартфонов на китайском рынке достигнет 277 млн ​​единиц в 2024 году с темпом роста в годовом исчислении на 2,3%. Среди них объем поставок AI-телефонов достигнет 36,6 млн, а темпы роста в годовом исчислении превысят трехзначные цифры. Применение крупных моделей искусственного интеллекта на мобильных телефонах станет более распространенным.