MediaTek samarbejder med Alibaba Cloud for store modeller af mobile chips

Kilde:www.ichunt.com

Ifølge Sci-Tech Innovation Board Daily har MediaTek, en smartphone-chipproducent, med succes implementeret store modeller med 1,8 milliarder og 4 milliarder parametre på sine flagskibschips, såsom Dimensity 9300, og opnået dyb tilpasning af den store model på mobile chips og gør det muligt for Tongyi Qianwen at køre flere runder af AI-dialog selv i offline-situationer. I fremtiden vil de to parter også tilpasse flere store modeller af forskellig størrelse, herunder en med 7 milliarder parametre, baseret på Dimensity-chippen.

Alibaba Cloud udtalte, at det vil arbejde tæt sammen med MediaTek for at levere end-side store modelløsninger til globale mobiltelefonproducenter.

I øjeblikket er MediaTek det halvlederfirma med den højeste forsendelsesvolumen af ​​smartphone-chips globalt. Ifølge de seneste data fra Canalys afsendte den over 117 millioner enheder i fjerde kvartal af 2023, på førstepladsen, efterfulgt af Apple med 78 millioner forsendelser og Qualcomm med 69 millioner forsendelser. Tongyi Qianwen er en grundlæggende stor model udviklet af Alibaba Cloud. Indtil videre har det lanceret versioner med op til 100 milliarder parametre og open source-versioner med 72 milliarder, 14 milliarder, 7 milliarder, 4 milliarder, 1,8 milliarder og 500 millioner parametre samt multimodale store modeller som f.eks. visuel forståelse model Qwen-VL og audio store model Qwen-Audio.

Under MWC2024 fremviste MediaTek forskellige kunstig intelligens-applikationer, herunder Dimensity 9300 og 8300 chips. Det er underforstået, at Dimensity 9300-chippen allerede har understøttet anvendelsen af ​​Meta Llama 2's 7 milliarder parametre store model i udlandet, og den er blevet implementeret på vivo X100-seriens telefoner i Kina med en 7 milliarder parametre stor sprogmodel på endesiden, og har også med succes kørt en 13-milliarder-parameter model i et ende-side eksperimentelt miljø.

Samarbejdet mellem MediaTek og Alibaba Cloud markerer første gang, at Tongyi store model har opnået hardware- og softwaretilpasning på chipniveau. Xu Dong, forretningschefen for Alibabas Tongyi Lab, forklarede: "End-side AI er et af de vigtige scenarier for anvendelse af store modeller, men det står over for mange udfordringer såsom vanskeligheder med hardware- og softwaretilpasning og ufuldstændige udviklingsmiljøer. Alibaba Cloud og MediaTek har overvundet en række tekniske og tekniske udfordringer relateret til underliggende tilpasning og udvikling på øverste niveau, og har virkelig integreret den store model i mobilen chip og udforske en ny implementeringsmodel af Model-on-Chip til end-side AI."

Udover MediaTek promoverer Qualcomm også aktivt implementeringen af ​​store modeller på mobile enheder. Den 18. marts annoncerede Qualcomm lanceringen af ​​den tredje generation af Snapdragon 8s mobilplatform, som understøtter store sprogmodeller med op til 10 milliarder parametre og også kan understøtte multimodale generative AI-modeller, herunder Baichuan-7B, Gemini Nano, Llama 2 , og Zhipu ChatGLM fra virksomheder som Baidu Xiriver, Google og META. Det forlyder, at Xiaomi Civi 4 Pro vil være den første, der bliver udstyret med Snapdragon 8s mobilplatform.

En forbrugerelektronikindustrianalytiker udtalte, at samarbejdet mellem Alibaba Cloud og MediaTek betyder, at indenlandske mobiltelefonproducenter nu har et alternativ til Baidu.

Ifølge reporterens forståelse har Honor og Samsung tidligere annonceret samarbejde med Baidu Wenxin Yiyan. For eksempel integrerer Samsungs seneste flagskibstelefon, Galaxy S24-serien, flere muligheder i den store Wenxin-model, herunder opkald, oversættelse og smart opsummering. Derudover afslørede en kilde, at Apple i øjeblikket er i kontakt med Baidu i håb om at bruge Baidu's kunstige intelligens-teknologi, og indledende samtaler har allerede fundet sted mellem de to parter.

Lin Dahua, en førende videnskabsmand ved Shanghai Artificial Intelligence Laboratory, udtalte, at med den eksponentielle vækst af skybaserede store modeller er slutsiden ved at gå ind i en gylden vækstperiode. Cloud-end-samarbejde vil blive en vigtig trend i fremtiden, hvor cloud-side computing etablerer loftet, og end-side computing understøtter storstilet brugeradoption.

Ifølge forudsigelser fra konsulentfirmaet IDC vil forsendelsesvolumen af ​​smartphones på det kinesiske marked nå op på 277 millioner enheder i 2024 med en år-til-år vækstrate på 2,3%. Blandt dem vil forsendelsesvolumen af ​​AI-telefoner nå op på 36,6 millioner, med en år-til-år vækstrate på over tre cifre. Anvendelsen af ​​store AI-modeller på mobiltelefoner vil blive mere udbredt.