(图片来源:林志佳拍摄)
12月16日音问,钛媒体AGI获悉,国内 AI 公司无问芯穹晓示开源其“端模子+端软件+端IP”端上智能一体化惩处决策中的小模子,即全球首个端侧全模态瓦解开源模子Megrez-3B-Omni,并同步开源了纯谈话版块模子Megrez-3B-Instruct。
无问芯穹暗示,Megrez-3B-Omni是一个才调预览,接下来还将抓续迭代Megrez系列,并包括软件、IP在内,提供“端模子+端软件+端IP”端上智能一体化惩处决策。
据悉,无问芯穹确立于2023年5月,创举团队来自清华大学电子工程系,依托行业起头且流程考证的AI计较优化才调与算力惩处决策,追求大模子落地的极致能效,打造“M 种模子”和“N种芯片”间的“M×N” 中间层居品,杀青多种大模子算法在多元芯片上的高效、长入部署,畅通高卑劣,确立AGI(通用东谈主工智能)时间大模子基础才略。
居品层面,当今无问芯穹提供算力推理平台、一整套 AI infra惩处决策、“端模子+端软件+端IP”端上智能一体化惩处决策等。
轨范当今,无问芯穹旗下平台已撑抓了Baichuan2、ChatGLM3、Llama2、Qwen系列等卓绝20个模子,以及AMD、壁仞、寒武纪、燧原、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计较卡,撑抓多模子与多芯片之间的软硬件麇集优化和长入部署。
融资层面,本年9月,无问芯穹(Infinigence AI)晓示完成近 5 亿元 A 轮融资,本轮融资麇集领投方为社保基金中关村自主更始专项基金(君联老本担任束缚东谈主)、启明创投和洪泰基金,跟投方包括生机创投、小米、软通高科等计谋投资方,国开科创、上海东谈主工智能产业投资基金(临港科创投担任束缚东谈主)、徐汇科创投等国资基金,以及顺为老本、达晨财智、德同老本、尚势老本、森若玉坤、申万宏源、正景老本等财务机构,统共卓绝16家机构。
至此,在确立短短16个月内,无问芯穹累计已完成近10亿元融资。无问芯穹的过往投资方还包括百度、智谱、同歌创投等计谋推进,以及红杉中国、砺想老本、徐汇老本、北极光创投、真格基金、惠隆创投、经纬创投、无穷基金 SEE Fund、金沙江创投、星连老本、绿洲老本、南山老本、光源老本、七熹投资等繁多有名投资机构。
无问芯穹麇集创举东谈主、CEO夏立雪曾对钛媒体App暗示,在一个互联网客户大模子推理的业务场景中,无问芯穹将举座算力使用后果升迁了90%,有用地惩处了客户大模子业务中算力成本的问题,匡助业务伙伴杀青算力成本的大幅下跌。他指出,“咱们以为(公司将来)3-5年内确定粗豪界限化地杀青利润”。
“咱们在通盘这个词产业中属于结合模子和硬件,去让环球粗豪把算力更好地用起来的基础才略的责任。是以咱们照真实确立一开动就和许多枢纽的互助伙伴如故作念了很密切、潜入的互助和一些计谋协同。”夏立雪暗示,在一个互联网客户中,无问芯穹哄骗软硬协同的中枢期间优化客户大模子推理的业务场景,将算力使用成本裁减了90%,杀青算力资源大幅从简和提效作用。
中信建投研报指出,OpenAI “一语气12天直播发布”的第5天,OpenAI暗示,ChatGPT已全面接入苹果,包括iPhone、iPad和Mac,撑抓Apple Intelligence的苹果斥地即可开启ChatGPT功能。端侧AI产业发展提速,提出柔顺AI模组契机。大模子厂商本色上是软件劳动商,不错借助AI模组等硬件厂商的才调进行实升天输出,匡助结尾厂商更顺利的进行应用落地,通过“端侧算力+通讯+API”功能的AI模组居品,平直不错将大模子才调带入到多样结尾斥地,从而形成“AI结尾”。
(本文首发于钛媒体App,作家|林志佳)