每日一看大模型新闻(2024.1.12)首个国产开源MoE大模型来了!性能媲美Llama 2-7B,计算量降低60%;谷歌MIT最新研究证明:高质量数据获取不难,大模型就是归途;为大模型恶补数学
OPPO的目标是为每个人打造有用的大模型及智能体,并开源Agent框架,打造一站式的“智能体开发平台”,支持智能体的高效孵化、托管与应用。该模型采用全新的自研MoE架构,具有更细粒度的专家划分和共享专家设置,提高了模型在不同任务上的准确性和知识获取的针对性。刘军认为,AI技术的突破将在PC、手机、AIoT等所有智能终端产品领域掀起第三次技术革命浪潮,重塑终端体验及产业生态,类似于“小型化和图形化”
1.产品发布
1.1 Luma AI:推出文生3D模型Genie 1.0
发布日期:2024.1.12
https://twitter.com/LumaLabsAI/status/1744778363330535860?s=20
主要内容:随着生成式AI的发展,科技公司纷纷进军3D生成领域。文生3D模型的新玩家Luma AI发布了Genie1.0项目,只需输入文字提示,即可在10秒内生成四个高保真的3D模型。用户可以在三维网格界面内对模型的纹理进行编辑。这些AI生成的3D模型可以在屏幕上预览,也可以导出到Blender、Unity等工具中进一步使用。Genie1.0不仅有网页版,还可以在discord平台和手机端试玩。
体验地址:https://lumalabs.ai/genie
1.2阿里巴巴国际站AI外贸产品亮相 AI采购助手将上线新功能
发布日期:2024.1.12
CES2024:阿里巴巴国际站AI外贸产品亮相 AI采购助手将上线新功能
主要内容:在美国CES展上,阿里巴巴国际站的AI外贸产品亮相,并提供了PC试用版。此次亮相的AI外贸产品是“采购助理”,旨在为海外买家提供采购帮助,实时响应咨询并提供即刻解答。数百位参与内测的海外买家表示,这将大幅降低他们参与跨境采购的门槛,帮助他们高效便捷地匹配到更精准的货源。未来,AI采购助手还将陆续上线寻源Agent、AI跟单等功能,推进AI在海外买家端的应用落地,可能吸引大批B端专业采购买家在线上寻源采购。
1.3首个国产开源MoE大模型来了!性能媲美Llama 2-7B,计算量降低60%
发布日期:2024.1.12
首个国产开源MoE大模型来了!性能媲美Llama 2-7B,计算量降低60%
主要内容:深度求索团队最新开源的160亿参数专家模型DeepSeek MoE,在性能和计算量方面表现出色。与密集的Llama 2-7B模型相比,DeepSeek MoE在数学和代码能力上具有明显优势,计算量仅为40%。该模型采用全新的自研MoE架构,具有更细粒度的专家划分和共享专家设置,提高了模型在不同任务上的准确性和知识获取的针对性。DeepSeek MoE目前推出的版本参数量为160亿,实际激活参数量大约是28亿。研发完毕后,团队还将对145B版本进行开源。
论文地址:https://arxiv.org/abs/2401.06066
参考链接:深度求索开源国内首个MoE大模型,技术报告、模型权重同时发布
1.4联想刘军首次提出智能终端AI OS,年内将正式发布
发布日期:2024.1.12
联想刘军首次提出智能终端AI OS,年内将正式发布_个人_Agent_产业 (sohu.com)
主要内容:在2024年的国际消费电子展(CES)上,联想集团中国区总裁刘军在接受媒体采访时透露,联想正在致力于打造“智能终端AI OS(操作系统)”,该操作系统将围绕多端产品展开,并计划在今年正式发布。这一“智能终端AI OS”将在AI技术的驱动下,内嵌个人Agent(智能体)、个人大模型、本地知识库和应用接口,从而形成下一代AI操作系统。刘军认为,AI技术的突破将在PC、手机、AIoT等所有智能终端产品领域掀起第三次技术革命浪潮,重塑终端体验及产业生态,类似于“小型化和图形化”、“网络化和移动化”给PC产业带来的两次技术变革。
2.技术更新
2.1谷歌MIT最新研究证明:高质量数据获取不难,大模型就是归途
发布日期:2024.1.12
主要内容:获取高质量数据已成为大模型训练的瓶颈。最近,《纽约时报》起诉OpenAI并索赔数十亿美元,指责GPT-4抄袭。谷歌MIT研究人员发现,从大模型中学习可以获得使用真实数据训练的最佳模型表征。他们提出了一种完全从合成图像和描述学习虚拟表征的方法SynCLR,无需任何真实数据。实验结果表明,SynCLR方法学习到的表征与OpenAI的CLIP在ImageNet上的传输效果一样好。这种方法利用生成模型作为建立大规模训练集的数据源,具有新的数据管理控制方法、易于共享和存储以及无限数量的数据样本等优点。
论文地址:https://arxiv.org/abs/2312.17742
2.2字节让达芬奇和蒙娜丽莎“隔空吵架”,只需一张图、一段音频、一个情感片段
发布日期:2024.1.12
字节让达芬奇和蒙娜丽莎“隔空吵架”,只需一张图、一段音频、一个情感片段
主要内容:字节跳动智能创作团队和得克萨斯大学达拉斯分校提出了一项名为DREAM-Talk的基于扩散模型框架,能够生成逼真的、嘴唇同步的讲话面部视频。该框架接收一段驱动的音频序列、一张给定的人像图片和一个情感风格的例子作为输入,并生成一段包含高质量情感表达的视频。该框架通过映射音频到表情、生成3D脸部表情参数等步骤实现。与最新方法相比,DREAM-Talk在情感表达、嘴唇同步、身份保持和图像质量方面表现出显著优越的结果。此外,该框架还支持多人物情感演示、跨越时空的对话演示以及多语言演示。
论文地址: https://arxiv.org/abs/2312.13578
2.3谷歌提出Instruct-Imagen:多模态指令的图像生成
发布日期:2024.1.12
希望早日开源!谷歌提出Instruct-Imagen:多模态指令的图像生成-CSDN博客
主要内容:谷歌DeepMind和Google Research提出了一种名为Instruct-Imagen的多模态指令图像生成模型。该模型通过引入指令微调技术,能够根据文本指令描述的目标和多张参考图像准确生成新图像,效果堪比PS大神。在第一阶段,团队使用扩散模型增强模型处理多模态指令的能力;在第二阶段,忠实地遵循多模态用户意图。实验表明,Instruct-Imagen在领域内任务评估和零样本任务评估上表现优异,能处理复杂的多模态条件,甚至能处理之前从未见过的指令组合。
2.4为大模型恶补数学,上交开源MathPile语料库,95亿tokens,还可商用
发布日期:2024.1.12
为大模型恶补数学,上交开源MathPile语料库,95亿tokens,还可商用
主要内容:上海交通大学生成式人工智能实验室推出了「MathPile」,这是一套专门针对数学领域的高质量、多样化预训练语料库,其中包含约 95 亿 tokens,旨在提升大型模型在数学推理方面的能力。MathPile 具备以下几个特点:1. 以数学为中心;2. 多样性;3. 高质量;4. 数据文档化。研究团队还提供了很多清洗过程中的数据样例。此外,研究团队还推出了 MathPile 的商业版 ——「MathPile_Commercial」,进一步拓宽其应用范围和商业潜力。
论文地址:https://huggingface.co/papers/2312.17120
项目地址:Generative AI for Math: Part I MATHPILE: A Billion-Token-Scale Pretraining Corpus for Math
代码地址:GitHub - GAIR-NLP/MathPile: Generative AI for Math: MathPile
数据集研究使用:https://huggingface.co/datasets/GAIR/MathPile
数据集商用版本:https://huggingface.co/datasets/GAIR/MathPile_Commercial
3.其他资讯
3.1实测OPPO大模型手机:路人甲一抹就没,电话粥一键总结
发布日期:2024.1.12
主要内容:OPPO Find X7系列手机内置端侧大模型,提升了整个手机和系统的AI浓度。新AI能力体现在四个方面:一键消除照片中的人群、AI大模型语音摘要、AI文章摘要和智能助手小布升级。其中,AIGC消除和AI大模型语音摘要都是系统应用。这些功能都是在OPPO的大模型脚步基础上,通过与软件系统的深度融合和推出旗舰硬件实现的。OPPO的目标是为每个人打造有用的大模型及智能体,并开源Agent框架,打造一站式的“智能体开发平台”,支持智能体的高效孵化、托管与应用。
开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!
更多推荐
所有评论(0)