又一大模型技术开源!有道自研RAG引擎QAnything正式开放下载
很开心和大家宣布,我们自研的知识库问答引擎QAnything正式开源!
很开心和大家宣布,我们自研的知识库问答引擎QAnything正式开源!
除了可以调用云端大模型服务,还支持纯本地部署,大家可免费在开源社区Github内进行下载(地址:https://github.com/netease-youdao/Qanything)一键部署即可使用!系统支持word、ppt、excel、pdf、图片等多种文档格式,直接导入进去即可像"ChatGPT"一样问答。
如果你有大量的文档需要问答,又对隐私比较关心,且有个带Nvidia显卡(推荐3090及以上)的电脑,都可以下载QAnything使用哦~
QAnything的主要原理是基于检索增强的生成(Retrieval Augmented Generation,简称RAG)。RAG是目前很火的一种技术框架,它能够利用检索外部内容的方式增强大语言模型的准确度、专业能力和个性化等各方面的性能。
通用大模型能力很强,但无法使用用户的私有数据,且存在胡乱编造的幻觉问题。而QAnything作为有道自研的RAG引擎,结合了用户私有数据和大模型的优势——用户的任何内容,以任意的形式存在,比如各种格式的文档,音频,数据库等,都可以在QAnything的支持下,变成可以针对其内容进行问答的使用方式,通过这个技术框架用户可以很方便地搭建自己的智能知识助手。正如它的名字一样,Q是question,A是answer,QAnything的目标就是万物皆可问!
以日常的文件处理为例,QAnything会理解用户的意图,在全库中寻找相关的内容,理解、提取用户关心的要点,并加以总结后呈现给用户👇
1232343
值得一提的是,本次我们开源的QAnything是一套完整的RAG系统,包括专门优化的自研的embedding和rerank模型,微调后的LLM,优化后的推理代码,向量数据库,以及一个立即上手可用的前端。所有的算法模型(包括7B大模型+embedding/rerank+OCR)占用显存不超过16G。
如今,QAnything已在我们的多个产品中应用,包括有道翻译文档问答、有道速读及有道内部业务的客服系统等。
以子曰教育大模型最新应用成果——有道速读(https://read.youdao.com/)为例,目前该功能已上线在有道翻译中。相信大家在日常生活中都面临非常多的阅读文档的需求,有的时候是观其大略,有的时候是精读,或者是查询一个具体的信息。而针对这些需求,有道速读上线了文档问答、文章摘要、要点解读、引文口碑和领域综述五大功能,能够帮大家更快更准地获得信息和对文档的理解。
而它背后的驱动,就是我们自研的RAG引擎QAnything。在大模型技术的加持下,用户能够实现快速理解文档、定位要点,帮助你1分钟读完万字长文!
有道数字人(https://ai.youdao.com/virtual-person-translate/page)
有道自研的真人数字人,只要几分钟数据即可定制形象和音色,真假难辨。通过和Qanything结合,有道数字人可以用于客服、大屏交互、直播等各种场景。
有道智云体验中心
有道智云体验中心,在这里可以访问我们已经对开发者通过API等形式开放的文本和图像翻译、文字和各类图片识别、作文批改等各类AI技术。
目前,QAnything项目还在不断迭代,欢迎大家参与开发,并给予我们更多反馈。我们希望能帮助有需要的开发者们,和更多伙伴一起推动大模型的落地!
关于有道智云
有道智云AI开放平台,是网易有道旗下一站式人工智能服务提供商,为开发者、企业和政府机构等提供自然语言翻译、文字识别、OCR、语音识别等服务以及行业解决方案,致力于提供安全、可靠和高效的云服务。
联系电话:010-8255-8901;商务合作:AIcloud_Business@corp.youdao.com.
想了解更多关于有道人工智能的内容,可访问“有道智云”官网👉https://ai.youdao.com.
开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!
更多推荐
所有评论(0)