据理解,QAnything的紧张事理是基于检索增强的天生(Retrieval Augmented Generation,简称RAG),RAG是目前很火的一种技能框架,它能够利用检索外部内容的办法增强大措辞模型的准确度、专业能力和个性化等各方面的性能。
目前,通用大模型能力很强,但无法利用用户的私有数据,且存在胡乱编造的幻觉问题。QAnything作为有道自研的RAG引擎,则结合了用户私有数据和大模型的上风——用户的任何内容,以任意的形式存在,比如各种格式的文档,音频,数据库等,都可以在QAnything的支持下,变成可以针对其内容进行问答的利用办法,通过这个技能框架用户可以很方便地搭建自己的智能知识助手。
(QAnything系统架构图)

值得一提的是,本次开源的QAnything是一套完全的RAG系统,包括专门优化的自研的embedding和rerank模型,微调后的LLM,优化后的推理代码,向量数据库,以及一个立即上手可用的前端。所有的算法模型(包括7B大模型+embedding/rerank+OCR)占用显存不超过16G。
如今,QAnything已在有道的多个产品中运用,包括有道翻译文档问答、有道速读及有道内部业务的客服系统等。
以有道速读为例,它是前不久子曰教诲大模型最新发布的创新运用成果之一,目前上线在有道翻译中。针对大家在日常生活中的阅读文档需求,有道速读内置了文档问答、文章择要、要点解读、引文口碑和领域综述五大功能,能够帮大家更快更准地得到信息和对文档的理解。而该功能背后的驱动便是QAnything,在大模型技能的加持下,用户能够实现快速理解文档、定位要点,实现1分钟读完万字长文。
“目前,QAnything项目还在不断迭代,欢迎大家参与开拓,并给予我们更多反馈。我们希望能帮助有须要的开拓者们,和更多伙伴一起推动大模型的落地。”网易有道首席科学家段亦涛先容道。