开源新宠:RAG2SQL工具,超越Text2SQL的7K Star之作
整体来说,Vanna 框架,让我们无需太多关心Prompt的构建、组装与优化,就可以快速实现一个基于Text2SQL方案的交互式数据库对话机器人,且具备更高的正确率。目前在一些使用是还是会存在正确率不够的情况,可能是RAG的信息不足的问题,但生成速度和体验上还是非常不错的。在Text2SQL领域,Vanna引入RAG的概念是一个不错的尝试,希望将来可以发展的越来越完善。
查询数据库离不开SQL,那如何快速构建符合自己期望的SQL呢?AI发展带来了Text2SQL的能力,众多产品纷纷提供了很好的支持。
今天我们分享一个开源项目,它在Text2SQL的基础上还要继续提高,通过加入RAG的能力进一步增强,它就是:Vanna
Vanna 是什么
从本质上讲,Vanna 是一个 Python 包,它使用检索增强来帮助您使用 LLM 为数据库生成准确的 SQL 查询。
Vanna 的工作过程分为两个简单步骤 - 在您的数据上训练 RAG“模型”,然后提出问题,这些问题将返回 SQL 查询,这些查询可以设置为在您的数据库上自动运行。
Vanna有三种模式,适应不同的需求。
第一种,开源模式。
你可以用它来集成任何你喜欢的语言模型,完全自定义。
就像自己搭积木,想怎么玩就怎么玩。
第二种,免费模式。
这里有日限额的模型使用,还有免费的存储服务。
用GPT 3.5,你可以不花一分钱就开始探索数据。
第三种,付费模式。
如果你需要更多,这里有无限制的使用,GPT-4的支持,还有服务保障。
想象一下,不管你是开发者还是分析师,都能用Vanna来发现数据的秘密。
使用 Vanna
你可以从Jupyter Notebook、Slackbot、网页应用或Streamlit等开始使用Vanna。当然也可以将Vanna集成到你的网页应用里。
如果你只是想简单体验一下Vanna,可以使用已经训练好的在线大模型和Vanna 提供的向量数据库,最简单的方式是通过Colab notebook。
!pip install vanna
import vanna
from vanna.remote import VannaDefault
vn = VannaDefault(model='chinook', api_key=vanna.get_api_key('my-email@example.com'))
vn.connect_to_sqlite('<https://vanna.ai/Chinook.sqlite>')
vn.ask("What are the top 10 albums by sales?")
from vanna.flask import VannaFlaskApp
VannaFlaskApp(vn).run()
这里需要使用到vanna 的apikey,所以需要注册vanna 的账号。
AI 数据库机器人
可以通过Streamlit 和 Vanna的组合来快速创建一个数据库的SQL聊天机器人,首先,我们将导入我们将使用的 2 个 Python 包:Streamlit 和 Vanna。
- Streamlit提供用户界面
- Vanna 提供Text2SQL的能力
import vanna as vn
import streamlit as st
设置
在这里,我们将使用 Vanna API 密钥,将 Vanna 检索增强模型设置为“chinook”,它具有该数据库的元数据,并且我们将连接到 SQLite 数据库,这将允许我们运行生成的 SQL。
vn.set_api_key(st.secrets[ "vanna_api_key" ])
vn.set_model( 'chinook' )
vn.connect_to_sqlite( '<https://vanna.ai/Chinook.sqlite>' )
对话框
my_question = st.text_input( "问我一个可以转化为 SQL 的问题" , key= "my_question" )
使用 AI 生成 SQL
sql = vn.generate_sql(my_question)
st.code( sql , language = 'sql' )
显示表格
df = vn.run_sql(sql)
st.dataframe(df, use_container_width= True )
使用AI生成图表并显示
fig = vn.get_plotly_figure(plotly_code=vn.generate_plotly_code(question=my_question, sql=sql, df=df), df=df)
st.plotly_chart(fig, use_container_width=True)
整合
接下来我们将几部分内容最终整合成一个完整的示例。如下所示:
import vanna as vn
import streamlit as st
vn.set_api_key(st.secrets["vanna_api_key"])
vn.set_model('chinook')
vn.connect_to_sqlite('<https://vanna.ai/Chinook.sqlite>')
my_question = st.session_state.get("my_question", default=None)
if my_question is None:
st.image("chinook-schema.png", use_column_width=True)
my_question = st.text_input("Ask me a question that I can turn into SQL", key="my_question")
else:
st.title(my_question)
sql = vn.generate_sql(my_question)
st.code(sql, language='sql')
df = vn.run_sql(sql)
st.dataframe(df, use_container_width=True)
fig = vn.get_plotly_figure(plotly_code=vn.generate_plotly_code(question=my_question, sql=sql, df=df), df=df)
st.plotly_chart(fig, use_container_width=True)
st.button("Ask another question", on_click=lambda: st.session_state.clear())
总结
整体来说,Vanna 框架,让我们无需太多关心Prompt的构建、组装与优化,就可以快速实现一个基于Text2SQL方案的交互式数据库对话机器人,且具备更高的正确率。目前在一些使用是还是会存在正确率不够的情况,可能是RAG的信息不足的问题,但生成速度和体验上还是非常不错的。
在Text2SQL领域,Vanna引入RAG的概念是一个不错的尝试,希望将来可以发展的越来越完善。
大模型&AI产品经理如何学习
求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。
1.学习路线图
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
2.视频教程
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。
(都打包成一块的了,不能一一展开,总共300多集)
因篇幅有限,仅展示部分资料,需要点击下方图片前往获取
3.技术文档和电子书
这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
4.LLM面试题和面经合集
这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!
更多推荐
所有评论(0)