查询数据库离不开SQL,那如何快速构建符合自己期望的SQL呢?AI发展带来了Text2SQL的能力,众多产品纷纷提供了很好的支持。

今天我们分享一个开源项目,它在Text2SQL的基础上还要继续提高,通过加入RAG的能力进一步增强,它就是:Vanna

Vanna 是什么

从本质上讲,Vanna 是一个 Python 包,它使用检索增强来帮助您使用 LLM 为数据库生成准确的 SQL 查询。

Vanna 的工作过程分为两个简单步骤 - 在您的数据上训练 RAG“模型”,然后提出问题,这些问题将返回 SQL 查询,这些查询可以设置为在您的数据库上自动运行。

Vanna有三种模式,适应不同的需求。

第一种,开源模式。

你可以用它来集成任何你喜欢的语言模型,完全自定义。

就像自己搭积木,想怎么玩就怎么玩。

第二种,免费模式。

这里有日限额的模型使用,还有免费的存储服务。

用GPT 3.5,你可以不花一分钱就开始探索数据。

第三种,付费模式。

如果你需要更多,这里有无限制的使用,GPT-4的支持,还有服务保障。

想象一下,不管你是开发者还是分析师,都能用Vanna来发现数据的秘密。

使用 Vanna

你可以从Jupyter Notebook、Slackbot、网页应用或Streamlit等开始使用Vanna。当然也可以将Vanna集成到你的网页应用里。

如果你只是想简单体验一下Vanna,可以使用已经训练好的在线大模型和Vanna 提供的向量数据库,最简单的方式是通过Colab notebook。

!pip install vanna
import vanna
from vanna.remote import VannaDefault
vn = VannaDefault(model='chinook', api_key=vanna.get_api_key('my-email@example.com'))
vn.connect_to_sqlite('<https://vanna.ai/Chinook.sqlite>')
vn.ask("What are the top 10 albums by sales?")
from vanna.flask import VannaFlaskApp
VannaFlaskApp(vn).run()

这里需要使用到vanna 的apikey,所以需要注册vanna 的账号。

AI 数据库机器人

可以通过Streamlit 和 Vanna的组合来快速创建一个数据库的SQL聊天机器人,首先,我们将导入我们将使用的 2 个 Python 包:Streamlit 和 Vanna。

  • Streamlit提供用户界面
  • Vanna 提供Text2SQL的能力
import vanna as vn
import streamlit as st

设置

在这里,我们将使用 Vanna API 密钥,将 Vanna 检索增强模型设置为“chinook”,它具有该数据库的元数据,并且我们将连接到 SQLite 数据库,这将允许我们运行生成的 SQL。

vn.set_api_key(st.secrets[ "vanna_api_key" ]) 
vn.set_model( 'chinook' ) 
vn.connect_to_sqlite( '<https://vanna.ai/Chinook.sqlite>' )

对话框

my_question = st.text_input( "问我一个可以转化为 SQL 的问题" , key= "my_question" )

使用 AI 生成 SQL

sql  = vn.generate_sql(my_question) 
st.code( sql , language = 'sql' )

显示表格

df = vn.run_sql(sql)     
st.dataframe(df, use_container_width= True )

使用AI生成图表并显示

fig = vn.get_plotly_figure(plotly_code=vn.generate_plotly_code(question=my_question, sql=sql, df=df), df=df)
st.plotly_chart(fig, use_container_width=True)

整合

接下来我们将几部分内容最终整合成一个完整的示例。如下所示:

import vanna as vn
import streamlit as st

vn.set_api_key(st.secrets["vanna_api_key"])
vn.set_model('chinook')
vn.connect_to_sqlite('<https://vanna.ai/Chinook.sqlite>')

my_question = st.session_state.get("my_question", default=None)
if my_question is None:
    st.image("chinook-schema.png", use_column_width=True)
    my_question = st.text_input("Ask me a question that I can turn into SQL", key="my_question")
else:
    st.title(my_question)
    sql = vn.generate_sql(my_question)
    st.code(sql, language='sql')
    df = vn.run_sql(sql)    
    st.dataframe(df, use_container_width=True)
    fig = vn.get_plotly_figure(plotly_code=vn.generate_plotly_code(question=my_question, sql=sql, df=df), df=df)
    st.plotly_chart(fig, use_container_width=True)
    st.button("Ask another question", on_click=lambda: st.session_state.clear())

总结

整体来说,Vanna 框架,让我们无需太多关心Prompt的构建、组装与优化,就可以快速实现一个基于Text2SQL方案的交互式数据库对话机器人,且具备更高的正确率。目前在一些使用是还是会存在正确率不够的情况,可能是RAG的信息不足的问题,但生成速度和体验上还是非常不错的。

在Text2SQL领域,Vanna引入RAG的概念是一个不错的尝试,希望将来可以发展的越来越完善。

在这里插入图片描述

大模型&AI产品经理如何学习

求大家的点赞和收藏,我花2万买的大模型学习资料免费共享给你们,来看看有哪些东西。

1.学习路线图

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

在这里插入图片描述

在这里插入图片描述

(都打包成一块的了,不能一一展开,总共300多集)

因篇幅有限,仅展示部分资料,需要点击下方图片前往获取

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
在这里插入图片描述

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
在这里插入图片描述

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
在这里插入图片描述

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

在这里插入图片描述

Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐