从大模型到AgentScope

AgentScope是一款全新的Multi-Agent框架,专为应用开发者打造,旨在提供高易用、高可靠的编程体验!

  • 高易用:AgentScope支持纯Python编程,提供多种语法工具实现灵活的应用流程编排,内置丰富的API服务(Service)以及应用样例,供开发者直接使用。同时,AgentScope提供了详尽的教程,API文档和应用样例。
  • 高鲁棒:确保开发便捷性和编程效率的同时,针对不同能力的大模型,AgentScope提供了全面的重试机制、定制化的容错控制和面向Agent的异常处理,以确保应用的稳定、高效运行;
  • 基于Actor的分布式机制:AgentScope设计了一种新的基于Actor的分布式机制,实现了复杂分布式工作流的集中式编程和自动并行优化,即用户可以使用中心化编程的方式完成分布式应用的流程编排,同时能够零代价将本地应用迁移到分布式的运行环境中。

GitHub: https://github.com/modelscope/agentscope

大模型的发展

在这里插入图片描述
大模型的涌现改变了AI相关的技术研究以及应用

  1. 辅助办公:帮助用户生成、修改文本,完成会议纪要
  2. 代码生成: 根据注释自动生成代码,提高编程效率
  3. 多模态生成:AI图像生成,音视频合成
  4. 生活娱乐:快速生成短视频,文本生成类小游戏

但是,大模型仍不能满足实际需求
在这里插入图片描述

什么是Agent

在这里插入图片描述

Agent的构建

在这里插入图片描述

Single-Agent 到Multi-Agent

在这里插入图片描述

Multi-Agent

进一步借助多个Agent之间的协作,完成复杂任务

Single-agent开发 -> Multi-agent
如何完成更复杂任务 -> 根据任务,让多个agent根据SOP或自定义流程配合
如何针对大模型幻觉容错 -> 多个agent讨论、复盘逻辑
如何拓展能处理的任务范围? -> 自由组合有不同擅长领域的agents
如何提高解决问题的效率?-> 优化、并行多个子任务agent执行

Multi-Agent实践中的挑战

  1. 如何编排复杂流程
    用户:编写带有Standard Operating Procedure
    (SOP)的剧情对话
    难点:交流顺序、方式复杂多变,逐一枚举费时费

    Keywords: 灵活,交流机制
  2. 如何提高鲁棒性和可靠性?
    用户:模型总是不能按照我的要求产生输出
    难点:大模型幻觉和不稳定的指令跟随能力
    会影响应用运行效果
    Keywords:容错机制,鲁棒性
  3. 如何处理多模态数据
    用户:我想接入Gemini,Sora等模型,开发一个生成
    视频的应用
    难点:需要在文本支持的基础上兼容多模态数据的
    传递,存储和展示
    Keywords:多模态,系统性支持
  4. 如何提高运行效率
    用户:应用运行的速度太慢了,每次运行都要等很久
    难点:需要分布式背景,并深度分析应用流程,对开发
    者而言优化难度高
    Keywords: 异步,分布式,并行优化

Multi-Agent框架

在这里插入图片描述

AgentScope

一款全新的Multi-Agent开发平台,专为应用开发者打造,旨在提供高易用、高可靠的编程体验,提供多模态和分布式的技术支持

平台架构:
在这里插入图片描述

Multi-Agent小游戏

Modelscope 体验版:
https://modelscope.cn/organization/AgentScope

Logo

开放原子开发者工作坊旨在鼓励更多人参与开源活动,与志同道合的开发者们相互交流开发经验、分享开发心得、获取前沿技术趋势。工作坊有多种形式的开发者活动,如meetup、训练营等,主打技术交流,干货满满,真诚地邀请各位开发者共同参与!

更多推荐