风君子博客4月16日消息,在今日开幕的Create2024 百度AI开发者大会上,百度创始人、董事长兼首席执行官李彦宏发表2024首场演讲《人人都是开发者》,并向现场5000多位开发者和创业者展示AgentBuilder、AppBuilder和ModelBuilder三大开发神器,手把手演示如何通过自然语言,高效便捷创建智能体、开发应用和精调模型。
李彦宏指出,“AI正在掀起一场创造力革命,过去,开发者用代码改变世界;未来,自然语言将成为新的通用编程语言。未来开发应用就像拍个短视频一样简单,人人都是开发者,人人都是创造者。“
“百度作为一家技术公司,定位是尽可能为大家提供所需的开发工具,提升社会创造力,这包括了1个强大的基础模型系列和三大AI开发工具,它们组成了一个工具箱,支持开发者打包带走,随取随用。”李彦宏称。
文心大模型推理成本下降99% 正式发布文心大模型4.0工具版
李彦宏在会上透露:“文心一言从去年3月16日首发,到今天是一年零一个月的时间。我们的用户数突破了2亿,每天API的调用量也突破了2亿,服务客户数或者说企业达到了8.5万,利用千帆平台开发的AI原生应用数超过了19万。”
“近几个月来,文心大模型在代码生成、代码解释、代码优化等通用能力方面实现了进一步的显著提升,达到国际领先水平。今天,我们正式发布文心大模型4.0的工具版。”李彦宏称,现在,大家可以在工具版上,体验代码解释器功能,通过自然语言交互,就能实现对复杂数据和文件的处理与分析,还可以生成图表或文件,能够快速洞察数据中的特点、分析变化趋势、为后续的决策提供高效和精准的支撑。”
同时李彦宏透露:”文心大模型已经成为了中国最领先、应用最广泛的AI基础模型。不仅如此,相比一年前,文心大模型的算法训练效率提升到了原来的5.1倍,周均训练有效率达到98.8%,推理性能提升了105倍,推理的成本降到了原来的1%。也就是说,客户原来一天调用1万次,同样成本之下,现在一天可以调用100万次。”
基于大模型开发AI原生应用的三个方向
李彦宏强调:”大语言模型本身并不直接创造价值,基于大模型开发出来的AI应用才能满足真实的市场需求。“
同时,李彦宏分享了百度过去一年实践出来的、开发AI原生应用的具体思路和工具。
李彦宏强调:”今天我想跟大家分享的是一些基于大模型开发AI原生应用的具体思路和工具。这是我们百度根据过去一年的实践,踩了无数的坑,交了高昂的学费换来的。”
李彦宏指出的三个方向包括:
第一、未来大模型的ai原生应用基本都是MoE。
他认为,未来大模型的AI原生应用基本都是MoE的。这里所说的MoE不是一般的学术概念,而是大小模型的混用,不依赖一个模型来解决所有问题。
第二、特定场景,精调后的小模型使用效果可以媲美大模型。
李彦宏指出,小模型推理成本低,响应速度快,在一些特定场景中,经过精调后的小模型,它的使用效果可以媲美大模型。这就是我们发布ERNIE Speed,ERNIE Lite、ERNIE Tiny三个轻量模型的原因。我们通过大模型,压缩蒸馏出来一个基础模型,然后再用数据去训练,这比从头开始训小模型,效果要好很多,比基于开源模型训出来的模型,效果更好,速度更快,成本更低。
第三、智能体能力的提升会不断催生出大量新的应用。
在李彦宏看来,智能体是当前非常热的一个话题,随着智能体能力的提升,会不断催生出大量的AI原生应用。智能体机制,包括理解、规划、反思和进化,它让机器像人一样思考和行动,可以自主完成复杂任务,在环境中持续学习、实现自我迭代和自我进化。在一些复杂系统中,我们还可以让不同的智能体互动,相互协作,更高质量地完成任务。这些智能体能力,我们已经开发出来了,并且向开发者全面开放。
三大AI开发工具
1、百度智能体开发工具AgentBuilder
李彦宏表示,AgentBuilder让每个人、每个组织都成为智能体的开发者。
现场李彦宏展示了如何用百度智能体开发工具AgentBuilder打造新加坡旅游智能体、启德教育智能体、索菲亚销售智能体三个案例。
启德教育利用百度的AgentBuilder打造专属智能体,上线第一周,就成功分发了155万次,与用户交互了5.8万次,线索转化量直线增长、有效线索的转化成本明显降低,经营效率大幅提升。
李彦宏指出,“智能体可能是未来离每个人最近、最主流的大模型使用方式,基于强大的基础模型,智能体可以批量生成,应用在各种各样的场景。百度刚刚升级了文心智能体平台。截至目前,已经有3万多个智能体被创建、5万多名开发者和上万家企业入驻。我们的目标是,让每个人、每个组织都成为智能体的开发者,打造国内最完整的智能体生态。”
他强调说:“今天,每一个商家、每一个客户,都能够在百度拥有专属的智能体。整个过程完全不需要编程,通过类似提示词的信息输入,和简单的几步操作调优,就能迅速生成一个智能体,成为7X24小时在线的金牌业务员。”
2、百度AI原生应用开发工具AppBuilder
李彦宏在Create 2024百度AI开发者大会主题演讲中,介绍了AI原生应用开发工具AppBuilder,他表示:
“AppBuilder,它是目前最好用的AI原生应用开发工具。在AppBuilder上面,我们提前封装和预置了开发AI原生应用所需的各种组件和框架,大幅降低开发门槛。最快只需要三步,开发者就可以用自然语言开发出一个AI原生应用,并且能够便捷地发布到各种各样的业务环境中。”
现场,通过“游乐场排队助手”、华北电力大学“华电AI助理”和百度文库智能漫画生成三个案例,李彦宏展示了一个AI原生应用的创建过程。只需名称设定、填写角色指令、插入组件简单三步,即可创建一个AI原生应用。
他还指出,AppBuilder拥有两大优势:
“一是功能强大。依托文心4.0对指令的理解和遵循能力,我们的AppBuilder,能保证冷启动就能达到一个不错的水平,不会因为效果差,再花很长时间去调优,大大降低了开发门槛。依托检索增强技术,就是RAG,在知识问答等典型场景,我们的问答准确率和友好回复程度都达到了95%以上,大幅超越其他同类产品。AppBuilder还提供丰富完整的组件工具,包括百度搜索等基于百度多年技术积累的AI能力组件、大模型能力组件,还有百度独家开放的业务组件等,总共55个组件。以及一些主流场景的第三方API,比如航班查询、论文查询等。我们还刚刚支持了自定义组件,客户可以直接对接自己专有的任何工具和数据。这些丰富的组件,共同支撑起了AI原生应用的高效开发。
二是简单易用。使用AppBuilder,只需三步即可快速创建应用、一键分发。我们也支持开源的SDK,方便大家进行二次开发。”
3、百度模型定制工具ModelBuilder
李彦宏分享了各种尺寸模型定制工具ModelBuilder,这是更适合专业开发者使用的工具,具备“高效低价生产模型的能力”。
目前,ModelBuilder预置了最全面最丰富的大模型。包括ERNIE3.5、ERNIE4.0,三个轻量级大模型ERNIE Speed、Lite、Tiny;两个垂直场景的模型ERNIE Character适合角色扮演,ERNIE Functions适合对话或问答场景中的外部工具使用和业务函数调用。ModelBuilder也支持国内外第三方主流模型,总数量达到77个,是国内拥有大模型数量最多的开发平台。
李彦宏表示:“ModelBuilder可以根据开发者的需求定制任意尺寸的模型,并根据细分场景对模型进一步精调,这样就能达到更好的效果。对开发者来说,用好大模型很重要的一件事儿,就是掌握模型精调的方法。”
现场,李彦宏展示了教育行业作文批改的案例,经过数据处理、模型精调后的“作文批改助手”,不仅可以拥有更专业的老师点评思维、做到格式遵循,而且相比未精调模型,精调后的模型打分与真实的老师点评分数更为接近。
他还在现场与小度实时互动,展示小度用多个模型组合的方式来执行不同任务。例如使用小模型ERNIE Tiny执行模型路由工作,而性能最好的文心4.0则用来执行日程安排等复杂需求。据介绍,相比全部使用文心大模型的旗舰版,小度可以实现响应速度提升2倍,成本下降99%。
李彦宏表示,“这几个关于ModelBuilder的例子,展示的是百度高效低价生产模型的能力”。
此外,李彦宏还宣布第二届“文心杯”创业大赛正式启动,“面向全球市场及高校学子,招募创业创新团队,只要你的创业方向是AI原生应用,都可以在大赛官网报名参赛。特别优秀的项目将有机会获得最高5000万人民币的现金和资源支持。”
李彦宏强调:“今天的中国,有10亿互联网用户,有强大的基础大模型,有足够多的AI应用场景,有全球最完备的产业体系,国家也在大力鼓励和支持‘人工智能+’行动,每一个人,每一家企业,只需要充分利用这些工具,就可以释放无限的创造力和生产力。”(果青)