当前位置:cio新闻中心 → 正文

gartner:cio选择大模型的6个标准及5种主要部署方式 -凯发在线

责任编辑:shjiaz 作者:查士加 |来源:企业网d1net  2023-08-01 16:28:46 原创文章 企业网d1net

近两年,chatgpt如燎原之势迅速席卷而来。在过去的半年里,众多企业倾心生成式ai并展开探索与应用,其所带来的影响也越来越深入。

如何调整企业的ai战略,使大模型的能力真正为企业所用?如何选择适合行业企业的大模型?如何根据企业自身情况部署大模型?这些都是cio关注的重要课题。

生成式ai正在颠覆传统业务

生成式ai正在改变产品的研发方式、优化用户体验、提升员工的工作效率,甚至在颠覆传统业务。

制造型企业的研发人员使用autodesk的dreamcatcher平台,可以根据目标和约束条件直接生成cad设计,连接3d打印机就能进行实体交付,大幅提升了研发和测试的效率。

在体育界,ibm为美国2023年高尔夫锦标赛大师赛提供生成式ai评论的数字新体验,其人工智能生成式评论凯发在线的解决方案在比赛过程中为20,000多个视频片段制作了详细且专业的高尔夫比赛解说,精彩的比赛片段 专业的比赛解说为用户提供了优质的体验。

amazon的实时ai编程助手(codewhisperer)可以运用自然语言帮助开发团队生成代码、执行代码并进行代码优化。埃森哲的velocity团队基于codewhisperer将开发工作减少了30%。

chatgpt的问世给教育服务提供商的股价带来巨大影响,美国课外辅导在线教育公司chegg的股价受gpt的影响足足下跌了50%。人工智能“反噬”科技行业的征兆已经出现,就业市场也将受到影响。

今年4月gartner在针对2000多家企业的调研中发现:45%的企业看好生成式ai技术,并将增加对ai的投资。

今年年初gartner在调研了300多家中国企业后发现:ai能力相对成熟的企业更倾向于采用“ai first”的战略,大部分中国企业侧重ai运营和ai工程化,以决策为中心,通过ai技术辅助业务,使业务运营可扩展且更有韧性。一部分ai领先企业已开始探索将ai技术用于企业业务的各个领域,甚至是核心业务场景。

生成式ai战略先行

gartner提到了ai原生企业的概念,它指企业的核心流程如果离开ai将无法正常运转。包括自适应、生成式、原生学习在内的生成式ai正在将ai原生企业这一理想变为现实,越来越多的企业将ai战略纳入企业数字化转型的核心战略。

gartner高级研究总监方琦(mike fang)强调:所有的ai战略,如果脱离了企业自身的业务,将毫无价值可言。

因此对cio而言,规划ai战略的第一步是与业务战略对齐,而非单纯从技术角度进行创新;其次要结合整体业务模式确定ai技术的优先发力点;第三步要从投资与回报的角度明确ai能否大幅优化业务;同时还要了解企业通过ai能力能获得偏向防御型的能力,还是利用自身数据创造差异化的竞争力。

大部分中国企业进行了大量ai投入,有了比较清晰的ai战略。在生成式ai大潮兴起后,大多数企业重新规划并更新了自身的ai战略,生成式ai无疑增强了员工的工作能力。

cio在规划ai战略时,应着重思考以下三个问题:

1、该如何培养企业的ai战略师?

2、该如何重新培训员工,使其在短期内熟练应用生成式ai工具?

3、未来什么样的组织架构能让员工乐于共享,甚至更民主化?

gartner列举了生成式ai在企业中的三类主要应用场景:

1、将算法集成到现有凯发在线的解决方案。在保证前期对ai的投资能继续发挥作用的基础上,将生成式al的算法集成到现有的智能化凯发在线的解决方案中,解决原有方案不能识别的意图,通过能力的更新和完善提升用户体验,使产品更具竞争力。

2、改进业务或工艺瓶颈。梳理业务的端到端流程,找到流程中的瓶颈,探索如何通过生成式ai的应用工具突破现有瓶颈,从而提升整体能力。

3、重塑人与机器的关系。当整个行业的供需关系发生变化,企业需要重塑人与机器的关系,找到新的平衡点。

gartner在调研中发现:在全球,70%的企业部署了20个以上的ai用例,企业平均部署ai用例的数量是41个,ai用例的平均使用寿命为3.5年;而在中国,86%的企业部署了5个以上的ai用例,企业平均部署的ai用例数量是24个,ai用例的平均使用寿命是2.8年。

管控生成式ai的相关风险同样重要,包括违反中国法律法规的风险、供应商的风险、数据的隐私及保密风险、侵犯知识产权的风险、“幻觉”和有偏见的答案、网络安全风险、员工应用范围的风险等等,gartner建议cio在运用生成式ai技术时要充分与业务团队进行风险的沟通,从而使技术能够更好地落地应用。如果法务专家能够参与ai用例的前期构思,将使ai的成熟度提升3.8倍。

在人才方面,全球超过70%的企业表示ai人才并不是难点。但是大多数中国企业表示人才或服务提供商短缺是ai技术被企业采用的最大障碍,53%的中国企业表示很难找到既擅长业务又懂ai技术的人才。对于中国企业而言,如何通过专业化的分工团队,使ai技术更易落地,是企业需要从战略角度思考的重要方向。值得注意的是,采用分布在企业内部的ai特别小组这类与业务混合的团队,与中心化的ai团队相比,前者的ai成熟度会更高。

当生成式ai能力出现后,企业需要更多跨部门的角色和技能,如需要开发人员能基于api进行处理,需要ai产品经理等角色,这些是企业未来ai人才储备需要关注的重要课题。

如何选择合适的大模型?

面对五花八门的大模型,如何选择合适的大模型是多数企业关注的话题。

gartner建议企业在选择大模型时要关注以下几个方面:

1、基本的语言能力。如多向对话的能力,生成文本的质量,知识的范围等。

2、额外的语言能力。如哪些模型能写代码?哪些模型的逻辑和推理能力更强?是否支持多种语言?是否具备数据分析能力等。

3、提示词工程。如模型的思维链如何?(是否与提示词工程紧密结合?)是否具备情境学习的能力?是否拥有很好的操控性?(是否遵循指示?)

4、微调的难度。如果想对模型进行优化或微调,是否支持将企业的知识注入模型中?

5、非功能性因素。如推理速度、成本,是否支持本地部署等。此外,如果模型后续进行迭代优化,现有的应用是否能二次优化?据悉,2024年gpt-4.0底座模型将对外开放,如果企业的应用产品是基于gpt-3.0版本开发的,后续是否要做二次优化,是企业要考量的因素之一。

6、生态系统。当前很多厂商在做基于应用场景的ai插件,也有如microsoft copilot的打包软件。企业在选择模型时,还应考虑模型的生态系统是否友好,与工具/系统、插件的集成是否便捷,能否长期合作等。

企业部署生成式ai的五种方式

gartner高级总监(研究顾问)张桐梳理了企业部署大模型的5种主要方式:

1、直接购买嵌入应用程序的生成式ai。例如gpt或salesforce推出的xgen等开源的ai大模型。

2、直接调用生成式ai的api接口。企业的应用系统可以直接调用开源大模型的api,从而进行数据检索与提示词工程的探索。

3、企业内部知识与生成式ai模型相结合。也就是将企业的数据内容准备好,包括形成企业的知识图谱,只利用大模型的语言能力进行知识输出。

4、在生成式ai模型的基础上微调。在提示词工程的基础上,或直接在大模型的基础模型之上,将行业的领域知识和企业的数据内容给到模型,让模型理解、学习行业知识和企业知识,真正为企业所用。

5、从零开始自建模型。通过预训练、监督学习以及增强学习等方式,从0到1去打造一个专属于行业企业的模型,需要进行大量的算力投入、资金投入以及人才投入。

训练大模型的门槛很高,需要充足的预算、计算资源以及数据。此外,数据安全问题也是企业部署生成式ai必须考量的因素,自建模型的数据安全系数更高,调用api的方式存在一定的数据风险。以上5种方式由易到难且各有利弊,企业可以综合考量适合自身的应用场景、投入力度以及数据安全需求,选择适合的部署方式。

企业应用大模型的核心是将企业的内部知识与外部知识进行融合,只有内外部知识被融会贯通才能充分发挥大模型的价值。

以大模型应用中最常见的知识管理场景为例,企业需要建立与智能搜索相关的知识图谱,尝试在内部知识中将每个问题的答案找到,并将问题和答案一起发给大模型,通过大模型的自然语言能力 知识图谱的知识结构能力,实现更好的人机交互体验,从而得到准确答案。

展望未来

当前多数大模型的底座很难持续更新,以chatgpt为例其训练数据截止于2021年9月,并不能很快更新为企业提供实时的数据支持。伴随业务的快速变化,企业需要通过混合的模式,通过知识图谱或一些规则,将企业的内部知识注入生成式ai。

gartner预测:下一代ai技术将向自适应ai的方向演进,也就是在不断变化的复杂环境中,能够基于数据自主、实时地进行模型的更新,以多个代理人的ai模拟或ai强化学习的方式,具备更快感知环境变化的能力,输出更符合业务需求的结果。

关于企业网d1net(www.d1net.com):

国内主流的to b it门户,同时在运营国内最大的甲方cio专家库和智力输出及社交平台-信众智(www.cioall.com)。同时运营19个it行业公众号(微信搜索d1net即可关注)

关键字:凯发在线凯发在线凯发在线凯发在线凯发在线

原创文章 企业网d1net

x gartner:cio选择大模型的6个标准及5种主要部署方式 扫一扫
分享本文到朋友圈
凯发在线
当前位置:cio新闻中心 → 正文

责任编辑:shjiaz 作者:查士加 |来源:企业网d1net  2023-08-01 16:28:46 原创文章 企业网d1net

近两年,chatgpt如燎原之势迅速席卷而来。在过去的半年里,众多企业倾心生成式ai并展开探索与应用,其所带来的影响也越来越深入。

如何调整企业的ai战略,使大模型的能力真正为企业所用?如何选择适合行业企业的大模型?如何根据企业自身情况部署大模型?这些都是cio关注的重要课题。

生成式ai正在颠覆传统业务

生成式ai正在改变产品的研发方式、优化用户体验、提升员工的工作效率,甚至在颠覆传统业务。

制造型企业的研发人员使用autodesk的dreamcatcher平台,可以根据目标和约束条件直接生成cad设计,连接3d打印机就能进行实体交付,大幅提升了研发和测试的效率。

在体育界,ibm为美国2023年高尔夫锦标赛大师赛提供生成式ai评论的数字新体验,其人工智能生成式评论凯发在线的解决方案在比赛过程中为20,000多个视频片段制作了详细且专业的高尔夫比赛解说,精彩的比赛片段 专业的比赛解说为用户提供了优质的体验。

amazon的实时ai编程助手(codewhisperer)可以运用自然语言帮助开发团队生成代码、执行代码并进行代码优化。埃森哲的velocity团队基于codewhisperer将开发工作减少了30%。

chatgpt的问世给教育服务提供商的股价带来巨大影响,美国课外辅导在线教育公司chegg的股价受gpt的影响足足下跌了50%。人工智能“反噬”科技行业的征兆已经出现,就业市场也将受到影响。

今年4月gartner在针对2000多家企业的调研中发现:45%的企业看好生成式ai技术,并将增加对ai的投资。

今年年初gartner在调研了300多家中国企业后发现:ai能力相对成熟的企业更倾向于采用“ai first”的战略,大部分中国企业侧重ai运营和ai工程化,以决策为中心,通过ai技术辅助业务,使业务运营可扩展且更有韧性。一部分ai领先企业已开始探索将ai技术用于企业业务的各个领域,甚至是核心业务场景。

生成式ai战略先行

gartner提到了ai原生企业的概念,它指企业的核心流程如果离开ai将无法正常运转。包括自适应、生成式、原生学习在内的生成式ai正在将ai原生企业这一理想变为现实,越来越多的企业将ai战略纳入企业数字化转型的核心战略。

gartner高级研究总监方琦(mike fang)强调:所有的ai战略,如果脱离了企业自身的业务,将毫无价值可言。

因此对cio而言,规划ai战略的第一步是与业务战略对齐,而非单纯从技术角度进行创新;其次要结合整体业务模式确定ai技术的优先发力点;第三步要从投资与回报的角度明确ai能否大幅优化业务;同时还要了解企业通过ai能力能获得偏向防御型的能力,还是利用自身数据创造差异化的竞争力。

大部分中国企业进行了大量ai投入,有了比较清晰的ai战略。在生成式ai大潮兴起后,大多数企业重新规划并更新了自身的ai战略,生成式ai无疑增强了员工的工作能力。

cio在规划ai战略时,应着重思考以下三个问题:

1、该如何培养企业的ai战略师?

2、该如何重新培训员工,使其在短期内熟练应用生成式ai工具?

3、未来什么样的组织架构能让员工乐于共享,甚至更民主化?

gartner列举了生成式ai在企业中的三类主要应用场景:

1、将算法集成到现有凯发在线的解决方案。在保证前期对ai的投资能继续发挥作用的基础上,将生成式al的算法集成到现有的智能化凯发在线的解决方案中,解决原有方案不能识别的意图,通过能力的更新和完善提升用户体验,使产品更具竞争力。

2、改进业务或工艺瓶颈。梳理业务的端到端流程,找到流程中的瓶颈,探索如何通过生成式ai的应用工具突破现有瓶颈,从而提升整体能力。

3、重塑人与机器的关系。当整个行业的供需关系发生变化,企业需要重塑人与机器的关系,找到新的平衡点。

gartner在调研中发现:在全球,70%的企业部署了20个以上的ai用例,企业平均部署ai用例的数量是41个,ai用例的平均使用寿命为3.5年;而在中国,86%的企业部署了5个以上的ai用例,企业平均部署的ai用例数量是24个,ai用例的平均使用寿命是2.8年。

管控生成式ai的相关风险同样重要,包括违反中国法律法规的风险、供应商的风险、数据的隐私及保密风险、侵犯知识产权的风险、“幻觉”和有偏见的答案、网络安全风险、员工应用范围的风险等等,gartner建议cio在运用生成式ai技术时要充分与业务团队进行风险的沟通,从而使技术能够更好地落地应用。如果法务专家能够参与ai用例的前期构思,将使ai的成熟度提升3.8倍。

在人才方面,全球超过70%的企业表示ai人才并不是难点。但是大多数中国企业表示人才或服务提供商短缺是ai技术被企业采用的最大障碍,53%的中国企业表示很难找到既擅长业务又懂ai技术的人才。对于中国企业而言,如何通过专业化的分工团队,使ai技术更易落地,是企业需要从战略角度思考的重要方向。值得注意的是,采用分布在企业内部的ai特别小组这类与业务混合的团队,与中心化的ai团队相比,前者的ai成熟度会更高。

当生成式ai能力出现后,企业需要更多跨部门的角色和技能,如需要开发人员能基于api进行处理,需要ai产品经理等角色,这些是企业未来ai人才储备需要关注的重要课题。

如何选择合适的大模型?

面对五花八门的大模型,如何选择合适的大模型是多数企业关注的话题。

gartner建议企业在选择大模型时要关注以下几个方面:

1、基本的语言能力。如多向对话的能力,生成文本的质量,知识的范围等。

2、额外的语言能力。如哪些模型能写代码?哪些模型的逻辑和推理能力更强?是否支持多种语言?是否具备数据分析能力等。

3、提示词工程。如模型的思维链如何?(是否与提示词工程紧密结合?)是否具备情境学习的能力?是否拥有很好的操控性?(是否遵循指示?)

4、微调的难度。如果想对模型进行优化或微调,是否支持将企业的知识注入模型中?

5、非功能性因素。如推理速度、成本,是否支持本地部署等。此外,如果模型后续进行迭代优化,现有的应用是否能二次优化?据悉,2024年gpt-4.0底座模型将对外开放,如果企业的应用产品是基于gpt-3.0版本开发的,后续是否要做二次优化,是企业要考量的因素之一。

6、生态系统。当前很多厂商在做基于应用场景的ai插件,也有如microsoft copilot的打包软件。企业在选择模型时,还应考虑模型的生态系统是否友好,与工具/系统、插件的集成是否便捷,能否长期合作等。

企业部署生成式ai的五种方式

gartner高级总监(研究顾问)张桐梳理了企业部署大模型的5种主要方式:

1、直接购买嵌入应用程序的生成式ai。例如gpt或salesforce推出的xgen等开源的ai大模型。

2、直接调用生成式ai的api接口。企业的应用系统可以直接调用开源大模型的api,从而进行数据检索与提示词工程的探索。

3、企业内部知识与生成式ai模型相结合。也就是将企业的数据内容准备好,包括形成企业的知识图谱,只利用大模型的语言能力进行知识输出。

4、在生成式ai模型的基础上微调。在提示词工程的基础上,或直接在大模型的基础模型之上,将行业的领域知识和企业的数据内容给到模型,让模型理解、学习行业知识和企业知识,真正为企业所用。

5、从零开始自建模型。通过预训练、监督学习以及增强学习等方式,从0到1去打造一个专属于行业企业的模型,需要进行大量的算力投入、资金投入以及人才投入。

训练大模型的门槛很高,需要充足的预算、计算资源以及数据。此外,数据安全问题也是企业部署生成式ai必须考量的因素,自建模型的数据安全系数更高,调用api的方式存在一定的数据风险。以上5种方式由易到难且各有利弊,企业可以综合考量适合自身的应用场景、投入力度以及数据安全需求,选择适合的部署方式。

企业应用大模型的核心是将企业的内部知识与外部知识进行融合,只有内外部知识被融会贯通才能充分发挥大模型的价值。

以大模型应用中最常见的知识管理场景为例,企业需要建立与智能搜索相关的知识图谱,尝试在内部知识中将每个问题的答案找到,并将问题和答案一起发给大模型,通过大模型的自然语言能力 知识图谱的知识结构能力,实现更好的人机交互体验,从而得到准确答案。

展望未来

当前多数大模型的底座很难持续更新,以chatgpt为例其训练数据截止于2021年9月,并不能很快更新为企业提供实时的数据支持。伴随业务的快速变化,企业需要通过混合的模式,通过知识图谱或一些规则,将企业的内部知识注入生成式ai。

gartner预测:下一代ai技术将向自适应ai的方向演进,也就是在不断变化的复杂环境中,能够基于数据自主、实时地进行模型的更新,以多个代理人的ai模拟或ai强化学习的方式,具备更快感知环境变化的能力,输出更符合业务需求的结果。

关于企业网d1net(www.d1net.com):

国内主流的to b it门户,同时在运营国内最大的甲方cio专家库和智力输出及社交平台-信众智(www.cioall.com)。同时运营19个it行业公众号(微信搜索d1net即可关注)

关键字:凯发在线凯发在线凯发在线凯发在线凯发在线

原创文章 企业网d1net

回到顶部
"));
"));

关于凯发在线联系凯发在线隐私条款广告服务凯发在线的友情链接投稿中心凯发在线的招贤纳士

企业网凯发在线的版权所有 ©2010-2024

^
网站地图