作者：来自 ElasticJennifer Klinger

不可否认的是：生成式 AI（generative AI– GenAI）正在重塑 IT 的未来（甚至可能是世界的未来）。根据 Forrester 2024 年的脉搏调查，67% 的 AI 决策者表示，他们的组织计划在未来一年增加对生成式 AI 的投资。那么，什么只是生成式 AI 的炒作，什么又值得长期投资呢？IT 和商业领导者如何区分事实与虚构？

这种热潮带来了兴奋和怀疑。人们对生成式 AI 如何收集数据、其安全措施以及其对 IT 和商业运营的影响提出了许多问题。让我们探索生成式 AI 的真正能力，揭穿常见的神话，并展示如何负责任地利用其潜力，超越生成式 AI 的炒作。

生成式 AI 是否被过度炒作？

这取决于你想如何使用它，以及生成式 AI 模型使用的数据。有些使用场景并不需要生成式 AI，而是传统 AI。例如，如果你的组织需要对发货的产品进行质量控制检查，你可能会考虑使用传统的 AI 驱动的基于规则的系统，而不是生成式 AI，因为将产品与标准进行对比是一个简单的过程。在这些较简单的使用场景中，生成式 AI 提高质量控制效率的能力被过度炒作。

另一方面，如果生成式 AI 可以用来扩展知识库，帮助人们做出更好的决策，那么它可能值得投资。想象一下，你的组织将内部专有数据（如公司内部 Wiki、HR 政策和公司演示文稿）注入一个大型语言模型（large language model – LLM）。生成式 AI 可以通过自然语言（naturual language）提问帮助员工自助服务。这一实际的使用场景能够帮助你的团队节省时间，专注于更具战略性和复杂性的问题。Elastic 已经在这方面取得了成功 —— 我们的内部生成式 AI 助手 ElasticGPT 已经为员工节省了每月超过五小时的时间，年节省时间达到 63 小时。

至于生成式 AI 的未来炒作，Gartner 的炒作周期预测，到 2026 年，超过 80% 的企业将使用生成式 AI API 或模型和/或在生产环境中部署启用 GenAI 的应用程序。这个比例相比 2023 年的不到 5% 有了显著增长。随着生成式 AI 使用场景的不断扩展，你需要透过炒作，专注于那些能对你的业务产生最大影响的应用场景。

让我们来探讨生成式 AI 的神话与现实，这样你就能制定和完善一个忽视炒作、聚焦长期成功的策略。

神话：生成式 AI 会取代人类

现实：AI 助手可以为员工提供可操作的见解。

你听到关于生成式 AI 的炒作时，可能会听到它有可能取代员工的说法。生成式 AI 技术增强的是团队的专业知识和工作流程，而不是取代它们。虽然生成式 AI 驱动的助手可以提供见解、自动化重复性任务并提高响应速度，但人类的直觉和问题解决能力仍然至关重要。IT 分析师、安全团队和客户支持代表依然提供上下文、判断和对你组织系统、威胁环境以及商业优先事项的细致理解，这些是只有人类专家才能提供的。

AI 助手可以专注于重复性任务，从而让员工有更多时间处理更具挑战性的项目。麦肯锡估计，企业应用场景可以带来 4.4 万亿美元的生产力增长潜力。举个例子，一个站点可靠性工程师（SRE）可能会使用 AI 助手来调查网络问题，找出根本原因。这种 AI 辅助的工作流程可以帮助 SRE 快速解决停机影响，并提高系统的可靠性。现在，SRE 可以专注于解决问题，或者将时间重新投入到需要人类智慧的复杂 IT 项目中。

神话：生成式 AI 不可靠，因为它使用公共数据

现实：你可以通过检索增强生成（RAG）将你自己的专有数据增强到生成式 AI 模型中。

虽然公共互联网数据为许多 AI 应用提供支持，但生成式 AI 模型可以安全地使用你组织的专有数据，提供量身定制的响应和多种使用场景。这种方法 —— 使用 RAG —— 将内部经过验证的数据与生成能力结合，提供高度相关且可操作的结果。这减少了幻觉的可能性，确保响应是独特的，专门针对你的组织，而不是基于互联网上的任何内容。

在安全操作中，团队每天面临数百甚至数千个警报，生成式 AI 工具可以帮助过滤噪音。通过增强了专有数据的生成式 AI 助手，安全分析师只需要通过智能摘要和引导的下一步行动来调查筛选过的警报，从而简化响应时间。该助手还可以在每次查询后保持上下文，使分析师能够逐步构建见解，并轻松将发现添加到案件中。这些数据随后通过 RAG 反馈到模型中，持续改进系统，确保分析师正在使用最准确的信息。

神话：生成式 AI 造成无法管理的安全和隐私风险

现实：受监管的生成式 AI 系统设计时考虑了强大的安全措施，如加密、访问控制以及符合数据保护法规。

虽然安全和隐私问题是合理的，但它们并非不可克服。生成式 AI 系统应当并且可以设计成具备强大安全措施。通过使用像 RAG 这样的技术，生成式 AI 可以从你的专有数据中安全地获取信息，并利用访问控制来确保数据隐私。这让你能够掌控数据隐私，确保 AtgcodeI 输出是可靠的、基于角色的，并且针对你的组织具有上下文相关性。IT 领导者还可以实现私有 AI 模型，这些模型在自身基础设施中运行，并加密个人身份信息（PII）以减少风险。

随着敏感信息可能被收集、存储并用于训练机器学习模型，多个合规法律应运而生，以保护用户数据。欧盟的《通用数据保护条例》（GDPR）、欧盟《人工智能法案》、美国法规以及中国的《生成式人工智能服务管理暂行办法》都应该纳入合规战略。

随着技术的进步，法律也会不断发展。因此，始终掌握 AI 合规性和风险是非常重要的。Elastic 全球政府事务高级总监 Bill Wright 说：“例如监管沙盒、独立算法审计以及负责任设计原则的采纳等倡议，可以帮助创造一个安全开发和部署 AI 的环境。”

神话：你应该等到生成式 AI 更加成熟再使用或构建它

现实：现在就有安全可靠的方法可以将生成式 AI 集成到你的系统中。

事实上，你的竞争对手已经在使用它了。一项最近的研究发现，93%的 C-suite 高管已经部署或计划投资生成式 AI。这些领导者还认为，当他们能够实时摄取数据、使用数据分析工具进行商业决策并利用 AI 提供数据驱动的洞察时，他们将提高年度收入。

麦肯锡发现，三分之二的 IT 领导者在一年多前就启动了他们的第一个生成式 AI 项目。斯坦福大学教授、斯坦福人本人工智能研究所（HAI）数字经济实验室主任 Erik Brynjolfsson 表示：“现在正是从 AI 中获得好处的时候，希望你的竞争对手还在玩玩而已。”

以下是一些今天已经在使用并取得成功的生成式 AI 的组织示例：

• EY 建立了一个生成式 AI 体验，帮助客户从非结构化数据中挖掘洞察。EY 能帮助银行通过提取来自组织各个部门的关键洞察，简化其 ESG 承诺报告。

• IBM 正在使用生成式 AI 为企业提供将专有文档与大语言模型（LLMs）结合的工具。这确保了输出结果得到业务上下文的丰富，使其对用户更具相关性和帮助。

• Stack Overflow 使用生成式 AI来驱动其 OverflowAI 工具，该工具利用公共平台上的数据和公司私有的 Stack Overflow 实例。

生成式 AI 热潮将持续

生成式 AI（GenAI）不会消失。尽管随着新技术的出现，它的热度可能会有所下降，但它的影响力依然存在。通过为数据打下坚实的基础，现在就为成功做好准备。作为 IT 和商业领导者，你需要区分事实与虚构，负责任地利用生成式 AI 的潜力，并为你的业务做好未来规划。生成式 AI 是一项强大的工具，在深思熟虑的实施下，可以提高生产力、改善决策制定并推动创新 —— 同时保持强大的安全性和合规性标准。

通过专注于长期战略，优先考虑可扩展性、数据隐私和道德使用，你可以自信地将生成式 AI 集成到你的组织中。关键在于建立tgcode坚实的基础，保持信息灵通，并持续适应不断变化的环境。生成式 AI 不仅仅是一个短暂的趋势；它是一股变革力量，在小心和远见的指导下，可以带来持久的价值。

准备好了解生成式 AI 可以带来哪些可能性吗？查看我们的两问评估，看看生成式 AI 如何推动你组织的变革。

来源

1. Forrester，《生成式 AI 趋势：为何、何时及如何开始应用于商业tgcode》。
2. Gartner，《推动生成式 AI 热潮的因素，2024年》。
3. McKinsey，《职场中的超级代理：赋能人们释放 AI 的全部潜力，2025年》。

本文中描述的任何功能或特性发布和时机均由 Elastic 单方面决定。任何当前不可用的功能或特性可能无法按时或完全交付。

在本博客文章中，我们可能提到了第三方生成式 AI 工具，这些工具由各自的所有者拥有和运营。Elastic 对这些第三方工具没有任何控制权，也不对其内容、操作或使用承担责任或义务，也不对因使用这些工具可能导致的任何损失或损害承担责任。请在使用 AI 工具处理个人、敏感或机密信息时谨慎。你提交的任何数据可能会用于 AI 训练或其他目的。我们不能保证你提供的信息会被保持安全或机密。使用任何生成式 AI 工具前，请务必熟悉其隐私实践和使用条款。

Elastic、Elasticsearch、ESRE、Elasticsearch Relevance Engine 及相关标识是 Elasticsearch N.V. 在美国及其他国家的商标、标识或注册商标。所有其他公司和产品名称是各自所有者的商标、标识或注册商标。

原文：Generative AI hype: Debunking 4 myths for IT leaders | Elastic Blog