Amazon Bedrock 是一种完全托管的服务,提供来自行业领先 AI 公司的高性能基础模型FMs,如 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon。通过单一 API,用户可以获得构建生成式 AI 应用所需的一系列广泛功能,包括安全性、隐私和负责任的 AI。
BMC AMI zAdviser Enterprise 提供丰富的 DevOps KPI,以优化主机开发并使团队能够主动识别和解决问题。通过机器学习,AMI zAdviser 监控主机的构建、测试和部署功能,提供 AI 驱动的持续改进建议。zAdviser 除了捕获和报告开发 KPI 外,还捕获 BMC DevX 产品的采用和使用数据。这包括调试的程序数量、使用 DevX 测试工具的测试结果等众多数据点。这些额外的数据点可以更深入地洞察开发 KPI,包括 DORA 指标,并可在未来的生成式 AI 应用中与 Amazon Bedrock 一起使用。
下图展示了 zAdviser Enterprise 最终实现生成式 AI 的架构,基于 DORA 指标的 KPI 数据提供摘要、分析和改进建议。
解决方案工作流程包括以下步骤:
创建聚合查询以从 Elasticsearch 检索指标。从在 Amazon Elastic Compute CloudAmazon EC2上托管的 zAdviser 中提取存储的主机指标数据。聚合从 Elasticsearch 检索的数据,并为生成式 AI Amazon Bedrock API 调用形成提示。将生成式 AI 提示传递给 Amazon Bedrock使用 Anthropic 的 Claude2 模型。将来自 Amazon Bedrock 的响应HTML 格式的文档存储在 Amazon Simple Storage ServiceAmazon S3中。通过 AWS Lambda 触发 KPI 邮件流程:从 Amazon S3 中提取 HTML 格式的电子邮件并将其添加到邮件正文。从 zAdviser 中提取客户 KPI 的 PDF 并附加到邮件中。将电子邮件发送给订阅者。
下图展示了使用 Amazon Bedrock 生成的 DORA 指标摘要,并以电子邮件形式发送给客户,其中包含 zAdviser 提供的 DORA 指标 KPI 仪表板报告的 PDF 附件。
在此解决方案中,当数据发送给 AI 客户端时,无需担心数据会暴露在互联网上。对 Amazon Bedrock 的 API 调用不包含任何个人可识别信息PII或可能识别客户的数据。传输的数据仅包括 DORA 指标 KPI 的数值以及生成式 AI 操作的指令。重要的是,生成式 AI 客户端不会保留、学习或缓存这些数据。
zAdviser 工程团队在短时间内成功实施了这一特性。这一快速进展得益于 zAdviser 对 AWS 服务的重大投资,特别是通过 API 调用轻松使用 Amazon Bedrock 的便利性。这突显了 Amazon Bedrock API 中体现的生成式 AI 技术的变革力量。该 API 结合了特定行业知识库 zAdviser Enterprise,并根据持续收集的组织特定 DevOps 指标进行了定制,展示了 AI 在这一领域的潜力。
生成式 AI 有望降低建立 AI 驱动型组织的门槛。尤其是大型语言模型LLMs能为寻求探索和利用非结构化数据的企业带来巨大的价值。除了聊天机器人,LLMs 还可以应用于多种任务,例如分类、编辑和摘要。
结论
本文讨论了生成式 AI 技术的变革性影响,以 Amazon Bedrock API 的形式,结合了 BMC zAdviser 所具备的行业特定知识,以组织特定的 DevOps 指标为基础,进行持续数据收集。
请查看 BMC 官网 以了解更多信息并设置演示。
关于作者
Sunil Bemarkar 是 Amazon Web Services 的高级合作伙伴解决方案架构师。他与各行各业的独立软件供应商ISVs和战略客户合作,加速他们的数字化转型和云采纳之旅。
Vij Balakrishna 是 Amazon Web Services 的高级合作伙伴发展经理。她帮助各行业的独立软件供应商ISVs加速他们的数字化转型之旅。
Spencer Hallman 是 BMC AMI zAdviser Enterprise 的首席产品经理。此前,他曾担任 BMC AMI Strobe 和 BMC AMI Ops Automation for Batch Thruput 的产品经理。在产品管理之前,Spencer 是主机性能的主题专家。他在多个平台和语言上的编程以及在运筹学领域的工作经历使他积累了丰富的经验。他拥有商业管理硕士学位,专攻运筹学,毕业于坦普尔大学,并获得佛蒙特大学计算机科学学士学位。他居住在宾夕法尼亚州德万,除了参加虚拟会议外,喜欢遛狗、骑自行车和与家人共度时光。