亚马逊云科技：安全是构建生成式AI应用非常重要的核心部分

近日，亚马逊云科技大中华区处理方案架构部主任代闻亚马逊云科技re:Inforce2023大会中国站表示，生成人工智能已应用于企业创新的各个环节。生成人工智能确实加速了人工智能在公司的实施，但也给公司技术部门带来了前所未有的挑战。

亚马逊云科技认为，安全是构建生成式人工智能应用程序不可避免的问题。从建设之初，就需要把安全作为企业人工智能战略发展的核心阶段，尤其是现在的快速发展阶段。

“我们不能只关注人工智能应用本身，而是从整个堆栈的角度全面审视应用程序、模型、数据和系统架构的安全规范、技术解决方案和平台工具。”代闻表示。

安全性是构建生成式AI应用程序不可避免的问题

近年来，随着人工智能技术的快速发展，云计算帮助实现了大量激增的数据和大规模可用的计算资源，推动了人工智能技术的不断创新。“在过去不到一年的时间里，生成人工智能应用领域出现了井喷，这意味着一个新的转折点和一个新的技术时代。”

目前，生成人工智能已应用于企业创新的各个环节。通过智能客户服务优化客户体验，通过自动生成代码提高R&D团队的生产力，通过文本生成图片加快创意内容的生成，通过自动文档处理提高整个组织的运营效率。生成人工智能真正加速了人工智能在公司的实施。

借助生成人工智能的公司、在开始业务创新的过程中，如大语言模型等尖端技术将面临许多新的安全挑战，如数据、模型和应用程序。生成人工智能需要依靠大量的数据和模型。任何环节的安全遗漏，如使用不安全的模型训练和微调、模型泄漏、不安全的应用程序、不安全的应用程序浏览等，都可能导致企业内部数据和隐私泄露，或产生不准确甚至错误的结果。只有确保AI各环节的安全合规性，公司才能更好地帮助业务创新。

“国际开源安全组织目前发布了2023年大型语言模型应用的十大安全威胁。一家大型国际企业在使用基于大型语言模型的公共聊天应用程序服务后，在20天内发生了三起数据泄露事件，包括商品产量泄露、代码泄露和会议内容泄露。”举个例子。

所以，安全性已经成为构建生成式AI应用程序不可避免的问题。

亚马逊云科技认为，应用、模型、数据和系统架构的安全规范、技术解决方案和平台工具不仅可以关注人工智能应用本身，还可以从全堆栈的角度进行全面审查。

“生成人工智能应用程序就像海上的冰川。如果我们想在企业中安全地控制这项新技术，我们还应该关注海下的冰河。”代言提到。

生成AI数据、模型和应用安全构建安全

亚马逊云科技认为，只有确保数据、模型和应用的安全性，公司才能更好地释放生成式AI应用的价值。

“数据和模型安全是构建人工智能应用程序的关键。亚马逊云技术多年来一直在大数据和人工智能领域工作。从数据库的摄入到以智能湖泊仓库为核心的数据分析和处理，再到分析和处理的结果，它可以安全地输送到人工智能平台进行实践、优化和推理。整个链接上的数据分类和数据治理可以得到亚马逊云技术的完美支持，整个过程、实践和产品工具。"

像Amazonon这样的亚马逊云技术也提供了贯穿 Datazone整个数据周期的管理服务，在本次会议上推出了敏感数据保护解决方案，可以自动发现企业敏感数据，并在统一的平台上管理数据资产。

公司需要使用模型和基本模型来构建人工智能应用程序。为了保证培训结果的准确性和有效性，模型培训的安全性也尤为重要。企业应全面监控模型的安全运行，包括模型浏览安全、模型管理、模型运行安全监控等。AmazonSageMaker为自建模型公司带来了多种功能，帮助开发人员更容易地构建、培训和部署模型，例如AmazonSageMakerModelCards，可以实现模型数据的统一管理和AmazonSageMageMage。

应用程序安全是实现人工智能价值的保证。在应用程序安全方面，以AmazonCodeWhisper为例。该服务是亚马逊云技术推出的人工智能编程助手。代码建议可以根据开发人员的指示使用嵌入式基本模型实时生成。该服务内置代码安全扫描功能，可以帮助开发人员发现难以检测的漏洞并提出补救建议。对于应用程序的安全浏览，企业可以构建零信任的应用程序安全访问策略。