生成式AI的第一波浪潮是面向个人用户的，以ChatGPT为典型代表。不过，生成式AI要想真正成为变革性的未来技术，还需要在千行百业中落地，满足企业应用的需要。
伴随着这一变化而来的，是安全成为生成式AI的第一要务。毕竟与个人相比，企业对于数据安全的重要程度要高得多，而大模型的训练和应用过程，都需要大量的企业核心经营数据。
对此，亚马逊云科技大中华区解决方案架构部总监代闻表示，生成式AI应用就像是海面上的冰山，想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。因此，他认为，企业不能只是关注 AI 应用本身，需要从全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。
随着大模型的出现和普及，基于AI的创新场景正在大量涌现，包括优化客户体验、提升员工生产力、改善运营效率、生成创意内容等。由此也带来了新的安全挑战，安全正在成为构建生成式AI应用不可回避的议题。
代闻认为，需要确保数据、模型以及应用等三个方面的安全，企业才能更好的释放生成式AI应用的价值。
在数据安全方面，高质量数据是构建生成式AI能力的关键。从数据源的获取到数据的存储和查询，再到将数据传输给 AI平台进行模型的训练、调优和推理，在存储、传输和应用环节，都需要为数据提供保护方案。
在模型安全方面，经过训练之后，模型进入生产环境时的安全防护同样重要。企业需要全方位监控模型的安全运行，包括模型的访问安全、模型的管理、模型运行的安全监控等。
在应用安全方面，则包括开发流程中的安全和运行过程中的安全。安全应该贯穿到从开发到持续集成、持续部署再到投产、监控以及整个反馈的过程里面来，让开发更便捷，更安全。同时，企业需要将零信任和网络控制结合到AI应用的过程中，构建零信任的应用安全访问策略，实现端到端的应用安全。
针对上述企业安全挑战，亚马逊云科技提供了相应的一系列技术、服务和工具，帮助企业充分释放生成式 AI 的潜力。
在数据安全方面，亚马逊云科技通过Amazon KMS等服务实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问，保护存储中的数据；Amazon Nitro 则提供硬件级别的安全机制，实现了网络、存储隔离的独立安全通道。此次还推出了敏感数据保护解决方案，可自动发现企业的敏感数据，并在统一平台上管理企业的数据资产。
在模型安全方面，Amazon SageMaker的多种性能，帮助自建模型的企业实现对模型信息的统一管理，自动监测模型的准确性。Amazon Bedrock则帮助企业降低调用和微调已有基础模型的难度，让企业可安全地在其虚拟私有云中使用该服务，并保持其自有数据以及模型的安全。
在应用安全方面，AI编程助手Amazon CodeWhisperer内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议；Amazon CodeGuru Security可以扫描代码，在代码里面寻找漏洞，包括调用包漏洞，包括很多其他代码逻辑的漏洞；Amazon Verified Permissions，则为应用程序提供细粒度授权和权限管理，企业可以使用该服务管理其应用程序的角色和属性的访问控制。
除了自身的努力，亚马逊云科技也与其全球伙伴合作，为企业提供安全解决方案，构建1+1>2的安全合作。
代闻介绍说，亚马逊云科技合作伙伴提供数百种行业领先的安全解决方案，覆盖网络安全、访问控制、漏洞分析、安全咨询、数据治理等各种领域，多层保护客户的应用和数据安全。
亚马逊云科技与德勤企业咨询合作发布了《中国企业出海发展建议白皮书2023版》，从组织建设和技术实践两方面提出安全合规建议，建议出海企业建立健全管理体系，包括制定隐私处理原则、数据保护原则，实行数据生命周期管理制度、数据泄露管理规范，健全相关事件的响应、评估等操作规程。
亚马逊云科技与涂鸦智能合作成立了“联合安全实验室”，双方在智能家居、数据安全、安全文化建设、海外合规等领域，重点就机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域等安全实践展开联合共创。
与此同时，亚马逊云科技也在将生成式 AI技术应用于其安全及合规服务中，更智能地应对复杂的安全威胁、提高合规效率。
