Swami Sivasubramanian表示，AWS生成式人工智能模型不会受到有害和偏见内容的影响

　　拉斯维加斯，11月30日:亚马逊网络服务(AWS)数据库、分析和机器学习副总裁Swami Sivasubramanian表示，亚马逊正在采取一切必要措施，确保不断监测其生成式人工智能模型的任何毒性和偏见，以便未来的人工智能模型能够以安全和负责任的方式构建。

　　随着包括印度在内的各国政府准备驯服人工智能生成的虚假图像和视频(深度造假)，Sivasubramanian告诉IANS, AWS将继续投入越来越多的资金，以继续促进人工智能技术的安全、可靠和透明发展，造福社会。

　　“我们非常重视这些问题，并一直在与政策制定者合作开发负责任的人工智能。我们是少数几家在白宫自愿承诺如何以安全和负责任的方式构建这些人工智能模型，尤其是未来模型的公司之一，”Sivasubramanian强调。在AWS，“我们致力于继续与政策制定者、技术行业、研究人员和人工智能社区合作，以促进人工智能的负责任和安全使用，”他补充说。

　　亚马逊的Titan系列基础模型旨在检测和删除客户为定制提供的数据中的有害内容，拒绝用户输入中的不适当内容，并过滤包含仇恨言论、亵渎和暴力等不适当内容的模型输出。

　　亚马逊CodeWhisperer是唯一一个内置安全扫描的人工智能编码伴侣，用于查找和建议难以检测到的漏洞的补救措施。在亚马逊工作超过15年的Sivasubramanian说:“Amazon SageMaker clarity使用各种指标检测和测量潜在的偏见，因此开发人员可以解决潜在的偏见并解释模型预测。”

　　在“re: Invent 2023”旗舰会议上，AWS推出了Amazon Titan Image Generator，它可以创建带有文本描述的新图像，也可以定制现有图像。作为内容创建者，您现在可以使用图像生成器使用英语自然语言提示快速创建和改进图像。

　　Sivasubramanian说:“你可以使用这个模型轻松地将现有的背景换成热带雨林的背景，或者可以使用这个模型无缝地交换背景来生成生活方式图像，同时保留图像的主体，并创建更多的选择。”

　　Titan图像生成器还减少有害内容的生成，以支持负责任的人工智能使用。Sivasubramanian告诉IANS:“默认情况下，亚马逊泰坦生成的所有图像都包含一个不可见的水印，旨在通过提供一种谨慎的机制来识别人工智能生成的图像，从而帮助减少错误信息的传播。”

　　图像生成器将帮助广告，电子商务，媒体和娱乐公司以低成本大量创建工作室质量，逼真的图像。今年7月，亚马逊加入了美国总统乔·拜登以及政府和行业领导人的行列，承诺继续促进有利于社会的人工智能技术的安全、可靠和透明的发展。

　　“我们在全面开发过程的每个阶段都考虑到责任。在整个设计、开发、部署和操作过程中，我们考虑了一系列因素，包括准确性、公平性、适当的使用、毒性、安全性、安全性和隐私。”