新的两党法案将要求对人工智能生成的视频和音频进行标注

   日期:2024-09-04     来源:本站    作者:admin    浏览:52    

  

  

  华盛顿(美联社)——众议院周四提出的两党立法将要求对使用人工智能生成的在线图像、视频和音频进行识别和标记,这是控制快速发展的技术的最新努力,这些技术如果被滥用,很容易欺骗和误导。

  人工智能制造的所谓深度伪造品很难甚至不可能与真品区分开来。人工智能已经被用来模仿美国总统乔·拜登(Joe Biden)的声音,利用名人的肖像和冒充世界领导人,这引发了人们的担忧,即人工智能可能会导致更多的错误信息、性剥削、消费者骗局和广泛的信任丧失。

  该立法的关键条款将要求人工智能开发人员识别使用其产品创建的带有数字水印或元数据的内容,类似于照片元数据如何记录照片的位置、时间和设置。抖音、YouTube或Facebook等在线平台将被要求以一种可以通知用户的方式标记内容。拟议规则的最终细节将由美国商务部下属的小型机构美国国家标准与技术研究院(National Institute of Standards and Technology)制定。

  违反拟议规则的人将面临民事诉讼。

  “我们已经看到了很多例子,无论是语音操作还是视频深度造假。我认为美国人民有权知道某件事是否是深度造假,”代表加州硅谷部分地区的民主党众议员安娜·艾舒(Anna Eshoo)说。艾舒与佛罗里达州共和党众议员尼尔·邓恩共同发起了这项法案。“对我来说,整个造假问题就像拇指疼痛一样突出。这个问题需要解决,在我看来,我们越早解决越好。”

  如果获得通过,该法案将补充科技公司的自愿承诺,以及拜登去年秋天签署的一项关于人工智能的行政命令,该命令指示NIST和其他联邦机构为人工智能产品制定指导方针。该命令还要求人工智能开发人员提交有关其产品风险的信息。

  Eshoo的法案是为解决对人工智能带来的风险的担忧而提出的少数提案之一,这是两党成员共同的担忧。许多人表示,他们支持既能保护公民,又能确保一个快速发展的领域能够继续以有利于医疗和教育等一长串行业的方式发展的监管。

  该法案现在将由立法者审议,他们可能无法及时通过任何有意义的人工智能规则,以便在2024年大选之前生效。

  “人工智能领域创新的兴起令人兴奋;然而,如果落入坏人之手,它有可能造成一些重大伤害,”邓恩在宣布这项立法的声明中说。他说,要求识别深度假货是一种“简单的保障措施”,将有利于消费者、儿童和国家安全。

  一些主张加强对人工智能保护的组织表示,周四提出的法案代表了进步。一些人工智能开发者也是如此,比如拥抱脸公司(hugs Face)的首席人工智能伦理科学家玛格丽特·米切尔(Margaret Mitchell),她创建了一个名为Bloom的ChatGPT竞争对手。米切尔说,该法案的重点是在人工智能内容中嵌入标识符,即所谓的水印,这将“帮助公众控制生成内容在我们社会中的作用”。

  她说:“我们正在进入一个越来越不清楚哪些内容是由人工智能系统创造的,也不可能知道不同的人工智能生成的内容来自哪里的世界。”

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行