多家加拿大科技公司正在签署联邦政府关于生成式人工智能(generative artificial intelligence)的新行为准则,这是一套自愿准则,旨在限制伤害,直到两年后正式的人工智能监管生效。
黑莓BB-T、OpenText Corporation OTEX-T、Ada-AI、Cohere和Coveo CVO-T将成为《生成式人工智能行为准则护栏》的首批签署方,承诺采取一系列安全、公平和透明措施。经过今年夏天加拿大创新、科学和经济发展部进行的一系列利益相关方磋商,工业部长franois - philippe Champagne周三在蒙特利尔举行的人工智能会议上宣布了最终的指导方针。
渥太华表示,该准则适用于所有开发或管理生成式人工智能的公司,生成式人工智能利用大量文本、图像或音频数据集来生成新内容。这项技术因其对隐私、公平和版权构成的风险而受到广泛批评。
人工智能还是人类?做这个小测试来鉴别假货
ISED表示,这些措施将帮助企业在正式法规生效前准备好流程和产品。该部门预计,《人工智能和数据法》的条款将在2025年之前生效。该法案目前正在由下议院技术和工业常务委员会审议。
尽管人工智能技术正在迅速发展,但世界各国政府正在加快制定平衡创新和消费者保护的人工智能政策。ChatGPT是一款流行的生成式人工智能工具,直到去年11月才向公众开放,也就是AIDA提出5个月后。
新的行为准则列出了18项根据生成式人工智能的能力不同而适用的措施。总的来说,签署指导方针的公司将承诺进行广泛的测试,以识别安全漏洞,加强网络安全保护,并评估生成式人工智能系统如何因低质量数据集而产生偏见。
该准则强调透明度。它指示公司开发和实施一种方法来检测生成的内容(水印),并显著识别可能被误认为是人工智能系统的系统。
自8月份发布指南草案以来,ise又增加了一项内容,要求人工智能开发人员发布用于训练其系统的数据类型的描述。多伦多大学信息学院研究人工智能治理的博士候选人布莱尔·阿塔德-弗罗斯特(Blair Attard-Frost)表示,这可能涉及如何防止侵犯版权的问题,但这还不够明确。
加拿大银幕作曲家协会(Screen Composers Guild of Canada)等团体在提交给ISED的文件中,敦促政府纳入专门保护艺术家、音乐家和作家的条款。
这些措施类似于美国7月份宣布的措施,包括亚马逊(Amazon.com, Inc.)在内的大型科技公司都签署了这些措施。AZAM-Q,字母表公司google - q, meta- q, Inc.(原Facebook)和微软公司。
这些措施是通过与学术界、民间社会、加拿大人工智能研究机构和工业界进行一系列磋商制定的。但是,ise表示,尽管行为准则的目的只是“足够健全”,以便在人工智能法案生效之前填补这一空白,但一些行业专家批评了磋商的封闭性,称本应征求公众的意见。
约克大学社会科学系犯罪学副教授娜塔莎·图西科夫(Natasha Tusikov)称,制定指南的过程“仓促”,“相对不透明”。图西科夫教授补充说,行业参与者之间的自愿协议“在行业执法工作可能违背其商业利益的情况下是无效的”。
渥太华大学(University of Ottawa)互联网和电子商务法加拿大研究主席、法学教授迈克尔·盖斯特(Michael Geist)表示,该准则是“一份不具约束力的文件,对解决生成式人工智能的全球对话贡献不大。”
Shopify Inc .)SHOP-T首席执行官Tobi l
“加拿大不需要更多的裁判。我们需要更多的建筑工人。让其他国家来监管吧,而我们采取更勇敢的方式,说‘来这里建吧’。”
电话咨询