孩子的网络错误会如何毁掉你的数字生活

　　谷歌对虐待儿童的内容采取零容忍政策。扫描过程有时会出错，将无辜的人视为施虐者。

　　当詹妮弗·沃特金斯(Jennifer Watkins)从YouTube收到她的频道被关闭的消息时，她一开始并不担心。毕竟，她没有使用YouTube。

　　不过，她7岁的双胞胎儿子用三星平板电脑登录她的谷歌账户，观看儿童节目，并在YouTube上制作自己跳傻傻的舞蹈的视频。这些视频的点击量很少超过5次。但让沃特金斯陷入麻烦的视频，是一个儿子制作的，是不同的。

　　沃特金斯说:“很明显，这是一段他屁股的视频。”沃特金斯从未看过这段视频。“一个同学怂恿他拍裸体视频。”

　　谷歌旗下的YouTube拥有人工智能驱动的系统，可以对每分钟上传到该服务上的数百小时视频进行审查。扫描过程有时会出错，把无辜的人认定为虐待儿童者。

　　《纽约时报》还记录了其他一些父母的数字生活被孩子的裸照和视频颠覆的事件，谷歌的人工智能系统标记了这些照片和视频，人工审查人员认为这些照片和视频是非法的。一些家长因此被警方调查。

　　沃特金斯9月份上传的“裸体视频”在几分钟内就被标记为可能对儿童进行性剥削，这违反了谷歌的服务条款，后果严重。

　　沃特金斯是一名住在澳大利亚新南威尔士州的医务工作者，她很快发现自己不仅被YouTube锁住了，而且所有的谷歌账户都被锁住了。她说，她无法访问自己的照片、文件和电子邮件，这意味着她无法收到有关工作安排的信息，无法查看她的银行对帐单，也无法通过她的麦当劳应用程序“点浓奶昔”——她是用谷歌账户登录的。

　　谷歌的登录页面通知她，她的账户最终将被删除，但她可以对这一决定提出上诉。她点击了“开始申诉”按钮，并在一个文本框中写道，她7岁的儿子们认为“屁股很有趣”，并负责上传视频。

　　“这在经济上损害了我，”她补充说。

　　世界各地的儿童权益倡导者和立法者敦促科技公司通过监控其平台上的此类材料来阻止滥用图像的在线传播。许多通信提供商现在扫描用户保存和分享的照片和视频，以寻找已向当局报告的已知虐待图像。

　　谷歌还希望能够标记从未见过的内容。几年前，它开发了一种算法——在已知图像的基础上进行训练——旨在识别新的可利用材料;谷歌将其提供给其他公司，包括meta和TikTok。

　　一旦一名员工确认沃特金斯儿子发布的视频有问题，谷歌就向国家失踪和受虐儿童中心报告了此事。该中心是一家非营利组织，充当着标记内容的联邦信息交换中心。然后，该中心可以将视频添加到已知图像数据库中，并决定是否向当地执法部门报告。

　　根据国家中心的统计数据，谷歌是“明显的儿童色情”的顶级记者之一。谷歌去年提交了超过200万份报告，远远超过大多数数字通信公司，尽管比meta提交的数量少。

　　(专家说，仅从数字上很难判断虐待儿童问题的严重程度。在一项研究中，Facebook的数据科学家对一小部分因分享不当儿童图片而被标记的用户进行了抽样调查，结果显示，超过75%的用户“没有表现出恶意”。用户包括恋爱中的青少年，分享自己的亲密照片，以及分享“孩子生殖器被动物咬伤的表情包，因为他们认为这很有趣”的人。)

　　苹果顶住了压力，没有扫描iCloud上的剥削材料。一位发言人指出，该公司今年给一个倡导组织发了一封信，表达了对“我们用户的安全和隐私”的担忧，并报告说“无辜的人被卷入了反乌托邦的大网”。

　　去年秋天，谷歌的信任与安全主管苏珊·贾斯珀(Susan Jasper)在一篇博客文章中写道，该公司计划更新其申诉程序，以“改善”那些“认为我们做出了错误决定”的人的“用户体验”。一个重大变化是，该公司现在提供了更多关于账户被封号原因的信息，而不是关于“严重违反”公司政策的一般性通知。例如，沃特金斯被告知，剥削儿童是她被拒之门外的原因。

　　不管怎样，沃特金斯的多次上诉都被驳回了。她有一个付费的谷歌账户，可以让她和丈夫与客服人员交换信息。但在《纽约时报》看到的数字通信中，特工们表示，即使是孩子的无意识行为，该视频仍然违反了公司的政策。

　　沃特金斯说，对一个愚蠢视频的严厉惩罚似乎不公平。她想知道，为什么谷歌不能在切断她所有账户的访问权限和10多年的数字记忆之前给她一个警告。

　　一个多月来，沃特金斯试图改变公司的想法，但都失败了，于是他联系了《纽约时报》。在一位记者询问她的案件一天后，她的谷歌账户恢复了。

　　该公司在一份声明中表示:“我们不希望我们的平台被用来危害或剥削儿童，人们普遍要求互联网平台采取最坚决的行动来发现和防止儿童性侵材料。”“在这种情况下，我们理解违规内容不是恶意上传的。”除了给时报记者发电子邮件之外，该公司没有回应如何进一步拒绝上诉。

　　斯坦福大学(Stanford University)网络政策中心(Cyber Policy Center)研究员戴夫·威尔纳(Dave Willner)曾在几家大型科技公司从事信任和安全方面的工作，他说，谷歌在试图裁决这类上诉方面处境艰难。即使照片或视频的来源是无辜的，它也可能被恶意分享。

　　“恋童癖者会分享父母无害地拍摄的照片，或者把它们收藏起来，因为他们只想看到裸体的孩子，”威尔纳说。

　　另一个挑战是谷歌标记的潜在剥削性内容的绝对数量。

　　威尔纳说:“在这种规模上，价值判断是一个非常、非常难以解决的问题。”“他们每年要做数十万甚至数百万个决定。当你掷那么多次骰子时，你会滚动蛇眼。”

　　他说，沃特金斯在无法访问谷歌后的挣扎是“扩展你的数字生活的一个很好的理由”，不要依赖一家公司提供这么多服务。

　　沃特金斯从这次经历中得到了不同的教训:父母不应该用自己的谷歌账户来管理孩子的互联网活动，而应该为孩子设立一个专用账户——谷歌鼓励这种选择。

　　她还没有为她的双胞胎开设这样一个账户。他们现在被禁止上网。

　　本文最初发表于《纽约时报》。

　　Written by:克什米尔·希尔

　　摄影:Adam Ferguson

　　?2023纽约时报