近日，滴滴性侵犯事件闹得沸沸扬扬。一直以来，性侵犯事件频发，已经成为不容忽视的社会问题。作案者不只是对女性下手，更有甚者，对儿童下手。
据报道，本周一，谷歌发布了一种免费的AI(人工智能)工具，其主要用途是帮助公司和组织识别互联网上的性侵犯(向非政府组织和行业伙伴免费提供这种技术)、裸露图片，特别是跟儿童有关的，从而导致相应犯罪率的下降。
谷歌宣布推出Content Safety API(内容安全应用程序界面)，这是个开发者工具包，能利用深层神经网络来处理图片以降低其对互联网用户的曝光度。技术免费的同时，谷歌也强调，这种AI人工智能技术能帮助审查人员识别出与无此技术相比多700%的黄色内容。
对于大型互联网企业来说，及时阻止儿童性虐待内容(CSAM)的传播是属于第一优先级的任务。但对于一线工作人员来说，这项工作是异常艰巨而困难的，必须要靠人类来识别并删除这些不良内容。
过去的类似工具往往只能阻止已经标记的不良内容的传播，而谷歌本次推出的AI软件利用谷歌在机器视觉方面的专业知识，通过对标记的图像和视频进行排序并“优先考虑最可能的CSAM内容以供审查”来协助人类。这样，工作人员将能够提高审查的效率。
互联网观察基金会(IWF)副首席执行官Fred Langford在接受采访时表示，“该软件将有助于我们这样的团队更有效地调配有限的资源。目前，我们只使用纯人力来进行内容审核，然后判断能不能通过。这款AI工具将有助于我们对审核内容进行分类。”
“迅速识别新图片意味着，那些遭到性侵犯的儿童被辨识出来的可能性变得大多了，有利于保护他们免受进一步的侵犯。”谷歌工程负责人Nikola Todorovic和产品经理Abhi Chaudhuri发布官方博文称。“我们通过Content Safety API工具包向非政府组织和行业伙伴免费提供这种技术，这个工具包旨在提高内容审查的能力以降低其曝光度。”
英国互联网观察基金会对谷歌开发这种工具表示赞赏。“我们——尤其是我们的专家分析师对这样一种人工智能工具的开发感到激动，这可以帮助我们的人类专家以更大的规模进行内容审查，跟上那些罪犯的脚步，找到那些此前并未被标记为非法内容的图片。”
互联网观察基金会首席执行官苏西·哈格里夫斯(Susie Hargreaves)发表声明称。“通过共享这种新技术，图片识别的速度可加快，这就能让互联网变成一个更加安全的地方。”
