TikTok将开始对使用人工智能创建且从外部平台上传的内容进行标注,以打击虚假信息的传播。
“人工智能带来了令人难以置信的创作机会,但如果观众不知道内容是由人工智能生成的,可能会产生困惑或误导,”TikTok在周四的一份声明中表示,“标注有助于明确这种背景——这就是为什么我们标注了使用TikTok AI特效制作的AIGC(AI生成内容),并且一年多来一直要求创作者标注真实的AIGC。”
TikTok的政策变化,是科技行业为AI使用提供更多保障措施的更广泛尝试的一部分。
今年2月,Meta宣布正在与行业合作伙伴合作制定技术标准,以便更容易识别由人工智能工具生成的图像,并最终扩展到视频和音频的识别。届时,Facebook和Instagram上的用户将会看到AI生成的图像标签。
谷歌去年就曾表示,AI标签将会在YouTube及其他的平台上推出。
至于TikTok,也正在与内容出处和真实性联盟(Coalition for Content Provenance and Authenticity)合作,并使用其内容凭证技术。
TikTok表示,这项技术可以将元数据附加到内容中,然后利用元数据即时识别和标记人工智能生成的内容。同时表示,其已经开始在图片和视频上部署这项技术,未来也会应用到纯音频内容上。
未来几个月,TikTok 上的内容将附加内容凭证,下载后内容凭证将保留在内容上。这将有助于识别在TikTok上制作的AI生成材料,并帮助人们了解内容的制作或编辑时间、地点和方式。采用内容凭证的其他平台也能够自动标注这些内容。
“使用内容凭证作为直接识别和传达合成媒体给观众的一种方式,是向AI透明性迈出的重要一步,甚至比典型的水印技术更具意义。”人工智能合作伙伴组织人工智能和媒体诚信项目负责人克莱尔·莱博维茨 (Claire Leibowicz) 在一份声明中这样表示,“同时,我们需要更好地了解用户对这些标签的反应,并希望TikTok能够报告反馈,以便我们更好地理解公众如何应对人工智能日益增强的世界。”
TikTok表示,它是第一个将内容凭证付诸实践的视频分享平台,并将加入Adobe主导的内容真实性计划,以推动业内凭证的采用。
TikTok过去的政策,是鼓励用户标注由AI生成或大量编辑的内容。它还要求用户标注所有包含真实图像、音频和视频的AI生成内容。
对此,TikTok运营与信任安全主管Adam Presser接受外媒采访时表示:“我们希望确保人们能够理解什么是事实,什么是虚构。”