最近不少用户发现,在几个主流容平台上发布AI生成的图片或文字时,系统会自动添加“由AI生成”的标签。这个变化来得有点突然,但背后实有一系列政策推动。
事要从去年底国家网信办发布的《人工智能生成容管理办法(征求意见稿)》说起。
中明确要求,利用人工智能技术生成的容应当进行显著标识,防止误导众。随后,各大平台开始陆续上线自动识别和标注功能。
不过,真正让用户感到不便的,是标注之外的连带措施。有创作反映,自己用AI助完成的科普文章,因为被标注后流量大下降;还有人因为使用AI生成的头像,被平台以“疑似虚假信息”为由限制账号功能。平台方面解释,这是为了落实“标识+审核”的双重机制,但体执行中尺度不一,引发了不少争议。
更值得注的是,部分平台悄悄更新了用户协议,删除了过去“无理由删除”的条款,改为“对于无法核实来源或可能造成混淆的容,平台有权采取限制措施”。这意味着,AI生成容一旦被误判,申诉流程会比以前更复杂。
从球范围看,欧盟的《人工智能法案》也要求高风险AI系统在输出时进行标注,但体到社交平台的容审核,各国仍在摸索。国这次动作算是比较快的,但如何在保护众知权和避过度限制创作自由之间找到平衡,恐怕还需要更多实践。
号外小结:技术跑得比规则快,这是常态。但规则落地时的“一刀切”往往伤及无辜,尤是那些把AI当工而非噱头的普通用户。接下来几个月,各平台的体执行细则值得盯紧。