近日,新华社《新华每日电讯》发表了题为《警惕“AI污染”乱象》的评论,文章深刻指出了生成式人工智能技术在带来便捷与创新的同时,也带引发了一些负面问题,特别是虚假信息的泛滥,引发了社会各界的广泛关注。
“AI污染”主要表现为AI生成、伪造或篡改文本、图片、音频和视频,产生大量粗制滥造、真假难辨的“信息垃圾”,如此大量的虚假信息,不仅会导致公众认知困难,扭曲了人们对于科学共识的理解,还可能诱使个人身份信息泄露,严重侵犯个人隐私权。“AI污染”不仅损害了网民的利益,更对整个互联网的生态平衡造成了严重威胁。
互联网广告行业近年来发展迅速,市场规模不断扩大。2023年,中国互联网广告行业市场规模已达到约5732亿元。随着移动互联网用户的持续增长、用户黏性的提高以及数字化进程的推进,互联网广告市场有望继续扩大。然而,“AI污染”却成为这一行业健康发展的一个潜在威胁,是时候要正视AI生成技术了。
“AI污染”对于互联网广告行业的负面影响是多方面的。首先,它降低了广告信息的可信程度,使消费者对于广告产生怀疑,从而进一步影响广告的转化效果。其次,AI生成的虚假广告扰乱了市场竞争秩序,破坏了公平的竞争环境。最后,“AI污染”还会使消费者面临信息过载与选择困难的问题,使其在大量信息面前无所适从,容易被虚假信息迷惑。
针对这一严峻现象,新华社在《警惕“AI污染”乱象》一中建议到:
·应加大对AI学习和生成机制的源头治理。
明确AI平台对源头素材的把控责任和对生成内容的监管责任,完善AI内容生成规则,强制对AI生成内容打上显著标识,提升AI技术的透明度和可解释性。
·加强对AI生成内容的筛查监管。
有关部门及企业需将监管重点放在对AI生成内容的筛查及审核上,可开发相关的审查算法,规范生成内容向舆论场的流入及传播途径,及时发现并删除低质量或虚假内容。
·提高用户对AI生成内容的辨别能力。
网民应理性对待互联网信息,增强防范意识和识别能力,可使用反向搜索工具,检查内容来源和作者信息,分析内容的语言和结构特征,从而鉴“伪”鉴“劣”。
此外,作为互联网广告从业者,还应加强自律,提高广告商和广告平台的合规意识。加强行业交流,共同推动互联网广告行业的健康发展。同时,作为消费者,也应当提高警惕,增强防范意识和辨别能力。在面对“眼花缭乱”的信息时,保持理性思考,不要轻信虚假宣传。可利用反向搜索工具、检查内容来源和作者信息等方式,对广告内容进行核实和验证,避免被虚假信息所误导。
AI的发展势不可挡,它为人类带来了前所未有的机遇,但同时,也成为了互联网广告行业面临的一个重要挑战。我们既要充分发挥AI的优势,又要高度重视其带来的问题,加强监管和治理,共同维护良好的网络生态环境。让我们共同努力,警惕“AI污染”乱象,共同营造一个清朗、可信的互联网广告环境。
(上文图片来源于无版权网站,如有疑问请联系删除)