电子报
电子报

观点:人工智能是虚假新闻的克星吗?

在我们身边永远不缺乏的就是误传和谣言,而这些“假新闻”的传播和治理引发了新闻传播界的思考和讨论……

 

宋建武(中国人民大学新闻学院教授、博士生导师)

人工智能是虚假新闻的“克星”


如何更好地掌握规律、制定规则,给算法提供正确指引,让人工智能能够更有效地甄别虚假和低俗内容并控制其传播,是当前业界和学界要重点研究的问题。


当前,甄别和控制网络虚假信息传播已经成为一个世界性话题。虚假信息不仅令我国网络空间深受其扰,一些西方国家也日益意识到它的危害。去年美国大选中,不同利益集团相互指责和控诉对方制造和传播虚假信息,吃相难看,颜面尽失。


虚假信息及低俗内容,在互联网环境中跨地域大规模快速传播的现象,主要出现在拥有海量用户的互联网应用平台产生以后。每个用户都可以在这个平台上发布信息,并在平台内部和平台之间快速传播信息。在一定的利益动机和社会心理机制作用下,一些平台用户试图发布虚假信息及低俗内容谋取各种利益。由于这类信息和内容往往流传甚快甚广,使得社会原有的甄别及防范机制难以及时做出反应。


对于这一新问题,有多种解决思路。比较传统的方法,诸如提高公众传播素养,更多发挥传统媒体把关功能,加大对虚假信息及低俗内容发布者的处罚力度,加重平台责任等。


互联网企业的反应,却是更多地借助技术手段。如脸谱推出“事实核查工具”,邀请用户通过下拉菜单将他们看到的可疑新闻报道在该平台上进行标记。第三方事实核查人员随后分析标出的报道,并判定其为真实报道还是虚假新闻;谷歌新闻实验室发起成立了一个名为“FDN”的新闻学术和技术联盟,研究方向主要是社交媒体新闻的原创判断和真实性认证。我国的互联网平台也作出了多方努力。例如,北京字节跳动科技公司在“今日头条”平台上,依靠人工智能技术,模仿人脑机制,对低俗图片的拦截率较之前纯人工拦截提高了73.71%;针对“标题党”现象,一些网站构建了“人工+机器”的模式构建防火墙,对敏感词、标题党和虚假信息进行技术性拦截。


然而,一些业界人士担心人工智能无法处理复杂的价值判断问题,也有互联网人士认为算法没有价值观。其实,人工智能的算法本身就是根据特定领域的规律和规则制定的,在这些规律和规则中,就蕴含着价值选择与判断。在确立模型并不断学习之后,执行算法的机器完全能够具有超越人脑的能力,这在不久前围棋的人机大战中已经得以验证。


如何更好地掌握规律、制定规则,给算法提供正确指引,让人工智能能够更有效地甄别虚假和低俗内容并控制其传播,是当前业界和学界要重点研究的问题。


首先,我们需要更全面地梳理和分析产生虚假和低俗内容的利益结构和动机,分析各类利益主体制造和传播虚假及低俗内容的行为特点,如谋求政治利益和谋求经济利益的行为主体,在制造和传播虚假及低俗内容的行为方面有哪些异同。通过这些分析,为建立模型提供依据。


其次,可以通过对网络平台上虚假及低俗内容传播者生产的内容进行文本分析,对其传播行为进行跟踪研究,以掌握其心理特征及行为特征,支持识别模型的构建


此外,还可以通过对人们网络信息接收和接受的心理特征及行为的分析,建立模型,探索如何通过算法干预这一过程,阻断虚假及低俗内容的传播,减低其传播效果

原载于《 人民日报 》( 2017年03月23日 14 版)


郭全中(国家行政学院社会和文化教研部高级经济师)

人工智能靠的住吗?


从效果来看,人工智能的确是解决标题党和虚假新闻、低俗内容的好方法。就拿今日头条来说,其通过人工智能方法建立的标题党模型,据说对标题党拦截的成功率已达50%。不过笔者认为,人工智能再先进的技术也只是手段,要想从彻底解决标题党和内容低俗问题必须从其根本着手。


从标题党、低俗信息和假新闻产生的原因来看,就是门户为了拉流量而产生的。


上个世纪八十年代末九十年代初,随着经济社会的进一步发展,我国的传统媒体开始进入快速发展期,信息开始出现一定程度的过剩,一些自身能力不强的传统媒体为了抢占更多的市场,便开始采取“标题党”甚至低俗新闻的操作手法了。


到了门户网站时代,标题党、虚假与低俗新闻更是愈演愈烈。当1994年4月20日互联网正式进入我国之后,上个世纪末本世纪初,网易网、新浪网、搜狐网、腾讯网、凤凰网等门户网站相继成立,也迎来了我国门户网站发展的黄金时代。门户网站在给网民带来更多、更新鲜、更多元化信息的同时,海量的内容也带来了严重的信息过载,网民在信息严重过载的情况下,阅读习惯也从之前的沉浸式阅读转变为快餐式阅读,为了在最短的时间内吸引更多的网民阅读,门户网站只能在狭小的首页使出凝练标题的“十八般武艺”,“点开靠标题、转发靠内容”已经成为门户时代的“金科玉律”,“标题党”也自然成为全世界网媒的一道“独特风景”。


在国外,“标题党”的套路亦很深,美国传媒研究机构Poynter在深入研究了网络媒体的标题党行为之后,把这种行为分为“迷惑型”、“视觉诱惑型”、“好奇型”、“不是你想的那样型”、“分享诱导型”等五种,“为什么非洲的财富没有使非洲人变得更健康?”、“警察因为进行这样的殴打被指控”、《70个只有你妹妹才会知道的秘密》诸如此类的标题党现象也是随处可见。


而有些网络媒体尤其是自媒体,为了吸粉和吸睛,更是不惜抛出炮制虚假和低俗新闻的“大招”。根据人民网舆情监测室秘书长助理卢永春的研究,2016年上半年“假新闻”报道数量相比2015年同期有增无减,各媒介平台关于“假新闻”报道居高不下,而且2016年发生的“上海姑娘逃离江西农村”、东北农村“礼崩乐坏”报道、“安徽男子术后右肾丢失”事件等报道均引发阅读量超千万级甚至数亿级的网络热议,给舆论场带来较大的公信伤害。


门户网站的商业模式必然高度依赖“标题党”与低俗新闻。门户网站的主要收入是广告,采取的是“免费信息+点击广告”的商业模式,即通过海量的信息来吸引巨量的用户,再通过点击广告来实现自身商业价值的变现。具体说来,门户网站早期采取的计费方式是 CPM(千印象费用),即网上广告产生每1000个广告印象数的费用,这种方式按广告投放次数而非投放时间长度收费;后来又出现了 CPC(千人点击成本)模式,即以广告图形被点击并被连接到相关网址或详细内容页面 1000 次为基准的网络广告收费模式。此外还出现了CPA(每行动成本)和 CPR(每回应成本)等模式。但是无论哪种模式都是万变不离其宗,其本质都是:浏览的网民越多,网站点击量越多,获得的广告数量和收入就越多。显而易见,为了吸引更多的网民关注,进而增加网站点击量,“标题党”就是一条捷径。


在国外,“标题党”或“低俗新闻”也被归类为“click bait”(点击引诱)或“clickbait news”(点击引诱新闻)。当然,适度的“标题党”与低俗新闻也无伤大雅,但是由于门户网站要获得更多的经济利益,就必须想方设法获得更多的流量,这就导致一些门户网站演变为唯点击量,“标题党”、低俗新闻逐渐成“瘾”,进而不得不陷入标题党与低俗新闻的恶性循环中而不可自拔。事实上,门户网站商业模式和“标题党”、低俗新闻等互为表里,其商业模式的局限性天然地要求其必须采取“标题党”与低俗新闻模式,而“标题党”与低俗新闻等行为又会进一步强化其唯点击量的商业模式。


而这种标题党与低俗新闻等成瘾的现象给网民造成了较大的伤害,进而引起了相关主管部门的高度重视。不久前,北京市网信办针对新浪、搜狐、网易、凤凰、焦点5家网站乱改标题,歪曲新闻原意等“标题党”行为,现场对这5家违规网站开具行政处罚检查通知单,并且表示,将持续对这五家网站及网上“标题党”乱象展开执法检查,加大执法力度,必要时采取行政处罚手段。


门户网站很难解决“标题党”与低俗新闻的难题。门户网站囿于自身的技术短板以及高度依赖于流量变现的商业模式的制约,“标题党”与低俗新闻成为了其难以解开的死结。一方面,门户网站长期以来已经形成了成熟的流量变现的商业模式,这种路径依赖和惯性很难改变,如果想彻底改变不亚于是一场脱胎换骨式的“自我革命”,但是谁又愿意在尚能生存的情况下来“自我革命”呢?另一方面,门户网站的底层技术架构是基于PC互联网,其本质上也是服务于流量变现的,而要对这种底层技术架构进行改良式改造,其工程远远大于另起炉灶。尤其需要指出的是,门户网站在经历了十年的黄金发展期之后,其已经进入了快速下滑的衰落期,广告主都在寻找更好的互联网广告替代方式,其结果就是新浪等门户网站广告收入同比持续下滑,而要在这种情况下门户网站改变自身的商业模式无疑要具备刮骨疗伤般的勇气和魄力。


综上所述,“标题党”与低俗新闻盛行的根本原因就是门户网站长期以来赖以生存的唯点击量的商业模式,而要真正根治标题党等行为,就必须根据病因而对症下药,答案就是彻底重构和优化其商业模式。当然由于门户网站和“标题党”等行为互为表里,这种改革无异于一场“万里长征”!