标题党、色情、暴力、虚假信息、谩骂、人肉搜索等违法违规现象，一直都是互联网内容信息传播治理的难题。特别是在自媒体平台，网民发布的音视频、文字和图片等信息，鱼龙混杂，对网络安全、未成年人权利保护、其他人合法权益和社会公共秩序造成了巨大隐患。

　　“反低俗”之所以成为世界性难题，主要原因在于流量经济的影响，一方面，个别信息发布者和平台需要低俗信息吸引流量获利；另一方面，低俗内容与违法内容不同，监管者很难作出直接有效的判定，同时，自媒体上传信息庞杂，不可能完全依靠人工完成审核。

　　从这个角度看，低俗内容治理的核心抓手在平台。首先，平台应主动承担包括法律责任、社会责任和道德责任在内的主体责任，不能以低俗换流量，需要有壮士断腕自我监管的勇气。其次，算法监管需要创新。每天自媒体上传的各类信息数以千万计，人工审核是不可能完成这项任务的，这就需要人工智能+算法的审核、推送、拣选、屏蔽等技术要跟上网络发展规模。最后，人工智能算法判断的模型很重要，但最重要的是给予人工智能足够量的数据，满足其学习的过程需求。

　　不少平台都在进行反低俗人工智能的研发应用。据笔者观察，今日头条“灵犬”模式通过几版的迭代，在网络内容监管上实现反低俗的创新值得点赞。“灵犬”源自头条反低俗模型，对文字、图片、链接等相关信息能够进行检测扫描。值得注意的是，这种扫描不仅是平台自我审核时使用，一般用户也可以对自己或他人发送的网络信息进行监测，以确定是否存在低俗情况。

　　“灵犬”系统的自我检测所起到的作用非常有意义。其一，用户通过检测自己上传的内容，能够对内容健康合法性作出整体判断，避免因内容信息违规承担责任。其二，监测的结果有一定的分值，达到一定的分值才有可能被算法推荐给他人，才能被算法推上“热门”。用户通过自我检测、修改和完善，能够增加被推荐“热门”几率。这种不依靠标题党、低俗等“打擦边球”的方式上热门，而通过去低俗化被推荐的做法会成为引导网民文明表达的重要方式。其三，任何人都可以检测平台上的内容，用户通过检测他人信息得出分数，如果发现分值过低的情况，完全可以按照网络安全法赋予的权利依法举报信息发布者。从这个角度讲，“灵犬”系统让每个网民都成为网络监督者，将极大减少低俗内容的产生，客观呈现“人人为我，我为人人”的网络共享共治局面。

　　除了信息发布主体之外，对于网络评论、回复、转发等内容，“灵犬”人工智能也能够监测。按照国家网信办出台的《互联网跟帖评论管理规定》规定，评论、跟帖等内容也是网络内容安全重要组成方面。实践中，很多网络信息跟帖评论中广泛存在谩骂、色情、人肉搜索等违法违规信息，这块的监管不仅需要立法规定，还需要网络技术做好服务。“灵犬”监测的出现，会极大减少网络暴力和软色情的出现。

　　毫无疑问，“灵犬”3.0版本中增加的对标题党、图片、色情血腥等违规信息和文本链接的识别，将极大促进我国网络法治化和文明化进程。不过，短视频、网络广告等新技术新应用也已经广泛存在，希望下一个版本能够针对这些进行进一步的完善。

　　(作者系中国政法大学传播法研究中心副主任）