今日头条将上线国内首款反低俗信息小程序“灵犬”

[复制链接]
查看: 2653|回复: 5
  • 萌哒
    2018-11-19 14:03
  • 发表于 2019-1-23 10:46:14 | 显示全部楼层 |阅读模式

    马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

    您需要 登录 才可以下载或查看,没有帐号?立即注册

    x
    3月27日,今日头条出品的一款名为“灵犬”的微信小程序,正式结束了为时两个月的内测期。“灵犬”本周内正式上线,这是国内首款反低俗信息小程序。
    这款小程序脱胎于今日头条反低俗算法模型,用于鉴定低俗信息。用户可以将文字或者文章链接放置到搜索框内,即可查询该条信息的健康程度。
    不过,在文字检测上,“灵犬”团队规定,用户输入的字数必须超过10个字,才能进行检测。
    为此,“灵犬”团队给出了解释:用户给的上下文、语境等信息越充分,机器判断的准确度就会越高。
    有参与内测的用户曾经在“灵犬”上检测了“你饿不饿我下面给你吃”几个字,数据显示,该内容健康指数为51%。昨天,刺猬君再次检测,该内容的指数为56%。
    092307cbgo8gai88uwbllo.jpg
    “灵犬”团队解释说,不同于色情信息,处理低俗信息的一个难点在于,人们对于低俗的判断标准具有一定的主观性。色情信息很直接,低俗信息偏隐晦,对于像“灵犬”这种机器就更难了。
    今日头条的做法是,把低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。
    那么,在算法机制机制背后,“灵犬”是如何判断一段文字或网址链接为低俗呢?
    “灵犬”团队给出的解释是,算法模型处理低俗内容,有一条最常见的路径:“收集数据-标注样本-训练模型”。
    对于用户输入的文字或链接,“灵犬”会先进行提取、分词和语义识别,然后根据设定的规则,输出对应的分数、评级和结论。
    不过,测试员将带图片和视频的链接进行测试时,检测效果并不太好。
    “灵犬”团队给出的解释是:因为图片、视频提取需要较长的时间,返回结果较慢,考虑到工具的即时性,暂时还不支持检测。
    “灵犬”的诞生,将被纳入到今日头条内容审核体系中,它与今日头条内容审核机制是一条“犬”和一支“工作犬部队”的关系。可以理解为,“灵犬”是头条审核机制中反低俗部分的一个简化版本。
    据了解,在内容审核方面,今日头条目前投入了4000多人专业审核团队。
    “灵犬”团队对外称,这是国内最大的审核团队,并搭建色情、低俗、标题党、虚假信息、低质模型180多个,结合人工、技术手段,有效提升了内容审核的效率和准确度。
    其实,今日头条在去年就谋划这件事情了,在今年1月底,“灵犬”团队曾面向全社会招募反低俗测试员,最终从超过5000位报名用户,选出了30位代表,包括政府部门工作人员,媒体记者、编辑,大学教授、学生,互联网公司产品经理和技术人员,自媒体人等。
    在内测阶段,“灵犬”团队根据测试员的意见反馈,增加了大量人工策略,帮助完善“灵犬”小程序。增加的策略包括:对于权威媒体报道和诗词类内容,予以算法推荐倾斜;对于时政等机器难以直接处理的内容,必须交由人工审核判断。
    发表于 2019-1-30 17:38:56 | 显示全部楼层
    确实是难得好帖啊,顶先
    回复

    使用道具 举报

    rx8

    发表于 2019-2-4 01:26:11 | 显示全部楼层
    我只是路过打酱油的
    回复

    使用道具 举报

    发表于 前天 20:45 | 显示全部楼层
    额,看不懂在说神马~@_@
    回复

    使用道具 举报

    发表于 昨天 03:17 | 显示全部楼层
    珍惜生命,果断回帖。
    回复

    使用道具 举报

    发表于 昨天 05:41 | 显示全部楼层
    回的人少,我来小顶一下
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

     
     
    技术支持
    在线客服
    售后交流群瑞恩社区™售后</font><br><span>交流
    工作时间:
    8:00-18:00
    客服热线:
    15368564009
    微信扫一扫
    返回顶部 关注微信 下载APP 返回列表