本次内容审核服务系统评测基于《网络治理能力评估规范:第2部分-有害信息内容识别服务系统》,从内容识别系统的图像、文本、音频、视频的智能识别基础功能、性能两个维度对产品进行评测,并根据性能测试结果评定星级。其中,5星是本次评测的最高能力标准。
获得五星认证的难度相较往年有所提升。本次测评中增加了变体测试和对抗测试,同时测评样本来源也进行更新,极短音频、边缘图片等复杂场景增加,这对参与测评系统的内容识别精准性、识别策略灵活性也提出了更高的要求。腾讯安全天御内容风控系统在四大核心测评场景中均取得五星成绩,足见其在内容安全领域的能力优势。
腾讯安全天御内容风控解决方案依托腾讯20多年黑灰产攻防经验,以人工智能为核心,通过风控策略的灵活调度,打造覆盖图片、文本、音频、视频全内容形态的AI智能内容风控服务,为网络空间清朗保驾护航。
在内容识别样本维度,腾讯在多年产品运营过程中积累了万亿级违规样本,覆盖各个行业的数百种违规类型,并实时跟进监管要求,能够高效识别过滤涉黄、涉恐等违规内容;在底层算法维度,腾讯安全天御内容风控融合了数十种算法技术构建综合识别模型体系,避免单一模型误判,使机器审核识别准确率高达95%以上。
此外,随着风控标准和内容对抗形态升级,腾讯安全天御内容风控体系也紧跟企业需求迭代升级,配合精细化标签体系,并支持灵活的策略配置以适配不同的应用场景。
针对越来越多“语音转文字”的社交场景,如IM聊天消息、多人语音通话、语音聊天室等,天御内容风控体系在精准识别低俗语音等违规内容同时,还可借助语音识别(ASR)引擎,转译语音内容,通过文本内容风控系统,帮助用户进一步处理社交场景中产生的音频数据。
随着各内容平台多元功能和用户属性的演变,内容风控还涉及不同语种场景的分类检测。目前,天御音频审核系统在常见的普通话、英语外,还支持粤语、蒙语、藏语、维语、日语、韩语等语种及方言的语音内容识别,大大提升了音频审核覆盖的广度和深度,可有效应对新型对抗变异的内容形态。
资源交易、账号交易、虚假兼职等广告信息,往往混杂在海量真实信息中让人难以分辨,并通过多种手段如同音字转换、文字转拼音等生成对抗变异内容,规避机器审核。腾讯安全天御内容风控体系可分别提取内容形态中的关键元素,综合视、音、图、文审核能力进行识别过滤,对风险广告进行及时的应对和处理。
目前,腾讯安全天御风控已为1500+家平台提供内容安全服务,共计审核图片总量已突破3000亿条,累计拦截不良内容超5亿条,更多次参与护航重大展会、峰会的内容安全。未来,腾讯安全将持续打磨产品矩阵,构建领先的风控服务体系,坚定捍卫网络空间的美好。
腾讯安全正在护航产业安全
金融行业
中国银行 | 招商银行 | 华夏银行 | 中国建设银行 | 江苏银行 | 光大银行 | 微众银行 | 交通银行 | 富途 ……
交通行业
海航集团 | 祥鹏航空 | 长龙航空 | 电科航电 | 国铁吉讯 | 广汽集团 | 上汽集团 | 如祺出行 ……
零售行业
五粮液 | 张裕集团 | 东鹏特饮 | 可口可乐 | 雅诗兰黛 | 永辉超市 | 多点新鲜 | 优衣库 | 名创优品 | 孩子王 | 金拱门 | 中免集团……
互联网
同程艺龙 | 虎牙直播 | 唯品会 | 哔哩哔哩 | 快手 | 知乎 | 京东 | 顺丰 | 蘑菇街 | 三七互娱 | 完美世界 ……
智能制造
三一重工 | 宁德时代 | 富士康 | 中铁集团 | 中粮集团 | 华为 | 荣耀 | 小米 | OPPO | VIVO | 海尔 | 美的……
推荐站内搜索:最好用的开发软件、免费开源系统、渗透测试工具云盘下载、最新渗透测试资料、最新黑客工具下载……
还没有评论,来说两句吧...