智能审核真的可以确保网络安全吗?
发布网友
发布时间：2022-04-26 17:31
共2个回答
热心网友
时间：2023-10-17 13:48
不能的，在大数据时代下，只有将智能机审与人工审核相结合，才是企业进行网络内容安全审核的不二选择！
在过去10年间，我国内容安全审核业务在图像识别、语音识别等相关技术上取得的进步有目共睹，其技术已经逐渐渗透至安防、物联网、机器人、金融等相关领域。
移动化、碎片化、去中心化的内容生产方式对于平台的管理和审核提出了新的考验和要求。在这个过程中，大多互联网公司过度依赖AI的算法和机器审核，加之内容审核业务中存在大量文本类内容，自然语义理解可以有效的解决简单语义的筛查，但是结合上下文及时序事件存在的一些含沙射影的含义，AI审核却难以理解。时至今日，自然语义技术仍无法实现重大突破，主要原因在于计算机无法模拟人类语义的扩展性、联想性以及时序性等特点，这给内容安全审核带来了新的挑战。
今日头条作为其中的代表公司因内容合规问题前后已受罚4次，并关停内涵段子；凤凰网、快手、腾讯等公司均因内容审核问题遭到不同程度的处罚；而后，包括今日头条、快手在内的互联网公司开始进行搭建或者持续扩充千人级别以上的大型人工审核团队，目的就是为了筛选出AI审核所遗漏的内容。
除了文本审核这项当前应用较为广泛的技术，视频审核也是当下的热门内容安全审核业务，在视频审核方面，审核人员会根据相关内容不同，如：直播、短视频、个人上传的视频等等，逐一核查以画面与音频相组成的、且以帧为单位的画面，同时还审核音频中存在的暴恐、淫秽、甚至是音画不同步等问题。
当下，比较热门的几个短视频App，如：抖音、映客、快手等，对视频内容的审核往往通过AI审核的方式进大量的审核筛检。对于画面中存在的严重血腥、暴恐、*、*新闻等危害画面内容会优先被pass，而那些不以直接性的画面展示的内容仅仅靠AI审核却难以审查出来。
通常来说，内容违规大多存在于音、视、图、文四个方向，其审核识别方式都是通用的，只不过在审核时设定的策略及宽进程度不同，如图片的识别，可设定存有*，但不能*，也可设置存有只能人脸，但不能物体，拦截的宽紧程度需要人工来设定，对于大量的内容并发，则是需要大量人工通过机器辅助人工进行审核，而非机器单独进行全方位过滤。
因此，内容安全审核业务，对每个互联网企业来说可谓是任重道远，在大数据时代下，只有将智能机审与人工审核相结合，才是企业进行内容安全审核的不二选择！
热心网友
时间：2023-10-17 13:48
所以智能审核可以确保网络安全。
我们公司之前就用过文小宝的审核程序，之后把检测出的违规内容进行了一次删除，检测出了不少的违规内容。
