腾讯安全保障 AIGC全链路内容安全已经多场景应用实践

发布时间：2023-06-20 11:09:57 所属栏目：动态来源：

导读：近日腾讯云公司披露智能行业大数据治理模型研发方案实施进展，正式公布 MaaS（Model-as-a-Service）能力全景图，助力企业打造专属的行业大模型。在安全保障方面，腾讯云在问题侧、模型侧、答案侧三个层面进行敏感信息

近日腾讯云公司披露智能行业大数据治理模型研发方案实施进展，正式公布 MaaS（Model-as-a-Service）能力全景图，助力企业打造专属的行业大模型。在安全保障方面，腾讯云在问题侧、模型侧、答案侧三个层面进行敏感信息过滤和规避。同时,基于二十余年腾讯安全经验和天御大数据能力，为 AIGC提供全链路内容安全解决方案,保障大模型可信、可靠、可应用。

腾讯安全依托过去 20 多年的安全运营经验，积累了万亿级的违规样本以及十几种定制识别服务，可以结合行业场景，为企业的内容安全建设“量体裁衣”。此外，腾讯安全天御风控还和对象存储、云直播、云点播、实时影视频等云上工具打通，企业在云上一次接入，即可完成全套内容安全审核，大幅提升效率。

AIGC 带来丰富创造力的同时，也带来了全新的内容安全挑战。相对过去以 PGC、UGC 为主的内容，AIGC 时代的内容安全内涵与外延均有显著变化。今年 4 月，国家网信办发布的《生成式人工智能服务管理办法（征求意见稿）》在暴政恐违禁、防止歧视、版权保护、虚假信息防范、个人隐私保护等方面均有明确要求。

据了解，腾讯安全 AIGC 全链路内容安全解决方案，提供包含审校服务、安全专家服务、机器审核服务、版权保护服务四大能力板块，覆盖 AIGC 类应用从模型训练到内容生成再到事后运营全过程的内容安全建设。

AIGC 内容安全新挑战不仅体现在“天文级”的数据体量，处理的内容也更加复杂。以模型阶段为例，除了典型的特征标注外，对标注文本的通顺度、逻辑性、连贯性也有较高要求。在内容生成阶段，新型 AI 伪造、虚假、违背伦理、不实内容、未成年人等违规内容，以及 AI 问答产生专业性内容，都超出传统内容风控的范畴。

AIGC 的快速发展也引发了黑灰产的新一轮的攻击，利用 AI 换脸、批量生成版权内容套现获利。对此，腾讯安全做了专项优化，在 AIGC 引发的版权保护难题上，腾讯安全基于版权资产统一 ID 库，助力企业进行版权原创性筛查；此外，腾讯安全还提供“检测、比对、维权”的全链路版权保护服务。腾讯安全从 2019 年 9 月起，对B站平台上 UP 主上传的原创视频进行版权监测服务，累计监测作品 500 余万部，累计发现侵权链接近 3000 万条，发起维权近百万次，维权成功率达 98%。近百万次，维权成功率达98%。其中包括大量知名up主的作品。同时，上海哔哩哔哩动漫游戏事业部也积极参与到这项工作中，与up主共同制定相关规范，保护up主合法权益。

（编辑：驾考网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!