点击下载助力海报 长按海报可保存至本地
返回大厅
数美科技某AI智能体内容风控解决方案案例
投票数量:67 票
投一票
助力海报
企业介绍 案例名称及介绍 需求痛点 案例创新点介绍
企业介绍
数美科技(北京数美时代科技有限公司)成立于 2015 年 6 月,是一家专业的在线业务风控解决方案提供商,为客户提供天网-全栈式智能业务风控和天净-全栈式智能内容风控两大核心产品,致力于解决在线业务中广泛存在的业务风险与内容风险,为企业数字化转型保驾护航。
数美科技的全栈式实时智能风控引擎已实现全球化AI SaaS多集群部署,覆盖中国大陆、欧洲、北美、东南亚、印度等十余个国家和地区,日均风控服务达40亿次以上。
天网,是数美科技结合多年黑产对抗经验打造的一款全栈式智能业务风控产品,旨在为客户解决营销欺诈、交易风控、数据盗爬、欺诈广告等风险问题,降本增效。
天净,是数美科技结合人工智能技术打造的一款全栈式智能内容风控产品,旨在为客户提供一站式的内容风控方案,帮助客户识别文本、图片、音频、视频、网页中出现的敏感、违禁、暴恐、色情、导流广告等内容,规避内容风险,提升运营效率。
公司总部位于北京,并在杭州、上海、深圳、广州设有研发中心和子公司。团队核心成员均来自百度、阿里、腾讯、360、小米等知名互联网企业,拥有10余年搜索、安全、语音等互联网在线产品研发经验。
数美科技拥有人工智能研究院、黑产研究院、舆情中心、政策研究中心等多个专家服务团队,为客户提供业务风控、内容生态治理相关的技术咨询、解决方案和专业服务,并携手中国信通院、中国科学技术大学等权威机构和院校,成立专项技术实验室,实现产学研用一体化。
目前,数美科技积累了讯飞星火、智谱AI、minimax、工商银行、银联、小红书、爱奇艺、等全球 3000 余家国内外知名企业的服务和客户成功经验,覆盖AIGC、社交、新零售、金融、航旅、音视频等十多个行业,被评为企业数字风控行业领军者。
公司当前已完成 D 轮融资,由 CPE、经纬中国、厚朴投资、腾讯、襄禾资本等知名机构联合投资。
案例介绍
一、客户简介:某社交型AI聊天产品,用户可以与AI(人工智能)技术创造的“智能体”实时交流、沉浸互动并建立情感羁绊的应用,一经上线,迅速获得用户青睐,目前用户体量已过百万。
二、场景痛点(1)产品迅速破圈,导致高危用户不断创建涉政话题,试探平台底线(2)由于产品的特殊性,违规数据中色情话题占比高达90%(3)区别于真人聊天,用户刚开始把AI当作问答工具,会涉及到历史、政治、网文相关话题,为了提升用户体验,需要区分敏感话题的正负向以及价值观指向的表述
三、解决方案
1. 1v1聊天渠道
(1)数美帮助设置禁发词匹配拦截策略,通过的内容再过数美,reject无法发送并提示重新输入。(2)AI同时生成4句,数美审核通过的内容择优发送用户,都拒绝会重新生成。
2. 孪生体、话题渠道
(1)话题创建同样禁发词匹配拦截策略,通过再由数美审核,reject则无法创建成功,采取柔性处置,提示重建话题(2)创建后仅自己可见,全过人审兜底和质量筛选,通过后可被其他用户搜索到,高质量话题会上热门。(4)高准确率与高召回并行策略,从源头控制风险。
四、 客户价值 : 没有人工干预的情况下,数美每天协助平台拦截300万条有害用户输入信息,1000万条AIGC生成的违规数据,准确率高达95%以上。
需求痛点
客户痛点(1)产品迅速破圈,导致高危用户不断创建涉政话题,试探平台底线(2)由于产品的特殊性,违规数据中色情话题占比高达90%(3)区别于真人聊天,用户刚开始把AI当作问答工具,会涉及到历史、政治、网文相关话题,为了提升用户体验,需要区分敏感话题的正负向表述以及问题背后的意图和价值观导向
案例创新点介绍
数美科技以领先的 AI 风控技术为 AIGC 行业提供覆盖全流程、全场景、全维度的内容风控解决方案。
对于该智能体AI社交客户,细化客户的场景需求,匹配不同场景的差异化内容风控策略
创新点:
(1)构建四级风险标签体系,准确定义风险,识别内容背后的意图和目的;
(2)利用数美研发多年且不断更迭的NLP模型、视觉模型等多模型策略,结合文本和视觉信息进行语义理解。使用对比学习等方法,将图像的语义特征与NLP模型对齐,对齐不同模态的语义空间,以提高识别的准确性。
(3)开发高准确性和适用性高 的敏感知识库内容,支持需要准确回答、正向引导和纠错回答的用户问题,如政治、历史等相关领域的问题。