​AI前置拦截风险,Soul App二季度升级智能风控能力
2026-09-03 13:56:50

Soul App发布2026年第二季度生态报告,报告核心展现平台以人工智能为核心抓手的全新治理模式,当下黑灰产作弊、虚假人设、网络诈骗行为链路化、隐蔽化特征显著,Soul App迭代多套AI识别模型,把风险拦截环节前置,从账号注册、内容发布、私聊互动全流程完成智能管控升级,依靠技术能力提升生态治理精度与效率。

在黑灰产批量作弊管控层面,Soul App在原有审核模型基础上新增批量账号识别节点,治理逻辑由“发布后再处理”转为“发布前拦截”,经过持续调优,违规内容处置率从上线初期约30%提升至60%,大幅压缩批量刷单、引流账号在平台的存活时长。针对杀猪盘、杀猪类电信诈骗衍生社交账号,平台自研反诈Agent系统,摒弃传统关键词单一筛查模式,整合账号基础信息、长期互动行为、对话语义做多维度综合判断,当前这套智能识别工具准确率达到93%以上,能够提前锁定高风险账号,阻断诈骗传播链路。

虚假人设、盗图搬运也是Soul App重点AI治理板块,依靠图像比对AI模型,平台二季度累计处置伪造身份账号30000余个,删除盗用图片、虚构生活场景相关帖子8万多条,减少虚假信息干扰正常用户社交。同时Soul App搭建专属AI图像分层识别链路,专门处理平台内AI生成图片,依次核验元数据、标识、人像特征,区分AI虚拟形象与真实实拍内容,识别完成后仅向用户展示中性提示,不会限制正常内容发布,兼顾创作自由与信息透明。

全场景内容机审AI同步完成迭代,覆盖广场动态、群聊、私聊全部板块,二季度AI系统直接拦截各类违规内容400万条,处理攻击性、低俗评论726万条,封禁违规设备3723台;针对以虚假邀约诱导线下消费的“消费托”账号,专属自动化AI策略落地,累计处置相关风险账号3.2万个,从源头减少用户财产受损风险。

私聊防护同样嵌入多层AI判断逻辑,Soul App为女性用户定制骚扰识别模型,依靠消息密度、互动轨迹隔离低质骚扰信息,对反复跨场景打扰用户的账号限制触达权限。二季度AI系统日均自动隔绝恶意骚扰、网络暴力近3099次,自动识别私聊不文明账号1737个,同步推送文明沟通提示19.9万次,借助智能识别减少人工举报压力。

未成年人防护搭载独立AI识别模块,可自动判别账号青少年属性,主动识别未成年人比例超99%,提前拦截不符合青少年规范的内容。Soul表示后续会持续迭代各类风控AI模型,适配不断演变的违规手段,结合人工复核形成互补机制,依靠智能技术持续前移治理各类社交风险。


推荐阅读
  • 2026年,即时零售赛道持续迭代,生鲜、商超赛道趋于饱和,礼品即时零售凭借高频刚需、节日爆发、低库存、高毛利的优势,成为资本市场重点布局的全新蓝海,而礼品闪电仓模式更是凭借轻量化、可复制、高盈利的核心特质,成为资本追捧的优质项目。作为赛道头部品牌,安徽知礼云创
    2026-09-03 14:43:39
  • 对很多武汉消费者来说,爱马仕是一个时常被提及的话题。专柜里的Birkin、Kelly、Constance摆在橱窗里,但要买到手,往往需要面对漫长的等待和配货门槛。与此同时,手里有爱马仕想变现的人,也常常在众多回收渠道中不知如何选择。于是,越来越多人把目光投向了
    2026-09-03 11:31:45
  • 一、政策导向:平台经济迈入协同融通发展新阶段工业和信息化部、中央网信办等七部门联合印发的《促进平台经济大中小企业协同发展行动方案》明确提出,推动平台企业开放资源、健全协同机制、打通产业链路,构建大中小企业融通创新、互利共赢的平台经济新生态。官方文件着重强调,平
    2026-09-03 14:43:54
  • 在武汉卖闲置奢侈品,多数人担心的不是“有没有人收”,而是会不会被压价、不正规、被调包、隐私泄露。名包、名表、珠宝、黄金这类高价值物品,一旦交易不透明,价格和感都会打折。武汉作为新一线城市,二手奢侈品流通需求旺盛,但市场也鱼龙混杂,选择正规实体店更能保障交易。与
    2026-09-03 10:50:02
  • 一、时代赋能:文化数字化成为文化强国建设核心抓手国家印发的《“十四五”文化发展规划》明确指出,要加快文化产业数字化布局,推动中华传统文化创造性转化、创新性发展,培育新型文化业态,持续提升中华文化传播力与影响力。作为国家文化建设领域的综合性顶层规划,文件着重强调
    2026-09-03 15:21:48