我们要如何应对多语言内容风险？
文/修理
出海，对于不少厂商来说，正在从可选性变成必选项。
据 AppAnnie 和 Google 联合发布的《2021年移动游戏出海洞察报告》数据显示，在2021年上半年，中国移动游戏在海外下载量17亿次，海外用户在中国移动游戏上的支出同比增长47%，达80亿美元，占海外移动游戏市场份额的23%。
除了品类赛道、产品设计外，决定一款产品在海外能否取得成功的要素还有很多。其中最绕不开的一步，就是本地化运营。不仅产品协议要符合当地法律法规、审查政策外，产品内容也要避开当地文化、宗教的敏感点。
谷歌每年至少花费4亿美元用来支付审核团队薪水，其旗下视频网站拥有机器审核系统以及1万人以上的人工审核团队，足见谷歌对内容风险的重视程度。如果对敏感违规内容放任不管，会对品牌形象与用户留存造成影响，继而对中长期的商业化变现不利。
这些违规内容的数量非常庞大，不容忽视。根据谷歌透明度报告，在2021年Q3，旗下视频网站623万个视频被移除，与涉毒、涉赌、涉黄、涉暴、儿童安全直接相关的达到80%以上；11亿条被移除的评论含有风险问题，其中涉及儿童安全的达1.7亿条。
而安全问题如果不妥善处理，也许都不只是用户流失的问题。今年1月，月活达到5亿的某知名国外社交应用，就因为极端分子可以不受阻碍地传播仇恨言论与策划攻击，被德国内政部长点名警告，产品未来在德国可能会因此被禁用。
另一方面，应用商店也会根据当地监管政策要求，主动下架有内容风险的应用。2021年初，美国某新锐社交应用，涉嫌被用来策划和组织2021年美国国会山事件，在苹果要求其更新内容审核政策未果后，应用被App Store下架3个月之久，该公司的前任CEO也因此被董事会解雇。
除了以上敏感问题外，游戏行业拉人广告已是普遍痛点，结合各类变体内容，聊天窗口各种公会拉人广告层出不穷。花费高成本获得的优质新用户尚未具备粘性，竞品却能花费极低代价引流。在出海场景，拉人广告经常使用WhatsApp作为联系方式，包括各种“WhatsApp”的变体。类比国内，如“微信”的变体“vx”、火星文“咖莪嶶信”等等。
人工审核？成本太高。敏感词审核？有点老旧了。在如今，不少产品的社交部分都开始支持图片、语音、视频等功能，传统的敏感词库审核机制鞭长莫及，哪怕是文字内容也在用户各种魔改中变得难以判断。
但有需求，就会有解法。出海环境开始成熟的标志之一，就是上下产业链、配套服务越发完善。
最近，葡萄君注意到云上曲率这家内容审核服务商。据悉，其深度合作客户包括FunPlus、赤子城、Holla、LiveU、TT语音、绿洲游戏、中手游、盖娅互娱等等。
云上曲率向葡萄君表示，为了全面适配出海场景，云上曲率支持包括中文、英语、日语、韩语、泰语、印尼、越南、马来语、阿拉伯语、西班牙语、德语、法语等语言种类，能够实时检测涉黄、涉暴、谩骂、种族歧视、仇恨言论、儿童安全等违规内容。是国内第一家支持24种语言的内容审核服务商。
而其自主研发的多语言智能内容审核已覆盖文本、图片、音频、视频四种内容形式，可以满足不同场景需求。
文本审核
据云上曲率介绍，他们的文本审核已支持以下数种文字变体：
字母、单词替换（用0代替o，a$$代替ass）
重复字母（F**kking）
符号插入（F$$uc$$k）
字母缩写与省略（milf，wtf，whatapp）
字母变体（????ǚçⓀ）
隐晦表达（concha de la lora ，西班牙语，直译鹦鹉贝壳，真正含义为motherf**ker）
中文形近字、同音字
并会重点关注国内外主流社交账号、链接与URL检测、隐私信息的检测。比如说当某个主流社交账号高频率异常出现，很可能就正在拉人广告、非法交易、网络诈骗等。而隐私信息检测则将减少未成年人泄露家庭住址、重要账号密码等个人信息的可能。
图片审核
云上曲率基于深度学习的图片检测技术，融合了多个算法模型。会对违规图片内容进行多模型判断，避免漏检与误伤。
而图片审核除了适用于图片、未成年人、二维码、OCR识别等常规场景，在画中画、马赛克、头像小图、角度偏移、敏感部位边缘露出、多肤色、广告法等复杂场景中，同样具备精准识别的能力。
音频审核
针对游戏内的语音消息、语音房、直播等功能，云上曲率可以分别对发声类型检测与说话内容进行审核。通过融合端到端与帧级别声纹识别模型进行综合判断，对声音类型检测，主要关注敏感声纹以及未成年人发声检测；说话内容审核则支持24种语言，覆盖95%以上出海客户的需求。
视频审核
云上曲率在视频审核中融合了自动抽帧技术、图片与音频审核能力，覆盖视频通话、短视频社交、直播、点播视频等常见场景。
未成年保护专题解决方案
针对各国家和地区监管政策比较关注的未成年人问题，云上曲率推出了多语言未成年人保护方案。在内容侧，通过多语言内容审核阻断未成年人接触劣质与敏感内容；在用户侧，解决方案结合人脸识别、音色识别、多语言内容检测来识别未成年人。
50余种二级内容标签
多语言内容审核体系在经典敏感内容类别基础上划分至50余种二级标签。运营者可根据内容是否适合在自己的应用内展示，来决定这些二级标签的开启或关闭。二级标签体系支持新增定制，运营者可根据当地的风俗与禁忌制定个性化审核策略。
结语
在如今，对于出海游戏来说，敏感内容的审核可以说是如今本地化运营里的关键步骤。多语言智能审核解决方案，可以让用户增长免受敏感内容风险侵袭，并通过高质量的内容环境构建出一个负责任的品牌形象，最后实现长期的商业价值。
赛马娘干货 | 二次元机会 | 盲人MMO
再谈原神 | 中小团队难得要死 | 文明与征服
二次元用户分层｜专访莉莉丝 | 别倒着做产品
