档案库 · 产品创意 · 产品决策 · 2025
Movistar的游戏守卫Discord机器人捕捉在游戏中假装儿童声音的成年人
Movistar构建了一个免费的Discord机器人，可以检测AI克隆的儿童声音，并实时提醒版主和家长，而不仅仅是警告他们。
Movistar
当时的题目
Artificial intelligence lets adults clone children's voices, so predators can join gaming voice chats sounding like kids — practically undetectable by parents or moderators. Movistar Argentina, the internet provider many young gamers use, wanted to protect children rather than just broadcast warnings about the new threat.
它是怎么成立的
语音克隆AI给在线猥亵者提供了新掩护：成年人可以在游戏语音聊天中听起来像孩子，超出父母或版主靠耳朵能察觉的范围。Movistar阿根廷和VML Argentina选择不拍另一部警告片，而是自己构建保护——一个免费工具，听出人类听不出的东西。
游戏守卫作为Discord机器人运作，有三个平行系统：检测由领先的语音模拟平台生成的语音，一个在猥亵模式（如询问年龄、位置或索要照片）上训练过的语言模型，以及对话的连续转录。当系统一致认为声音是伪造时，会提醒版主；在三次连续危险信号后，父母会收到包含完整文字记录的电子邮件，即使他们不在场。
发布时直接对父母展示：他们听到像孩子的声音，然后才知道那是AI克隆。在正式服务器的早期运行中，记录了超过4500名受保护的玩家，72次自动警报和14起升级到版主的活跃案件。发布五个月后，该工具赢得超过50项行业奖项，包括2025年伊比利亚美洲之眼的三项金奖和四项银奖。
妙在哪
- 一个功能性的机器人给了家庭一些可做的事，而不是仅仅害怕的东西。
- 对真实语音克隆平台和猥亵语言进行检测训练，使该工具具体而非象征性。
- 提醒版主并给父母发送文字记录，围绕每个孩子建立了保护网络。
- 揭示体验将抽象的AI威胁转化为父母在一分钟内感受到的东西。
做出来什么
In its first months on live Discord servers, the tool protected more than 4,500 players, issued 72 automated alerts, enabled moderator action on 14 active cases and registered 453 emergency contacts. Within five months of launch it had gathered more than 50 industry awards, including three Golds and four Silvers at El Ojo de Iberoamérica 2025 and a Grand Prix at the Diente awards.
可以借走的
一个品牌可以解决无法仅靠说教消除的恐惧：通过把AI从掠夺者的工具变成父母的工具，Movistar让儿童安全成为一种可安装的社区功能，而不是被观看的讯息。
后来
游戏守卫在Discord上保持免费并向全球提供，Movistar阿根廷将其塑造成其作为年轻玩家安全连接守护者的角色证明。VML团队描述它是第一个针对AI辅助猥亵的语音屏障，该工具的获奖历程——以2025年伊比利亚美洲之眼的三项金奖和四项银奖收尾——使其成为当年拉丁美洲最具创意的想法之一。
资料来源
- Game Guardian – Case Study
- El éxito de 'Game Guardian', la herramienta de IA creada por VML Argentina y Movistar para combatir el grooming
发现哪里写错了？告诉我们。
轮到你了
你刚读完一个点子。把你手上的题目说出来，看看谁接过同样的题。
免费账号 · 3 次免费提问 · 不用绑卡