要解决的问题
AI驱动的摄像头和客户分析系统越来越多地按外貌给人们打标签——性别、年龄,甚至“危险”——并在未经同意的情况下使用这些数据。电通实验室东京和Qosmo想要质疑这个世界,并给人们提供一种实用、日常的防御手段来对抗机器打标签。
创意是什么
让隐私可穿戴:印有“对抗性补丁”迷彩的服装,使AI监控和分析模型无法识别穿着者。
如何实现
团队生成了基于YOLOv2物体检测模型的迷彩图案,诱导AI产生误判,然后推出了纺织品牌UNLABELED,并与街头服饰品牌NEXUSVII.将这些图案印在连帽衫、圆领运动衫、托特包和滑板上。2021年10月在涩谷PARCO举办的DESIGNART TOKYO期间开设了快闪店,让参观者站在摄像头前,亲眼看着AI无法识别他们。
产生的效果
这个项目把监控辩论带入了时尚领域——限量产品在涩谷PARCO展出并销售——并在ADFEST 2022上赢得了数字工艺莲花大奖,成为该地区最常被引用的设计对抗AI打标签的范例之一。
背景
AI驱动的监控摄像头和客户分析系统越来越多地按外貌给人们打标签——性别、年龄,甚至“危险”——并在未经同意的情况下使用这些数据。电通实验室东京和Qosmo想要质疑这个世界,他们选择了时尚作为媒介。
他们推出了纺织品牌UNLABELED,并基于“对抗性补丁”技术开发了迷彩图案,这种技术通过添加特定图案使AI识别模型对穿着者误判或漏检。他们与街头服饰品牌NEXUSVII.合作,将这些图案印在连帽衫、圆领运动衫、托特包和滑板上,并于2021年10月在涩谷PARCO的DESIGNART TOKYO期间开设了限时快闪店,参观者可以站在摄像头前,亲眼看着AI停止识别他们。
这个项目把数据隐私的争论变成了人们可以穿在身上、可以购买的东西,并在ADFEST 2022上赢得了数字工艺莲花大奖,因其通过创意与技术的融合挑战无休止的监控和打标签而受到赞誉。
为什么有效
时尚是日常穿戴的,因此对抗AI打标签的防御成为日常生活的一部分,而不是抗议标语。
通过让反监控产品变得真实且可穿戴——价格、快闪店和现场演示——这个想法证明了自己,而不是仅仅空谈隐私。
这些图案来自与庆应义塾大学计算创意实验室合作进行的真正的对抗性补丁研究,使产品具有真正的技术基础,而不只是视觉噱头。
现场演示——亲眼看着AI无法识别你——让抽象的威胁变得具体且难忘,无论是对于参观者还是评委。
可以借鉴什么
要让隐形的问题变得触手可及,就把防御变成产品:当对抗AI监控的答案是可穿戴的图案时,人们会同时体验到技术和问题本身。
后续
UNLABELED持续作为电通实验室关于隐私与监控的标志性声明,该作品在国际上展出和报道。ADFEST 2022数字工艺大奖使“对抗机器的迷彩”成为该地区创造性抵抗AI打标签的参考点,与NEXUSVII.的合作也将研究变成了可售卖的街头服饰产品。
从这里,追溯依据
参考来源
- ADFEST 2022 Lotus Awards winners announced ADFEST · adfest.com ·
- UNLABELED — Camouflage Against the Machines Dentsu Lab · dentsulab.com
- ADFEST 2022 Grand Prix works (Camouflage Against The Machines) PR EDGE · predge.jp ·
- Camouflage Against the Machines — clothes to protect ourselves from AI (DESIGNART TOKYO 2021 exhibition) ADWeb Magazine · adfwebmagazine.jp ·
- UNLABELED—Camouflage against the machines wins Grande at ADFEST 2022 Qosmo · old.qosmo.jp