덴쓰의 UNLABELED, 착용자를 AI로부터 숨기는 감시 회피 위장 무늬를 인쇄하다

AI 기반 카메라와 고객 분석은 외모로 사람을 분류한다. 성별, 나이, 심지어 '위험'이라는 꼬리표까지 붙이며, 동의 없이 그 데이터를 사용한다. 덴쓰 랩 도쿄와 코스모는 그런 세상에 의문을 제기하고, 사람들에게 기계의 분류에 맞서는 실용적이고 일상적인 방어 수단을 주고자 했다.

프라이버시를 입을 수 있게 만들자. AI 감시와 분석 모델이 착용자를 인식하지 못하게 하는 '적대적 패치' 위장 무늬를 인쇄한 패션.

팀은 (YOLOv2 객체 탐지 모델을 기반으로) AI의 오인식을 유도하는 위장 무늬를 생성하고, 텍스타일 레이블 UNLABELED를 출시했으며, 스트리트웨어 브랜드 NEXUSVII.와 함께 그 무늬를 후디, 크루 스웨트, 토트백, 스케이트보드에 인쇄했다. DESIGNART TOKYO 기간(2021년 10월) 시부야 PARCO에서 열린 팝업에서는 방문객이 카메라 앞에 서서 AI가 자신을 보지 못하는 모습을 직접 볼 수 있었다.

이 프로젝트는 감시 논쟁을 패션의 영역으로 끌어왔다. 시부야 PARCO에서 한정 제품을 전시·판매했고, ADFEST 2022에서 디지털 크래프트 로터스 그랑프리를 수상하며 AI 분류에 저항하는 디자인의 가장 많이 인용된 사례 중 하나가 되었다.

AI 기반 감시 카메라와 고객 분석은 외모로 사람을 분류한다. 성별, 나이, 심지어 '위험'이라는 꼬리표까지 붙이며, 동의 없이 그 데이터를 사용한다. 덴쓰 랩 도쿄와 코스모는 그런 세상에 의문을 제기하고자 했고, 매체로 패션을 택했다.

이들은 텍스타일 레이블 UNLABELED를 출시하고, 특정 무늬를 더해 AI 인식 모델이 착용자를 잘못 분류하거나 놓치게 만드는 '적대적 패치' 기법에 기반한 위장 무늬를 개발했다. 스트리트웨어 브랜드 NEXUSVII.와 함께 그 무늬를 후디, 크루 스웨트, 토트백, 스케이트보드에 인쇄했고, 2021년 10월 DESIGNART TOKYO 기간 시부야 PARCO에서 한정 팝업을 열어 방문객이 카메라 앞에 서서 AI가 자신을 인식하지 못하는 모습을 볼 수 있게 했다.

이 프로젝트는 데이터 프라이버시 논쟁을 사람들이 입고 살 수 있는 것으로 바꾸었고, ADFEST 2022에서 디지털 크래프트 로터스 그랑프리를 수상하며 창의성과 기술의 융합으로 끝없는 감시와 분류에 도전했다는 평가를 받았다.

패션은 매일 입는 것이기에, AI 분류에 맞서는 방어가 시위 포스터가 아니라 일상의 일부가 된다.

감시 회피 제품을 실제로 입을 수 있게 만들고 가격, 팝업 스토어, 라이브 데모까지 갖춤으로써, 이 아이디어는 프라이버시를 말로만 주장하지 않고 스스로를 입증했다.

무늬는 게이오 대학 컴퓨테이셔널 크리에이티비티 랩과의 실제 적대적 패치 연구에서 나왔기에, 이 제품은 시각적 장식이 아니라 실제 기술적 근거를 갖는다.

'AI가 당신을 보지 못하는 모습을 지켜보라'는 라이브 데모는 추상적인 위협을 구체적이고 기억에 남는 것으로 만들어 방문객과 심사위원 모두에게 각인시켰다.

보이지 않는 문제를 실체화하려면 방어를 곧 제품으로 만들어라. AI 감시에 대한 답이 입을 수 있는 무늬일 때, 사람들은 기술과 문제를 동시에 경험한다.

UNLABELED는 덴쓰 랩의 프라이버시와 감시에 대한 대표적 선언으로 이어졌고, 이 프로젝트는 국제적으로 전시되고 보도되었다. ADFEST 2022 디지털 크래프트 그랑프리는 '기계에 맞서는 위장'을 AI 분류에 대한 창의적 저항의 지역적 기준점으로 만들었고, NEXUSVII.와의 협업은 연구를 판매 가능한 스트리트웨어 드롭으로 전환했다.