오페라상 세레나타 지 아모르: 오픈소스 로지 AI, 브라질 의회 지출 감사

브라질 법은 의회 의원들의 환급 청구를 공개하도록 하지만, 하원은 매달 2만 건이 넘는 청구를 접수한다 — 시민, 언론인, 감사관이 손으로 확인하기에는 너무 많은 양이며, 바로 그 점이 남용이 빠져나간 경로였다.

오픈소스 AI가 브라질의 환급 규정을 학습하고, 모든 의회 청구를 스캔하며, 의심스러운 지출을 대중과 정치인 본인에게 트윗한다.

데이터 과학자 이리우 무스코프프(Irio Musskopf)는 2016년 9월 약 8만 헤알(R$)을 크라우드펀딩했고, 약 10명의 핵심 팀과 600명이 넘는 자원봉사자들이 서면 환급 규정을 소프트웨어로 전환했다. 오픈소스 머신러닝 봇인 로지(Rosie)는 바가지 씌운 식사나 한 의원이 동시에 두 도시에 있는 것으로 나타나는 청구 같은 이상 징후를 표시하며, 2017년부터 의심 사항을 트위터에 게시해 왔고, 자매 플랫폼 자르바스(Jarbas)는 누구나 웹사이트와 API를 통해 표시된 영수증을 열람하고 검증할 수 있게 한다.

2018년 초까지 9,000건이 넘는 환급 청구가 의심스러운 것으로 표시되었다. 로지는 2019년 말까지 967회 트윗했으며, 당시 단체 자체 연구에 따르면 로지 도입 이후 의회 식사 지출이 약 10% 감소했다. 보도는 브라질 최대 언론사를 포함해 90개가 넘는 매체에 이르렀다 — 그러나 집행은 여전히 약한 고리였고, 환급금을 돌려준 정치인은 수십 명에 그쳤다.

브라질 법은 이미 시민들에게 책임 추궁의 원자료를 제공했다: 연방 의회 의원이 청구한 모든 환급은 공개된다. 그러나 하원은 매달 2만 건이 넘는 청구를 처리하며, 데이터는 전문 용어로 가득한 빽빽한 공식 포털에 존재했다 — 그래서 실제로는 거의 아무도 그것을 감사하지 않았다. 2016년에 시작된 오페라상 세레나타 지 아모르는 그 투명성을 간헐적이 아니라 읽을 수 있고 지속적인 것으로 만들려는 시도였다.

이 프로젝트는 이야기의 매력에 사로잡힌 시민 해커들로부터 탄생했다: 이름은 공식 카드로 산 초콜릿 바 때문에 부총리 경력이 끝난 스웨덴의 '토블로론 사건', 세레나타 지 아모르라는 브라질 사탕, 그리고 브라질 연방경찰 작전들의 거창한 이름들을 말장난으로 엮은 것이다. 이리우 무스코프프가 아이디어를 공유했고, 크라우드펀딩 캠페인이 2016년 9월 약 8만 헤알을 모았으며, 600명이 넘는 자원봉사자들의 후원을 받은 약 10명의 팀이 환급 규정을 코드로 전환했다.

소프트웨어는 로지가 되었다. 모든 청구를 연구하고 비정상일 확률을 부여하는 오픈소스 머신러닝 애플리케이션으로, 예를 들어 바가지 씌운 식사나 한 의회 의원을 동시에 두 장소에 두는 영수증을 표시한다. 2017년부터 로지는 시민과 고발된 정치인 모두에게 말을 걸며 의심 사항을 트위터에 게시해 왔고, 자매 웹사이트이자 API인 자르바스는 흩어진 공식 데이터를 하나의 검색 가능한 대시보드로 모아 사람들이 각 경고를 직접 검증하거나 기각할 수 있게 한다.

숫자는 검사라기보다 억제력으로 작동한 도구를 보여준다: 2018년 초까지 9,000건이 넘는 환급이 표시되었고, 로지는 2019년 말까지 967회 트윗했으며, 단체의 연구에 따르면 로지 도입 이후 의회 의원들의 식사 지출이 약 10% 감소했다. 90개가 넘는 언론 매체가 이 프로젝트를 보도했지만, 실제 환급은 수십 건에 머물렀다 — 더 어려운 문제는 탐지가 아니라 시민이 만든 로봇이 찾아낸 것을 제도가 행동에 옮기게 하는 것임을 보여주는 증거다.

그것은 감시의 통상적인 논리를 뒤집었다: 스캔들을 기다리는 대신, 감시를 지속적이고 자동적이며 누구나 무료로 쓸 수 있게 만들었다.

환급 규정을 코드로 번역함으로써 규칙 자체를 검증 가능하게 만들었고, 프로젝트가 인간이 대규모로는 포착하기 어려운 회피 패턴을 탐지할 수 있게 했다.

의심 사항마다 고발된 정치인에게 트윗함으로써 억제력을 공개적으로 만들었다 — 책임 추궁은 기소가 아니라 가시성을 통해 작동했다.

로지를 오픈소스화하고 자르바스를 구축함으로써 일회성 캠페인을 다른 나라가 모방할 수 있는 재사용 가능한 시민 인프라로 바꾸었다.

첫 90일을 크라우드펀딩하고 600명의 자원봉사자를 활용함으로써, 진지한 감시 기계가 제도만이 아니라 시민에 의해서도 만들어질 수 있음을 입증했다.

감시가 자동적이고 공개적일 때, 억제력은 노출 그 자체다: 표시된 모든 청구를 트윗하는 봇은 공식 처벌이 거의 따르지 않는 경우에도 정치인들의 행동을 바꾸었다.

2018년 이 프로젝트는 오픈 날리지 브라질(Open Knowledge Brasil) 산하로 제도화되었고, 창립자들은 시민기술 분야 역할로 옮겨갔다 — 두 명은 세계은행 펠로로 합류했다. 팀은 같은 데이터를 브라질 2018년 선거를 앞두고 후보자 프로파일링 플랫폼인 페르필 폴리티쿠(Perfil Político)로 전환했다. 그들의 사후 분석은 솔직했다: 의회는 저액 청구(대략 미화 2만 달러까지)에 대한 조사를 거부할 수 있었고, 공식 포털의 캡차가 로지의 스크래핑을 느리게 만들었다. 로지는 감시받는 제도가 저항하더라도 AI가 공개 데이터를 시민 행동으로 전환할 수 있다는 널리 인용되는 증거로 여전히 남아 있다.