대량살상 수학무기를 읽었다.

"세상의 모든 약자들에게 헌정합니다"

책의 첫 장에 위 문구가 있었다.

이 책을 다 읽고 나서야 저자가

어떤 마음으로 이 책을 집필했는지 알 수 있었다.

최근에 읽은 책 중 가장 흥미롭게 읽었다.

 

---

 

대량 살상 수학 무기는

Weapons of Math Destruction의 약자로

책에선 WMD로 축약하여 부르고 있다.

쉽게 말해 빅데이터를 기반으로 한 알고리즘이다.

빅데이터 분석의 바탕은 수학이며,

그 수학적 풀이를 코드화 시킨 것이

우리가 흔히 말하는 알고리즘이다.

이 책은 빅데이터를 기반으로 한

알고리즘의 허점을 적나라하게 보여준다.

모형이란 본래 복잡한 현실을

단순화한 개념이다

1장. 대량살상 수학무기의 탄생

모형(알고리즘)의 특징 중 하나인

효율성을 위해 정확성과 통찰을 희생한다.

그렇기 때문에 모형을 설계하는 학자들의

판단 기준과 우선순위가 반영된다.

결국

사람의 편향이나 신념이 모형에 반영 될 수 밖에

없다는 것이다.

 

알고리즘은 패배자로 낙인찍힌 사람들이

언제까지나 계속 패배자로 남도록 만든다.

2장 셸쇼크

 

WMD의 세 가지 특징은

불투명성, 확장성, 파괴적인 피드백 루프(피해)다.

예를 들어 은행의 대출 심사 모형에서 당신에 대해

채무불이행 위험이 높다고 판단하면 어떻게 될까?

모형이 당신을 채무 불이행 위험이 높다고 판단하면,

당신은 왜 채무 불이행위험이

높은 분류에 속했는지 알 수 없다.

이것이 WMD의 첫 번째 특징인 불투명성이다.

​

'예비 채무불이행자'라는

꼬리표가 붙은 당신은

아파트나 일자리를 구할 때는 물론이고,

자동차를 렌트 할때 조차

'예비 채무불이행자' 라는

꼬리표가 당신을 따라다닌다.

이 꼬리표는 당신의 삶 전체에 영향을 미칠 것이다.

이것이 WMD의 두번째 특징인 확장성이다.

​

모형의 분류에 따라 결국 당신은

이러한 피해를 지속적으로 입을 수밖에 없다.

이것이 WMD의

마지막 특징인 파괴적인 피드백루프이다.

​

그럼 WMD의 대표적인 사례를 알아보자.

미국 금융위기 이후

펜실베니아 지역의 세수는 크게 줄었다.

이로 인해 경찰 인력을 줄일 수 밖에 없었다.

경찰 서장은 경찰 인력이 줄더라도

치안 공백이 생기지 않도록

더 나은 방법을 찾아야 했다.

이때 해결책으로 나온것이 범죄 예측 알고리즘이다.

​

이 알고리즘은 지역 내 범죄 통계 데이터를 기반으로

범죄 가능성이 높은 지역을 예측했다.

범죄 예측 알고리즘을 도입 이후

범죄율이 23%나 감소했다고 발표했다.

결과로만 본다면

범죄예측 알고리즘에는 문제가 없어 보인다.

​

하지만 이 알고리즘에는 문제가 있었다.

범죄에는 강도와 살인 같은 1군 범죄가 있고,

마약을 소량 판매하고, 복용하는등의

경미한 2군 범죄가 있다.

2군 범죄의 데이터를 알고리즘에

포함 시키면 분석이 왜곡될 위험이 있다.

​

가난한 동네에서 2군 범죄는 흔한 일이다.

경찰들은 강도와 살인 같은 범죄를 예방하기 위해

순찰을 돈다고 하지만, 우범지대로 분류된 곳에서

경미한 범죄가 발생할 경우

어떻게 모른척할 수 있겠는가?

이런 경범죄가 범죄 예측 알고리즘에서

더 많은 우위를 차지하게 되고,

다시 경찰들에게 그 지역을 순찰하게 만든다.

​

이는 바로

유해한 피드백 루프가 활성화 되는 전형적인 과정이다.

결국 가난한 사람들이 전과자가 될 확률이 높아지고,

출소 이후에도 범죄자라는 낙인으로 인해

취업활동이 어려워진다.

결국 그들의 삶은 점점 더 피폐 해지는 것이다.

이 처럼 WMD는 우리 사회내에서

힘없는 약자들에게 불평등을 초래한다.

 

정보와 부를 거머쥔 사람들은

경쟁우위를 차지하고,

그렇지 못한 사람들은 실패자가 될

가능성이 더 커졌다.

6장 디지털 골상학

정보와 부를 거머쥔 사람들은 그렇지 못한 사람들에

비해 경쟁우위를 차지할 수 밖에 없다.

왜 그런지 예를 들어보자.

채용절차를 위한 채용 알고리즘은

수많은 이력서를 검토 하고 분류 한다.

하지만 대부분의 이러한 알고리즘은

편견에 물들여져 있다.

위에서 말했듯 알고리즘에는

인간의 편향과 우선순위가 반영될 수 밖에 없다.

그렇기에 알고리즘이 어떠한 방식으로 동작하는지

알수 없다면 정보가 없는 대다수의 사람들은

피해를 입을 수밖에 없다.

결국 알고리즘을 이해하고

알고리즘이 무엇을 원하는지 파악할 수 있는

능력이 없다면

우리의 생계활동에도 지대한 영향을 미칠 수 있다.

 

강력한 힘을 가진 기업들은

수많은 사람에 관한 막대한 정보와 더불어

자신들이 선택하는 방향으로

우리를 이끌 수 있는 도구를 보유하고 있다.

10장. 표적이 된 시민들

예를 들어 당신이 쿠팡에서 물건을 살 때

할인 쿠폰을 잘 사용하지 않는다고

알고리즘이 판단한다면

당신에겐 더 이상 쿠폰을 노출시키지 않는다.

당신은 같은 물건이라도 남들보다 더 비싼 돈을 주고

사게 될 수도 있다는 것이다.

기업 입장에선 최대한 이윤을 창출하는 방향으로만

알고리즘이 동작하기 때문이다.

​

또한 당신에게 노출되는 모든 광고 및 정보는

알고리즘에 의해 결정된다.

당신의 소득수준, 학력, 사는 곳 등등

당신의 데이터는 이미 전부 수집되어,

당신도 모르게 알고리즘에 의해 분류된다.

그로 인해 당신에게 맞는 맞춤광고가 제공된다.

---

빅데이터와 IT 의 결합으로

탄생한 수많은 알고리즘 모형들은

인간보다 공정하다는 믿음아래 발전해 왔다.

하지만 이 책을 읽고 나니

현실은 정반대라는 것을 알게 되었다.

이러한 WMD 가 사회의 불평등을 초래하고,

빈부격차등의 양극화를 부추기고 있다.

​

"대단히 흥미롭고 굉장히 심란케 하는 책"

사피엔스의 저자 유발 하라리의 서평이다.

이 책을 다 읽고 나 역시 같은 마음이였다.

​

한줄평

'완벽한 알고리즘은 없다.'