하지만 권력자들이 이런 알고리즘을 사용해 조용히 우리를 감시하고 판단하거나, 조정하고 문제를 일으킬 수 있는 사람들을 예상한 뒤 정체를 파악할 수 있는 엄청난 규모의 회유 아키텍트를 구축하는 일이 가능해집니다. 또한, 개인의 약점이나 취약한 곳을 파악해서 조정할 수도 있습니다. 또한, 만약 권력자들이 이러한 시스템을 이용해 개인에 대한 검열을 한다면 그 결과는 우리 국민이나 이웃들의 현실을 우리는 모를 수도 있습니다. 그 독재주의는 마치 거미줄처럼 우리을 묶어서 우리가 그 안에 묶여있다는 사실도 모르게 할 수 있습니다.
But if the people in power are using these algorithms to quietly watch us, to judge us and to nudge us, to predict and identify the troublemakers and the rebels, to deploy persuasion architectures at scale and to manipulate individuals one by one using their personal, individual weaknesses and vulnerabilities, and if they're doing it at scale through our private screens so that we don't even know what our fellow citizens and neighbors are seeing, that authoritarianism will envelop us like a spider's web and we may not even know we're in it.ted2019 ted2019