어크로스 출판사

빅테크의 논리 뒤에 가려진 인간의 자리를 질문하다
스탠퍼드가 미래의 리더들을 위해 준비한 화제의 인문학 강의

빅테크의 지배에서 우리를 구하고 민주주의를 재건할 방법

철학, 컴퓨터과학, 정치학을 가르치는 세 명의 스탠퍼드 교수가 기술 시대의 인문학적 논점을 다루는 새로운 강의를 만들었다. 〈뉴욕타임스〉, 〈뉴요커〉, 〈더네이션〉 등의 주요 매체가 이 강의를 초기부터 주목했고 기술의 미래를 기술자, 벤처투자가, 정치인들에게만 맡겨서는 안 된다는 문제의식이 이 책 《시스템 에러》의 출간으로 이어졌다. 세 저자는 윤리적, 기술적, 정책적 측면에서 디지털 시대의 당면한 쟁점들을 다각도로 논의한다. 그들의 이야기를 따라가다 보면 측정할 수 없는 중요한 가치들을 기술에 어떻게 반영해야 하는지, 기술의 편향을 해결하기 위한 엔지니어들의 현실적 전략은 무엇인지, 민주주의는 이러한 문제들에 어떠한 답을 줄 수 있는지, 기술혁명의 최전선에서 이뤄지고 있는 담론을 두루 살필 수 있다. 기술에 지배당하는 삶이 아니라, 우리가 기술을 통제하기 위해 알아야 할 시민 교양이다.

추천의 말
머리말
서장ㆍ기술을 지배하는 규칙은 누가 만드는가

1부 기술자들의 시대
1장ㆍ최적화 사고방식으로 무장한 사람들
소이렌트 이야기: 모든 것을 최적화해야 할까? | 엔지니어의 사고방식 | 효율의 결점 | 굿하트의 법칙: 숫자로 말할 수 없는 것들 | 가치중립적인 기술이란 없다
2장ㆍ해커와 벤처투자가의 잘못된 만남
엔지니어, 고삐를 거머쥐다 | 벤처투자가와 엔지니어로 이루어진 생태계 | OKR: 유튜브를 오래 시청하는 사람이 행복한 것일까? | 유니콘 사냥 | 새로운 세대의 벤처투자가 | 법규에 굴복할 생각이 없는 자들
3장ㆍ파괴적 혁신과 민주주의
최악의 산업재해: 혁신과 규제의 대립 | 혁신이 민주주의를 능가한다는 허구 | 테크노크라시, 플라톤이 말하는 철인왕의 조건 | 우리가 가진 공통의 불안 | 방호벽으로서의 민주주의

2부 빅테크, 혁신의 배신
4장ㆍ누구의 편도 아닌 줄 알았던 알고리즘
학습하는 기계의 시대 | 공정성을 어떻게 정의해야 할까? | 알고리즘이 판사보다 낫다는 생각 | 정확성과 유효성 | 자동화 시스템을 속일 수 있는 인간 | 알고리즘을 어떻게 통제하는가 | ‘블랙박스’를 열다
5장ㆍ한 번의 클릭으로 우리는 무엇을 포기했나
나도 모르는 또 다른 내가 존재한다 | 디지털 팬옵티콘: 사라진 사생활 | 종단간 암호화: 팬옵티콘에서 디지털 블랙아웃으로 | 기술만으로는 우리를 구할 수 없다 | 시장도 믿을 수 없다 | 개인정보 보호의 역설 | 사회의 이익을 위한 개인정보 보호 | GDPR: 디지털 시대의 권리장전 | 우리의 목적지
6장ㆍ자동화의 그늘, 기술적 실업이라는 질병의 탄생
악귀를 조심하라 | 인간보다 똑똑한 기계의 등장? | 자동화는 인류에게 좋은 것인가 | 경험 기계: 우리는 환상 속에 사는 것이 아니다 | 인간 빈곤으로부터의 대탈출 | 자유는 당신에게 어떤 가치를 갖는가 | 적응의 비용 | 절대 자동화하지 말아야 할 것 | 인간이 자리할 곳은 어디일까? | 남겨진 이들을 위한 자리
7장ㆍ표현의 자유와 민주주의 사이의 저울질
표현 과잉의 결과 | 표현의 자유가 인간 존엄성과 충돌할 때 | 온라인 발언의 오프라인 피해는 무엇일까? | 인공지능은 콘텐츠의 맥락을 파악할 수 있을까? | 페이스북의 ‘대법원’? | 자율규제 너머로 | 플랫폼 면책의 미래 | 경쟁의 여지를 마련하다

3부 시스템 리부팅
8장ㆍ민주주의가 답할 수 있는 것들
그래서 내가 할 수 있는 일은 무엇일까? | 나만이 아닌 우리 | 시스템 리부팅 | 해를 주는 어떠한 것도 멀리하겠노라 | 새로운 형태의 저항 | 기술이 우리를 지배하기 전에

감사의 말
미주

롭 라이히(Rob Reich)
스탠퍼드대학교 정치학 교수이자 사회윤리센터를 책임지고 있는 철학자이다. 같은 대학 인간중심인공지능연구소의 부소장으로 윤리와 기술의 교차점에서 파생되는 문제를 탐구하는 선구적인 사상가이다. 뛰어난 강의로 스탠퍼드에서 가장 우수한 교직원에게 수여하는 월터 J. 고어즈 상을 비롯해 여러 상을 수상했다. 세계적인 기부 캠페인 기빙튜즈데이(#GivingTuesday) 창설을 도왔으며 이사회 의장으로 재임하고 있다.

메흐란 사하미(Mehran Sahami)
구글의 초기 멤버로 이메일 스팸 필터링 기술을 발명한 팀의 일원이었다. 머신러닝과 인공지능 분야에 정통한 그는 2007년 컴퓨터과학 교수로 스탠퍼드대학교에 돌아와 컴퓨터과학 학부 교육 과정의 재설계를 도왔다. 매년 약 1500명의 학생들이 수강하는 스탠퍼드대학교 컴퓨터 프로그래밍 입문 강좌를 맡고 있다. 여러 벤처캐피털 펀드의 유한파트너이며 하이테크 스타트업의 자문 역할도 하고 있다.

제러미 M. 와인스타인(Jeremy M. Weinstein)
2009년 오바마 대통령 행정부에 참여해 오픈거버먼트파트너십을 출범시켰다. 백악관의 핵심 참모로서 신기술이 정부와 시민들 사이의 관계를 어떻게 다시 구축할지 예견하는 역할을 했다. 2015년 스탠퍼드대학교 정치학 교수로 복귀해 현재는 스탠퍼드임팩트랩을 이끌고 있다.

경향신문

빅테크가 훼손한 인간적 가치, 회복할 길은 기술을 통제하는 민주주의···‘시스템 에러’

한국경제

빅브라더 된 빅테크, 빛바랜 '실리콘밸리 정신'

한겨레

기술의 미래는 시민이 결정해야 한다

중앙일보

AI의 이력서 심사, 왜 중단됐을까