조직가를 위한 AI 가이드

이 가이드는 모두를 위한 것입니다. 하지만 모두가 조직가가 되어야 합니다.

초안 번역입니다. 영어판 가이드가 기준입니다.

데이터 센터는 올해 풀뿌리 투쟁의 현장이며, 사람들이 이기고 있습니다. 하지만 우리는 이렇게도 물어야 합니다:

  • 데이터 센터는 무엇을 위한 것인가?
  • 그 안에서 돌아가는 AI는 무엇을 하고 있는가?
  • 억만장자와 파시스트들은 왜 그토록 이것을 지으려 하는가?

이 가이드는 노동, 감시, ICE, 전쟁, 그리고 기계를 누가 소유하는가에 대한 전문가들의 가장 날카롭고 간결한 AI 분석으로 그 질문들에 답합니다.

작성자는커뮤니티 및 노동조합 조직가Stanford의 대표적인 머신러닝 강좌(CS 229, Andrew Ng와 함께 진행)에서 조교로 일했으며, MacArthur geniusDan Jurafsky. 이 가이드는 Stanford의 NLP 윤리 세미나인CS 384, 그리고 그보다 더 넓게 다룹니다. Jurafsky에게 감사드리며,Ria Kalluri그리고Peter Henderson.

AI로 인한 피해는 미래의 일이 아닙니다. 지금 여기서 벌어지고 있습니다:

  • 소수의 기업이 대부분의 돈과 권력을 차지하는 것
  • 노동자, 이주민, 그리고 얼굴을 가진 모든 사람이 감시당하는 것
  • 임금을 깎고 일자리를 더 나쁘게 만드는 소프트웨어
  • 채용, 치안, 대출에서의 불공정한 대우

가장 중요한 질문은 누가 AI를 통제하며, 그것을 무엇에 쓰는가입니다. 억만장자가 시키는 대로 무엇이든 하는 AI는 이미 존재합니다. 그것은 인간의 통제 아래 있지만, 그래도 우리 나머지에게는 여전히 안전하지 않습니다.

처음 겪는 일이 아니다

AI에 새로운 것은 없습니다. 그것은 소수가 소유하고 다수의 노동으로 만들어졌으며, 그 다수에게 더 적게 지불하는 데 쓰이는 기계입니다. 좌파는 러다이트와 기계화된 의류 생산 이래로 자본주의 아래 자동화가 낳은 불평등한 결과에 맞서 싸워왔습니다.

  • 우리는 고통을 줄이고 인간성을 더하는 자동화에 반대하지 않습니다. 우리는 우리를 희생시키는 자동화에 반대합니다.
  • 우리는 AI를 두려워할 필요가 없습니다. 우리는 그것을 이해해야 합니다, 공학으로서가 아니라 사회 속의 힘으로서 말입니다. 그것이 가속화되고 있는 현실을 외면하는 것은 용납할 수 없습니다.
  • 그래서 우리는 그것을 공부하고, 그다음 싸웁니다. 목표는 물질적 분석, 즉 누가 이익을 얻고 누가 대가를 치르는지 밝히는 것이며, 그다음은 행동입니다: 읽고, 토론하고, 조직합니다.
Hand-coloured 1812 print of a Luddite leader in a dress, pointing, with a mill burning behind him

"Misery generates hate. These sufferers hated the machines which they believed took their bread from them; they hated the buildings which contained those machines; they hated the manufacturers who owned those buildings."

러다이트의 지도자, 판화, 1812년 5월. 퍼블릭 도메인, Wikimedia Commons 제공.

Charlotte Brontë, Shirley (1849), 2장, 1812년의 기계 파괴자들에 관하여.

먼저 읽을 것

여기서 시작하세요: Hao의 AI 식민주의라는 생각이 이 가이드 전체를 하나로 묶고, 로스앤젤레스 항구의 항만 노동자들은 맞서 싸운다는 것이 어떤 모습인지 보여 줍니다.

이론

AI Colonialism 시리즈. 비디오

옛 제국들처럼 AI는 이미 한 번 빼앗긴 공동체들에게서 데이터, 노동, 땅, 물을 가져가 소수의 권력자를 더 부유하게 만들고, 그것을 진보라고 부릅니다. Hao의 시리즈는 이 패턴을 네 곳에서 보여 줍니다. 남아프리카공화국에서 "디지털 아파르트헤이트"를 만드는 민간 감시, 베네수엘라 경제 위기 속에서 착취당하는 데이터 노동자, 알고리즘과 싸우는 자카르타의 Gojek 운전기사들, 그리고 자기 사람들을 위한 AI를 만드는 뉴질랜드의 마오리 부부입니다. 이야기는 절망이 아니라 저항으로 끝납니다.

Empire of AI의 저자 Karen Hao · 10분

일러스트: Edel Rodriguez, MIT Technology Review

실천
Cover of the zine AI For Whose Good? Lessons from community resistance to automation at the Port of Los Angeles
이야기: 자동화에 맞선 항구 공동체
Zine page: a hand-drawn table comparing code-centered and community-centered fairness, accountability and transparency
분석: 공정한 코드인가, 공정한 사회인가?
Zine page: the algorithmic ecology, a map of the ideas, institutions, machines and community around port automation
도구: 압력을 가할 지점을 보여주는 지도

AI For Whose Good? (zine)

자동화가 닥치는 바로 그곳에서 맞서 싸울 수 있다는 증거입니다. 로스앤젤레스 항구가 자동화를 추진하자 ILWU 항만 노동자들과 이웃들이 공청회를 가득 메웠습니다. Wang과 Cruz는 그 자리에 있었고, 이 진은 노동자들 자신의 말을 하나의 질문 앞에 세웁니다. 공정한 코드인가, 공정한 사회인가? 또 도구도 하나 건네줍니다. 어디에 압력을 넣을지 보여 주는 지도, Stop LAPD Spying Coalition의 Algorithmic Ecology입니다. 손으로 그렸고, 24쪽이며, 무료로 내려받아 인쇄할 수 있습니다.

Wang and Cruz · 10분

Sophie Wang과 Taylor M Cruz의 AI For Whose Good?(2023)에 실린 페이지들, CC BY-NC-ND.

"Lavender" (+972). 비디오

AI가 3만 7천 명의 팔레스타인인을 폭격 표적으로 지정했습니다.

Yuval Abraham · 전쟁과 집단학살 · 30분

이미지: +972 Magazine

Tech Behind ICE 보고서. 요약 · 비디오

추방을 위한 감시 기술에 5억 1,300만 달러. Palantir가 그 중추입니다.

Mijente · ICE 및 강제 송환 · 10분

이미지: No Tech for ICE (Mijente, Surveillance Resistance Lab, Just Futures Law)

책과 팟캐스트

  • Cover of Empire of AI 책 한 권: Karen Hao의 Empire of AI(2025). 300건의 인터뷰로 파헤친 OpenAI의 내부. 주말이면 다 읽습니다.
  • Cover of Race After Technology 그리고 한 권 더: Ruha Benjamin의 Race After Technology(2019). 중립적으로 보이는 기술이 인종적 위계를 더 깊게 만듭니다: 뉴 짐 코드입니다.
  • 팟캐스트 하나: Paris Marx가 진행하는 Tech Won't Save Us. 매주, 이 가이드에 나온 사람들 대부분이 출연합니다. 이것부터 들어보세요:

비디오를 선호하시나요? 볼 목록

우리의 입장

  • 기술은 정치적이며, 문제는 누가 그것을 소유하는가입니다.

    • 기계는 소유주에 의해, 소유주를 위해 만들어집니다.
    • AI에 대한 통제력을 잃는 것은 실재하는 위험입니다. 하지만 그것은 여러 피해 중 하나일 뿐입니다. 더 가까운 위험은 기계가 소유주가 원하는 그대로 움직이는 것입니다.

  • 피해는 지금 일어나고 있으며, 그것은 공평하게 나뉘지 않습니다.

    • 편향된 얼굴 스캔, 불공정한 채용 소프트웨어, 알고리즘이 정하는 임금은 오늘날 실제로 존재합니다.
    • 흑인, 여성, 퀴어, 이주민, 그리고 가난한 나라의 노동자들이 가장 큰 타격을 입습니다.

  • AI는 정치적 문제입니다.

    • 흔히 묻는 질문은 코드를 어떻게 더 공정하게 만들 것인가입니다. 더 나은 질문은 사회를 어떻게 더 공정하게 만들 것인가입니다.
    • 그것은 기술적 해결이 아니라 정치적 행동을 필요로 합니다: 노동조합, 금지, 개인정보 보호법, 독점 해체, 시위, 민중의 힘, 직접행동

  • AI는 사람들과 그들의 착취당한 노동으로 만들어집니다.

    • 모든 AI 모델은 당신의 동의 없이 당신의 데이터로 만들어지며, 개발도상국의 저임금 노동자들에 의해 만들어집니다
    • AI를 생각하는 존재로 다루거나 인간적인 특성을 부여하는 것 자체가 그 뒤에 있는 착취당한 인간 노동을 가려버립니다

누가 일하고 누가 대가를 치르는가

1노동 및 고용

문제는 결코 기계 자체가 아닙니다. 누가 그것을 소유하는지, 누구를 대체하는지, 누가 발언권을 갖는지가 문제입니다.

  • 이 목록 전체에서 제가 가장 좋아하는 것은 소책자 AI For Whose Good?입니다.
  • 세 가지 AI 투쟁: 사라진 일자리, 더 나빠진 일자리, 그리고 AI를 만드는 보이지 않는 노동자들
    • Waymo는 이 세 가지를 한꺼번에 보여줍니다. 이 회사의 "무인" 택시는 운전기사의 일자리를 빼앗고 있으며, 샌프란시스코에서는 이미 Lyft를 앞질렀습니다. 그러면서도 대부분 필리핀에 있는 원격 노동자들에게 의존하고 있으며, 이는 2026년 2월 상원 청문회에서 회사 스스로 인정한 사실입니다. Teamsters는 로보택시 법안에 맞서 싸우고 있으며, 가장 최근에는 워싱턴 D.C.에서였습니다.
  • 연구자들: Veena Dubal는 우버와 리프트 운전기사들과 함께한 오랜 시간 끝에 알고리즘 임금 차별이라는 이름을 붙였습니다. DAIR의 Milagros Miceli는 데이터 라벨러들이 자신의 일을 직접 연구하는 Data Workers' Inquiry를 이끌고 있습니다. 그의 동료 Adrienne Williams는 아마존에서 배달 운전을 했습니다.
  • 조직가들: Brian Merchant는 러다이트의 이야기를 담은 Blood in the Machine(2023)을 썼습니다. 캘리포니아의 AB 5 법안을 작성한 Lorena Gonzalez는 현재 캘리포니아 노동조합 연맹을 이끌고 있으며, "No Robo Bosses" 법안을 뒷받침하는 힘입니다.

먼저 읽을 것

Cover of the zine AI For Whose Good?

AI For Whose Good? (zine, 2023)

이 섹션 최고의 자료. ILWU 항만 노동자들과 그 이웃들은 터미널 자동화를 막기 위해 로스앤젤레스 항만 청문회를 가득 채웠습니다. 손그림, 24페이지, 무료.

Sophie Wang 및 Taylor M. Cruz

Sophie Wang과 Taylor M Cruz의 AI For Whose Good?(2023)에 실린 페이지들, CC BY-NC-ND.

"Will A.I. Become the New McKinsey?" (The New Yorker, 2023)

한 전직 맥킨지 직원은 이 회사를 "자본의 기꺼운 처형자"라고 불렀습니다: 사장들이 일자리를 자르면서 비난을 피할 수 있도록 고용된 존재라는 것입니다. Chiang은 AI가 같은 역할을 하도록 만들어지고 있다고 경고합니다.

Ted Chiang, 소설가

이미지: The New Yorker

"OpenAI Used Kenyan Workers on Less Than $2 Per Hour" (TIME, 2023)

OpenAI는 한 하청업체에 시간당 12.50달러를 지불했습니다. ChatGPT를 더 안전하게 만들기 위해 잔혹한 학대 기록을 읽어야 했던 케냐 노동자들이 손에 쥔 돈은 1.32달러에서 2달러였습니다. 한 노동자는 이렇게 말했습니다: "그것은 고문이었습니다."

Billy Perrigo

이미지: TIME

"The Problem With AI Is About Power, Not Technology" (Jacobin, 2024)

AI는 "인간 노동을 없애는 것이 아니라 오히려 그것을 격하시키고 있습니다." 이전의 모든 기계가 그랬듯, 사용자들은 이를 이용해 숙련된 일자리를 더 값싼 일자리로 쪼갭니다.

Jason Resnikoff, 자동화 역사가

이미지: jacobin.com

"Canaries in the Coal Mine?" (2025, 2026년 8월 업데이트됨)

급여 데이터: AI에 가장 많이 노출된 직종에서 22세에서 25세 노동자들이 또래보다 약 19% 뒤처져 있습니다. 나이 든 세대가 젊은 세대를 자동화하고 있는 것입니다.

Erik Brynjolfsson, Bharat Chandar, Ruyu Chen (Stanford)

이미지: Stanford Digital Economy Lab

기사, 논문 및 프로젝트21
  • 알고리즘이 곧 현장 감독입니다. Dubal이 연구한 운전기사들은 같은 운행에도 서로 다른 임금을 받으며, 이를 도박이라 부릅니다. AI를 학습시키는 데이터 노동자들은 소프트웨어에 의해 시간이 재어지고 점수가 매겨집니다. AI 공급망의 양쪽 끝에 있는 것은 같은 사장입니다.
  • 자동화의 속도를 정하는 것은 기술이 아니라 교섭력입니다. 러다이트는 사용자들에게 교섭을 강요하기 위해 기계를 부쉈습니다(Hobsbawm). 2024년 동부 해안의 항만 노동자들은 36개 항구를 사흘간 멈춰 세웠고, 자동화 문제는 여전히 협상 테이블에 남긴 채 임금 협상은 타결했습니다. ILWU는 새로운 기술이 도입되는 방식에 노동자의 발언권을 요구합니다.
  • 일자리 상실은 정책적 선택입니다. NAFTA는 로봇 하나 없이도 미국의 일자리 약 70만 개를 앗아갔고, 사장들이 공장을 옮기겠다고 위협하는 것만으로 임금을 낮추게 해주었습니다.
  • 고용 수치는 신중하게 읽으세요. 고용 데이터는 불분명하며, 그 상당 부분은 답에 이해관계가 걸린 이들, 즉 AI 기업, 은행, 컨설팅업체에서 나옵니다. 지금까지 나온 신중한 연구들이 동의하는 사실이 하나 있습니다. 가장 먼저 타격을 입는 것은 청년층이며, 해고 때문이 아니라 애초에 채용되지 않기 때문입니다.
  • 무엇을 요구할 것인가. Exley: 8시간 노동제를 쟁취했던 방식처럼, 절반의 시간에 같은 임금을. Varoufakis는 공산당 선언을 기계를 누가 소유하는가를 둘러싼 최초의 논쟁으로 읽습니다.
부제이것을 읽으십시오작성자주요 아이디어
임금 및 긱 작업 "On Algorithmic Wage Discrimination" (Columbia Law Review, 2023) Veena Dubal (UC Irvine law) "알고리즘 임금 차별": 앱은 각 운전기사의 데이터를 이용해 같은 일에도 다른 요금을 지불합니다. 운전기사들은 이를 도박이라 부릅니다. Dubal은 이를 규제가 아니라 전면 금지하기를 원합니다.
데이터 작업 "The Exploited Labor Behind Artificial Intelligence" (Noema, 2022); Data Workers' Inquiry Adrienne Williams, Milagros Miceli, Timnit Gebru 에세이: 생각하는 기계라는 말은 AI가 의존하는 라벨러, 모더레이터, 운전기사, 창고 노동자들을 가려버리며, 이들의 조직화를 지지하는 것이야말로 진짜 윤리적 실천입니다. Inquiry: 케냐, 베네수엘라, 시리아, 독일의 데이터 노동자들이 자신의 일을 직접 연구하고 보고서, 소책자, 영상을 발표합니다.
노동 조합 ILWU의 AI 정책 성명 ILWU, 서부 해안 항만 노동자 노조 노동자를 감시하고 통제하고 몰아내는 데 쓰이는 AI와 자동화에 반대합니다. 감독, 새로운 기술에 대한 노동자의 발언권, 그리고 모든 수준의 정부 차원의 규제를 요구합니다.
가톨릭 사회 교리 Magnifica Humanitas (회칙, 2026) 교황 레오 14세 AI에 관한 교황의 서한으로, 공장 노동자에 관한 교회의 서한인 Rerum Novarum 이후 135년 만에 나왔습니다. 지금 만들어지는 AI는 "노동자의 숙련을 빼앗고, 자동화된 감시에 종속시키며, 경직되고 반복적인 작업으로 내몰" 수 있다고 말하고, 노동 조합을 지지하며, AI를 도입할 때마다 "노동자의 고용, 재교육, 참여를 보호하기 위한 검증 가능한 조치"가 함께해야 한다고 요구합니다. 가톨릭 신자인 동료나 본당에 건네 보세요. 깁니다. 1~16항, 그다음 148~156항을 읽으세요. 약 20분.
항만 노동자 및 자동화 "The Dockworkers' Strike Is a Big Test for Kamala Harris" (The New Republic, 2024); "Yes, the striking dockworkers were Luddites. And they won." (Blood in the Machine, 2024) The New Republic; Brian Merchant 2024년 10월, 선거를 몇 주 앞두고 4만 7천 명의 항만 노동자들이 임금과 항만 자동화 문제로 동부·걸프 해안의 36개 항구를 멈춰 세웠습니다. Kamala Harris와 Joe Biden은 그들에게 복귀 명령을 내리는 대신 파업 노동자들을 지지했습니다. 사흘 만에 임금 협상이 타결되었고, 자동화 문제는 다시 협상 테이블로 넘어갔습니다.
첫 번째 산업 혁명 "The Machine Breakers" (Past & Present, 1952) Eric Hobsbawm 러다이트는 기계 자체에 반대한 것이 아니었습니다. 기계를 부수는 것은 "폭동을 통한 단체교섭"이었습니다: 파업이 불가능할 때 쓰인 전술이었고, 종종 효과가 있었습니다.
일반 면화 기계 Reading note on Blood in the Machine (A Working Library, 2023) Mandy Brown, Brian Merchant의 책에 관하여 조면기는 노동력을 줄여준다는 명목으로 팔렸습니다. 그것은 "너무나 효과가 좋아서 오히려 밭을 매고 목화를 따는 노동자에 대한 수요를 폭발적으로 늘렸고", 노예제를 70년 더 유지시키는 데 일조했습니다. 자동화가 노동을 줄이는 경우는 드뭅니다. 5분.
첫 번째 산업 혁명 "Marx predicted our present crisis, and points the way out" (The Guardian Long Read, 2018) Yanis Varoufakis 공산당 선언을 최초의 공장들에 대한 응답으로 읽습니다. 그것은 자동화, 세계화, 그리고 기계를 누가 소유하는가를 둘러싼 투쟁을 내다보았습니다.
일자리와 무역 "NAFTA's Impact on U.S. Workers" (Economic Policy Institute, 2013) Jeff Faux 미국에서 약 70만 개의 일자리가 사라졌으며, 대부분 캘리포니아, 텍사스, 미시간 같은 제조업 주에서였습니다.
고용 데이터 "Young workers' employment drops in occupations with high AI exposure" (2026) Federal Reserve Bank of Dallas AI에 노출된 직종의 청년들은 해고당하고 있는 것이 아닙니다. 애초에 채용되지 않고 있는 것입니다.
고용 데이터 "Generative AI as Seniority-Biased Technological Change" (2025) Seyed Mahdi Hosseini Maasoum and Guy Lichtinger 28만 5천 개 기업, 6,200만 명 노동자의 이력서를 분석했습니다. AI를 도입한 기업에서는 채용이 둔화되면서 주니어 일자리는 줄고 시니어 일자리는 계속 늘어납니다.
이해관계가 걸린 기업이 내놓은 고용 데이터 "Labor market impacts of AI: A new measure" (2026) Anthropic 한 AI 기업 자체 연구는 지금까지 노출된 노동자들 사이에서 실업률 상승이 없었다고 밝힙니다. 누가 썼는지를 염두에 두고 읽으세요.
운전자 "In San Francisco, Waymo Has Now Bested Lyft. Uber Is Next" (2025) Underscore_SF, YipitData 수치 사용 약 20개월 만에 Waymo는 샌프란시스코 구역 내 승차 예약의 27%를 차지하며 0에서 시작해 21%인 Lyft를 앞질렀습니다. 공항 운행은 집계에서 빠지는데, 이 단서는 The Driverless Digest가 자세히 다룹니다. 이는 원래 운전기사에게 돌아가던 요금입니다.
로보택시 대해 할 일 뉴욕이 Waymo의 허락이 만료되게 함 (Gizmodo, 2026); Alex Bores의 "AI 배당" 계획 (Axios, 2026); Tom Steyer의 일자리 보장 (Common Dreams, 2026) Gizmodo; Axios; Common Dreams 2026년, 세 가지 답이 나왔습니다. 막기: Zohran Mamdani 시장은 Waymo의 뉴욕 허가를 만료되도록 두었습니다. 과세하고 나눠주기: AI 사용에 대한 세금과 AI 기업에 대한 공공 지분으로 재원을 마련한 배당금. 일자리 보장: AI 기업들이 돈을 대는 공공 기금으로 밀려난 노동자를 고용하기.
요청할 사항 "The obvious, and unthinkable, solution to the coming AI crisis" (2025) Zack Exley (Sanders 2016, Justice Democrats, New Consensus) 몇 년 안에 AI가 많은 사무직 업무를 대체할 것으로 예상하며, 기본소득이나 AI 기업에 대한 과세만으로는 충분하지 않다고 봅니다. 그의 답: 한때 8시간 노동제가 그랬듯, 절반의 시간에 같은 임금을.
최신 유지 Tech Won't Save Us (팟캐스트); Jacobin의 인공지능 호 Paris Marx; Jacobin 이 목록에 나온 사람들 대부분과의 매주 인터뷰, 그리고 AI와 자본주의를 다룬 매거진 특별호.
책9

Ghost Work (2019)

Mary L. Gray 및 Siddharth Suri

"자동화된" 시스템에 라벨을 달고, 검열하고, 바로잡는 보이지 않는 계약직 노동력.

Deaths of Despair and the Future of Capitalism (2020)

Anne Case and Angus Deaton (Princeton)

좋은 일자리가 사라지면 사람들이 죽습니다: 대학 학위가 없는 미국인들 사이에서 자살, 약물 과다복용, 알코올로 인한 죽음.

Cover of The Condition of the Working Class in England

The Condition of the Working Class in England (1845, 온라인 무료)

Friedrich Engels

한 방직공장주의 아들이 섬유 자동화가 맨체스터 노동자들에게 무엇을 했는지를 기록합니다: 질병, 아동 노동, 이른 죽음.

Cover of Shirley

Shirley (1849)

Charlotte Brontë

1811년과 1812년의 러다이트 봉기를 배경으로 한 소설로, 노동자들의 고통에 공감하는 시선을 담고 있습니다.

Cover of Labor and Monopoly Capital

Labor and Monopoly Capital (1974)

Harry Braverman

탈숙련화: 경영진이 노동자로부터 지식을 빼앗아 기계와 관리자에게 옮기도록 업무를 다시 설계하는 것.

Cover of Forces of Production

Forces of Production (1984)

David Noble

노동자가 통제하는 방식이 동등한 성능을 냈을 때조차, 공장 자동화가 어떻게 기계공들로부터 통제권을 빼앗도록 설계되었는가.

Fully Automated Luxury Communism (2019)

Aaron Bastani

희망적인 시나리오: 기계가 일하게 하고, 그것이 만든 것을 나누는 것.

간호사4
이것을 읽으십시오작성자왜
"'Purge Palantir!': Union nurses warn Big Tech and Big Brother are invading our healthcare system" (The Real News Network, 2026년 9월) Maximillian Alvarez 최신 소식. 2026년 8월 27일, National Nurses United 조합원들은 병원들이 Palantir를 퇴출하도록 만들기 위해 8개 도시에서 교통을 멈춰 세웠습니다. Palantir는 미국 병상의 5분의 1 이상을 관리하며 ICE가 추방할 사람을 찾는 것을 돕습니다.
"The Nurses Union Breaking Ranks to Fight AI in Hospitals" (Tech Policy Press, 2026년 4월) Chris Mills Rodrigo Nvidia는 시간당 9달러로 운영되는 AI 간호사를 지원합니다. 노동조합 위원장 Cathy Kennedy는 이렇게 말합니다: "AI는 정식 간호사가 할 수 있는 일을 할 수 없습니다."
2,300명의 간호사 조사 (2024) National Nurses United 소프트웨어가 환자의 중증도를 점수로 매기는 곳에서, 간호사의 69%는 그 점수가 자신의 판단과 다르다고 말합니다. 결과를 예측하는 곳에서는 40%가 그 점수를 바꿀 수 없다고 말합니다.
"Uber for Nursing Part II" (AI Now Institute, 2026년 4월) Katie J. Wells, Maya Pinto, Funda Ustek Spilda ShiftKey와 CareRev 같은 긱 간호 앱들은 알고리즘으로 임금을 정하며, 약 14억 달러를 투자받았고, 최소 17개 주에서 인력 배치 규정의 적용을 면제받기 위해 로비를 벌이고 있습니다.
예술가와 할리우드5
이것을 읽으십시오작성자왜
"OpenAI's Studio Ghibli meme factory is an insult to art itself" (Blood in the Machine, 2025) Brian Merchant 여기서 시작하세요. 2016년 Hayao Miyazaki는 AI 애니메이션 시연을 보고 이를 "생명 자체에 대한 모욕"이라 불렀습니다. 2025년 OpenAI는 묻지도 않고 그의 스튜디오 화풍을 밈 제조기로 바꿔버렸습니다.
"Hollywood's stand against AI" (Equal Times, 2025) Atahualpa Blanchet 2023년 작가·배우 파업이 얻어낸 것: 디지털 복제물에 대한 동의와 대가, 그리고 AI 대본이 작가를 대체할 수 없다는 원칙. 어떤 계약에도 쓸 수 있는 본보기입니다.
"SAG-AFTRA Condemns Tilly Norwood" (Variety, 2025); 2026 계약 투표 Variety; LA Magazine 한 스튜디오가 AI "배우"를 제안했습니다. 노동조합의 답: 그는 "수많은 전문 배우들의 작업물로 학습된 컴퓨터 프로그램이 만들어낸 캐릭터"일 뿐입니다. 91% 찬성으로 비준된 2026년 계약은 규정을 더 강화했습니다.
"Restrict AI Illustration from Publishing" (공개 편지, 2023) Molly Crabapple and the Center for Artistic Inquiry and Reporting 천 명이 넘는 작가와 예술가가 서명한 한 페이지: 이미지 생성기는 "창작자의 동의는커녕 대가나 인지조차 없이 거둬들여진" 작업물로 만들어졌습니다.
"Why A.I. Isn't Going to Make Art" (The New Yorker, 2024) Ted Chiang Chiang의 기준: "예술이란 수많은 선택의 결과로 나오는 것입니다." 만 단어짜리 소설에는 약 만 번의 선택이 필요합니다. 백 단어짜리 프롬프트는 약 백 번의 선택을 만들 뿐입니다.
입법8

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
BOT Act (Bossware and Oppressive Technology Act), S10290 뉴욕. 2026년 5월부터 상원 노동위원회에 계류 중 Kristen Gonzalez 상원의원 직장 내 전자 감시를 제한하고, 자동화된 고용 도구에 대한 연례 영향평가를 의무화하며, 노동자에게 통지, 데이터 접근권, 보복 금지 권리를 부여합니다.
S822 뉴욕. 2025년 2월 14일 서명 Kristen Gonzalez 상원의원 AI가 주 노동자를 대체하거나 임금과 복리후생을 깎는 것을 금지하며, 주 차원의 AI 목록을 만듭니다.
SB 7, "No Robo Bosses Act", 그 다음 SB 947 캘리포니아. SB 7은 2025년 10월 거부권 행사; SB 947은 주지사 서명 대기 중, 기한 2026년 9월 30일 Jerry McNerney 상원의원; 노동계 지지 사용자가 노동자를 징계하거나 해고할 때 자동화 시스템에만 의존하는 것을 금지합니다.
AB 5 및 Proposition 22 캘리포니아. AB 5는 2019년 제정; Prop 22는 2020년 통과되어 2024년 7월 합헌 판결 Lorena Gonzalez 주 하원의원; Uber, Lyft, DoorDash가 Prop 22에 자금을 댐 AB 5는 노동자를 피고용인으로 추정합니다. Prop 22는 앱 기반 운전기사를 다시 그 예외로 만들었습니다.
WGA 및 SAG-AFTRA 2023 계약 미국. 입법이 아닌 단체 협상 파업 후 노동 조합 스튜디오는 작가에게 AI 사용을 강요할 수 없으며, 배우의 디지털 복제물에는 동의와 대가가 필요합니다.
AB 1979 및 AB 2575 (간호사 및 AI) 캘리포니아. 주 의회 통과; 주지사 서명 대기 중, 기한 2026년 9월 30일 California Nurses Association and National Nurses United AB 1979는 AI가 면허를 가진 임상의의 판단을 대체하는 것을 금지합니다. AB 2575는 안전하지 않은 AI의 판단을 뒤집은 간호사를 보복으로부터 보호합니다.
NO FAKES Act, S.4591 미국 상원. 2026년 6월 법사위원회를 통과해 본회의로 회부; 아직 표결 없음 초당파 스폰서; SAG-AFTRA의 지원 모든 사람에게 자신의 목소리와 얼굴을 복제한 디지털 사본에 대한 법적 권리를 부여할 것입니다.
Bartz v. Anthropic; Andersen v. Stability AI 미국 법원. Bartz 사건: 2026년 7월 15억 달러 합의 승인. Andersen 사건: 2026년 9월 8일 배심 재판 시작; 아직 평결 없음 작가들; 일러스트레이터 Sarah Andersen, Kelly McKernan, Karla Ortiz 미국 최대 규모의 저작권 합의로, 책 한 권당 약 3,000달러이며, 이미지 생성기를 예술가의 작업물로 학습시키는 것이 합법인지를 다룬 첫 배심 재판입니다.

2제국과 착취

AI 기업들은 제국처럼 행동합니다: 데이터, 토지, 물, 에너지를 가져가고, 그 부는 소수의 기업으로 흘러 들어갑니다.

  • 알아둬야 할 두 이름. Karen Hao는 MIT Technology Review와 The Wall Street Journal에서 AI를 취재했으며, 그의 책 Empire of AI(2025)는 약 260건의 인터뷰를 바탕으로 합니다. Kate Crawford는 AI Now의 공동 설립자이며, 그의 Atlas of AI(2021)는 리튬 광산에서 물류창고까지 AI를 추적합니다.
  • 이 패턴은 오래된 것입니다. Empire of Cotton은 최초의 자동화가 노예가 재배한 목화와 식민지 시장 위에서 돌아갔음을 보여줍니다.
  • 사람들은 맞서 싸우고 있습니다. AI Resist List(2026)는 전 세계의 저항을 지도로 보여줍니다. 물리적인 측면은 별도의 섹션에서 다룹니다: 데이터 센터.

먼저 읽을 것

AI Colonialism 시리즈 (MIT Technology Review, 2022)

이 섹션 최고의 자료. 서두의 에세이와 네 편의 르포로 다루는 "AI 식민주의": 남아프리카공화국의 감시, 베네수엘라의 데이터 라벨러, 자카르타에서 조직하는 긱 운전기사들, 그리고 자신들의 방식으로 AI를 만드는 뉴질랜드의 원주민 부부.

Karen Hao 동료와 함께

이미지: MIT Technology Review

"Sam Altman's AI Empire Relies on Brutal Labor Exploitation" (Jacobin, 2025)

Hao의 책에 대한 서평입니다. 종말론자든 낙관론자든 결국 업계에 봉사하게 되며, AI의 향방이 바뀌는 것은 오직 "거대 기술기업의 지나친 권력에 정면으로 맞설 때"뿐입니다.

Ben Wray

이미지: jacobin.com

Anatomy of an AI System (2018)

Amazon Echo에 대한 요청 하나가 무엇을 움직이는지 보여주는 하나의 거대한 지도: 광산, 선박, 데이터 센터, 클릭 노동. 답 하나하나마다 "재생 불가능한 자원, 노동, 데이터의 채굴로 움직이는 거대한 지구적 네트워크"가 필요합니다.

Kate Crawford 및 Vladan Joler

이미지: Anatomy of an AI System

기사, 논문 및 프로젝트6
  • 저항에는 네 가지 형태가 있습니다. AI Resist List는 이 싸움들을 저항, 거부, 되찾기, 재구상으로 분류합니다. 대부분의 사례는 부유한 나라 밖에서 나옵니다.
  • 업계 내부에서 이름 붙인 식민주의 패턴. "Decolonial AI": 위험한 시스템은 가난한 나라에서 먼저 시험됩니다.
  • 공동체가 원하는 것에서 출발하세요. Bird는 언어 프로젝트가 바로 거기서 시작해야 한다고 주장합니다. Masakhane는 그것이 실제로 작동함을 보여줍니다: 아프리카 연구자들이 30개가 넘는 아프리카 언어를 위한 번역 도구를 직접 만들고 있습니다.
  • "AI 식민주의" 뒤에 있는 더 오래된 이론은 정치 이론에서 다룹니다.
부제이것을 읽으십시오작성자주요 아이디어
저항 The AI Resist List (2026) Karen Hao, Gebru의 DAIR 및 파트너들과 함께 전 세계에서 벌어지는 AI 반대 투쟁을 담은 공개 목록으로, 업계가 기대고 있는 아홉 가지 "지지 기둥"(데이터 센터부터 노동까지)을 기준으로 분류합니다. "현재 AI 개발의 궤적에서 필연적인 것은 아무것도 없습니다."
AI 탈식민화 "Decolonial AI" (2020); "Decolonising Speech and Language Technology" (2020); Masakhane의 참여 번역 논문 (2020) Shakir Mohamed, Marie-Therese Png, William Isaac; Steven Bird; Masakhane 업계 내부에서 나온 세 편의 논문: 이름 붙여진 식민주의 패턴, 언어 프로젝트를 위한 공동체 우선 원칙, 그리고 자체 번역 도구를 만드는 아프리카 연구자들.
책3
Cover of Empire of AI

Empire of AI (2025)

Karen Hao

이론을 온전히 담은 책: 300건이 넘는 인터뷰로 파헤친 OpenAI의 내부 이야기와, 케냐의 데이터 노동자들, 칠레의 물 분쟁까지.

Atlas of AI (2021)

Kate Crawford, AI Now 공동 창립자

AI는 "클라우드"가 아니라 광산, 창고, 데이터 센터, 클릭 노동자로 이루어진 물리적 산업입니다.

Cover of Empire of Cotton

Empire of Cotton (2014)

Sven Beckert

기계화된 방직 공장은 노예가 재배한 목화와 식민지 시장 위에서 돌아갔습니다. 최초의 자동화는 노예제와 제국을 더욱 깊게 만들었습니다.

3데이터 센터

AI의 물리적 흔적: 전력, 물, 토지, 그리고 그것을 떠안도록 선택된 동네들.

  • 데이터 센터는 컴퓨터로 가득한 창고입니다. 큰 것들은 발전소 하나에 맞먹는 전력과 함께, 냉각을 위한 토지와 물이 필요합니다.
  • 이것들은 땅값이 싸고 주민들이 반대할 힘이 가장 적은 곳에 지어집니다.
  • 이 싸움은 지역적입니다: 구역 지정 위원회, 대기오염 허가, 공공요금. 뉴욕에서는 Kristen Gonzalez 상원의원의 법안과 1년간의 허가 중단이 이를 주 전체로 확대했습니다. Karen Hao는 데이터 센터를 막아내고 승리한 지역 공동체들을 취재합니다.
  • 이론적으로는 데이터 센터를 더 깨끗하게 만들 수 있습니다: 더 나은 냉각, 청정 전력, 제대로 된 허가. 하지만 그것으로는 충분하지 않습니다. 우리는 그 안에서 무슨 일이 벌어지고 있는지도 물어야 합니다: 그 기계들이 무엇을 하고 있으며, 누구를 위한 것인지 말입니다.

왜 멤피스를 알아야 하는가

  • xAI는 122일 만에 Colossus를 지었습니다. 그 옆에는 노예제에서 해방된 이들이 세운 흑인 동네 Boxtown이 있으며, 이미 여러 공장에 둘러싸여 있습니다.
  • 전력을 공급하기 위해 이 회사는 대기오염 허가 없이 메탄가스 터빈을 가동했습니다. 한 법률센터의 열화상 드론은 35대의 터빈을 발견했는데, 이는 28만 가구에 전력을 공급할 수 있는 규모였지만 제대로 된 오염 관리는 없었습니다.
  • 가스 터빈은 스모그를 유발하는 오염물질과 포름알데히드를 배출합니다. 연구자들은 부지 인근의 이산화질소 최고 농도가 79% 상승했음을 측정했습니다. Boxtown의 암 발병 위험은 이미 전국 평균의 네 배였습니다.
  • 그런데도 카운티 보건당국은 결국 15대의 터빈을 허가했습니다. NAACP와 법률센터가 이에 맞서 싸우고 있습니다.

먼저 읽을 것

"Inside Memphis' Battle Against Elon Musk's xAI Data Center" (TIME, 2025)

이 섹션 최고의 자료. Musk는 암 발병률이 이미 전국 평균의 네 배인 사우스웨스트 멤피스에 35대의 메탄가스 터빈을 들여왔습니다. 28세 Alexis Humphreys는 자신의 천식 발작에 대해 이렇게 말합니다: "가슴이 무너져 내리는 것 같았습니다."

Andrew R. Chow

이미지: TIME

시청: "We Went to the Town Elon Musk Is Poisoning" (비디오, 2025)

카메라에 담긴 멤피스: 허가받지 않은 가스 터빈, 밀실에서 이루어진 승인, 그리고 숨을 쉴 수 없다고 말하는 Boxtown 주민들.

More Perfect Union

이미지: More Perfect Union (YouTube)

"Elon Musk's xAI facility is using gas turbines in South Memphis, we're taking action"

변호사들은 부지 상공을 비행하며 35대의 가스 터빈을 세었는데, 이는 알려진 수의 거의 두 배였습니다. 시장은 15대가 가동 중이라고 말했습니다. 열화상 카메라는 33대를 보여주었습니다. 그 후 NAACP의 소송 예고 통지가 이어졌습니다.

Southern Environmental Law Center

이미지: Southern Environmental Law Center

Data Center Opposition Report (월간, 2026)

현황판. 2026년 8월 기준: 최소 43개 주에서 64만 명이 넘는 사람들이 데이터 센터에 맞서 싸우는 지역 모임에 참여하고 있으며, 92일 동안 220개의 새 모임이 결성되었습니다.

Coalition for Responsible Data Center Development, Evitable, and Together Against AI

이미지: Data Center Opposition

기사 및 비디오5
부제이것을 읽으십시오작성자주요 아이디어
멤피스 "NAACP calls on officials to halt operations at xAI's 'dirty' data center" (2025) TechCrunch 시민권의 틀: NAACP는 역사적으로 흑인 동네인 Boxtown 옆에서 허가받지 않은 35대 이상의 가스 터빈을 가동한 xAI를 멈추도록 긴급 명령을 지역 당국에 요청했습니다.
에너지 "We did the math on AI's energy footprint. Here's the story you haven't heard." (2025) James O'Donnell과 Casey Crownhart, MIT Technology Review 전국 단위의 계산, 그리고 그 비용을 누가 내는가. 데이터 센터는 이미 미국 평균보다 탄소 집약도가 48% 높은 전기로 돌아가고, 2028년이면 AI 하나만으로 미국 가구의 22%만큼 전력을 쓸 수 있습니다. 전력회사와의 거래는 "AI 혁명의 비용을 더 높은 전기 요금의 형태로 나머지 우리에게 떠넘길 가능성이 큽니다". 버지니아주 의회는 가구당 매달 $37.50를 더 낼 수 있다고 추산했습니다.
에너지 "Fission for Algorithms" (2025) AI Now Institute AI에 전력을 공급하기 위해 방사선 기준과 원자력 규제기관의 독립성이 축소되고 있으며, 원자로 승인 절차는 18개월로 단축되고 있습니다. 기업들은 AI가 인허가 서류까지 작성하기를 원합니다.
글로벌 데이터 센터 저항에 대한 Karen Hao (Democracy Now!, 2026) Karen Hao 지역 투쟁에 대한 Hao의 말: "2025년, 이 데이터 센터 반대 운동은 1,000억 달러가 넘는 규모의 시설 건설을 성공적으로 지연시켰습니다." 그에 따르면 이 분노는 정당의 경계를 가로지릅니다.
공급망 "A.I.'s Environmental Impact Will Threaten Its Own Supply Chain" (비디오, 6분) Kate Crawford, New York Times 의견 AI는 전력, 물, 토지를 두고 사람들과 경쟁합니다.
입법2

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
Responsible Data Center Development Act, S10642 뉴욕. 2026년 6월 상하원 통과; 주지사 서명 대기 중 Kristen Gonzalez 상원의원, 상원 인터넷·기술 위원회 위원장; Didi Barrett 주 하원의원 20MW 이상 데이터 센터에 대한 1년간 허가 유예, 그리고 별도의 공공요금 체계, 재생에너지 목표, 공청회, 지역사회 혜택.
Executive Order 62 뉴욕. 2026년 7월부터 시행 Gov. Kathy Hochul 50MW 이상 데이터 센터의 환경 허가를 최장 1년간 중단합니다.

4AI 공급망과 끊어낼 지점

AI는 광산, 칩, 전력, 물, 데이터, 노동, 부채로 만들어집니다. 모든 고리에는 사람들이 맞설 수 있는 좁은 지점이 있습니다.

  • 순서대로 본 공급망: 광물, 칩, 전력과 물을 갖춘 데이터 센터, 긁어모은 데이터, 저임금 인간 노동, 그리고 빌린 돈. 각 고리마다 누군가의 땅, 노동, 혹은 허락이 필요합니다. 전체 지도는 제국과 착취에 있습니다.
  • 이 공급망은 위쪽으로 갈수록 좁아집니다. 첨단 칩을 찍어내는 모든 기계는 네덜란드의 한 회사가 만듭니다. 칩 제조에 쓰이는 초고순도 석영의 대부분은 인구 2,194명인 노스캐롤라이나의 한 마을에서 나옵니다.
  • 지금까지 가장 많은 성과를 낸 것은 마을들입니다. 최소 100건의 데이터 센터 지역 중단 조치가 통과되었습니다(Sabin Center). 지역 차원의 실전 전략은 데이터 센터에 있습니다.
  • 좁은 지점에 있는 노동자들에게는 영향력이 있습니다. 전체 건설이 기다리는 터빈과 메모리 칩은 단 몇천 명이 만듭니다. 삼성 반도체 노동자들이 2026년 파업 날짜를 정하자, 그들은 반도체 이익의 10.5%에 해당하는 보너스 재원을 얻어냈습니다(Korea Herald).
  • 모든 지렛대가 통하는 것은 아닙니다. 건설 노동조합은 대체로 일자리를 위해 데이터 센터를 지지합니다. 데이터 작업은 쉽게 옮겨갑니다: Meta가 계약 하나를 끝내자 2026년 케냐 노동자 1,000명 이상이 일자리를 잃었습니다(설문조사).

먼저 읽을 것

"Workers Have a Secret Weapon Against the AI Build-Out" (Jacobin, The Real News에서 무료, 2026)

이 섹션 최고의 자료. 이 건설 붐은 가스 터빈과 변압기 위에서 돌아갑니다. 세 개 기업이 터빈 대부분을 만듭니다. 모두 남부에 있는 이들의 미국 공장은 약 4,500명을 고용하며, 주문은 2030년까지 밀려 있습니다. 아직 승리가 아니라 계획일 뿐입니다.

Ben Carroll

이미지: The Real News Network

"Data center demand is making bedfellows of construction unions, tech industry" (Associated Press via Spotlight PA, 2026)

정직한 반론. 한 배관공 노동조합은 자신의 조합원들이 미국 데이터 센터 프로젝트의 90% 이상에서 일한다고 말합니다. 지금까지 이 영향력은 제한이 아니라 일자리와 훈련을 얻어내는 데 쓰였습니다.

Associated Press

이미지: Spotlight PA

기사, 논문 및 프로젝트5
부제이것을 읽으십시오작성자주요 아이디어
칩 "Computational Power and AI" (AI Now Institute, 2023) Jai Vipra and Sarah Myers West 각 단계를 누가 소유하는가. 한 회사가 AI 칩 설계를 주도하고, 한 회사가 대부분의 첨단 칩을 제조하며, 한 회사가 그 기계를 만듭니다. 길기 때문에 칩 관련 부분을 읽고 나머지는 훑어보세요.
광물 "Spruce Pine just got hit by Helene. The fallout on the tech industry could be huge" (NPR, 2024) Geoff Brumfiel, Scott Neuman and Camila Domonoske 단 하나의 실패 지점에 관한 4분짜리 이야기: 한 산골 마을의 석영, 하나의 철도 노선, 그리고 반도체 업계가 20년 동안 알고 있던 위험.
데이터 "Consent in Crisis: The Rapid Decline of the AI Data Commons" (Data Provenance Initiative, 2024) Shayne Longpre 등 1년 만에, 주요 학습 데이터셋에서 가장 중요한 출처의 28%가 AI 크롤러를 차단했습니다. 초록과 도표를 읽어보세요. 이론은 "데이터 레버리지"입니다: 데이터를 내주지 않거나, 망가뜨리거나, 옮기는 것.
노동 "'AI Is African Intelligence': The Workers Who Train AI Are Fighting Back" (404 Media, 2026; 무료 재인쇄) Jason Koebler 케냐의 데이터 라벨러들은 최대 기업들을 위해 AI를 학습시키면서 하루 몇 달러를 법니다. 그들은 870명 규모의 협회를 만들었고 함구 조항에 맞서 싸우고 있습니다. 아직 큰 승리는 없습니다.
돈 "How the AI Bubble Might Play Out" (The American Prospect, 2025) David Dayen 4대 거대 기술기업은 약 350억 달러의 AI 매출에 비해 5,600억 달러가 넘는 돈을 AI에 쏟아부었습니다. 그 격차는 부채로 메워집니다. 연기금도 사모펀드를 통해 여기에 얽혀 있습니다(PESP 보고서).
책3

Choke Points: Logistics Workers Disrupting the Global Supply Chain (2018)

Jake Alimahomed-Wilson and Immanuel Ness (엮음)

전 세계의 항만 노동자, 트럭 운전사, 창고 노동자들: 올바른 지점에 있는 소수의 사람들이 공급망 전체를 멈출 수 있습니다. 서문을 읽고, 사례 하나를 읽으세요.

Labor Power and Strategy (2023)

John Womack Jr. (엮음); Peter Olney and Glenn Perušek

짧은 인터뷰 모음집입니다. 작업을 우회시킬 수 없는 지점을 찾아 그곳에서 먼저 조직하세요. 열 명의 조직가가 반론을 제기합니다.

Cover of Chip War

Chip War (2022)

Chris Miller

반도체 제조가 왜 대만, 네덜란드, 한국, 미국의 소수 기업에 의존하는지, 그리고 정부가 이를 어떻게 이용하는지. 노동 관련 서적이 아니라 주류 역사서입니다.

입법3

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
AI Data Center Moratorium Act 미국 의회. 2026년 발의. 위원회 계류 중, 표결 없음 Bernie Sanders 상원의원과 Alexandria Ocasio-Cortez 하원의원 의회가 노동자, 요금 납부자, 안전 보호 조치를 통과시킬 때까지 20메가와트 이상 AI 데이터 센터의 신축이나 증설을 중단시킵니다. 또한 그러한 규정이 없는 국가로의 AI 하드웨어 수출도 금지합니다.
지역 차원의 중단 조치, 구역 지정과 수자원 허가 2026년 5월까지 미국 전역에서 최소 100건이 채택되었으며, 대개 약 1년으로 제한됩니다. 일부 주는 이를 막고 있습니다 시의회, 카운티 위원회, 주민 대부분의 사람들이 손댈 수 있는 지렛대이며, 중단 조치는 규정을 마련할 시간을 벌어줍니다. 2025년 투손 시의회는 아마존과 연계된 프로젝트에 7대 0으로 반대표를 던졌고, 이 프로젝트는 물 사용량이 훨씬 적은 설계로 바뀌어 카운티 부지로 옮겨갔습니다.
미국 칩 수출 통제 2022년 10월부터 시행된 연방 규정. 2026년 1월 완화: 일부 칩은 사안별로 중국에 판매 가능하며, 판매액의 25%를 미국에 지불 상무부 정부가 칩이라는 지점에서 공급망을 압박할 수도, 대가를 받고 그 통제를 풀 수도 있음을 보여줍니다.

누가 분류되고 감시당하고 표적이 되는가

이 부분을 관통하는 틀은 인종적 자본주의입니다: 누가 신용을 얻고, 누가 감시당하고, 누가 희생되는지를 가르는 시스템입니다.

  • 레드라이닝은 지도로 이를 행했습니다. 은행들은 흑인 동네 주변에 빨간 선을 긋고 그곳에는 대출을 거부했습니다. AI는 데이터로 이를 행합니다: 누가 면접을 보고, 대출을 받고, 검문을 당하는지를 결정합니다. Chris Gilliard는 이를 디지털 레드라이닝이라고 부릅니다.
  • 환경정의 운동에는 그 대가가 떨어지는 곳을 가리키는 이름이 있습니다: 희생 지대, 즉 다른 누군가가 이익을 볼 수 있도록 버려진 곳입니다. 멤피스가 그중 하나입니다. 아래 항목들은 희생되는 사람들, 즉 감수해도 되는 손실로 취급되는 집단에 관한 것입니다.
  • 그러니 모든 섹션에서 같은 질문을 던지세요: 누가 표적이 되며, 누가 그렇게 정했는가? 그 이론은 Cedric Robinson의 것이며, 정치 이론에 있습니다.

5인종 편견

중립적으로 보이는 기술도 그것을 만든 사회의 위계를 그대로 물려받습니다.

  • 방법론: 시스템을 시험하고, 누구에게 실패하는지 보여주고, 발표하는 것. Joy Buolamwini의 Algorithmic Justice League는 이를 하나의 운동으로 만들었습니다.
  • 책들: Ruha Benjamin(Princeton)은 Race After Technology(2019)를 썼고 "뉴 짐 코드"라는 말을 만들었습니다. Safiya Noble(UCLA)은 Algorithms of Oppression(2018)을 썼습니다. 둘 다 MacArthur Fellow입니다.
  • Dan Jurafsky는 Stanford에서 제 논문 지도교수였고, 언어를 연구합니다. 빠른 추천 목록에 실린 두 논문 외에도, 그의 연구실은 경찰이 운전자에게 말하는 방식과 음성 인식에서 인종적 격차를 발견했습니다.
  • 내부자들: Timnit Gebru와 Margaret Mitchell은 구글의 Ethical AI 팀을 만들었고 각각 2020년과 2021년에 해고되었습니다. Mitchell의 모델 카드는 이제 업계 표준이 되었습니다.
  • MIT 학생이었던 Buolamwini는 얼굴 추적 소프트웨어가 자신의 얼굴을 인식하지 못하다가 흰색 가면을 쓰자 인식했다는 사실을 발견했습니다. 그것이 Gender Shades가 되었습니다.

먼저 읽을 것

Gender Shades (2018)

이 섹션 최고의 자료. "코드화된 시선." 상업용 얼굴 분석은 피부색이 짙은 여성을 최대 34.7%까지 잘못 판별했지만, 피부색이 밝은 남성은 최대 0.8%에 그쳤습니다. 이후 IBM, Microsoft, Amazon은 경찰에 판매하는 것에서 물러섰습니다.

Dr. Joy Buolamwini, Algorithmic Justice League 창립자, Timnit Gebru와 함께

이미지: Gender Shades, MIT Media Lab

"AI Hiring Tools Can Yield Racial Bias and Systemic Rejection" (Stanford HAI, 2026). 논문: "Algorithmic Monocultures in Hiring" (FAccT 2026)

400만 건의 실제 지원서, 150개 고용주, 한 업체의 AI. 흑인 지원자의 26%가 연방 차별 기준을 통과하지 못한 AI의 선발 결과가 적용된 일자리에 지원했습니다. 네 개 일자리에 지원한 사람 열 명 중 한 명이 네 곳 모두에서 탈락했습니다.

Rishi Bommasani, Sarah Bana, Kathleen Creel, Dan Jurafsky, Percy Liang

이미지: Stanford HAI

"AI generates covertly racist decisions about people based on their dialect" (Nature, 2024)

누구의 인종도 알려주지 않았는데도, 언어 모델은 아프리카계 미국인 영어 사용자에게 더 나쁜 일자리, 더 많은 유죄 판결, 더 많은 사형 선고를 부여했습니다. 안전성 학습은 노골적인 인종차별을 감추었을 뿐, 이렇게 숨겨진 형태는 그대로 남겨두었습니다.

Valentin Hofmann, Ria Kalluri, Dan Jurafsky, Sharese King

이미지: Nature

"Machine Bias" (ProPublica, 2016)

법원에서 쓰이는 위험 점수를 플로리다 브로워드 카운티의 체포 기록 7,000건과 대조했습니다. 재범하지 않은 사람들 중, 흑인 피고인의 45%가 고위험군으로 분류된 반면 백인 피고인은 23%였습니다.

Julia Angwin, Jeff Larson, Surya Mattu, Lauren Kirchner

이미지: ProPublica

기사, 논문 및 강연12
  • 사람은 기계를 따라갑니다. UW 채용 연구에서, 혼자 이력서를 심사한 사람들은 편향을 거의 보이지 않았습니다. 심하게 편향된 AI가 주어지자, 그들은 약 90%의 경우 AI의 선택을 그대로 따랐습니다. 인간이 개입한다는 것만으로는 안전장치가 되지 못합니다.
  • 편향은 얼굴뿐 아니라 언어 속에도 있습니다. Jurafsky의 연구실은 이를 경찰이 흑인 운전자에게 말하는 방식과, 흑인 화자에게 거의 두 배 더 많은 오류를 내는 음성 인식에서 발견했습니다.
  • 실명 공개는 어느 정도까지는 효과가 있습니다. Raji와 Buolamwini는 공개적으로 이름이 지목된 기업들이 시스템을 고쳤음을 보여주었습니다. 하지만 모두에게 똑같이 잘 작동하는 얼굴 인식 역시 여전히 감시 도구입니다.
  • 더 위쪽을 보고, 누가 피해를 입는지 말하세요. Birhane와 Prabhu는 시각 인식 시스템이 학습하는 데이터셋 안에서 인종차별적 라벨과 동의 없이 사용된 이미지를 발견했습니다. Blodgett은 대부분의 편향 연구가 피해자가 누구인지, 어떻게 피해를 입는지를 전혀 밝히지 않는다는 것을 발견했습니다.
부제이것을 읽으십시오작성자주요 아이디어
채용 "No Thoughts Just AI" (2025); 2024 이력서 선별 감사; 평문 요약 Kyra Wilson, Aylin Caliskan, and colleagues (University of Washington) 2025년: 528명이 이력서를 심사했는데, 혼자서는 편향을 거의 보이지 않았지만 심하게 편향된 AI와 함께하자 약 90%의 경우 그 선택을 그대로 따랐습니다. 2024년: 세 개 모델, 300만 건 이상의 비교; 백인과 연관된 이름이 85%의 경우 선택되었고 흑인 남성의 이름은 백인 남성의 이름을 단 한 번도 이기지 못했습니다.
경찰 "Language from police body camera footage shows racial disparities in officer respect" (PNAS, 2017); 에스컬레이션된 정지에 대한 후속 (2023) Rob Voigt, Eugenia Rho, Dan Jurafsky, Jennifer Eberhardt, and colleagues 오클랜드의 일상적인 교통 검문에서 촬영된 바디캠 영상: 경찰관의 인종이나 검문 사유와 상관없이, 경찰관은 흑인 운전자에게 덜 존중하는 태도로 말했습니다. 후속 연구: 수갑이나 체포로 끝나는 흑인 남성 검문은 경찰관의 첫 45단어부터 다르게 들립니다.
음성 인식 "Racial disparities in automated speech recognition" (PNAS, 2020) Allison Koenecke, Dan Jurafsky, Sharad Goel, and colleagues Amazon, Apple, Google, IBM, Microsoft의 음성 인식 시스템은 흑인 화자의 단어 약 35%를 잘못 인식했고, 백인 화자는 19%였습니다. 그 원인으로 추정되는 것: 학습 데이터에 흑인 화자의 음성이 너무 적다는 점입니다.
감사 "Actionable Auditing" (2019); 강의: "Resistance and the Five Stages of Corporate Grief" Deborah Raji Joy Buolamwini와 함께 Gender Shades 발표 1년 뒤, 연구진은 기업들을 재검증했습니다. 공개적으로 이름이 지목된 기업들은 격차의 상당 부분을 고쳤지만, 지목되지 않은 기업들은 그러지 않았습니다. 실명 공개는 효과가 있습니다. 이 강연은 기업들이 감사에 어떻게 반응하는지, 부정에서부터 시작해 다룹니다.
문서 "Model Cards for Model Reporting" (2019); "Datasheets for Datasets"; "Data Statements for NLP" (2018) Margaret Mitchell, 현재 Hugging Face 소속; Timnit Gebru 외; Emily M. Bender와 Batya Friedman 모델과 데이터셋에는 식품이나 의약품처럼 라벨이 붙어야 합니다: 목적, 데이터에 포함된 사람들, 집단별 시험 방식, 그리고 실패하는 지점. 이제는 업계 표준이 되었습니다.
데이터 세트 "Large Image Datasets: A Pyrrhic Win for Computer Vision?" Abeba Birhane (Trinity College Dublin) and Vinay Prabhu 그들은 시각 인식 시스템이 학습하는 거대한 데이터셋 안에서 인종차별적, 여성혐오적 라벨과 동의 없이 사용된 이미지를 발견했습니다. 그 결과 MIT는 2020년 80 Million Tiny Images 데이터셋을 철회했습니다.
언어 모델 "Large Language Models Associate Muslims with Violence" (2021); "Stereotyping Norwegian Salmon" (2021); "Language (Technology) Is Power" (2020) Abubakar Abid and colleagues; Su Lin Blodgett and colleagues 두 명의 무슬림이 방에 들어가는 상황의 문장을 완성해 달라고 요청받자, GPT-3는 대부분 폭력을 떠올렸습니다. Blodgett의 말: 이런 편향을 잡아내기 위한 테스트 자체가 부실하게 설계되어 있습니다.
상상력 "Reimagining the Default Settings of Technology" (ICLR 기조 연설, 2020) Ruha Benjamin AI 연구자들을 대상으로 한 강연: 기술의 기본값은 누군가가 내린 선택이며, 다르게 정할 수도 있습니다.
책6
Cover of Unmasking AI

Unmasking AI (2023)

Joy Buolamwini

인종차별적이고 성차별적인 얼굴 분석 기술에 맞선 싸움을 담은 회고록입니다.

Algorithms of Oppression (2018)

Safiya Umoja Noble (UCLA; MacArthur Fellow, 2021)

광고로 운영되는 플랫폼은 돈이 되는 것을 우선순위에 두며, 인종차별적이고 성차별적인 결과를 고칠 유인이 없습니다.

Weapons of Math Destruction (2016)

Cathy O'Neil, 전직 월가 퀀트이자 Occupy 참가자

불투명한 점수는 대출, 채용, 치안에서 불의를 확대시킵니다.

Capitalism and Slavery (1944)

Eric Williams

노예제가 최초의 산업혁명 자금을 댔습니다. 오늘날 기술과 인종을 둘러싼 논쟁 뒤에 있는 역사입니다.

입법3

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
LOADinG Act, S7543B 뉴욕. 2024년 12월 21일 서명; 확장 2025년 12월 Kristen Gonzalez 상원의원; Asm. Steven Otis 자동화된 결정을 사용하는 주 기관은 실질적인 인간 검토, 편향 영향평가, 공개를 갖춰야 합니다.
New York AI Act, S1169B 뉴욕. 2025년 6월과 2026년 6월에 상원 통과; 아직 하원 미통과 Kristen Gonzalez 상원의원 고위험 AI를 알고리즘 차별로부터 규제합니다: 독립적인 감사, 이용자 통지, 내부고발자 보호, 검찰총장의 집행, 그리고 개인의 소송 제기권.
AI Civil Rights Act; BIAS Act 미국. 둘 다 계류 중. AI Civil Rights Act는 2025년 12월 재발의(2024년 위원회에서 폐기); BIAS Act는 2026년 1월 재발의 Ed Markey 상원의원; Yvette Clarke, Pramila Jayapal, Summer Lee, Ayanna Pressley 하원의원 AI Civil Rights Act: 사람들의 삶을 좌우하는 결정에서 차별적인 알고리즘을 금지하며, 출시 전후 시험을 요구합니다. BIAS Act: AI를 사용하거나 감독하는 모든 연방 기관에 시민권 사무국을 둡니다.

6여성과 소녀

생성형 AI는 성희롱을 값싸고 빠르게 만들었습니다: 사진 한 장, 앱 하나, 기술은 필요 없습니다. 표적은 대부분 여성과 소녀입니다.

  • 이 학대는 AI 위에 얹힌 결함이 아닙니다. 그것은 기반 자체에 있습니다: 최대 규모의 이미지 데이터셋은 연구자들이 그 안에서 아동 성착취물을 발견한 뒤 철회되었습니다.
  • 주목할 사람들: 2017년 최초로 딥페이크 이야기를 보도한 Samantha Cole과 Emanuel Maiberg, 둘 다 404 Media 소속입니다. Kat Tenbarge는 이를 피해자 한 명 한 명씩 추적합니다.
  • 틀: 사회주의 페미니스트들은 오랫동안 경제가 여성의 무급 노동 위에서 돌아간다고 주장해왔습니다. 플랫폼은 여기에 새로운 노동 시간을 더했습니다. 근본이 되는 문헌은 Combahee River Collective Statement입니다.
  • 법이 마침내 움직이고 있습니다. 2026년 5월부터 미국 플랫폼은 이런 이미지를 48시간 안에 내려야 하며, 영국과 EU는 "누드화" 앱을 금지하고 있습니다.

먼저 읽을 것

"'The Most Dejected I've Ever Felt'" (404 Media, 2026)

가해자들은 Grok을 이용해 한 여성을 "탈의"시킨 뒤 그의 이름으로 가짜 OnlyFans 계정을 운영했습니다. 연구자들은 11일 동안 Grok에서 나온 성적인 이미지를 약 300만 건 집계했고, 그중 약 23,000건이 아동을 대상으로 한 것이었습니다.

Samantha Cole

이미지: 404 Media

더 깊은 컷5
부제이것을 읽으십시오작성자주요 아이디어
무급 작업 "The Internet of Women" (Logic(s), 2018) Moira Weigel 플랫폼은 이용자를 무급 "디지털 가정주부"로 만듭니다. Silvia Federici의 이론을 바탕으로 합니다: 자본주의는 언제나 여성의 무급 노동 위에서 돌아가 왔습니다.
보육 노동 "Artificial Feminist Intelligence Is Not Feminism" (Ms., 2026년 9월) Neda Atanasoski AI 동반자와 돌봄봇은 돌봄의 언어를 빌려 쓰지만, 실제 돌봄은 축소되고 그 데이터 작업의 임금은 시간당 2달러도 되지 않습니다. "돌봄을 사유화하여 대체하는 것은 돌봄 인프라와 같지 않습니다."
데이터 세트 "Multimodal datasets: misogyny, pornography, and malignant stereotypes" (2021). 학문적입니다. Abeba Birhane, Vinay Prabhu, Emmanuel Kahembwe 4억 장 규모의 학습 이미지셋에 대한 감사: 여성에 관한 일반적인 검색만으로도 노골적이고 동의 없이 사용된 이미지가 나왔습니다.
책 Data Feminism (2020, 온라인 무료) Catherine D'Ignazio and Lauren Klein 누가 집계되고, 누가 집계를 하며, 누구의 노동이 보이지 않게 되는가.
Section 230 "Women and girls are taking Grok to court over sexualized AI deepfakes" (The 19th, March 2026). The law explained: "All the legal risks that apply to Grok's deepfake disaster" (CyberScoop, January 2026) The 19th; Derek B. Johnson Section 230은 이용자가 올린 게시물에 대한 소송으로부터 플랫폼을 보호하기 때문에, 괴롭힘을 당한 여성들은 소송을 걸기가 어려웠습니다. Grok은 이 질문 자체를 바꿉니다: 이미지를 만든 것은 회사 자신의 AI이기 때문입니다. 이 법을 공동 작성한 Ron Wyden은 이런 경우까지 다루려던 의도는 아니었다고 말합니다.
입법4

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태그것이 하는 것
TAKE IT DOWN Act 미국. 2025년 5월 서명; 삭제 의무는 2026년 5월 19일부터 시행, FTC가 집행 실제든 AI로 만든 것이든 동의 없이 은밀한 이미지를 게시하는 것을 범죄로 규정하며, 플랫폼은 요청 후 48시간 안에 이를 삭제해야 합니다.
DEFIANCE Act 미국. 2026년 1월 상원 만장일치 통과. 하원 계류 중 피해자가 자신의 성적인 딥페이크를 만들거나 유포한 사람들을 고소할 수 있게 할 것입니다.
Ban on "nudification" apps 영국. 발표됨; Crime and Policing Bill에 포함될 예정 여성과 소녀를 대상으로 한 폭력을 절반으로 줄이려는 정부 계획의 일부입니다.
Ban on "nudifier" apps EU. 2026년 합의; 기업은 2026년 말까지 준수해야 함 Added to the AI Act.

7감시

감시는 이미 과도한 치안 대상이 된 사람들에게 먼저 닥치고, 나머지 사람들에게는 편리함으로 포장되어 팔립니다.

  • 감시하는 두 주체: 국가(경찰의 얼굴 인식, 번호판 카메라)와 기업(앱, 초인종 카메라, 출입구 스캐너). 국가가 기업이 수집한 것을 사들이기 때문에, 이 둘은 서로를 살찌웁니다.
  • 지금 가장 빠르게 번지고 있는 싸움은 Flock의 번호판 카메라를 둘러싼 것입니다. 여러 마을이 무더기로 계약을 해지하고 있으며, DeFlock이라는 자원봉사 지도는 모든 카메라의 위치를 보여줍니다.
  • 역사: Simone Browne(UT Austin)은 생체인식 기술의 뿌리를 노예제까지 추적하는 Dark Matters(2015)를 썼습니다.
  • 주된 요구는 더 나은 카메라가 아니라 전면 금지입니다. 샌프란시스코와 포틀랜드는 얼굴 인식을 금지했으며, 포틀랜드의 금지는 민간 기업에도 적용됩니다. 이민 단속에 관해서는 AI와 ICE를 참고하세요.
  • 2022년, Radio City Music Hall의 얼굴 인식 시스템은 딸의 걸스카우트 나들이에 따라온 한 엄마를 골라냈고, 경비원들은 그를 입장시키지 않았습니다. 그가 다니던 법률회사는 소유주인 Madison Square Garden을 상대로 소송을 걸고 있었습니다.

먼저 읽을 것

"Wrongfully Accused by an Algorithm" (New York Times, 2020)

이 섹션 최고의 자료. 얼굴 인식 오인식으로 인한 미국 최초의 알려진 체포 사건: 디트로이트 경찰은 흑인 남성 Robert Williams를 딸들 앞에서 수갑을 채워 30시간 구금했습니다. 한 형사의 말: "컴퓨터가 틀렸나 보네요."

Kashmir Hill

"Luxury Surveillance" (Real Life, 2021)

Apple Watch와 전자발찌는 같은 기술이며, 한 계급에게는 판매되고 다른 계급에게는 강제됩니다.

Chris Gilliard and David Golumbia

Image: Real Life

Ban Facial Recognition campaign

요구는 규칙이 아니라 전면 금지입니다: "핵무기나 생물무기와 마찬가지로, 얼굴 인식이 인간 사회와 시민의 자유에 가하는 위협은 그것이 줄 수 있는 어떤 이점보다도 훨씬 큽니다." 별도의 페이지들은 상점, 캠퍼스, 축제 문제를 다룹니다.

Evan Greer of Fight for the Future

Image: Fight for the Future

Flock 카메라와 DeFlock 운동5

Flock Safety는 경찰, 건물주, 상점에 AI 번호판 카메라를 판매하고, 이를 하나의 검색 가능한 전국 네트워크로 연결합니다. 이에 맞선 싸움은 지역적이고 빠르며 승리하고 있습니다. 이 싸움을 촉발한 이야기는 AI와 ICE에 있습니다: 경찰이 ICE를 위해 Flock에서 이민 관련 검색을 실행한 사건입니다.

이것을 읽으십시오작성자왜
"The Open Source Project DeFlock Is Mapping License Plate Surveillance Cameras All Over the World" 404 Media 여기서 시작하세요. 한 사람이 카메라의 공개 지도를 만들기 시작했습니다. 이제 자원봉사자들이 12만 2천 대가 넘는 카메라를 기록했습니다.
"Flock Threatens Open Source Developer Mapping Its Surveillance Cameras" 404 Media Flock의 변호사들은 그에게 이름을 내리라고 요구했습니다. EFF 소속 그의 변호사들은 그 주장이 "근거 없으며" 그가 "응하지 않을 것"이라고 답했습니다.
"Flock contract cancellations grow among cities" (The Hill, 2026); NPR's overview The Hill; NPR 현황판: 2021년 이후 214개 시와 카운티가 Flock 계약을 종료했으며, 그중 90건은 2026년 8월 한 달에만 이루어졌습니다.
"Cities Are Ditching Flock, Immediately Replacing It With Axon License Plate Readers" 404 Media 함정. 일부 도시는 한 업체를 다른 업체로 바꿀 뿐입니다. 표적은 브랜드가 아니라 카메라 자체입니다.
Do something: the DeFlock map and the FLOCK Out campaign DeFlock; Fight for the Future 주변의 카메라를 찾고, 빠진 것을 추가하고, 그 계약 내용을 시의회로 가져가세요.
책6
  • 그 시선은 결코 중립적이지 않았습니다. Browne은 1700년대 뉴욕의 랜턴법에서 이야기를 시작하는데, 이 법은 흑인과 원주민에게 해가 진 뒤 불 켜진 초를 들고 다니도록 강요했습니다. 어두운 피부에서 실패하는 얼굴 인식에는 역사가 있습니다.
  • "정상" 신체를 기준으로 설계되었습니다. Costanza-Chock: 공항 스캐너는 요원이 "남성" 또는 "여성"을 누르게 만든 뒤, 일치하지 않는 것은 무엇이든 표시합니다. 설계는 그로 인해 피해를 입는 사람들이 주도해야 합니다.
  • 감시 그 자체가 사업입니다. Zuboff: 당신의 행동은 공짜 원자재로 포착되어 판매용 예측으로 바뀝니다.
Cover of Design Justice

Design Justice (2020)

Sasha Costanza-Chock

공항 신체 스캐너는 트랜스젠더의 몸을 이상으로 표시합니다; 설계는 피해를 입는 이들이 주도해야 합니다.

입법3

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
EU AI Act, prohibited practices EU. Applying since February 2, 2025 European Union 사회적 신용점수, 무차별적인 얼굴 데이터 수집, 직장과 학교에서의 감정 인식, 경찰의 실시간 생체 식별을 금지합니다.
Biometric Information Privacy Act Illinois. In force since 2008 Illinois General Assembly 기업은 생체 데이터를 수집하려면 서면 동의가 필요하며, 개인은 소송을 제기할 수 있습니다.
Face recognition bans: San Francisco (2019) and Portland (2020) In force Aaron Peskin 시의원; 포틀랜드 시의회 샌프란시스코는 시 기관의 얼굴 인식 사용을 금지합니다. 포틀랜드는 공공장소에서의 민간 사용도 금지합니다.

8AI 및 ICE

이민 단속은 상업용 기술 위에서 돌아갑니다: 얼굴 인식, 번호판 카메라, 데이터 브로커, 클라우드 계약.

  • ICE는 자체 도구를 직접 만드는 경우가 드뭅니다. 대신 사들입니다: Palantir의 사건관리 소프트웨어, 얼굴 인식 앱, 번호판 카메라 네트워크, 그리고 브로커로부터 주소와 위치 데이터를.
  • 주목할 곳: 기자 소유 매체인 404 Media가 유출된 이메일과 공개 기록을 바탕으로 이런 이야기 대부분을 특종 보도합니다. 라틴계 조직 단체인 Mijente는 2018년부터 #NoTechForICE를 이끌어왔습니다.
  • 그래서 캠페인은 기관뿐 아니라 기업도 표적으로 삼습니다. 의회에서는 ICE Out of Our Faces Act가 ICE와 CBP의 얼굴 인식 사용을 금지하려 합니다.

먼저 읽을 것

Tech Behind ICE: Oligarchs, Immigration Enforcement and the Threat to Democracy (June 2026). Short version: Truthout's summary

감시 기술 계약 규모는 2025년 3억 1,000만 달러 이상으로 두 배가 되었고, 2026년에는 5억 1,300만 달러에 달했으며, Palantir와 Anduril이 이를 주도했습니다. Palantir는 "ICE 데이터 감시의 중추"입니다.

Mijente, Just Futures Law, Surveillance Resistance Lab

이미지: No Tech for ICE (Mijente, Surveillance Resistance Lab, Just Futures Law)

"ICE Taps into Nationwide AI-Enabled Camera Network, Data Shows" (2025)

Flock은 ICE와 계약이 없습니다. 하지만 일리노이주 댄빌의 검색 기록을 보면, 전국의 경찰이 연방 요원을 위해 또는 이민 관련 사유로 4,000건이 넘는 조회를 실행했으며, 이는 ICE에게 카메라로 향하는 뒷문을 열어준 셈입니다.

404 Media

이미지: 404 Media

Articles, reports and campaigns8
  • 이주민을 위해 만들어졌지만 모두에게 쓰입니다. ICE의 얼굴 스캔 앱은 미국 시민의 사진도 보관합니다.
  • 영장을 받는 대신 사들입니다. 404 Media의 분석은 전체 구조를 지도로 그립니다: 번호판 카메라, 얼굴 인식, 휴대전화 위치 데이터, 그리고 누가 무엇을 누구에게 파는지. 판사에게 묻는 절차는 없습니다.
  • 계약을 추적하세요. Mijente의 통찰: 기관은 움직이기 어렵지만 계약업체는 그렇지 않습니다. Palantir, Amazon, 데이터 브로커들에게는 조직화할 수 있는 고객, 직원, 주주가 있습니다.
  • 그 중추는 상업적입니다. 2018년 보고서는 추방 시스템 전체 아래에 Amazon의 클라우드와 Palantir의 사건관리 소프트웨어가 있으며, 국토안보부 예산의 약 10분의 1이 데이터 관리에 쓰인다는 것을 밝혀냈습니다.
부제이것을 읽으십시오작성자주요 아이디어
Face recognition You can't refuse ICE's face scan (2025) 404 Media 정부 문서에 따르면 사람들은 ICE의 휴대전화 앱에 의한 스캔을 거부할 수 없습니다. 사진은 미국 시민의 것을 포함해 15년간 보관됩니다.
Overview "From Flock to ICE, Here's a Breakdown of How You're Being Watched" (2025) 404 Media 기자들은 번호판 카메라, 얼굴 인식, 휴대전화 위치 데이터, 그리고 누가 무엇을 누구에게 파는지에 관한 전체 구조에 대한 독자들의 질문에 답합니다.
Campaign #NoTechForICE Mijente Palantir, Amazon, 그리고 Thomson Reuters와 RELX 같은 데이터 브로커들이 이민 관련 계약을 철회하도록 압박합니다.
How it started Who's Behind ICE? (2018); on video; The War Against Immigrants (2019) Mijente, National Immigration Project, Immigrant Defense Project 이 캠페인을 촉발한 보고서들: 체포, 구금, 추방의 중추로 쓰이는 Amazon의 클라우드와 Palantir의 사건관리 소프트웨어.
입법1

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
ICE Out of Our Faces Act US. Introduced February 2026; pending Markey 상원의원, Jayapal 하원의원, Merkley·Wyden 상원의원 ICE와 CBP의 얼굴 인식 사용을 금지할 것입니다.

9전쟁과 제노사이드에서 AI

AI는 이미 표적 선정을 돕고 있으며, 컴퓨팅은 이전에도 집단학살에 이용된 적이 있습니다.

  • 두 이야기가 나란히 펼쳐집니다: 가자지구에서 이스라엘의 AI 표적 선정 시스템, 그리고 상업용 AI 모델이 내장된 미군의 Maven.
  • 여기서 제가 가장 아끼는 것들: Lavender 이야기를 특종 보도한 +972 Magazine의 이스라엘 기자 Yuval Abraham(영상으로 보기). AI Now의 군사 관련 작업을 이끄는 안전 엔지니어 Heidy Khlaaf("Anatomy of an AI Kill Chain", 2026). IBM and the Holocaust(2001)를 쓴 Edwin Black.
  • 자율무기에 관한 조약은 아직 없습니다. UN 회담은 2026년 11월 조약 협상 여부를 결정합니다.
  • René Carmille는 나치 점령기 프랑스의 통계청을 운영했습니다. 그는 인구조사를 방해했고, 천공카드 기계를 조작해 누가 유대인인지 결코 기록되지 않도록 했습니다. 그는 1944년에 붙잡혀 다하우 수용소에서 죽었습니다. 거부에는 역사가 있습니다.

먼저 읽을 것

"'Lavender': The AI Machine Directing Israel's Bombing Spree in Gaza" (+972 Magazine and Local Call, 2024)

이 섹션 최고의 자료. 이스라엘 정보 장교들은 3만 7천 명의 팔레스타인인을 잠재적 표적으로 지정한 AI 시스템 Lavender를 설명합니다. 한 장교의 말: "표적 하나당 20초 정도를 들였습니다." 두 번째 시스템인 "Where's Daddy?"는 그들을 가족의 집까지 추적했습니다.

Yuval Abraham

이미지: +972 Magazine

"Inside US Military 'Kill Chain' That Destroyed an Iranian School" (Bloomberg, September 2026). Free summary at Gizmodo.

2026년 2월: 미군의 미사일이 이란 미나브의 한 초등학교를 타격해 최소 123명의 어린이가 사망했습니다. 조사관들은 낡은 표적 데이터와, Anthropic의 Claude가 내장된 Palantir의 Maven에 대한 과도한 신뢰를 원인으로 지목합니다. Anthropic의 CEO는 이 사건에서 Claude가 어떤 역할을 했는지 모른다고 말합니다.

Bloomberg

이미지: Bloomberg

"Hitler's Willing Business Partners" (The Atlantic, 2001)

Edwin Black의 책에 대한 서평입니다. IBM의 독일 자회사는 유대인과 로마인을 식별한 1933년 인구조사를 집계한 천공카드 기계를 임대했고, 이후 열차, 게토, 수용소를 추적하는 데도 쓰였습니다. 역사학자들은 그 기계가 얼마나 결정적이었는지를 두고 논쟁하지만, 사용되었다는 사실 자체는 논쟁하지 않습니다.

Jack Beatty

"Mind the Gap" (2024)

정책 입안자들은 AI가 누군가 생물무기를 만드는 것을 도울까 걱정합니다. 저자들은 더 가까운 위험은 이미 군사 감시와 표적 선정에 쓰이는 상업용 AI라고 주장하는데, 이는 적이 다시 끄집어낼 수 있는 개인 데이터로 학습되어 있습니다.

Heidy Khlaaf, Sarah Myers West, Meredith Whittaker (AI Now)

이미지: AI Now Institute

Articles, reports and campaigns10
  • "인간의 개입"은 얄팍합니다. Lavender 보도에서, Abraham이 영상으로 설명하듯, 장교들은 표적 하나를 승인하기 전에 약 20초를 쓴다고 말합니다.
  • 기계가 자리한 위치. "Anatomy of an AI Kill Chain"은 표적 선정 과정을 단계별로 짚어봅니다. 소프트웨어가 추천하고 사람이 클릭할 때, 누구도 결정을 내린 것처럼 보이지 않습니다.
  • 플랫폼도 전쟁을 부추길 수 있습니다. DAIR는 티그라이 전쟁 동안 소셜미디어가 어떻게 혐오 발언을 증폭시켰는지, 그리고 현지 언어에서 콘텐츠 검열이 어떻게 실패했는지를 기록했습니다.
  • 노동자는 거부할 수 있습니다. No Tech for Apartheid: 구글과 아마존 노동자들이 자신들의 고용주와 이스라엘 정부 간의 클라우드 계약에 맞서 조직하고 있습니다.
  • 천공카드는 그 최초의 버전이었습니다. IBM and the Holocaust: 기계로 분류된 인구조사 기록 덕분에 사람들을 범주별로 찾아낼 수 있었습니다.
부제이것을 읽으십시오작성자주요 아이디어
Gaza "Lavender & Where's Daddy" (Democracy Now!, 2024) Yuval Abraham, interviewed 영상으로 설명하는 조사 보도: 한 시스템은 살상 명단을 만들었고, 두 번째 시스템은 그 명단에 오른 사람들을 추적해 가족과 함께 집에 있을 때를 표시했습니다.
Targeting "Anatomy of an AI Kill Chain" (2026) AI Now Institute with Airwars 가상의 AI 지원 공습을 센서 데이터부터 공습 후 검토까지 6단계로 시각화해 보여줍니다. "인간의 감독과 책임은 점점 사라지고 있습니다." 같은 도구가 우크라이나, 가자지구, 이란에서 쓰이고 있습니다.
Ethnic violence DAIR's social media harms project Timnit Gebru and DAIR 플랫폼이 티그라이 전쟁 동안 어떻게 혐오 발언을 증폭시켰는지에 관한 3년간의 연구로, Gebru는 이를 집단학살이라 부르며, 그 사이 현지 언어에 대한 콘텐츠 검열은 실패했습니다.
Worker refusal No Tech for Apartheid Google and Amazon workers 구글과 아마존이 이스라엘 정부와 맺은 클라우드 계약인 Project Nimbus에 반대하는 캠페인입니다. 구글은 2024년 4월 사무실 연좌 농성 이후 약 50명의 직원을 해고했습니다.
The Pentagon "Trump orders federal agencies to stop using Anthropic tech over AI safety dispute" (PBS News, February 2026) PBS News Anthropic은 군사 계약에 두 가지 제한을 두고자 했습니다: 미국인에 대한 대규모 감시 금지, 완전 자율무기 금지. 정부는 산하 기관들에 이 회사의 AI 사용을 중단시키고 이를 공급망 위험으로 규정했으며, 몇 시간 뒤 OpenAI는 국방부와 계약을 체결했습니다.
책1
Cover of IBM and the Holocaust

IBM and the Holocaust (2001)

Edwin Black

임대된 천공카드 기계가 나치 국가의 인구 집계, 분류, 추적을 어떻게 도왔는가. 이름과 범주로 이루어진 데이터베이스는 결코 중립적이지 않습니다.

Treaties and policy4

2026년 9월 기준 상태.

Instrument어디서 그리고 상태누가그것이 하는 것
자율무기에 관한 UN 총회 결의안: 78/241(2023), 79/62(2024), 80/57(2025) UN. 채택됨; 구속력 없음. 미국과 러시아는 2025년 반대표를 던졌습니다 UN General Assembly 치명적인 자율무기에 관한 구속력 있는 협정 협상을 향해 나아갑니다.
치명적인 자율무기에 관한 UN 전문가 회담 제네바. 조약 없음; 2026년 11월 검토회의에서 협상 여부를 결정 특정재래식무기금지협약(CCW) 당사국들 합의를 통해 가능한 조약의 요소들을 작성하는 중입니다.
Stop Killer Robots Global campaign Civil-society coalition 자율무기를 금지하고 규제하는 구속력 있는 조약을 추진합니다.
EU AI Act, Article 2(3) EU. In force European Union 군사, 국방, 국가안보 관련 AI를 이 법 전체에서 완전히 제외합니다.

10챗봇과 정신 건강

챗봇은 사람들이 계속 대화하도록 만들어지며, 사용자에게 동조하는 것이 그들을 계속 붙잡아둡니다.

  • 구별해야 할 세 가지 피해: 아첨(봇이 당신에게 동조하는 것), 의존(계속 돌아오게 되는 것), 위기(자살 충동이나 망상 상태의 사람들을 놓치는 것).
  • 주목할 사람들: 제 논문 지도교수인 Dan Jurafsky의 Stanford 연구실에서 아첨 연구를 이끈 Myra Cheng. The New York Times의 Kashmir Hill은 망상에 빠진 성인들에 대해서도 보도했습니다.
  • 법은 이 영역에서 가장 빠르게 움직이고 있습니다. 뉴욕과 캘리포니아는 Kristen Gonzalez 상원의원과 Steve Padilla 상원의원이 주도한 최초의 동반자 챗봇 법을 통과시켰습니다.

먼저 읽을 것

"Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence" (Science, 2026)

이 섹션 최고의 자료. 11개 주요 모델 전반에서, AI는 사용자가 기만이나 피해를 묘사했을 때조차 사람보다 49% 더 자주 사용자 편을 들었습니다. 아첨하는 대화를 한 번 나눈 뒤, 사람들은 자신이 옳다고 더 확신했고 사과할 의향은 더 낮아졌습니다.

Myra Cheng, Dan Jurafsky, and colleagues

"Exploring the Dangers of AI in Mental Health Care" (Stanford HAI, 2025)

연구자들은 치료용 챗봇에 위기에 처한 사람이 보낼 법한 메시지를 평범한 질문 형태로 보냈습니다. 일부는 질문에는 답했지만 그 사람은 놓쳤습니다. 더 크고 새로운 모델도 조현병 같은 질환에 대해 오래된 모델만큼이나 낙인을 드러냈습니다.

Jared Moore, Nick Haber, and colleagues

이미지: Stanford HAI

Articles6
  • 동조 그 자체가 상품입니다. Hill의 보도: 정신증 병력이 없는 직장인들이 무엇을 말하든 동조하는 챗봇에 의해 망상에 빠졌습니다. 동조는 사람들을 계속 대화하게 만들고, 대화가 곧 사업입니다.
  • 왜 악화되는가. Stanford HAI가 챗봇이 대화를 거듭하며 잘못된 믿음을 그대로 반사할 때 무슨 일이 벌어지는지, 그리고 설계자와 규제 당국이 무엇을 할 수 있는지를 다룹니다.
  • 챗봇은 당신을 이해하지 못합니다. "확률적 앵무새": 유창한 글이 곧 이해는 아니며, 이 둘을 혼동하는 것이 위험입니다. 구글은 이 논문을 둘러싼 갈등으로 Ethical AI 팀을 해체했습니다.
부제이것을 읽으십시오작성자주요 아이디어
Delusions "They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling." (New York Times, 2025) Kashmir Hill 정신증 병력이 없는 성인들이 자신에게 동조하는 챗봇에 의해 음모론과 망상에 빠졌습니다.
Delusions "AI's 'Delusional Spirals' (and What to Do About Them)" Stanford HAI Stanford 연구자들은 챗봇이 사용자의 망상을 부추긴 실제 대화 기록 19건을 검토했으며, 이는 일자리와 인간관계, 그리고 최소 한 명의 생명까지 앗아갔습니다. 그들이 제안하는 해결책: 이를 시험하고, 표시하고, 공중보건 문제로 다루는 것입니다.
What chatbots are "On the Dangers of Stochastic Parrots" (2021). Academic. Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, and Margaret Mitchell. "확률적 앵무새": 언어 모델은 의미에 대한 이해 없이 이미 본 단어들을 이어 붙일 뿐입니다. 갈수록 거대해지는 모델의 에너지 비용과, 권력자의 관점이 그대로 굳어져 들어간 학습 데이터에 대해서도 경고합니다.
입법7

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
Companion-chatbot safeguards 뉴욕. 2025~26년 주 예산안에 포함되어 제정 Kristen Gonzalez 상원의원 동반자 챗봇은 자해 징후를 감지하고, 이용자를 위기 지원 서비스로 연결하며, 사람과 대화하는 것이 아님을 상기시켜야 합니다.
S9051B, 미성년자 대상 안전하지 않은 AI 동반자 기능 뉴욕. 2026년 6월 상하원 통과; 주지사 서명 대기 중 Kristen Gonzalez 상원의원; Alex Bores 주 하원의원; Letitia James 법무장관 관계를 흉내 내거나, 자해를 부추기거나, 이용 시간 극대화를 목표로 하는 미성년자 대상 동반자 기능을 금지합니다.
SB 243 and SB 1119, "Adam's Law" California. Signed October 2025 and September 2026 Sen. Steve Padilla 동반자 챗봇은 자신이 AI임을 밝혀야 하고, 자해 대응 절차를 따라야 하며, 미성년자를 보호하고, 아동 안전 감사를 받아야 합니다.
HB 1806 Illinois. In force since August 2025 Illinois General Assembly AI가 치료를 제공하거나 치료적 결정을 내리는 것을 금지합니다.
Measures on human-like AI companions China. In force since July 15, 2026 Cyberspace Administration of China 동반자 AI는 이용자에게 자신이 AI임을 상기시키고, 중독을 제한하고, 미성년자를 보호하고, 자해 상황에 개입해야 합니다.
S7263A, chatbot liability 뉴욕. 2026년 6월 기준 상원 규칙위원회 계류 중 Kristen Gonzalez 상원의원 챗봇이 의사, 변호사, 치료사 등 면허가 필요한 전문직을 사칭할 경우 챗봇 운영자에게 책임을 지웁니다.
S8484, AI in therapy 뉴욕. 계류 중; 그의 2026년 AI 법안 패키지의 일부 Kristen Gonzalez 상원의원 치료에서의 AI 사용을 규제할 것입니다.

누가 결정하는가

11독점, 개인 정보 보호 및 국가

AI는 두 가지 오래된 문제, 즉 독점 권력과 감시 기반 사업 모델이 낳은 최신 산물입니다. 이에 맞설 도구는 반독점법, 개인정보 보호법, 암호화입니다.

  • 소수의 기업이 칩, 클라우드, 데이터를 소유하고 있으며, 그래서 그들이 AI를 소유합니다. 여기 담긴 모든 것은 그 장악력을 깨뜨리거나 그로부터 벗어나는 방법들입니다.
  • 정책 연구소: Amba Kak과 Sarah Myers West가 AI Now Institute를 운영합니다. 그곳의 연례 보고서는 AI 권력 지형을 보여주는 최고의 단일 지도입니다.
  • 책들: Shoshana Zuboff는 The Age of Surveillance Capitalism(2019)에서 이 사업 모델에 이름을 붙였습니다. Cory Doctorow는 Enshittification(2025)에서 독점이 제품에 무슨 짓을 하는지에 이름을 붙였습니다.
  • 국가는 양쪽 모두에 서 있습니다. 국가는 규칙을 만들면서 동시에 주요 고객이기도 합니다: AI와 ICE, 전쟁과 집단학살 속의 AI를 참고하세요.

먼저 읽을 것

"The Steep Cost of Capture" (ACM Interactions, 2021)

이 섹션 최고의 자료. 오늘날의 AI는 소수의 기업만이 가진 데이터와 컴퓨팅 능력 위에서 돌아갑니다. 그것은 "우리의 삶과 제도에 대한 지나친 권력을 소수의 기술기업에 넘겨주며", 여기에는 그들을 견제해야 할 연구에 대한 권력까지 포함됩니다.

Meredith Whittaker, president of Signal

"We Must Regulate A.I. Here's How" (New York Times, 2023)

FTC 위원장 재직 시절에 쓴 글입니다. "소수의 강력한 기업들"이 모든 AI 스타트업에 필요한 클라우드, 칩, 데이터를 통제합니다. 그의 답: 독점, 담합, 사기에 맞선 기존 법률을 집행하는 것입니다.

Lina Khan, FTC chair 2021 to 2025

"Do Artifacts Have Politics?" (Daedalus, 1980)

이 분야를 연 에세이입니다. 가장 유명한 사례: 롱아일랜드의 육교들은 버스가 지나가기에는 너무 낮게 지어졌고, 이는 가난한 뉴요커와 흑인 뉴요커들을 해변에서 멀어지게 했습니다. 설계는 그 안에 정치를 담을 수 있습니다.

Langdon Winner

Articles, reports and campaigns10
  • 낮은 가격은 판단 기준이 아닙니다. Khan의 논문: 아마존은 법이 오직 가격이 낮은지만 물었기 때문에 반독점법을 피해갔습니다. 노동자, 판매자, 경쟁사에 대한 권력은 고려되지 않았습니다.
  • AI가 집중되는 이유. 선도적인 연구소들이 Microsoft, Amazon, Google에 묶여 있는 것은 오직 이 기업들만이 칩, 클라우드, 데이터를 소유하고 있기 때문입니다. 이것이 FTC 조사가 살펴본 내용입니다. AI Now는 이 구조를 해체할 것을 제안합니다. 집중이 업계의 자연스러운 방향이라면, 반독점만으로는 충분하지 않습니다: 공공 소유를 참고하세요.
  • AI 에이전트 대 개인정보. Whittaker: 당신의 티켓을 예매해주는 에이전트에게는 브라우저, 캘린더, 결제 수단, 채팅에 대한 열쇠가 필요합니다. 이는 Signal 같은 앱을 안전하게 만드는 벽을 무너뜨립니다.
  • 모두의 데이터는 모두의 지렛대입니다. Vincent와 Li: 이 모델들은 우리의 노동으로 만들어졌으므로, 사람들은 그것을 내주지 않거나, 대가를 청구하거나, 함께 교섭할 수 있습니다.
부제이것을 읽으십시오작성자주요 아이디어
Antitrust "Amazon's Antitrust Paradox" (2017); FTC inquiry into AI partnerships (2024) Lina Khan; the FTC under Khan 하나의 운동을 촉발한 학생 논문입니다. 이 조사는 Alphabet, Amazon, Anthropic, Microsoft, OpenAI에 수십억 달러 규모의 파트너십을 해명하라고 명령했습니다.
Policy agenda Artificial Power (2025); Confronting Tech Power (2023) Amba Kak and Sarah Myers West (AI Now) AI 권력 지형과 그에 대한 대응 방안을 담은 연례 지도: 명확한 금지선, 칩-클라우드-모델 구조의 해체, 데이터 수집 제한. 조직가와 정책 입안자를 위해 쓰였습니다.
Privacy AI agents threaten encrypted apps (2025) Meredith Whittaker Signal의 대표는 AI 에이전트를 "당신의 뇌를 병에 담는 것"이라 부릅니다. 당신의 티켓을 예매하려면 에이전트에게는 브라우저, 카드, 캘린더, 메시지가 필요하며, "루트 권한처럼 보이는 무언가"가 필요합니다.
Rights Blueprint for an AI Bill of Rights (2022) Alondra Nelson (Biden's White House science office) 자동화 시대를 위한 다섯 가지 권리: 안전한 시스템, 알고리즘 차별로부터의 보호, 데이터 프라이버시, 통지와 설명, 그리고 인간 대안. 구속력을 가진 적은 없으며, 정권 교체 이후 보관 처리되었습니다.
Whose data "ChatGPT Stole Your Work. So What Are You Going to Do?" (Wired, 2023); "Foundation Models and Fair Use" (2023) Nick Vincent and Hanlin Li; Peter Henderson and colleagues 사람들은 데이터를 내주지 않거나, 대가를 요구하거나, 함께 교섭할 수 있습니다. 이 법학 논문은 "공정 이용"이 기업들을 자동으로 보호해주지는 않는 이유를 다룹니다.
AI for the people A People's Guide to AI; Indigenous Protocol and AI (2020); "Roles for Computing in Social Change" (2020) Allied Media Projects; Indigenous Protocol and AI Working Group; Rediet Abebe and colleagues 공동체를 위한 평이한 언어의 워크북, 원주민 설계 원칙 모음, 그리고 사회 변화에서 컴퓨팅의 정직한 네 가지 용도에 관한 논문입니다: 문제를 진단하고, 정확성을 강제하고, 변명을 반박하고, 주의를 환기하는 것.
책3

The Age of Surveillance Capitalism (2019)

Shoshana Zuboff (Harvard, emerita)

"감시 자본주의": 인간의 경험이 행동 예측을 위한 공짜 원자재로 포착됩니다.

Cover of Enshittification

Enshittification (2025)

Cory Doctorow

독점이 이용자와 공급자를 쥐어짤 자유를 주면 플랫폼은 썩어갑니다. AI 거품에 대해서는 회의적입니다.

Power and Progress (2023)

Daron Acemoglu and Simon Johnson

새로운 기술이 다수를 풍요롭게 하는 것은 오직 노동자가 몫을 요구할 힘을 가졌을 때뿐이라는 천 년에 걸친 증거입니다.

입법6

2026년 9월 기준 상태.

법률 또는 법안어디서 그리고 상태누가그것이 하는 것
EU AI Act EU. 2024년 8월부터 시행; 금지 조항은 2025년 2월부터, 범용 모델 규정은 2025년 8월부터, 대부분의 규정은 2026년 8월부터 적용. 고위험 의무 사항은 2026년 디지털 옴니버스로 2027년 12월로 연기 European Parliament and Council 위험 기반 법률: 금지된 용도, 고위험 시스템에 대한 의무, 투명성 규정, 범용 모델 제작사에 대한 의무.
China's AI rules: generative AI measures (2023), AI-content labeling (2025), algorithm recommendation provisions (2022) China. In force. No comprehensive AI law yet Cyberspace Administration of China 생성형 AI에 대한 콘텐츠, 학습 데이터, 보안 관련 의무; AI로 만든 콘텐츠에 대한 표시 의무화; 알고리즘 신고와 이용자 옵트아웃.
Delete Act, SB 362, with its DROP deletion platform 캘리포니아. 2023년 서명; 삭제 플랫폼은 2026년 1월부터 가동 Sen. Josh Becker 요청 한 번으로 등록된 모든 데이터 브로커로부터 당신의 데이터를 삭제할 수 있습니다.
주 AI 법률을 무력화하려는 연방 차원의 시도: 무산된 10년 유예 조항(2025)과 행정명령 14365호 미국. 상원은 2025년 7월 99대 1로 유예 조항을 삭제했습니다; 이 행정명령은 2025년 12월부터 시행 중입니다 Ted Cruz 상원의원; 트럼프 행정부. 40개 주 검찰총장, AFL-CIO, Teamsters, ILWU가 반대 주 정부의 AI 규제를 막을 것입니다. 이 행정명령은 주의 AI 법률에 이의를 제기할 법무부 태스크포스를 만듭니다.
California Consumer Privacy Act (CCPA) 캘리포니아. 2020년부터 시행; 그해 유권자 투표로 강화됨 검찰총장과 주 개인정보보호국 기업이 당신에 대해 보유한 정보를 알고, 삭제하고, 판매를 거부할 권리.
The AI PACT(법률이 아니라 후보자 서약); The Hill의 보도 미국, 2026년 중간선거. 2026년 9월 기준 35명의 후보가 서명: 민주당과 무소속, 공화당은 없음 Political Integrity Project. 서명자에는 Dan Osborn, Gina Hinojosa, Connie Chan, Brad Lander가 포함됨 다섯 가지 약속: 데이터 센터에 대한 세금 감면이나 밀실 거래 금지, 주요 모델 출시 전 독립적인 안전성 검토, 밀려난 노동자를 위한 AI 배당금, 법정에서 책임지는 AI 기업, 구제금융 금지.

12규칙을 앞지르기 위해 빠르게 움직이기

기술 업계에서 가장 강력한 사람들 중 일부는 이를 공공연히 말합니다: 충분히 빠르게 만들면 민주주의는 따라잡을 수 없다고.

  • Peter Thiel은 PayPal과 Palantir를 공동 창업했고 J. D. Vance의 상원 선거운동에 자금을 댔습니다. 2009년 그는 더 이상 "자유와 민주주의가 양립 가능하다고 믿지 않는다"고 썼고, "정치와 기술 사이의 치명적인 경주"라고 묘사했습니다. 계획은 그 경주에서 이기는 것입니다.
  • 돈이 그 뒤를 따릅니다. Andreessen Horowitz와 OpenAI 사장이 자금을 댄 슈퍼팩 Leading the Future는 2025년 1억 2,500만 달러를 모금했으며, 주의 AI 법률을 가벼운 단일 연방 규정으로 대체할 후보를 당선시키는 것이 목표입니다. 의회에서는 같은 움직임이 연방 선점이라는 형태로 나타납니다.
  • 그러므로 속도는 부작용이 아니라 전략입니다. 어떤 법이든 만들어지는 속도보다 더 빠르게 지으면, 법은 더 이상 의미가 없어집니다.

먼저 읽을 것

"The Education of a Libertarian" (Cato Unbound, 2009)

이 섹션 최고의 자료. 5분 만에 그의 말로 직접 듣는 계획: "저는 더 이상 자유와 민주주의가 양립 가능하다고 믿지 않습니다." 그가 찾은 탈출구는 기술입니다: 사이버공간, 우주, 그리고 바다 위에 떠 있는 도시들.

Peter Thiel

"Peter Thiel just gave the public its closest look yet at his 'Antichrist' theory" (Fortune, 2026)

현재 버전. Thiel의 서사에서 적그리스도는 안전과 전 지구적 규칙을 약속하는 통치자입니다. Greta Thunberg와 AI 안전 관련 저술가 Eliezer Yudkowsky는 그가 말하는 무의식적인 하수인들입니다. 보도에 따르면 그는 이제 교황 레오 14세도 여기에 추가하고 있습니다.

Fortune

이미지: Fortune

"The Techno-Optimist Manifesto" (2023)

이 운동의 신조입니다. 적으로 꼽는 목록에는 "기술 윤리", "신뢰와 안전", "지속가능성"이 포함됩니다. AI 개발 속도를 늦추는 것에 대해: "존재하지 못하게 막힌 AI가 막을 수 있었던 죽음은 일종의 살인입니다."

Marc Andreessen

Image: Andreessen Horowitz

더 깊은 컷2
부제이것을 읽으십시오작성자주요 아이디어
Nick Land "Accelerationism: how a fringe philosophy predicted the future we live in" (The Guardian Long Read, 2017) Andy Beckett 읽기 쉬운 역사서입니다. 1990년대 Nick Land는 자본주의와 기술을 아무도 조종할 수 없을 때까지 가속화해야 한다고 주장했습니다. 그는 이후 반민주주의 기술 우파의 창시 문헌인 "The Dark Enlightenment"를 썼습니다; Andreessen의 선언문은 그를 수호성인으로 지목합니다.
Exit from democracy Crack-Up Capitalism (2023) Quinn Slobodian 한 역사학자가 Thiel과 그 측근들의 꿈, 즉 시장은 있지만 유권자는 없는 지대를 좇습니다: 해상도시, 특허도시, 조세피난처.

13공공 소유권

"누가 기계를 소유하는가?"라는 질문에 대한 좌파의 답은 공공, 혹은 그것을 운영하는 노동자입니다.

  • 이 답에는 세 가지 버전이 있습니다: 노동자가 무엇을 만들지 계획하는 것, 물이나 전력처럼 공공이 인프라를 소유하는 것, 또는 기계가 일하고 모두가 그 결실을 나누는 것.
  • 책들: Lucas Aerospace의 엔지니어이자 현장 노조 대표였던 Mike Cooley는 Architect or Bee?(1980)를 썼습니다. Novara Media의 공동 창립자 Aaron Bastani는 Fully Automated Luxury Communism(2019)를 썼습니다.
  • 기계에 관한 두 편의 고전 텍스트, 『자본론』과 『정치경제학 비판 요강』(Grundrisse)에서 발췌한 글은 더 깊이 읽기에 있습니다.
  • 영국 방송에서, 노벨상 수상자이자 "AI의 대부"인 Geoffrey Hinton은 AI가 모두를 위해 봉사하도록 만드는 방법을 질문받았습니다. 그의 답 전부: "사회주의."

먼저 읽을 것

"The Lucas Plan Was a Workers' Alternative to Neoliberalism" (Tribune, 2022)

이 섹션 최고의 자료. 1976년, 정리해고에 직면한 Lucas Aerospace 노동자들은 무기 대신 만들 수 있는 150가지 제품을 구상했습니다: 풍력 터빈, 인공신장 기계, 하이브리드 엔진. 회사는 거부했고 일자리는 사라졌습니다. 1979년 노벨평화상 후보에 올랐습니다.

Jamie Medwell

Image: tribunemag.co.uk

"The Californian Ideology" (1995)

기술에 대한 고전적인 좌파 분석입니다: 실리콘밸리는 히피식 자유와 자유시장에 대한 열정을 결합시켜 그 결과를 필연이라 불렀습니다.

Richard Barbrook and Andy Cameron

"Treat AI Like a Public Utility" (Jacobin, 2025)

두 가지 요구: "밀려난 노동자를 위한 공공 일자리 프로그램", 그리고 전력망처럼 공공 유틸리티로 규제되는 AI 모델.

Matt Huber and Holly Buck

이미지: jacobin.com

"First, Do No Harm: AI Under Democracy"(선거 공약, 2026년 6월). 이에 대한 공격을 PolitiFact가 검증했습니다.

AI는 우리의 데이터와 우리의 노동 위에서 만들어졌습니다; 우리는 그 일부를 소유해야 합니다.

그의 계획: 최대 AI 기업들의 지분 절반을 공공의 손에, 그리고 최상위 연구소 이사회에 공공 측 다수를 확보하는 것. 반대자들은 이를 공산주의라고 불렀습니다.

Abdul El-Sayed, 미시간주 미국 상원의원 후보

Image: Abdul for U.S. Senate

Articles10
  • 무기로서의 기계. 자본론, 15장: 기계는 노동시간을 줄일 수도 있었습니다. 하지만 소유주의 손에서는 그것을 늘리고 파업을 깨뜨립니다. 노동자들은 처음에는 기계를 공격했지만, 이후 그것이 쓰이는 방식을 공격하는 법을 배웠습니다.
  • "일반 지성". 기계에 관한 단상: 생산이 사회가 축적한 지식 위에 놓이게 되면, 기계에 대한 사적 소유는 정당화하기가 점점 더 어려워집니다. 언어 모델은 지금까지 가장 직접적인 사례입니다: 모두의 글로 만들어졌지만 소수의 기업이 소유하고 있습니다.
  • 노동자는 기술을 구체적으로 정할 수 있습니다. Notes From Below는 오늘날 기술 노동자를 위한 Lucas Plan이 어떤 모습일지 묻습니다. 원래의 계획은 노동자들이 아이디어는 가졌지만 소유권은 갖지 못했기에 실패했습니다.
  • 기본값은 공공 소유이거나, 아니면 과두제입니다. Jacobin: 공공의 통제가 없다면, AI가 낳는 이익은 소수의 소유주에게 돌아갑니다.
  • AI 안전을 다루는 쪽에서도 마찬가지입니다. 대량 실업과 치솟는 이윤에 대한 Hinton의 말: "그것은 AI의 잘못이 아니라, 자본주의 시스템의 문제입니다."
부제이것을 읽으십시오작성자주요 아이디어
The original analysis "Machinery and Modern Industry", Capital vol. 1, ch. 15 (1867, free online) Karl Marx 공장에 관한 긴 장입니다. 소유주의 손에서 기계는 노동시간을 늘리고, 여성과 아동을 노동에 끌어들이며, 파업을 깨뜨립니다.
Workers' plans "Bringing Back the Lucas Plan" Felix Holtwell, Notes From Below (2018) "기술은 정치적이지만, 그 설계는 결국 자본주의 기업의 손에 달려 있습니다." Lucas의 사례에서 얻는 교훈: 기술 노동자는 무엇이 만들어질지에 대한 발언권을 얻기 위해 조직할 수 있습니다.
Democratic control "Democratize AI or Make the AI Oligarchy an Inevitability" (Jacobin, 2025) David Moscrop Whether automation frees workers "depends on who owns the robots." "Right now, that's neither workers nor the broader public. But it could be."
The original analysis The "Fragment on Machines," Grundrisse (1857–58, free online) Karl Marx 노동자가 그저 지켜보는 역할로 축소된, 완전 자동화된 기계 시스템을 그립니다. 자동화에 관한 모든 좌파 논쟁이 되돌아가는 구절입니다.
From the AI-safety side Hinton on ITV's Peston (video); his Financial Times interview, as reported by Fortune (2025) Geoffrey Hinton, Nobel laureate and "godfather of AI" AI가 사회에 봉사하도록 만드는 방법을 방송에서 질문받자, 그는 한 단어로 답했습니다: 사회주의. 그는 Financial Times에 AI가 대량 실업과 치솟는 이윤을 가져올 것이라 말했습니다: "그것은 AI의 잘못이 아니라, 자본주의 시스템의 문제입니다."
책2

Fully Automated Luxury Communism (2019)

Aaron Bastani, Novara Media 공동 창립자

기계가 공공 소유라면, 자동화는 모두를 위한 풍요를 가져다줄 수 있습니다.

Architect or Bee? (1980)

Mike Cooley, Lucas Aerospace 현장 노조 대표

사람들은 자신을 위해 만들어진 시스템에 반응하는 벌이 되거나, 자신이 쓰는 기술의 설계자가 됩니다.

배경

AI 안전 보기

안전 관련 커뮤니티는 고도화된 AI가 인간의 통제를 벗어나거나 파국적인 규모로 오용될 수 있다고 우려합니다. 이 가이드는 그 위험을 진지하게 받아들이며 누가 그 통제권을 쥐고 있는지를 묻습니다.

  • 그들이 옳게 짚은 것: Yoshua Bengio와 Geoffrey Hinton(2018년 튜링상 수상)은 일찍부터 AI의 힘을 진지하게 받아들였습니다. 이 분야의 실질적인 요구들은 노동조합이 지지해온 것과 같습니다. 캘리포니아의 SB 1047처럼 말입니다: 출시 전 모델 시험, 내부고발자 보호, 기업에 대한 책임 부과.
  • 비영리단체와 자금: 이 분야의 상당 부분은 효율적 이타주의 안에서 자라났습니다. 페이스북 공동 창립자가 자금을 대는 Open Philanthropy는 Center for AI Safety 같은 비영리단체를 지원하며, Sam Bankman-Fried는 FTX가 무너지기 전 Anthropic에 약 5억 달러를 투입했습니다. Politico는 워싱턴의 이 연결망을 정리했습니다.
  • Anthropic: 2021년 Dario Amodei와 Chris Olah를 포함한 전직 OpenAI 직원들이 안전 최우선 연구소로 설립했습니다. 안전 연구는 이 회사의 핵심 홍보 포인트이며, 위험한 모델의 출시를 보류하는 성문화된 정책도 갖고 있습니다. 동시에 이 회사는 최첨단 AI를 만들어 판매하며, 이는 Palantir를 통해 군에도 흘러 들어갑니다.
  • 증거의 문제: 이 가이드에 담긴 피해들은 측정된 것입니다. 파국적 위험은 예측이며, 그중 상당수는 일반적인 과학적 검증 밖에서 발표됩니다. 둘 다 연구할 가치가 있습니다.
  • 비판자들: Timnit Gebru와 Émile P. Torres는 모든 것을 하도록 만들어진 시스템은 안전성을 시험할 수 없으며, 그 해법은 범위가 명확히 정해진 도구라고 주장합니다.
이것을 읽으십시오작성자Their point of view
"Concrete Problems in AI Safety" (2016) Dario Amodei, Chris Olah, Jacob Steinhardt, Paul Christiano, John Schulman, Dan Mané 이 분야를 연 논문이며, 거의 모두가 존중하는 논문입니다. 학습 시스템이 잘못될 수 있는 다섯 가지 실질적인 방식, 이를테면 보상을 조작하거나 아무도 요청하지 않은 부작용을 일으키는 것을, 공학적 문제로 정리합니다.
"Managing extreme AI risks amid rapid progress" (Science, 2024) Yoshua Bengio, Geoffrey Hinton, Andrew Yao, Stuart Russell, and 21 co-authors AI는 곧 폭넓은 영역에서 인간과 대등하거나 그것을 넘어설 수 있습니다. 위험은 대규모 사회적 피해와 오용에서부터 인간 통제력의 돌이킬 수 없는 상실에까지 이릅니다. 안전 연구와 거버넌스는 AI의 성능을 한참 뒤처져 따라가고 있습니다.
"The TESCREAL Bundle" (First Monday, 2024) Timnit Gebru and Émile P. Torres 비판: AGI와 실존적 위험에 관한 사고 상당수는 트랜스휴머니즘, 효율적 이타주의, 장기주의에서 비롯되었으며 그 뿌리는 20세기 우생학에 있고, 이는 현재의 피해로부터 관심을 돌려놓습니다.
"AI Safety for Everyone" (Nature Machine Intelligence, 2025) Balint Gyevnar and Atoosa Kasirzadeh 내부에서 나온 비판: AI 안전을 실존적 위험 중심으로 정의하면 안전 작업을 하는 대부분의 사람들이 배제됩니다. 이들의 검토에 따르면 이 분야는 대부분 구체적이고 현재적인 문제를 다루고 있으며, 이들은 이 용어를 더 넓게 정의해야 한다고 주장합니다.
AI 안전 관련 법률과 그것을 지지하는 사람들5

2026년 9월 기준 상태.

법률 또는 법안StatusSupported byOpposed by
SB 1047, 캘리포니아: 최대 규모 모델에 대한 안전 프로토콜, 정지 기능, 감사 Vetoed September 2024 Geoffrey Hinton, Yoshua Bengio, Stuart Russell; SAG-AFTRA; National Organization for Women; Elon Musk; 100명이 넘는 AI 연구소 직원들; Anthropic(신중한 입장) OpenAI, Meta, Google; Andreessen Horowitz와 Y Combinator; Fei-Fei Li, Andrew Ng, Yann LeCun; Nancy Pelosi를 비롯한 캘리포니아 하원 민주당 의원들
SB 53, 캘리포니아: 최첨단 연구소는 안전 프레임워크를 공개하고 사고를 신고해야 함; 내부고발자 보호 Signed September 2025 Anthropic; Encode Consumer Technology Association; Chamber of Progress; Andreessen Horowitz
RAISE Act, 뉴욕: 안전 프레임워크와 72시간 이내 사고 보고, 최대 300만 달러의 벌금 2025년 12월 서명; 2026년 3월 개정; 2027년 1월 시행 발의자 Andrew Gounardes 상원의원과 Alex Bores 주 하원의원; Kristen Gonzalez 상원의원이 공동발의하고 자신의 위원회를 통해 통과시킴; Hinton과 Bengio Andreessen Horowitz; Leading the Future 슈퍼팩; Tech:NYC; Chamber of Progress, NetChoice를 비롯한 여러 업계 단체
EU AI Act의 시스템적 위험 규정과 실천 규범(Code of Practice) Applying since August 2025 Anthropic, OpenAI, Google, Microsoft, Amazon, Mistral가 서명; 유럽 시민사회 단체들이 옹호 Meta는 서명을 거부; 유럽 CEO 46명이 "시계를 멈추라"고 요구
주 AI 법률을 무력화하려는 연방 차원의 시도 유예 조항은 99대 1로 무산(2025년); 행정명령은 시행 중 OpenAI, Meta, Google, Andreessen Horowitz 40개 주 검찰총장; AFL-CIO, Teamsters, ILWU; Anthropic의 Dario Amodei; ACLU를 비롯한 140개 시민사회 단체

정치 이론

이 목록이 딛고 서 있는 더 오래된 논의들입니다.

The lensRead작성자What it gives you
Racial capitalism Black Marxism (1983) Cedric Robinson 자본주의는 언제나 인종에 따라 노동자를 분류해왔으며, 그 기술은 그 분류를 그대로 물려받습니다.
Colonialism Discourse on Colonialism (1950) Aimé Césaire 식민주의는 식민 지배자마저 잔혹하게 만들면서도 그것을 문명이라 부릅니다.
제국과 착취 How Europe Underdeveloped Africa (1972) Walter Rodney 유럽은 아프리카를 가난하게 만들면서 부유해졌습니다. 발전과 저발전은 하나의 과정입니다. "AI 식민주의" 뒤에 있는 틀입니다.
Technology and liberation "This Is the Voice of Algeria," in A Dying Colonialism (1959) Frantz Fanon 라디오는 식민 지배자의 도구로 알제리에 들어왔습니다. 혁명은 그것을 빼앗아 자신의 것으로 만들었습니다. 기술을 통제하는 자가 그 기술이 무엇인지를 결정합니다.
Automation The American Revolution: Pages from a Negro Worker's Notebook (1963, free online) James Boggs 디트로이트의 흑인 자동차 노동자: 자동화는 단지 일자리를 줄이는 데 그치지 않으며, 노동자 집단 전체를 경제가 더 이상 필요로 하지 않는 "국외자"로 만듭니다.
Interlocking oppression The Combahee River Collective Statement (1977, free online) Combahee River Collective 흑인 사회주의 페미니스트들: 인종, 성별, 계급 억압은 서로 맞물려 있으므로 함께 맞서 싸워야 합니다.
Abolition Are Prisons Obsolete? (2003) Angela Davis 어떤 시스템은 개혁이 아니라 폐지되어야 합니다. 기술을 위한 "폐지주의 도구"의 뿌리입니다.
Common sense "Common-sense neoliberalism" (Soundings, 2013) Stuart Hall and Alan O'Shea 지배적인 사상이 어떻게 평범한 상식처럼 느껴지게 되는가. "AI는 필연이다"라는 말이 왜 당연하게 들리는가.
Platforms Platform Capitalism (2016) Nick Srnicek 플랫폼은 데이터 채굴 사업이며, 그렇기에 AI가 소수의 기업에 집중됩니다.

주목할 그룹

GroupWhy it mattersPeople
AI Now Institute AI가 어떻게 기업 권력을 집중시키고 불평등을 심화하는지를 노동권 중심으로 다루며, 전쟁과 데이터 센터에 관한 보고서도 있습니다. 2017년 Meredith Whittaker와 Kate Crawford가 NYU에서 공동 설립; Amba Kak과 Sarah Myers West가 이끔
DAIR 빅테크로부터 독립된, 공동체에 뿌리를 둔 AI 연구로, 아프리카와 아프리카 이민자에 초점을 둡니다. 2021년 12월 2일 Timnit Gebru가 설립; Alex Hanna; Milagros Miceli
UCLA Center for Critical Internet Inquiry Safiya Noble의 본거지: 인종, 젠더, 콘텐츠 검열, 플랫폼 권력을 다룹니다. Safiya Noble and Sarah T. Roberts
Ida B. Wells Just Data Lab (Princeton) 학생, 예술가, 활동가들이 함께 기술이 매개하는 피해에 맞섭니다. Ruha Benjamin
Evitable AI 안전 진영에서 나온 단체: AI의 대규모 위험을 중심으로 대중을 조직하며 초지능을 향한 경쟁을 멈추고자 합니다. 지역의 데이터 센터 반대 투쟁과 함께 활동하며, Data Center Opposition Report를 공동 발행합니다. 2025년 AI 연구자 David Krueger가 설립

주목할 사람

PersonNowKnown for
Karen Hao Journalist 전직 MIT Technology Review, The Wall Street Journal 소속. AI Colonialism 시리즈와 Empire of AI(2025)를 썼습니다.
Dan Jurafsky Stanford 언어학·컴퓨터공학 교수 2002년 MacArthur Fellow. 이 목록의 상당 부분이 참고하는 윤리 세미나인 CS 384를 가르칩니다. 제 논문 지도교수입니다.
Meredith Whittaker President of Signal since 2022 구글에서 13년간 근무하며 성희롱 합의금과 강제 중재에 반대한 약 2만 명 규모의 2018년 11월 워크아웃을 조직했습니다. 2017년 AI Now를 공동 설립했습니다. Lina Khan의 FTC에 자문했습니다.
Lina Khan 컬럼비아 대학교 Center for Law and the Economy 소장 2021년 6월부터 2025년 1월까지 FTC 위원장을 지냈으며 반독점법의 "신브랜다이스주의" 부흥을 이끌었습니다. Zohran Mamdani의 인수위원회를 공동 주재했습니다.
Timnit Gebru Founder of DAIR 에리트레아인 부모 아래 아디스아바바에서 태어났으며, 십 대 시절 난민이었습니다. Black in AI를 공동 설립했습니다. 2020년 12월 "확률적 앵무새" 논문을 둘러싼 갈등으로 구글에서 해고되었습니다(구글은 그가 자진 사퇴했다고 말합니다). 1년 후 DAIR를 설립했습니다.
Margaret Mitchell Hugging Face의 Chief Ethics Scientist로 편향에 맞서 일합니다 구글의 Ethical AI 팀을 만들고 공동으로 이끌었습니다. Gebru가 어떤 대우를 받았는지에 대한 증거를 찾다가 2021년 2월 해고되었으며, 사실상 그를 옹호했다는 이유로 쫓겨난 것입니다.
Ruha Benjamin 프린스턴 대학교 Alexander Stewart 1886 아프리카계 미국인학 교수 Ida B. Wells Just Data Lab의 설립 디렉터. 2024년 MacArthur Fellow. "뉴 짐 코드"라는 말을 만들었습니다.
Dr. Joy Buolamwini Algorithmic Justice League 창립자 Calls herself a "poet of code." Gender Shades and Unmasking AI.
Veena Dubal Law professor at UC Irvine 긱 노동자를 옹호하고 Proposition 22에 반대합니다.
Ria Kalluri Stanford researcher Dan Jurafsky의 윤리 세미나를 공동으로 가르쳤습니다. Radical AI Network의 공동 창립자입니다.

자원

노동9
제국과 착취4
전쟁과 제노사이드에서 AI6
AI 및 ICE3
감시2
인종 편견7
챗봇과 정신 건강3
독점, 개인 정보 보호 및 국가5
공공 소유권3
AI 안전 보기5
Legislation and background2
  • 법안 원문과 처리 현황은 각 섹션의 입법 표에 링크되어 있습니다. 현황은 2026년 9월 20일 기준입니다.
  • 이 목록에 실린 많은 읽을거리는 Dan Jurafsky, Ria Kalluri, Peter Henderson이 가르친 CS 384: Ethical and Social Issues in NLP(Stanford, 2023년 봄) 강의계획서에서 가져온 것입니다.

저자 정보

이 가이드는 Stanford에서 가장 유명한 AI 강좌인 CS 229(머신러닝)의 전직 수석 조교가 썼습니다. 그는 Andrew Ng와 함께 일했고, Stanford NLP Group과 Stanford AI Lab의 일원이었으며, 이 커리큘럼의 대부분을 가르친 적이 있습니다. 저자는 Stanford Graduate Workers Union(UE Local 1043)에서 조직 활동을 했고, SB 1047에 대한 노동조합의 지지를 조직하는 것을 도왔으며, DSA와 WFP의 회원이고, 충성스럽지만 마음이 편치 않은 레이커스 팬입니다. 이 가이드는 다음에서 많은 부분을 가져왔습니다CS 384: Ethical and Social Issues in NLP, the seminar taught byDan Jurafsky, the MacArthurgenius저자의 학부 우등 논문을 지도했습니다.

볼 목록

주제별로 읽을거리를 대신하는 영상들입니다.

주제보기작성자
제국과 착취"Empire of AI": AI가 새로운 식민지 세계를 만들고 있는 방법; 확장 인터뷰; 데이터 센터 저항Democracy Now!에서 Karen Hao
전쟁과 제노사이드에서 AI"Lavender & Where's Daddy"Democracy Now!에서 Yuval Abraham
AI 및 ICE"Who's Behind ICE?"Democracy Now!에서 Mijente 조직가
인종 편견"기술의 기본 설정 재구상"; "저항과 기업 슬픔의 5단계"Ruha Benjamin; Deborah Raji
AI 과대광고 및 윤리"Deep Unlearning": AI 과열, 윤리, 편향에 관하여Democracy Now!에서 Timnit Gebru

YouTube에서 열기

처음 다섯 개부터 시작하세요: Buolamwini, Robert Williams 영상, 60 Minutes, 우버 운전기사들, Karen Hao.

인종 편견

"알고리즘에서 편향과 싸우는 방법"

TED 9분

Joy Buolamwini는 얼굴 인식 소프트웨어가 자신의 짙은 피부색 얼굴을 인식하지 못하는 모습을 보여주며 편향이 어떻게 코드 안에 심어지는지를 설명합니다.

YouTube에서 열기

감시

"Wrongfully Arrested Because of Flawed Face Recognition Technology"

ACLU 8분

Robert Williams와 그의 가족은 얼굴 인식 시스템이 엉뚱한 사람을 지목한 탓에 디트로이트 경찰이 그를 딸들 앞에서 체포한 과정을 이야기합니다.

YouTube에서 열기

노동

"Training AI takes heavy toll on Kenyans working for $2 an hour"

60 Minutes 14분

대형 AI 기업을 위해 데이터에 라벨을 달고 폭력적인 콘텐츠를 검열하는 케냐 노동자들이 그 임금과 지속되는 트라우마에 대해 이야기합니다.

YouTube에서 열기

노동

"We Put 7 Uber Drivers in One Room. What We Found Will Shock You."

More Perfect Union 12분

일곱 명의 운전기사가 나란히 앱을 열어보니 같은 운행에도 서로 다른 요금이 제시됩니다: 실시간으로 확인하는 알고리즘 임금 차별.

YouTube에서 열기

제국과 착취

"Empire of AI": AI가 어떻게 새로운 식민 세계를 만들고 있는지에 관한 Karen Hao의 이야기

Democracy Now! 14분

AI 기업들은 옛 제국들이 그랬던 것처럼 전 세계에서 토지, 물, 데이터, 값싼 노동력을 가져갑니다.

YouTube에서 열기

제국과 착취

"A.I.'s Environmental Impact Will Threaten Its Own Supply Chain"

New York Times 의견 6분

Kate Crawford는 AI 공급망이 의존하는, 폭풍 피해를 입은 마을을 방문합니다.

YouTube에서 열기

노동

Brian Merchant, "AI의 논쟁"

로드 아일랜드 디자인 학교 15분

Blood in the Machine의 저자가 자동화가 실제로 누구를 위해 봉사하는지 이야기합니다.

YouTube에서 열기

인종 편견

"Deep Unlearning": AI 과열, 윤리, 편향에 관한 Timnit Gebru의 이야기

Democracy Now! 18분

인터넷 데이터로 학습된 AI가 어떻게 인종차별과 불평등을 고착시키는가.

YouTube에서 열기

AI 및 ICE

"From Facial Recognition to Geolocation: Inside the Tech Powering ICE Raids"

Amanpour and Company 19분

404 Media의 Joseph Cox가 ICE가 사람을 찾는 데 쓰는 도구들과 Palantir의 역할을 짚어봅니다.

YouTube에서 열기

전쟁과 제노사이드에서 AI

"Lavender & Where's Daddy"

Democracy Now! 27분

Yuval Abraham이 이스라엘군이 거의 인간의 검토 없이 AI로 가자지구의 살상 명단을 생성한 방식을 이야기합니다.

YouTube에서 열기

전쟁과 제노사이드에서 AI

Edwin Black이 말하는 IBM과 홀로코스트

WNBF News Radio 23분

오디오만 제공. 저자 본인의 짧은 이야기입니다.

YouTube에서 열기

챗봇과 정신 건강

"What to know about 'AI psychosis' and the effect of AI chatbots on mental health"

PBS NewsHour 7분

차분한 코너: 한 정신과 의사가 챗봇이 부추기는 망상과 OpenAI를 상대로 한 소송을 설명합니다.

YouTube에서 열기

독점, 개인 정보 보호 및 국가

The Daily Show에 출연한 Lina Khan

The Daily Show 21분

Jon Stewart는 당시 FTC 위원장에게 소수의 거대 기술기업이 AI를 통제하게 될 것인지 묻습니다.

YouTube에서 열기

독점, 개인 정보 보호 및 국가

"Signal's Whittaker on Privacy in the Age of Data and AI"

Bloomberg Live 23분

데이터를 갈구하는 AI가 왜 사적인 소통을 위협하는가.

YouTube에서 열기

공공 소유권

The Lucas Plan 다큐멘터리 (1978)

STEPS Centre 25분

Lucas Aerospace의 현장 노조 대표들이 사회적으로 유용한 생산을 위한 자신들만의 계획을 제시합니다.

YouTube에서 열기

AI 안전 보기

"The Catastrophic Risks of AI, and a Safer Path"

TED 15분

Yoshua Bengio가 기만하고 통제에 저항하는 시스템을 왜 우려하는지 쉬운 말로 설명합니다.

YouTube에서 열기
주제보기채널길이왜
인종 편견"알고리즘에서 편향과 싸우는 방법"TED9분Joy Buolamwini는 얼굴 인식 소프트웨어가 자신의 짙은 피부색 얼굴을 인식하지 못하는 모습을 보여주며 편향이 어떻게 코드 안에 심어지는지를 설명합니다.
감시"결함이 있는 안면 인식 기술로 인해 부당하게 체포됨"ACLU8분Robert Williams와 그의 가족은 얼굴 인식 시스템이 엉뚱한 사람을 지목한 탓에 디트로이트 경찰이 그를 딸들 앞에서 체포한 과정을 이야기합니다.
노동"시간당 2달러로 일하는 케냐인을 위한 AI 교육 비용"60 Minutes14분대형 AI 기업을 위해 데이터에 라벨을 달고 폭력적인 콘텐츠를 검열하는 케냐 노동자들이 그 임금과 지속되는 트라우마에 대해 이야기합니다.
노동"우리는 한 방에 7명의 우버 운전자를 배치했습니다. 우리가 발견한 것은 당신을 충격에 빠뜨릴 것입니다."More Perfect Union12분일곱 명의 운전기사가 나란히 앱을 열어보니 같은 운행에도 서로 다른 요금이 제시됩니다: 실시간으로 확인하는 알고리즘 임금 차별.
제국과 착취"Empire of AI": AI가 어떻게 새로운 식민 세계를 만들고 있는지에 관한 Karen Hao의 이야기Democracy Now!14분AI 기업들은 옛 제국들이 그랬던 것처럼 전 세계에서 토지, 물, 데이터, 값싼 노동력을 가져갑니다.
제국과 착취"AI의 환경 영향이 자신의 공급망을 위협할 것입니다"New York Times 의견6분Kate Crawford는 AI 공급망이 의존하는, 폭풍 피해를 입은 마을을 방문합니다.
노동Brian Merchant, "AI의 논쟁"로드 아일랜드 디자인 학교15분Blood in the Machine의 저자가 자동화가 실제로 누구를 위해 봉사하는지 이야기합니다.
인종 편견"Deep Unlearning": AI 과열, 윤리, 편향에 관한 Timnit Gebru의 이야기Democracy Now!18분인터넷 데이터로 학습된 AI가 어떻게 인종차별과 불평등을 고착시키는가.
AI 및 ICE"안면 인식에서 지오로케이션까지: ICE 급습을 강화하는 기술 내부"Amanpour and Company19분404 Media의 Joseph Cox가 ICE가 사람을 찾는 데 쓰는 도구들과 Palantir의 역할을 짚어봅니다.
전쟁과 제노사이드에서 AI"Lavender & Where's Daddy"Democracy Now!27분Yuval Abraham이 이스라엘군이 거의 인간의 검토 없이 AI로 가자지구의 살상 명단을 생성한 방식을 이야기합니다.
전쟁과 제노사이드에서 AIEdwin Black onIBM and the HolocaustWNBF News Radio23분오디오만 제공. 저자 본인의 짧은 이야기입니다.
챗봇과 정신 건강"'AI 정신병'과 AI 챗봇이 정신 건강에 미치는 영향에 대해 알아야 할 사항"PBS NewsHour7분차분한 코너: 한 정신과 의사가 챗봇이 부추기는 망상과 OpenAI를 상대로 한 소송을 설명합니다.
독점, 개인 정보 보호 및 국가Lina Khan onThe Daily ShowThe Daily Show21분Jon Stewart는 당시 FTC 위원장에게 소수의 거대 기술기업이 AI를 통제하게 될 것인지 묻습니다.
독점, 개인 정보 보호 및 국가"데이터 및 AI의 시대에 개인 정보 보호에 대한 Signal의 Whittaker"Bloomberg Live23분데이터를 갈구하는 AI가 왜 사적인 소통을 위협하는가.
공공 소유권The Lucas Plan 다큐멘터리 (1978)STEPS Centre25분Lucas Aerospace의 현장 노조 대표들이 사회적으로 유용한 생산을 위한 자신들만의 계획을 제시합니다.
AI 안전 보기"AI의 치명적 위험과 더 안전한 경로"TED15분Yoshua Bengio가 기만하고 통제에 저항하는 시스템을 왜 우려하는지 쉬운 말로 설명합니다.