オーガナイザーのためのAIガイド

このガイドはすべての人のためのものです。ただし、すべての人がオーガナイザーになるべきです。

下書きの翻訳です。英語版のガイドが基準です。

データセンターは今年、草の根の闘いの的になっており、人々が勝利を収めつつあります。 しかし、こう問うべきでもあります。

  • データセンターは何のためにあるのか?
  • そこで動いているAIは、何をしているのか?
  • なぜ億万長者やファシストたちは、それほどまでにデータセンターを建てたがるのか?

このガイドは、労働、監視、ICE、戦争、そして機械を誰が所有するかについての専門家による、もっとも鋭く簡潔なAI分析でこれらの問いに答えます。

執筆者はコミュニティおよび労働組合のオーガナイザー、スタンフォード大学の看板機械学習講座(CS 229、Andrew Ng担当)の元TAで、マッカーサー天才助成金を受賞したDan Jurafsky。それはスタンフォード大学のNLP倫理セミナーを参考にしており、CS 384、さらに範囲を広げています。Jurafskyのおかげで、Ria KalluriそしてPeter Henderson.

AIによる害は未来の話ではありません。すでに今、ここにあります。

  • 少数の企業が、富と権力の大半を握っていること
  • 労働者や移民、そして顔を持つ誰もが監視されていること
  • 賃金を減らし、仕事の質を悪化させるソフトウェア
  • 採用、警察活動、融資における不公正な扱い

もっとも重要な問いは、誰がAIを制御し、それを何のために使うかということです。億万長者の言いなりになるAIは、すでに存在しています。それは人間の制御下にありますが、それでも私たちの多くにとって安全ではありません。

これは初めてのことではない

AIに新しいところは何もありません。それは少数の者に所有され、多数の者の労働によって作られ、その多数への支払いを減らすために使われる機械です。左派は、ラッダイトや衣料品生産の機械化の時代から、資本主義のもとでの自動化がもたらす不平等な結果と闘い続けてきました。

  • 私たちは、苦しみを減らし、より人間らしい生活をもたらす自動化に反対しているのではありません。私たちが反対しているのは、私たちを犠牲にする自動化です。
  • 私たちはAIを恐れる必要はありません。理解する必要があるのです、工学としてよりも、社会における力として。その存在が加速し続けているのを無視することは許されません。
  • だから私たちはそれを学び、そして闘います。目指すのは物質的な分析、つまり誰が得をし、誰が代償を払うのかを見極めること。そして行動です。読み、議論し、組織する。
Hand-coloured 1812 print of a Luddite leader in a dress, pointing, with a mill burning behind him

"Misery generates hate. These sufferers hated the machines which they believed took their bread from them; they hated the buildings which contained those machines; they hated the manufacturers who owned those buildings."

The Leader of the Luddites、版画、1812年5月。パブリックドメイン、Wikimedia Commons経由。

Charlotte Brontë著Shirley(1849)、第2章より、1812年の機械破壊者たちについて。

まず読むもの

まずはここから:HaoのAI植民地主義という考え方がこのガイド全体をつなぎ、ロサンゼルス港の港湾労働者たちが反撃のかたちを示しています。

理論

AI Colonialism シリーズ。ビデオ

かつての帝国と同じように、AIは、以前にも奪われてきたコミュニティからデータ、労働、土地、水を奪って、ひと握りの権力者をさらに豊かにし、それを進歩と呼びます。Haoのシリーズは、このパターンを4つの場所で示します。南アフリカで"デジタル・アパルトヘイト"を築く民間の監視、ベネズエラの経済危機の中で搾取されるデータ労働者、アルゴリズムと闘うジャカルタのGojekの運転手たち、そして自分たちの人々のためのAIをつくるニュージーランドのマオリの夫婦です。結末は絶望ではなく抵抗です。

Empire of AIの著者、Karen Hao・10分

イラスト:Edel Rodriguez(MIT Technology Review)

実践
Cover of the zine AI For Whose Good? Lessons from community resistance to automation at the Port of Los Angeles
物語:自動化に立ち向かう港湾の人々
Zine page: a hand-drawn table comparing code-centered and community-centered fairness, accountability and transparency
分析:公正なコードか、公正な社会か?
Zine page: the algorithmic ecology, a map of the ideas, institutions, machines and community around port automation
ツール:圧力をかけるべき場所の地図

AI For Whose Good? (zine)

自動化は、それが押し寄せる現場で闘えるという証拠です。ロサンゼルス港が自動化を進めようとしたとき、ILWUの港湾労働者とその隣人たちが公聴会を埋め尽くしました。WangとCruzはその場にいて、このジンは労働者自身の言葉を、ひとつの問いに突きつけます。公正なコードか、公正な社会か。さらに、圧力をかける場所の地図であるStop LAPD Spying CoalitionのAlgorithmic Ecologyという道具も手渡してくれます。手描き、24ページ、無料でダウンロード・印刷できます。

Wang and Cruz・10分

Sophie WangとTaylor M Cruzによる AI For Whose Good?(2023)からのページ、CC BY-NC-ND。

「Lavender」 (+972)。ビデオ

あるAIが、37,000人のパレスチナ人を爆撃対象としてマークしました。

Yuval Abraham・戦争とジェノサイド・30分

画像:+972 Magazine

Tech Behind ICE レポート。要約 · ビデオ

強制送還のための監視技術に5億1,300万ドル。Palantirがその基盤を担っています。

Mijente · ICEと国外追放 · 10分

画像:No Tech for ICE (Mijente, Surveillance Resistance Lab, Just Futures Law)

本とポッドキャスト

  • Cover of Empire of AI 本を1冊: Karen Hao著Empire of AI(2025)。300件のインタビューをもとに描かれた、OpenAIの内幕。週末で読み終えられます。
  • Cover of Race After Technology もう1冊: Ruha Benjamin著Race After Technology(2019)。中立に見える技術が人種の序列を深めていく現象を、Benjaminは「the New Jim Code」と呼びます。
  • ポッドキャストを1つ: Paris MarxによるTech Won't Save Us。毎週配信され、このガイドに登場する人々の多くが出演しています。まずはこちらから:

ビデオをお好みですか?ウォッチリスト

私たちの立場

  • 技術は政治的なものであり、問題は誰がそれを所有するかです。

    • 機械はオーナーによって、オーナーのために作られています。
    • AIの制御を失うことは、現実のリスクです。しかしそれは数ある害のひとつにすぎません。より身近な危険は、機械がオーナーの望みどおりに動くことです。
  • 害はすでに今、起きています。そしてそれは平等には及んでいません。

    • 偏った顔認識、不公正な採用ソフトウェア、アルゴリズムによって決められる賃金は、今日すでに存在しています。
    • 黒人、女性、クィアの人々、移民、そして貧しい国々の労働者が、もっとも大きな打撃を受けています。
  • AIは政治的な問題です。

    • よくある問いは、コードをどう公正にするかです。より良い問いは、社会をどう公正にするかです。
    • それに必要なのは技術的な修正ではなく、政治的な行動です。労働組合、禁止、プライバシー法、独占の解体、抗議、市民の力、直接行動。
  • AIは人々と、搾取された労働によって作られています。

    • すべてのAIモデルは、あなたの同意なしにあなたのデータから作られ、開発途上国の低賃金労働者の手によって生み出されています
    • AIを考える存在として扱ったり、人間らしい特徴を与えたりすること自体が、その背後にある搾取された人間の労働を見えなくします

誰が働き、誰が代償を払うのか

1労働と雇用

問題は機械そのものではありません。誰がそれを所有し、誰の代わりを務め、誰に発言権があるのか、ということです。

  • このリスト全体の中で私が一番気に入っているのは、ジンAI For Whose Good?です。
  • AIをめぐる3つの闘い:失われる仕事、悪化する仕事、そしてAIを作る見えない労働者たち
  • 研究者たち:Veena Dubalは、UberとLyftのドライバーたちと何年も関わった末にアルゴリズムによる賃金差別と名付けました。DAIRのMilagros MiceliはData Workers' Inquiryを率いており、そこではデータラベラーたちが自分自身の仕事を調査しています。同僚のAdrienne WilliamsはAmazonで配送ドライバーをしていました。
  • オーガナイザーたち:Brian Merchantは、ラッダイトの物語を描いたBlood in the Machine(2023)を書きました。カリフォルニア州のAB 5を起草したLorena Gonzalezは、現在は州の労働組合連合を率いており、"No Robo Bosses" billsの背後にある推進力となっています。

まず読むもの

Cover of the zine AI For Whose Good?

AI For Whose Good? (zine, 2023)

このセクションで一番のおすすめ。ILWUの港湾労働者たちとその隣人たちは、ターミナルの自動化を止めるため、ロサンゼルス港の公聴会を埋め尽くしました。手描き、24ページ、無料。

Sophie Wang および Taylor M. Cruz

Sophie WangとTaylor M Cruzによる AI For Whose Good?(2023)からのページ、CC BY-NC-ND。

「Will A.I. Become the New McKinsey?」 (The New Yorker, 2023)

元McKinsey社員は同社を"資本の意のままに動く処刑人"と呼びました。雇われる理由は、経営陣が仕事を減らしながら責任を逃れられるようにするためです。Chiangは、AIも同じ役割を果たすために作られつつあると警告しています。

Ted Chiang、小説家

画像:The New Yorker

「OpenAI Used Kenyan Workers on Less Than $2 Per Hour」 (TIME, 2023)

OpenAIは、ある契約会社に時給12.50ドルを支払いました。ChatGPTをより安全にするため、虐待の生々しい記述を読んでいたケニアの労働者たちの手取りは、1.32ドルから2ドルでした。ある労働者はこう言います。"それは拷問でした。"

Billy Perrigo

画像:TIME

「The Problem With AI Is About Power, Not Technology」 (Jacobin, 2024)

AIは"人間の労働をなくすのではなく、その価値を引き下げている"のです。雇用主はこれを、これまでのあらゆる機械と同じように、熟練した仕事をより安価な仕事へと分解するために使っています。

Jason Resnikoff、オートメーション歴史家

画像:jacobin.com

「Canaries in the Coal Mine?」 (2025、2026年8月更新)

給与データ:AIの影響をもっとも強く受ける職種で働く22歳から25歳の労働者は、同世代の他の労働者に比べて約19%遅れをとっています。年長世代が若年世代を自動化しているのです。

Erik Brynjolfsson, Bharat Chandar, Ruyu Chen (Stanford)

画像:Stanford Digital Economy Lab

記事、論文とプロジェクト21
  • アルゴリズムこそが現場監督です。Dubalが調査したドライバーたちは、同じ距離を走っても違う金額を受け取り、それをギャンブルのようだと表現します。AIを訓練するデータワーカーたちは、ソフトウェアによって時間を計られ、採点されています。AIのサプライチェーンのどちらの端にも、同じボスがいるのです。
  • 自動化の速度を決めるのは、技術ではなく交渉力です。ラッダイトは、雇用主に交渉させるために機械を破壊しました(Hobsbawm)。2024年、東海岸の港湾労働者たちは36の港を3日間にわたって封鎖し、自動化の議論を残したまま賃上げを勝ち取りました。ILWUは、新しい技術がどのように導入されるかについて、労働者の発言権を求めています。
  • 雇用の喪失は、政策の選択です。NAFTAは、ロボットなど一切関係なく、アメリカの雇用およそ70万人分を失わせました。そして経営陣は、工場を移転すると脅すだけで、賃下げを勝ち取ることができたのです。
  • 雇用の数字は、注意して読みましょう。雇用データはあいまいで、その多くは答えに利害関係を持つ側、つまりAI企業や銀行、コンサルティング会社から出されています。これまでの慎重な調査が一致して示していることが1つあります。若者がまっさきに打撃を受けているということ。ただしそれは解雇によってではありません。単に雇ってもらえなくなっているのです。
  • 何を要求すべきか。Exleyは、8時間労働制が勝ち取られたのと同じように、労働時間を半分にしても賃金は変えないことを求めています。Varoufakisは、共産党宣言を、機械を誰が所有するかをめぐる最初の論争として読み解きます。
小見出しこれを読んでください著者主な考え
賃金とギグワーク 「On Algorithmic Wage Discrimination」 (Columbia Law Review, 2023) Veena Dubal (UC Irvine law) "アルゴリズムによる賃金差別":アプリは各ドライバーのデータを使い、同じ仕事に対して異なる金額を支払います。ドライバーたちはそれをギャンブルのようだと言います。Dubalは、それを規制するのではなく、全面的に禁止することを求めています。
データ作業 「The Exploited Labor Behind Artificial Intelligence」 (Noema, 2022); Data Workers' Inquiry Adrienne Williams、Milagros Miceli、Timnit Gebru エッセイ:思考する機械という語りは、AIが依存しているラベラーやモデレーター、ドライバー、倉庫労働者たちの存在を覆い隠してしまいます。彼らの組織化を後押しすることこそが、本当の意味での倫理的な仕事です。調査:ケニア、ベネズエラ、シリア、ドイツのデータワーカーたちが自分自身の仕事を調べ、報告書やジン、映画を発表しています。
労働組合 ILWUのAI政策声明 ILWU、西海岸の港湾労働者の労働組合 労働者を監視し、統制し、追いやるために使われるAIと自動化に反対します。監督体制、新技術における労働者の発言権、そしてあらゆる行政レベルでの規制を求めます。
カトリック社会教説 Magnifica Humanitas (回勅、2026年) Leo XIV教皇 AIについての教皇の書簡。工場労働者についての教会の書簡Rerum Novarumから135年後に出されました。今のかたちで作られたAIは"労働者の技能を奪い、自動化された監視の下に置き、硬直した反復作業に追いやる"おそれがあると述べ、労働組合を支持し、AIを導入するたびに"労働者の雇用、再訓練、参加を守るための検証可能な措置"を伴うことを求めています。カトリックの同僚や教区に渡してください。長いので、1〜16段落、次に148〜156段落を読んでください。約20分。
港湾労働者とオートメーション 「The Dockworkers' Strike Is a Big Test for Kamala Harris」 (The New Republic, 2024); 「Yes, the striking dockworkers were Luddites. And they won.」 (Blood in the Machine, 2024) The New Republic; Brian Merchant 2024年10月、選挙の数週間前、47,000人の港湾労働者が賃金と港湾の自動化をめぐって、東海岸とメキシコ湾岸の36の港を封鎖しました。Kamala HarrisとJoe Bidenは、労働者たちに復帰を命じる代わりにストライキ参加者を支持しました。3日後には賃上げの合意に至り、自動化については引き続き交渉のテーブルに残されました。
第一次産業革命 「The Machine Breakers」 (Past & Present, 1952) Eric Hobsbawm ラッダイトは機械そのものに反対していたわけではありません。機械を壊すことは"暴動による集団交渉"、つまりストライキが不可能なときに使われた戦術であり、しばしば効果を上げました。
綿花脱穀機 読書ノートBlood in the Machineについて (A Working Library, 2023) Mandy Brown、Brian Merchantの著書について 綿繰り機は、労働を減らすものとして売り込まれました。しかしそれは"あまりにもうまく機能しすぎたために、鍬入れや収穫をする労働者への需要を爆発的に増やし"、奴隷制をさらに70年間存続させる一因となりました。自動化が仕事を減らすことは、めったにありません。5分。
第一次産業革命 「Marx predicted our present crisis, and points the way out」 (The Guardian Long Read, 2018) Yanis Varoufakis 共産党宣言を、最初期の工場への応答として読み解きます。それは自動化とグローバル化、そして機械を誰が所有するかをめぐる闘いを予見していました。
仕事と貿易 「NAFTA's Impact on U.S. Workers」 (Economic Policy Institute, 2013) Jeff Faux アメリカで約70万人分の雇用が失われました。その大半は、カリフォルニア州、テキサス州、ミシガン州など製造業が盛んな州でのことでした。
雇用データ 「Young workers' employment drops in occupations with high AI exposure」 (2026) Federal Reserve Bank of Dallas AIの影響を受けやすい職種の若者たちは、解雇されているわけではありません。そもそも雇ってもらえていないのです。
雇用データ 「Generative AI as Seniority-Biased Technological Change」 (2025) Seyed Mahdi Hosseini Maasoum and Guy Lichtinger 285,000社、6,200万人分の労働者の履歴書を分析。AIを導入した企業では、採用が鈍化するため、若手向けの仕事が減る一方でベテラン向けの仕事は増え続けています。
雇用データ、ただし利害関係のある企業からの発表 「Labor market impacts of AI: A new measure」 (2026) Anthropic あるAI企業自身による調査では、影響を受ける労働者の失業率に今のところ上昇は見られないとされています。誰が書いたのかを踏まえて読んでください。
ドライバー 「In San Francisco, Waymo Has Now Bested Lyft. Uber Is Next」 (2025) Underscore_SF、YipitDataの数字を使用 Waymoは約20か月で、サンフランシスコの対象エリア内での配車予約シェアをゼロから27%まで伸ばし、21%のLyftを上回りました。空港への送迎は集計に含まれておらず、この点についてはThe Driverless Digestが詳しく検証しています。それらはかつてドライバーの取り分だった運賃です。
ロボタクシーについての対策 ニューヨークがWaymoの許可を失効させた (Gizmodo, 2026); Alex Boresの「AI配当」計画 (Axios, 2026); Tom Steyerの雇用保証 (Common Dreams, 2026) Gizmodo; Axios; Common Dreams 2026年に示された3つの答え。止める:Zohran Mamdani市長は、WaymoのニューヨークでのAI利用許可を失効させました。課税して還元する:AI利用への課税とAI企業への公的出資を財源とする配当。雇用を保障する:AI企業が資金を拠出する公的基金を作り、職を失った労働者を雇う。
要求すべきこと 「The obvious, and unthinkable, solution to the coming AI crisis」 (2025) Zack Exley (Sanders 2016、Justice Democrats、New Consensus) 数年のうちにAIが多くのオフィスワークを置き換えると見ており、ベーシックインカムやAI企業への課税だけでは十分ではないとしています。彼の答えは、かつて8時間労働制がそうしたように、労働時間を半分にしても賃金は変えないことです。
最新の状態を保つ Tech Won't Save Us (ポッドキャスト); Jacobinの人工知能号 Paris Marx; Jacobin このリストに登場するほとんどの人物への毎週のインタビューと、AIと資本主義を特集した雑誌の1号丸ごと。
本9

Ghost Work (2019)

Mary L. Gray および Siddharth Suri

"自動化された"システムにラベルを付け、モデレーションし、修正している、見えない契約労働者たち。

Deaths of Despair and the Future of Capitalism (2020)

Anne Case and Angus Deaton (Princeton)

良い仕事が失われると、人は死にます。大学の学位を持たないアメリカ人の間で広がる自殺、薬物の過剰摂取、そしてアルコール。

Cover of The Condition of the Working Class in England

The Condition of the Working Class in England (1845、オンラインで無料)

Friedrich Engels

ある紡績工場オーナーの息子が、繊維産業の自動化がマンチェスターの労働者たちに何をもたらしたかを記録しています。病気、児童労働、そして早すぎる死。

Cover of Shirley

Shirley (1849)

Charlotte Brontë

1811年から1812年にかけてのラッダイトの蜂起を舞台にした小説で、労働者たちの苦難に寄り添って描かれています。

Cover of Labor and Monopoly Capital

Labor and Monopoly Capital (1974)

Harry Braverman

脱スキル化:経営陣が仕事を設計し直し、労働者から知識を奪って機械と管理職の側に移すこと。

Cover of Forces of Production

Forces of Production (1984)

David Noble

工場の自動化が、たとえ労働者主導の設計が同等の性能を発揮する場合でも、いかに機械工から管理権を奪うように設計されてきたか。

Fully Automated Luxury Communism (2019)

Aaron Bastani

希望の持てるシナリオ:機械に仕事をさせ、その生み出したものを分かち合う。

看護師4
これを読んでください著者なぜ
「'Purge Palantir!': Union nurses warn Big Tech and Big Brother are invading our healthcare system」 (The Real News Network, 2026年9月) Maximillian Alvarez 最新情報。2026年8月27日、National Nurses Unitedの組合員たちは、病院にPalantirの利用をやめさせるため、8都市で交通を止めました。Palantirはアメリカの病院ベッドの5分の1以上を管理しており、ICEが強制送還の対象者を見つける手助けをしています。
「The Nurses Union Breaking Ranks to Fight AI in Hospitals」 (Tech Policy Press, 2026年4月) Chris Mills Rodrigo Nvidiaは、稼働コストが1時間9ドルのAI看護師を後押ししています。組合の会長Cathy Kennedyはこう言います。"AIには、正看護師にできることはできません。"
2,300人の看護師による調査 (2024) National Nurses United ソフトウェアが患者ごとの重症度をスコア化する現場では、看護師の69%がそのスコアは自分の判断と一致しないと答えています。転帰を予測するソフトウェアについては、40%がそのスコアを変更できないと答えています。
「Uber for Nursing Part II」 (AI Now Institute, 2026年4月) Katie J. Wells, Maya Pinto, Funda Ustek Spilda ShiftKeyやCareRevのようなギグ看護アプリは、賃金をアルゴリズムで決定しており、これまでに約14億ドルを調達し、少なくとも17の州で人員配置規則の適用除外を求めてロビー活動を行っています。
アーティストとハリウッド5
これを読んでください著者なぜ
「OpenAI's Studio Ghibli meme factory is an insult to art itself」 (Blood in the Machine, 2025) Brian Merchant まずはここから。2016年、Hayao MiyazakiはあるAIアニメーションのデモを見て、それを"生命そのものへの侮辱"と呼びました。2025年、OpenAIは彼のスタジオの作風を、本人に断りもなくミーム生成マシンに変えてしまいました。
「Hollywood's stand against AI」 (Equal Times, 2025) Atahualpa Blanchet 2023年の脚本家・俳優ストライキが勝ち取ったもの:デジタル複製に対する同意と対価、そしてAIが書いた脚本が脚本家に取って代わらないこと。あらゆる契約の手本となるものです。
「SAG-AFTRA Condemns Tilly Norwood」 (Variety, 2025); 2026年契約投票 Variety; LA Magazine あるスタジオが、AIの"女優"を売り込みました。組合の答えはこうです。彼女は"無数のプロの俳優たちの仕事を学習させたコンピュータープログラムによって生成されたキャラクター"にすぎない。91%の賛成で批准された2026年の契約は、ルールをさらに厳格にしました。
「Restrict AI Illustration from Publishing」 (公開書簡、2023) Molly Crabapple and the Center for Artistic Inquiry and Reporting 1,000人を超える作家やアーティストが署名した1枚の声明文:画像生成AIは、"作者の知らないところで、対価や同意はおろか、収穫された"作品から作られている。
「Why A.I. Isn't Going to Make Art」 (The New Yorker, 2024) Ted Chiang Chiangが示す基準:"アートとは、無数の選択を積み重ねた結果生まれるものだ。"1万語の物語には、およそ1万回の選択が伴います。100語のプロンプトが生み出す選択は、せいぜい100回ほどです。
法律8

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
BOT Act (Bossware and Oppressive Technology Act)、S10290 ニューヨーク州。2026年5月から上院労働委員会で審議中 Kristen Gonzalez上院議員 職場での電子的監視を制限し、自動化された雇用ツールについて年次の影響評価を義務付け、労働者に通知、データへのアクセス、報復からの保護を認めるものです。
S822 ニューヨーク。2025年2月14日署名 Kristen Gonzalez上院議員 AIが州職員に取って代わったり、賃金や福利厚生を削減したりすることを禁じ、州のAI利用状況の目録を作成します。
SB 7、「No Robo Bosses Act」、その後SB 947 カリフォルニア州。SB 7は2025年10月に拒否権発動、SB 947は知事の署名待ちで、期限は2026年9月30日 McNerney上院議員、労働組合の支持を受ける 雇用主が、労働者の懲戒や解雇を自動化システムのみに頼ることを禁じます。
AB 5 およびProposition 22 カリフォルニア州。AB 5は2019年に成立、Prop 22は2020年に可決され、2024年7月に支持されました Lorena Gonzalez州議会議員、Prop 22はUber、Lyft、DoorDashが資金提供 AB 5は労働者を被雇用者とみなすことを原則とします。Prop 22は、アプリ経由のドライバーをそこから再び除外しました。
WGA および SAG-AFTRA 2023年契約 米国。法制化ではなく集団交渉 ストライキ後の労働組合 スタジオは脚本家にAIの使用を強制できず、俳優のデジタル複製には同意と対価が必要になります。
AB 1979およびAB 2575 (看護師とAI) カリフォルニア州。州議会を通過、知事の署名待ちで期限は2026年9月30日 California Nurses Association and National Nurses United AB 1979は、AIが免許を持つ医療従事者の判断に取って代わることを禁じます。AB 2575は、安全でないAIの判断を覆した看護師を報復から保護します。
NO FAKES Act、S.4591 米国上院。2026年6月に司法委員会から本会議に送付、採決はまだ 超党派スポンサー; SAG-AFTRAが支援 すべての人に、自分自身の声や顔のデジタルコピーに対する法的権利を与えるものです。
Bartz v. Anthropic; Andersen v. Stability AI 米国の裁判所。Bartz事件:2026年7月に15億ドルの和解が承認。Andersen事件:2026年9月8日に陪審裁判が開始、判決はまだ 作家たち、イラストレーターのSarah Andersen、Kelly McKernan、Karla Ortiz アメリカ史上最大の著作権和解で、書籍1冊あたり約3,000ドル。そしてアーティストの作品を画像生成AIの学習に使うことが合法かどうかを問う、初の陪審裁判です。

2帝国と搾取

AI企業は帝国のようにふるまいます。データ、土地、水、エネルギーを奪い、富はひと握りの企業へと流れ込みます。

  • 知っておくべき2人の名前。Karen HaoはMIT Technology ReviewとThe Wall Street JournalでAIを取材してきました。彼女の著書Empire of AI(2025)は、約260件のインタビューに基づいています。Kate CrawfordはAI Nowの共同創設者です。彼女の著書Atlas of AI(2021)は、リチウム鉱山から倉庫まで、AIの行方を追っています。
  • このパターンは古くからあるものです。Empire of Cottonは、最初期の自動化が奴隷労働による綿花と植民地市場の上に成り立っていたことを示しています。
  • 人々は闘い返しています。AI Resist List(2026)は、世界中の闘いを地図に示しています。物理的な側面には、独自のセクションがあります。データセンターです。

まず読むもの

AIコロニアリズムシリーズ (MIT Technology Review, 2022)

このセクションで一番のおすすめ。"AI植民地主義"を、4本のルポルタージュと1本の序論エッセイで描きます。南アフリカでの監視、ベネズエラのデータラベラーたち、ジャカルタで組織化するギグドライバーたち、そして自分たちのやり方でAIを構築するニュージーランドの先住民カップル。

Karen Hao 同僚と

画像:MIT Technology Review

「Sam Altman's AI Empire Relies on Brutal Labor Exploitation」 (Jacobin, 2025)

Haoの著書に対する書評。悲観論者も楽観論者も、結局は業界に奉仕することになり、AIの行く末が変わるのは"テック大手の過剰な権力への直接的な対決を通じてのみ"だとしています。

Ben Wray

画像:jacobin.com

Anatomy of an AI System (2018)

たった1回のAmazon Echoへのリクエストが何を動かすのかを描いた、巨大な1枚の地図。鉱山、船舶、データセンター、クリックワーク。ひとつの回答の裏には"再生不可能な資源、労働、データの採取によって動く、地球規模の巨大なネットワーク"が必要とされています。

Kate Crawford および Vladan Joler

画像:Anatomy of an AI System

記事、論文とプロジェクト6
  • 抵抗には4つの形があります。AI Resist Listは、闘いを「抵抗する」「拒否する」「取り戻す」「再構想する」に分類しています。その大半は、豊かな国々の外からの事例です。
  • この植民地主義的パターンは、AI研究の内側から名付けられました。"Decolonial AI":リスクの高いシステムは、まず貧しい国々で試されます。
  • コミュニティが望むものから始めましょう。Birdは、言語プロジェクトはそこから始めるべきだと論じています。Masakhaneは、それが実際に機能する例を示しています。アフリカの研究者たち自身が、30以上のアフリカの言語のための翻訳ツールを作っているのです。
  • "AI植民地主義"の背景にあるより古い理論は、政治理論のセクションにあります。
小見出しこれを読んでください著者主な考え
抵抗 The AI Resist List (2026) Karen Hao、GebruのDAIRおよび協力者たちと共に 世界中のAIに対する闘いを集めた公開リストで、業界が依存する9つの"支柱"、データセンターから労働まで、によって分類されています。"現在のAI開発の軌道に、避けられないものなど何もない。"
AIの脱植民地化 「Decolonial AI」 (2020); 「Decolonising Speech and Language Technology」 (2020); Masakhaneの参加型翻訳論文 (2020) Shakir Mohamed, Marie-Therese Png, William Isaac; Steven Bird; Masakhane 研究分野の内側から出た3本の論文:名付けられた植民地主義的パターン、言語プロジェクトのためのコミュニティ優先の原則、そして自分たちの翻訳ツールを作るアフリカの研究者たち。
本3
Cover of Empire of AI

Empire of AI (2025)

Karen Hao

理論を余すところなく展開:300件を超えるインタビューによるOpenAIの内幕、そしてケニアのデータワーカーたちとチリでの水をめぐる闘い。

Atlas of AI (2021)

Kate Crawford、AI Now共同創設者

AIとは、鉱山、倉庫、データセンター、そしてクリックワーカーからなる物理的な産業であり、"クラウド"などではありません。

Cover of Empire of Cotton

Empire of Cotton (2014)

Sven Beckert

機械化された紡績工場は、奴隷労働による綿花と植民地市場の上で稼働していました。最初の自動化は、奴隷制と帝国主義をさらに深めたのです。

3データセンター

AIの物理的な足跡:電力、水、土地、そしてその負担を背負わされる地域。

  • データセンターとは、コンピューターの倉庫です。大規模なものは発電所1つ分に相当する電力を必要とし、冷却のための土地と水も必要とします。
  • データセンターは、土地が安く、近隣住民に反対する力が最も少ない場所に建てられます。
  • 闘いの舞台は地域です。ゾーニング委員会、大気汚染許可、公共料金。ニューヨーク州では、Kristen Gonzalez上院議員の法案と1年間の許可停止措置が、これを州全体に広げました。Karen Haoは、データセンターを阻止し、勝利を収めているコミュニティについて報じています。
  • 理屈のうえでは、データセンターをよりクリーンにすることは可能です。より良い冷却方式、クリーンな電力、実効性のある許可。しかしそれだけでは十分ではありません。私たちはその中で何が起きているのか、機械が何をし、それが誰のためなのかも問わなければなりません。

なぜMemphisが知っておくべき事例なのか

  • xAIは、かつて奴隷だった人々によって作られ、すでに工場に取り囲まれている黒人コミュニティBoxtownの隣に、わずか122日でColossusを建設しました。
  • それに電力を供給するため、同社は大気汚染許可を得ないままメタンガスタービンを稼働させました。ある法律センターのサーマルドローン調査により35基が見つかり、これは28万世帯分の電力に相当しますが、適切な汚染対策はありませんでした。
  • ガスタービンは、スモッグを形成する汚染物質とホルムアルデヒドを排出します。研究者たちは、現場周辺で二酸化窒素のピーク値が79%上昇していることを測定しました。Boxtownの発がんリスクは、すでに全国平均の4倍に達していました。
  • それでも郡の保健当局は、15基のタービンを許可しました。NAACPとその法律センターは、これに対して闘っています。

まず読むもの

「Inside Memphis' Battle Against Elon Musk's xAI Data Center」 (TIME, 2025)

このセクションで一番のおすすめ。Muskは、すでにがん罹患率が全国平均の4倍に達しているサウスウエストMemphisに、35基のメタンガスタービンを持ち込みました。28歳のAlexis Humphreysは、自身の喘息発作についてこう語ります。"胸がつぶれるような感覚だった。"

Andrew R. Chow

画像:TIME

視聴: 「We Went to the Town Elon Musk Is Poisoning」 (ビデオ、2025)

カメラが捉えたMemphis:無許可のガスタービン、非公開で行われた承認、そして息ができないと訴えるBoxtownの住民たち。

More Perfect Union

画像:More Perfect Union (YouTube)

「Elon Musk's xAI facility is using gas turbines in South Memphis, we're taking action」

弁護士たちは現場の上空を飛び、35基のガスタービンを数え上げました。これは、それまで知られていた数のほぼ2倍です。市長は15基が稼働中だと述べました。サーマルカメラは33基を示していました。そしてNAACPからの提訴通知が届きました。

Southern Environmental Law Center

画像:Southern Environmental Law Center

Data Center Opposition Report (毎月、2026)

現状のスコア。2026年8月時点で、少なくとも43州にわたり、データセンターと闘う地域団体に64万人以上が参加しており、92日間で220の新しい団体が結成されました。

Coalition for Responsible Data Center Development, Evitable, and Together Against AI

画像:Data Center Opposition

記事とビデオ5
小見出しこれを読んでください著者主な考え
メンフィス 「NAACP calls on officials to halt operations at xAI's 'dirty' data center」 (2025) TechCrunch 公民権の枠組みから:NAACPは地元当局に対し、歴史的に黒人が暮らすBoxtownの隣で35基を超える無許可のガスタービンを稼働させているxAIを止めるよう、緊急命令を要請しました。
エネルギー "We did the math on AI's energy footprint. Here's the story you haven't heard." (2025) James O'DonnellとCasey Crownhart、MIT Technology Review 全米規模の計算と、そのつけを誰が払うのか。データセンターはすでに、米国平均より炭素集約度が48%高い電力で動いており、2028年にはAIだけで米国の世帯の22%分に相当する電力を使う可能性があります。電力会社との取引は"AI革命のコストを、電気料金の値上げという形で私たち残りの人々に転嫁する可能性が高い"。バージニア州議会は、各世帯の負担が月$37.50増える可能性があると試算しました。
エネルギー 「Fission for Algorithms」 (2025) AI Now Institute AIに電力を供給するため、放射線の被ばく限度や原子力規制機関の独立性が縮小され、原子炉の承認手続きは18か月に短縮されようとしています。企業はさらに、認可申請の書類作成をAIに任せることも望んでいます。
グローバル データセンター反対についてのKaren Hao (Democracy Now!、2026) Karen Hao 地域の闘いについてHaoはこう述べています。"2025年、これらのデータセンター反対運動は、1,000億ドル相当を超える施設の建設を食い止めることに成功した。"この怒りは、党派の垣根を越えていると彼女は言います。
サプライチェーン 「A.I.'s Environmental Impact Will Threaten Its Own Supply Chain」 (ビデオ、6分) Kate Crawford、New York Times Opinion AIは、電力、水、土地をめぐって人々と競合しています。
法律2

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
Responsible Data Center Development Act、S10642 ニューヨーク州。2026年6月に上下両院を通過、知事の署名待ち Kristen Gonzalez上院議員、上院インターネット・技術委員会委員長、Didi Barrett州議会議員 20MWを超えるデータセンターの許可に対する1年間のモラトリアム、加えて別建ての公共料金、再生可能エネルギー目標、公聴会、地域への還元策。
Executive Order 62 ニューヨーク州。2026年7月より施行 Gov. Kathy Hochul 50MW以上のデータセンターに対する環境許可を、最長1年間停止します。

4AIのサプライチェーンと、どこを断ち切るか

AIは、鉱山、半導体、電力、水、データ、労働、そして負債から作られています。そのすべての鎖には、人々が押し返すことのできる狭い結節点があります。

  • サプライチェーンの順序:鉱物、半導体、電力と水を伴うデータセンター、収集されたデータ、低賃金の人間の労働、そして借金。それぞれの鎖には、誰かの土地、労働、あるいは許可が必要です。全体像は帝国と収奪にあります。
  • このサプライチェーンは、上流に行くほど細くなります。先端半導体を印刷する機械はすべて、オランダの1社が作っています。半導体製造に使われる超高純度の石英のほとんどは、人口2,194人のノースカロライナ州のある町からもたらされています。
  • これまでのところ、最も成果を上げてきたのは町です。データセンターに対する地域レベルの一時停止措置は、少なくとも100件成立しています(Sabin Center)。地域レベルの実践手引きはデータセンターのセクションにあります。
  • 狭い結節点にいる労働者には、力があります。建設ラッシュ全体がそれを待っているタービンとメモリーチップを作っているのは、わずか数千人です。2026年にSamsungの半導体労働者たちがストライキの日程を決めると、彼らは半導体利益の10.5%に相当するボーナスプールを勝ち取りました(Korea Herald)。
  • すべてのてこが効くわけではありません。建設業界の労働組合は、雇用を理由に概ねデータセンターを支持しています。データ関連の労働は簡単に移動します。2026年、Metaが1件の契約を打ち切った際、1,000人を超えるケニアの労働者が職を失いました(調査)。

まず読むもの

「Workers Have a Secret Weapon Against the AI Build-Out」 (Jacobin、The Real Newsで無料、2026)

このセクションで一番のおすすめ。この建設ラッシュは、ガスタービンと変圧器の上に成り立っています。タービンの大半は3社が製造しています。それらの企業のアメリカ国内の工場はすべて南部にあり、雇用者数は約4,500人、受注は2030年まで埋まっています。まだ勝利ではなく、あくまで計画の段階です。

Ben Carroll

画像:The Real News Network

「Cloudflare's new policy pushes AI companies to pay for publishers' content」 (TechCrunch, 2026)

ある1社が、ウェブ全体のおよそ5分の1の手前に立っています。同社は新規サイトでデフォルトでAIクローラーをブロックしており、現在ではAI企業に対し、収集したデータへの対価を求めようとしています。

Sarah Perez

画像:TechCrunch

「Data center demand is making bedfellows of construction unions, tech industry」 (Associated Press via Spotlight PA, 2026)

率直な反論。ある配管工組合は、組合員がアメリカのデータセンター案件の90%以上で働いていると述べています。今のところ、この交渉力が得ているのは雇用と研修であり、制限ではありません。

Associated Press

画像:Spotlight PA

記事、論文とプロジェクト5
小見出しこれを読んでください著者主な考え
チップ 「Computational Power and AI」 (AI Now Institute, 2023) Jai Vipra and Sarah Myers West 各段階を誰が所有しているか。ある1社がAI半導体設計を主導し、別の1社が先端半導体の大半を製造し、さらに別の1社がその製造機械を作っています。長い文章なので、半導体に関する節を読み、残りは流し読みで構いません。
鉱物 「Spruce Pine just got hit by Helene. The fallout on the tech industry could be huge」 (NPR, 2024) Geoff Brumfiel, Scott Neuman and Camila Domonoske たった1つの破綻点をめぐる4分間の物語:ある山間の町の石英、1本の鉄道路線、そして半導体業界が20年前から知っていたリスク。
データ 「Consent in Crisis: The Rapid Decline of the AI Data Commons」 (Data Provenance Initiative, 2024) Shayne Longpreおよび他者 1年のうちに、ある主要な学習データセットに含まれるもっとも重要な情報源の28%が、AIクローラーをブロックしました。要旨とグラフを参照してください。その理論は"データレバレッジ":自分のデータを提供しない、劣化させる、あるいは移す。
労働 「'AI Is African Intelligence': The Workers Who Train AI Are Fighting Back」 (404 Media, 2026; 無料再版) Jason Koebler ケニアのデータラベラーたちは、最大手のAI企業のためにAIを訓練し、1日あたりわずか数ドルを稼いでいます。彼らは870人が加盟する組合を結成し、口止め条項と闘っています。まだ大きな勝利は得られていません。
お金 「How the AI Bubble Might Play Out」 (The American Prospect, 2025) David Dayen テック大手4社は、AIに5,600億ドル以上を投じた一方、AI関連の収益は約350億ドルにとどまっています。その差を埋めているのが負債です。年金基金の資金も、プライベートエクイティを通じてそこに流れ込んでいます(PESPブリーフ)。
本3

Choke Points: Logistics Workers Disrupting the Global Supply Chain (2018)

Jake Alimahomed-Wilson and Immanuel Ness編

世界中の港湾労働者、トラック運転手、倉庫労働者たち:正しい場所にいる小さな集団が、サプライチェーン全体を止めることができます。まず序章を読み、それから事例を1つ読んでください。

Labor Power and Strategy (2023)

John Womack Jr.編、Peter Olney and Glenn Perušek

短いインタビュー集。仕事を迂回させることができない場所を見つけ、まずそこで組織化しましょう。10人のオーガナイザーたちが、それぞれの立場から反論しています。

Cover of Chip War

Chip War (2022)

Chris Miller

半導体製造が、台湾、オランダ、韓国、アメリカのわずかな企業に依存している理由と、各国政府がそれをどう利用してきたか。労働に関する本ではなく、主流派の歴史書です。

法律3

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
AI Data Center Moratorium Act 米国議会。2026年に提出、委員会審議中で採決はまだ Bernie Sanders上院議員とAlexandria Ocasio-Cortez下院議員 議会が労働者、料金支払者、安全に関する保護策を可決するまで、20メガワットを超えるAIデータセンターの新設・拡張を停止します。また、そうしたルールを持たない国々へのAIハードウェアの輸出も禁じます。
地域レベルのモラトリアム、ゾーニング、水利用許可 2026年5月までにアメリカ全土で少なくとも100件が採択され、通常はおよそ1年を上限としています。一部の州はこれを禁じています 市議会、郡委員会、住民 多くの人にとって最も手が届きやすいてこであり、一時停止はルールを作るための時間を稼いでくれます。2025年、Tucson市議会は7対0でAmazon関連のプロジェクトに反対票を投じ、そのプロジェクトははるかに水の使用量が少ない設計に変えて郡有地へと移りました。
米国チップ輸出管理 2022年10月からの連邦規則。2026年1月に緩和され、一部の半導体は個別審査のうえで中国への輸出が認められ、売上の25%をアメリカに支払うことが条件とされています 商務省 政府がサプライチェーンを半導体の部分で締め付けることができ、また対価と引き換えにその締め付けを緩めることもできることを示しています。

誰が選別され、監視され、標的にされるのか

この部分の枠組みは、人種資本主義です。人々を選別し、誰が信用を得て、誰が監視され、誰が犠牲にされるかを決める仕組みです。

  • レッドライニングは、地図によってそれを行いました。銀行は黒人居住地区の周りに赤い線を引き、そこへの融資を拒否したのです。AIはデータによって同じことを行います。誰が面接に呼ばれ、誰が融資を受け、誰が職務質問を受けるか。Chris Gilliardはこれをデジタル・レッドライニングと呼んでいます。
  • 環境正義運動には、その代償が降りかかる場所を指す言葉があります。犠牲区域(サクリファイス・ゾーン)、つまり誰か他の人が利益を得るために切り捨てられた場所です。Memphisもそのひとつです。以下のセクションは、犠牲にされた人々について、つまり許容できる損失として扱われる集団についてです。
  • だからすべてのセクションで、同じ問いを投げかけてください。誰が標的にされ、それを誰が決めたのか。この理論はCedric Robinsonのもので、政治理論のセクションにあります。

5人種的偏見

中立に見える技術も、それを作る社会の序列を受け継いでいます。

  • 手法:システムをテストし、誰に対して失敗するかを示し、公表する。Joy Buolamwiniは、Algorithmic Justice Leagueを通じてこれを1つの運動に変えました。
  • 本:Ruha Benjamin(Princeton)はRace After Technology(2019)を書き、"the New Jim Code"という言葉を作りました。Safiya Noble(UCLA)はAlgorithms of Oppression(2018)を書きました。2人ともマッカーサー・フェローです。
  • Dan Jurafskyは、スタンフォード大学での私の指導教員であり、言語を研究しています。おすすめのピックに挙げた2本の論文のほかにも、彼の研究室は警察がドライバーに話す言葉づかいや音声認識における人種間の格差を発見しています。
  • 内部関係者たち:Timnit GebruとMargaret Mitchellは、GoogleのEthical AIチームを立ち上げましたが、2020年と2021年に解雇されました。Mitchellが考案したモデルカードは、今では業界標準になっています。
  • MITの学生だったBuolamwiniは、顔追跡ソフトウェアが白いマスクをつけるまで自分の顔を認識できないことに気づきました。それがGender Shadesにつながりました。

まず読むもの

Gender Shades (2018)

このセクションで一番のおすすめ。"The coded gaze"。商用の顔分析は、肌の色が濃い女性については最大34.7%の割合で誤り、肌の色が薄い男性については最大でも0.8%にとどまりました。IBM、Microsoft、Amazonは、その後、警察への販売から手を引きました。

Dr. Joy Buolamwini、Algorithmic Justice League創設者、Timnit Gebruと共に

画像:Gender Shades, MIT Media Lab

「AI Hiring Tools Can Yield Racial Bias and Systemic Rejection」(Stanford HAI、2026)。論文:「Algorithmic Monocultures in Hiring」(FAccT 2026)

実際の応募400万件、雇用主150社、そしてある1社のAI。黒人の応募者の26%は、その選考結果が連邦の差別基準を満たさない求人に応募していました。4つの求人に応募した人の10人に1人は、そのすべてで不採用となりました。

Rishi Bommasani, Sarah Bana, Kathleen Creel, Dan Jurafsky, Percy Liang

画像:Stanford HAI

「AI generates covertly racist decisions about people based on their dialect」 (Nature, 2024)

誰の人種も知らされていないにもかかわらず、言語モデルはアフリカ系アメリカ人英語の話者に対して、より低い職業評価、より多い有罪判決、より多い死刑判決を下しました。安全対策の学習は、あからさまな人種差別を覆い隠し、この見えにくい形の差別をそのまま残しました。

Valentin Hofmann、Ria Kalluri、Dan Jurafsky、Sharese King

画像:Nature

「Machine Bias」 (ProPublica, 2016)

裁判所で使われるリスクスコアを、フロリダ州ブロワード郡での7,000件の逮捕記録と照合。再犯しなかった人々のうち、黒人の被告人の45%が高リスクと判定されていたのに対し、白人の被告人では23%でした。

Julia Angwin, Jeff Larson, Surya Mattu, Lauren Kirchner

画像:ProPublica

記事、論文と講演12
  • 人は機械に従います。ワシントン大学の採用研究では、人だけで履歴書を選考した場合、偏りはほとんど見られませんでした。しかし、ひどく偏ったAIを与えられると、人はその選択に約90%の割合で従いました。人間が最終判断に関与しているというだけでは、安全策にはならないのです。
  • 偏見は顔だけでなく、言葉にも宿っています。Jurafskyの研究室は、それを警察が黒人ドライバーに話しかける際の言葉づかいや、黒人話者に対してほぼ2倍の割合で誤認識を起こす音声認識の中に発見しました。
  • 名指しには効果がありますが、限界もあります。RajiとBuolamwiniは、公に名指しされた企業がシステムを修正したことを示しました。しかし、誰に対しても等しく機能する顔認識であっても、それは依然として監視の道具であることに変わりありません。
  • 上流にさかのぼり、誰が害を受けているのかを明言しましょう。BirhaneとPrabhuは、視覚系AIが学習に使うデータセットの中に、人種差別的なラベルと同意のない画像を発見しました。Blodgettは、偏見に関する研究の大半が、誰がどのように傷つけられているのかを一度も明示していないことを発見しました。
小見出しこれを読んでください著者主な考え
採用 「No Thoughts Just AI」 (2025); 2024年履歴書スクリーニング監査; 平易な言葉での要約 Kyra Wilson, Aylin Caliskan, and colleagues (University of Washington) 2025年:528人が履歴書を選考。単独では偏りはほとんど見られませんでしたが、ひどく偏ったAIと組み合わせると、その選択に約90%の割合で従いました。2024年:3つのモデル、300万件を超える比較。白人を連想させる名前が85%の割合で選ばれ、黒人男性の名前が白人男性の名前に勝ったことは一度もありませんでした。
警察の実施 「Language from police body camera footage shows racial disparities in officer respect」 (PNAS, 2017); エスカレートした停止に関するフォローアップ (2023) Rob Voigt, Eugenia Rho, Dan Jurafsky, Jennifer Eberhardt, and colleagues オークランドでの日常的な交通取り締まりのボディカメラ映像:警官は、自身の人種や取り締まりの理由にかかわらず、黒人ドライバーに対してより敬意を欠いた話し方をしていました。続く研究では、手錠や逮捕に至る黒人男性への職務質問は、警官が最初に発する45語の時点ですでに違う響きを持っていることが分かりました。
音声認識 「Racial disparities in automated speech recognition」 (PNAS, 2020) Allison Koenecke, Dan Jurafsky, Sharad Goel, and colleagues Amazon、Apple、Google、IBM、Microsoftの音声認識システムは、黒人話者について約35%、白人話者について約19%の単語を誤認識しました。考えられる原因は、学習データにおける黒人の音声の少なさです。
監査 「Actionable Auditing」 (2019); 講演:「Resistance and the Five Stages of Corporate Grief」 Deborah Raji Joy Buolamwiniと Gender Shadesから1年後、彼女たちは各社を再検証しました。公に名指しされた企業は格差の多くを是正していましたが、名指しされなかった企業はそうしていませんでした。名指しには効果があるのです。この講演では、企業が監査にどう反応するか、否認から始まる一連の過程を扱っています。
文書作成 「Model Cards for Model Reporting」 (2019); 「Datasheets for Datasets」; 「Data Statements for NLP」 (2018) Margaret Mitchell、現在はHugging Faceに所属。Timnit Gebruと共同研究者たち。Emily M. BenderとBatya Friedman モデルとデータセットには、食品や医薬品のようにラベルを付けるべきです。目的は何か、データには誰が含まれているか、どのグループに対してどうテストされたか、そしてどこで機能しないか。今ではこれが業界標準になっています。
データセット 「Large Image Datasets: A Pyrrhic Win for Computer Vision?」 Abeba Birhane (Trinity College Dublin) and Vinay Prabhu 彼女たちは、視覚系AIが学習に使う巨大なデータセットの中に、人種差別的かつ女性蔑視的なラベルと、同意のない画像を発見しました。この結果を受けて、MITは2020年に80 Million Tiny Imagesデータセットを撤回しました。
言語モデル 「Large Language Models Associate Muslims with Violence」 (2021); 「Stereotyping Norwegian Salmon」 (2021); 「Language (Technology) Is Power」 (2020) Abubakar Abid and colleagues; Su Lin Blodgett and colleagues 2人のムスリムが部屋に入ってくるという文の続きを書くよう求められると、GPT-3はほとんどの場合、暴力的な展開を選びました。Blodgettは言います。こうした偏見を検出するためのテスト自体が、そもそもきちんと作られていないと。
想像力 「Reimagining the Default Settings of Technology」 (ICLR基調講演、2020) Ruha Benjamin AI研究者に向けた講演:技術の初期設定は、誰かが下した選択にすぎず、違う形にすることもできます。
本6

Race After Technology: Abolitionist Tools for the New Jim Code (2019)。またViral Justice (2022) およびImagination: A Manifesto (2024)。

Ruha Benjamin (プリンストン; マッカーサーフェロー、2024)

"The New Jim Code":表向きは中立に見える技術が、白人至上主義を暗号化し、深めていきます。人種そのものが、階層化のための技術として機能しているのです。

Cover of Unmasking AI

Unmasking AI (2023)

Joy Buolamwini

人種差別的でセクシストな顔分析技術との闘いを描いた回顧録。

Algorithms of Oppression (2018)

Safiya Umoja Noble (UCLA; マッカーサーフェロー、2021)

広告収入に依存するプラットフォームは、お金になるものを上位に表示し、人種差別的・性差別的な結果を是正する動機を持ちません。

Cover of Automating Inequality

Automating Inequality (2018)

Virginia Eubanks

"デジタル救貧院":自動化された福祉、住宅、児童保護のシステムが、貧困層をプロファイリングし、罰しています。

Weapons of Math Destruction (2016)

Cathy O'Neil、元ウォール街のクオンツでOccupy運動参加者

不透明なスコアが、融資、採用、警察活動における不公正を拡大させています。

Capitalism and Slavery (1944)

Eric Williams

奴隷制が、最初の産業革命の資金を支えました。技術と人種をめぐる今日の議論の背後にある歴史です。

法律3

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
LOADinG Act、S7543B ニューヨーク。2024年12月21日署名; 拡張 2025年12月 Kristen Gonzalez上院議員; Asm. Steven Otis 自動化された意思決定を用いる州機関には、実効性のある人間による審査、偏見に関する影響評価、そして情報公開が義務付けられます。
New York AI Act、S1169B ニューヨーク州。2025年6月と2026年6月に上院を通過、州議会下院はまだ未通過 Kristen Gonzalez上院議員 高リスクAIによるアルゴリズム的差別を規制します。独立監査、利用者への通知、内部告発者の保護、司法長官による執行、そして個人による提訴の権利。
AI Civil Rights Act; BIAS Act アメリカ。いずれも審議中。AI Civil Rights Actは2025年12月に再提出(2024年に委員会で廃案)、BIAS Actは2026年1月に再提出 Ed Markey上院議員、Yvette Clarke、Pramila Jayapal、Summer Lee、Ayanna Pressley下院議員 AI Civil Rights Act:人々の生活を左右する意思決定において差別的なアルゴリズムを禁じ、導入前と導入後の両方でのテストを義務付けます。BIAS Act:AIを利用または監督するすべての連邦機関に、公民権オフィスの設置を義務付けます。

6女性と少女

生成AIは、性的嫌がらせを安価かつ迅速なものにしました。写真1枚、アプリ1つ、技術は不要です。標的とされるのは、主に女性と少女たちです。

  • この虐待は、AIの上に乗っかった不具合ではありません。その土台そのものに組み込まれているのです。最大級の画像データセットは、研究者たちがその中に児童性的虐待素材を発見した後、撤回されました。
  • フォローすべき人々:2017年に最初のディープフェイク報道を行ったSamantha Coleと、Emanuel Maiberg。2人とも404 Media所属です。Kat Tenbargeは、被害者を1人ずつ追いながらこれを追跡しています。
  • 枠組み:社会主義フェミニストたちは長年、経済が女性の無償労働の上に成り立っていると論じてきました。プラットフォームは、そこに新たなシフトを付け加えました。その原典となるのがCombahee River Collective Statementです。
  • ようやく法整備が動き始めました。2026年5月以降、アメリカのプラットフォームはこうした画像を48時間以内に削除しなければならず、イギリスとEUは"ヌード化"アプリを禁止しつつあります。

まず読むもの

「13-year-old girl attacked a boy showing an AI-generated nude image of her. She was expelled」 (Associated Press、2025)

このセクションで一番のおすすめ。ルイジアナ州のある中学生は、スクールバスの中で自分のAIヌード画像を見せびらかしていた男子生徒を殴りました。彼女は10週間以上にわたって停学処分を受けました。学校側は、8人の女子生徒のAIヌード画像を発見しました。

Heather HollingsworthおよびJack Brook

画像:Fortune

「'The Most Dejected I've Ever Felt'」 (404 Media、2026)

嫌がらせをする者たちは、Grokを使ってある女性を"服を脱がせ"、彼女の名前で偽のOnlyFansアカウントを運営しました。研究者たちは、11日間でGrokから生成された性的な画像を約300万枚確認し、そのうち約23,000枚は子どもの画像でした。

Samantha Cole

画像:404 Media

より深い切り込み5
小見出しこれを読んでください著者主な考え
無給の仕事 「The Internet of Women」 (Logic(s), 2018) Moira Weigel プラットフォームは、利用者を無償の"デジタル主婦"に変えてしまいます。Silvia Federiciの議論を土台にしています。資本主義は、常に女性の無償労働の上に成り立ってきました。
ケア労働 「Artificial Feminist Intelligence Is Not Feminism」 (Ms., 2026年9月) Neda Atanasoski AIコンパニオンやケアボットは、ケアという言葉を借りていますが、その裏では実際のケアが削減され、それを支えるデータ労働の対価は時給2ドルにも届きません。"ケアの民営化された代替物は、ケアのインフラそのものと同じではない。"
データセット 「Multimodal datasets: misogyny, pornography, and malignant stereotypes」 (2021)。学術的。 Abeba Birhane, Vinay Prabhu, Emmanuel Kahembwe 4億枚の画像からなる学習データセットの監査:女性についてのごく普通の検索でも、露骨で同意のない画像が返ってきました。
本 Data Feminism (2020、オンラインで無料) Catherine D'IgnazioおよびLauren Klein 誰が数えられ、誰が数える側に回り、そして誰の労働が見過ごされるのか。
Section 230 「Women and girls are taking Grok to court over sexualized AI deepfakes」 (The 19th, 2026年3月)。法律の説明:「All the legal risks that apply to Grok's deepfake disaster」 (CyberScoop, 2026年1月) The 19th; Derek B. Johnson Section 230は、利用者の投稿をめぐる訴訟からプラットフォームを保護しており、そのため嫌がらせを受けた女性たちが訴訟を起こせることはほとんどありませんでした。Grokは、この問いの前提を変えます。画像を作ったのは、企業自身のAIだからです。この法律を共同起草したRon Wydenは、そのような事態を想定してはいなかったと述べています。
法律4

2026年9月現在のステータス。

法律または法案どこでどのステータス何ができるのか
TAKE IT DOWN Act アメリカ。2025年5月に署名、削除義務は2026年5月19日から施行、FTCが執行 本物であるかAI生成であるかを問わず、同意のない親密な画像を公開することを犯罪とし、プラットフォームには要請から48時間以内の削除を義務付けます。
DEFIANCE Act アメリカ。2026年1月に上院を全会一致で通過。下院での審議待ち 被害者が、自分の性的ディープフェイクを作成または共有した人物を訴えられるようにするものです。
「ヌード化」アプリの禁止 イギリス。発表済み、Crime and Policing Billに追加される予定 女性と少女に対する暴力を半減させるという、政府計画の一環です。
「ヌード化」アプリの禁止 EU。2026年に合意、企業は2026年末までの対応が義務付けられています AI法に追加されました。

7監視

監視は、すでに過剰に取り締まりを受けている人々にまず及び、それ以外の人々には利便性として売り込まれます。

  • 監視する側は2つ:国家(警察の顔認識、ナンバープレート読み取りカメラ)と企業(アプリ、ドアベル、入口のスキャナー)。両者は互いを支え合っています。国家は、企業が収集したものを買い取るからです。
  • 現在もっとも動きが速い闘いは、Flockのナンバープレート読み取りカメラをめぐるものです。多くの町が次々に契約を解除しており、DeFlockというボランティアによる地図には、すべてのカメラの位置が示されています。
  • 歴史:Simone Browne(UT Austin)はDark Matters(2015)を書き、生体認証技術のルーツを奴隷制にまでさかのぼっています。
  • 主な要求は、より良いカメラではなく、全面禁止です。サンフランシスコとポートランドは顔認識を禁止しました。ポートランドの禁止措置は、民間企業にも及びます。移民取締りについてはAIとICEを参照してください。
  • 2022年、Radio City Music Hallの顔認識システムが、娘のガールスカウトの遠足に付き添っていた母親を検知して割り出し、警備員は彼女を入場させませんでした。彼女が勤める法律事務所が、施設のオーナーであるMadison Square Gardenを提訴していたことが理由でした。

まず読むもの

「Wrongfully Accused by an Algorithm」 (New York Times, 2020)

このセクションで一番のおすすめ。顔認識の誤照合によるアメリカで最初に知られた逮捕事例:デトロイト警察は、黒人男性Robert Williamsに娘たちの目の前で手錠をかけ、30時間拘束しました。ある刑事はこう言いました。"コンピューターが間違えたんだろうな。"

Kashmir Hill

「Luxury Surveillance」 (Real Life, 2021)

Apple Watchと足首につけるモニターは、同じ技術です。一方の階級には商品として売られ、もう一方の階級には強制されます。

Chris Gilliard およびDavid Golumbia

画像:Real Life

Ban Facial Recognitionキャンペーン

求められているのは、ルール作りではなく全面禁止です。"核兵器や生物兵器と同じように、顔認識が人間社会と市民的自由にもたらす脅威は、それがもたらしうるいかなる利益をもはるかに上回る。"店舗、キャンパス、フェスティバルについては、それぞれ別のページで扱っています。

Evan Greer のFight for the Future

画像:Fight for the Future

Flockのカメラと、DeFlock運動5

Flock Safetyは、警察、家主、店舗にAI搭載のナンバープレート読み取りカメラを販売し、それらを検索可能な1つの全国ネットワークに結びつけています。これに対する闘いは地域主導で、速く、そして勝利を収めつつあります。その発端となった話はAIとICEにあります。警察がICEのために、Flockを使って移民関連の検索を行っていたのです。

これを読んでください著者なぜ
「The Open Source Project DeFlock Is Mapping License Plate Surveillance Cameras All Over the World」 404 Media まずはここから。ある1人が、カメラの位置を示す公開地図を始めました。今ではボランティアたちが12万2,000台以上を記録しています。
「Flock Threatens Open Source Developer Mapping Its Surveillance Cameras」 404 Media Flockの弁護士は、彼にその名称を使うのをやめるよう求めました。EFFの弁護士たちは、その主張には"根拠がない"とし、彼が"それに従うことはない"と回答しました。
「Flock contract cancellations grow among cities」 (The Hill, 2026); NPRの概要 The Hill; NPR 現状のスコア:2021年以降、214の都市と郡がFlockとの契約を終了させ、そのうち90件は2026年8月だけで起きました。
「Cities Are Ditching Flock, Immediately Replacing It With Axon License Plate Readers」 404 Media 落とし穴。一部の都市は、あるベンダーを別のベンダーに乗り換えているだけです。標的とすべきはブランドではなく、カメラそのものです。
何かをする:DeFlock地図およびFLOCK Outキャンペーン DeFlock; Fight for the Future 近くのカメラを探し、抜けているものを追加し、その契約情報を市議会に持ち込みましょう。
本6
  • その眼差しは、かつて一度も中立だったことはありません。Browneは、1700年代のニューヨークにあった「ランタン法」から話を始めます。これは黒人と先住民に、日没後は火をともしたロウソクを持ち歩くよう義務づけたものでした。肌の色が濃い人に対してうまく機能しない顔認識には、こうした歴史があるのです。
  • "標準的な"身体を前提に設計されています。Costanza-Chock:空港のスキャナーは、係員に"男性"か"女性"かのボタンを押させ、それに一致しないものにフラグを立てます。デザインは、それによって害を受ける当人たちが主導すべきです。
  • 監視することそのものがビジネスです。Zuboff:あなたの行動は、無料の原材料として取り込まれ、販売用の予測へと加工されます。
Cover of Design Justice

Design Justice (2020)

Sasha Costanza-Chock

空港のボディスキャナーは、トランスジェンダーの身体を異常として検知します。デザインは、それによって害を受ける当人たちが主導しなければなりません。

法律3

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
EU AI法、禁止慣行 EU。2025年2月2日以降適用 ヨーロッパ連合 社会的スコアリング、無差別な顔画像の収集、職場や学校での感情認識、そして警察によるリアルタイムの生体認証識別を禁止します。
Biometric Information Privacy Act イリノイ。2008年以来有効 イリノイ州議会 企業が生体認証データを収集するには書面による同意が必要であり、違反があれば人々は提訴できます。
顔認識の禁止:サンフランシスコ (2019) およびポートランド (2020) 有効中 Aaron Peskin市議会議員、ポートランド市議会 サンフランシスコは、市の機関による顔認識の使用を禁じています。ポートランドは、一般に開放された場所での民間による使用も禁止しています。

8AIとICE

移民取締りは、商用技術の上に成り立っています。顔認識、ナンバープレート読み取りカメラ、データブローカー、そしてクラウド契約です。

  • ICEが自前でツールを作ることはめったにありません。買っているのです。Palantirからの事件管理ソフトウェア、顔認識アプリ、ナンバープレート読み取りカメラのネットワーク、そしてブローカーからの住所・位置情報データ。
  • フォローすべき存在:記者が所有するメディア404 Mediaは、流出したメールや公的記録をもとに、こうした報道の大半を発信しています。ラテン系の組織化団体Mijenteは、2018年から#NoTechForICEを展開しています。
  • だからこそキャンペーンは、当該機関だけでなく企業も標的にしています。議会では、ICE Out of Our Faces Actが、ICEとCBPによる顔認識の使用を禁止しようとしています。

まず読むもの

「ICE Is Using a New Facial Recognition App to Identify People, Leaked Emails Show」 (2025)

このセクションで一番のおすすめ。係官があなたにスマートフォンを向けるだけで、名前が判明します。流出したメールによれば、Mobile Fortifyというこのアプリは、顔と非接触型の指紋を、国境通過用に構築された写真システムと照合しています。

404 Media

画像:404 Media

Tech Behind ICE: Oligarchs, Immigration Enforcement and the Threat to Democracy (2026年6月)。短いバージョン:Truthoutの要約

監視技術に関する契約額は、2025年に3億1,000万ドル超へと倍増し、2026年には5億1,300万ドルに達しました。中心にいるのはPalantirとAndurilです。Palantirは"ICEによるデータ監視の背骨"だとされています。

Mijente, Just Futures Law, and Surveillance Resistance Lab

画像:No Tech for ICE (Mijente, Surveillance Resistance Lab, Just Futures Law)

「ICE Taps into Nationwide AI-Enabled Camera Network, Data Shows」 (2025)

FlockはICEと契約を結んでいません。しかし、イリノイ州Danvilleの検索ログによると、全米の警察が連邦捜査官のため、あるいは移民関連の理由で4,000件を超える検索を行っており、結果としてICEにこのカメラ網への裏口アクセスを与えていました。

404 Media

画像:404 Media

記事、報告書およびキャンペーン8
  • 移民のために作られたはずが、全員に使われています。ICEの顔スキャンアプリは、アメリカ市民の写真も保持しています。
  • 令状を取る代わりに、買ってしまう。404 Mediaによる解説は、その仕組み全体を図解しています。ナンバープレート読み取りカメラ、顔認識、スマートフォンの位置情報、そして誰が誰に何を売っているか。裁判官の判断を仰ぐことはありません。
  • 契約を追いましょう。Mijenteの洞察はこうです。行政機関を動かすのは難しくても、契約企業を動かすのは難しくありません。Palantir、Amazon、そしてデータブローカーには、組織化できる顧客、従業員、株主がいます。
  • その背骨をなすのは、商用技術です。2018年の報告書は、強制送還システム全体の土台にAmazonのクラウドとPalantirの事件管理ソフトウェアがあり、国土安全保障省の予算の約1割がデータ管理に充てられていることを明らかにしました。
小見出しこれを読んでください著者主な考え
顔認識 ICEの顔スキャンを拒否することはできない (2025) 404 Media ある政府文書によれば、人々はICEのスマートフォンアプリによるスキャンを拒否することができません。その写真は、アメリカ市民のものも含めて15年間保存されます。
概要 「From Flock to ICE, Here's a Breakdown of How You're Being Watched」 (2025) 404 Media 記者たちが、この仕組み全体、ナンバープレート読み取りカメラ、顔認識、スマートフォンの位置情報、そして誰が誰に何を売っているのかについて、読者からの質問に答えています。
キャンペーン #NoTechForICE Mijente Palantir、Amazon、そしてThomson ReutersやRELXのようなデータブローカーに対し、移民関連の契約を打ち切るよう圧力をかけます。
どのように始まったか Who's Behind ICE? (2018); ビデオで; The War Against Immigrants (2019) Mijente, National Immigration Project, Immigrant Defense Project このキャンペーンのきっかけとなった報告書:逮捕、拘束、強制送還の背骨としての、Amazonのクラウドと Palantirの事件管理ソフトウェア。
法律1

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
ICE Out of Our Faces Act 米国。2026年2月に紹介;保留中 Markey上院議員、Jayapal下院議員、MerkleyおよびWyden上院議員 ICEとCBPによる顔認識の使用を禁止するものです。

9戦争とジェノサイドにおけるAI

AIはすでに標的の選定に使われており、コンピューティング技術はかつてジェノサイドに加担したこともあります。

  • 2つの物語が並行して進みます。ガザにおけるイスラエルのAI標的選定システム、そして商用AIモデルを組み込んだ米軍のMavenです。
  • ここでの私のお気に入り:Lavenderの報道を最初に手がけたイスラエル人ジャーナリスト、+972 MagazineのYuval Abraham(映像で見る)。AI Nowの軍事関連調査を率いる安全性エンジニア、Heidy Khlaaf("Anatomy of an AI Kill Chain"、2026年)。そしてIBM and the Holocaust(2001)を書いたEdwin Black。
  • 自律型兵器に関する条約は、まだ存在しません。国連での協議は、2026年11月に、条約交渉を始めるかどうかを決定します。
  • René Carmilleは、ナチス占領下のフランスで統計局を率いていました。彼は国勢調査を妨害し、パンチカード式の機械を細工して、誰がユダヤ人であるかが決して記録されないようにしました。彼は1944年に捕らえられ、ダッハウで亡くなりました。拒否には、歴史があるのです。

まず読むもの

「'Lavender': The AI machine directing Israel's bombing spree in Gaza」 (+972 Magazine および Local Call, 2024)

このセクションで一番のおすすめ。イスラエルの情報将校たちが、37,000人のパレスチナ人を標的候補としてマークしたAIシステムLavenderについて語っています。ある将校はこう言います。"1つの標的につき、20秒をかけていた。"もう1つのシステム"Where's Daddy?"は、標的たちを彼らの自宅まで追跡していました。

Yuval Abraham

画像:+972 Magazine

「Inside US Military 'Kill Chain' That Destroyed an Iranian School」(Bloomberg、2026年9月)。無料要約はGizmodo。

2026年2月、アメリカのミサイルがイランのMinabにある小学校に命中し、少なくとも123人の子どもが死亡しました。調査担当者たちは、古い標的データと、AnthropicのClaudeを組み込んだPalantirのMavenへの過信を原因として挙げています。Anthropicの最高経営責任者は、それがどのような役割を果たしたのか分からないと述べています。

Bloomberg

画像:Bloomberg

「Hitler's Willing Business Partners」 (The Atlantic, 2001)

Edwin Blackの著書に対する書評。IBMのドイツ子会社は、ユダヤ人とロマ人を特定する1933年の国勢調査を集計したパンチカード式の機械を貸与し、その後は列車、ゲットー、収容所の管理にも使われました。歴史家たちの間で議論になっているのは、その機械がどれほど決定的な役割を果たしたかであって、使われたこと自体ではありません。

Jack Beatty

「Mind the Gap」 (2024)

政策立案者たちは、AIが誰かの生物兵器開発を助けてしまうことを懸念しています。しかし著者たちが論じるより身近な危険は、すでに軍事監視や標的選定に使われている商用AIであり、それは敵対勢力が引き出すことのできる個人データによって学習させられているということです。

Heidy Khlaaf、Sarah Myers West、Meredith Whittaker (AI Now)

画像:AI Now Institute

記事、報告書およびキャンペーン10
  • "人間の関与"は、実に薄いものです。Lavenderに関する報道の中で、Abrahamが映像で解説しているように、将校たちは1つの標的を承認するまでにおよそ20秒しかかけていなかったと述べています。
  • 機械はどこに位置しているのか。"Anatomy of an AI Kill Chain"は、標的選定の過程を段階ごとに追っています。ソフトウェアが推奨し、人がクリックするだけのとき、誰も決定を下していないように見えてしまいます。
  • プラットフォームもまた、戦争を煽ることがあります。DAIRは、Tigray戦争の際にソーシャルメディアがヘイトスピーチを増幅させる一方、現地の言語ではモデレーションが機能していなかったことを記録しています。
  • 労働者は拒否することができます。No Tech for Apartheid:GoogleとAmazonの労働者たちが、自分たちの雇用主がイスラエル政府と結んだクラウド契約に反対し、組織化しています。
  • パンチカードは、その最初のバージョンでした。IBM and the Holocaust:機械によって分類された国勢調査記録により、人々はカテゴリーごとに見つけ出せるようになりました。
小見出しこれを読んでください著者主な考え
ガザ 「Lavender & Where's Daddy」 (Democracy Now!、2024) Yuval Abraham、インタビュー 映像で解説された調査:1つのシステムが殺害対象リストを作成し、もう1つがそのリストに載った人々を追跡し、彼らが家族と自宅にいるときに知らせを出していました。
ターゲティング 「Anatomy of an AI Kill Chain」 (2026) AI Now InstituteとAirwars 架空のAI支援攻撃を、センサーデータから攻撃後の検証まで6つの段階に分けて図解しています。"人間による監督と説明責任は、着実に失われつつある。"同じ道具が、ウクライナ、ガザ、イランで使われています。
民族暴力 DAIRのソーシャルメディアハームプロジェクト Timnit GebruおよびDAIR Gebruがジェノサイドと呼ぶTigray戦争の際に、プラットフォームがどのようにヘイトスピーチを増幅させたか、そしてなぜ現地の言語ではモデレーションが機能しなかったかについての、3年間にわたる調査研究。
労働者の拒否 No Tech for Apartheid GoogleおよびAmazonの労働者 GoogleとAmazonがイスラエル政府と結んだクラウド契約、Project Nimbusに対するキャンペーン。Googleは、2024年4月にオフィスで座り込みを行った労働者約50人を解雇しました。
ペンタゴン 「Trump orders federal agencies to stop using Anthropic tech over AI safety dispute」 (PBS News、2026年2月) PBS News Anthropicは、軍との契約に2つの制限を求めました。アメリカ国民に対する大規模監視は行わないこと、完全自律型兵器には使わせないことです。政府は各機関に対しこのAIの使用をやめるよう命じ、サプライチェーン上のリスクだと位置づけました。その数時間後、OpenAIは国防総省との契約に署名しました。
本1
Cover of IBM and the Holocaust

IBM and the Holocaust (2001)

Edwin Black

貸与されたパンチカード式の機械が、いかにナチス国家による人々の集計、分類、追跡を助けたか。名前とカテゴリーからなるデータベースは、決して中立ではありません。

条約と政策4

2026年9月現在のステータス。

楽器どこでどのステータス誰何ができるのか
自律型兵器に関する国連総会決議:78/241(2023年)、79/62(2024年)、80/57(2025年) 国連。採択済み、法的拘束力なし。アメリカとロシアは2025年に反対票を投じました 国連総会 殺傷性自律型兵器に関する、法的拘束力のある文書の交渉に向けた基盤づくり。
殺傷性自律型兵器に関する国連専門家協議 ジュネーブ。条約はまだ存在せず、2026年11月の再検討会議で交渉開始の是非が決定されます Convention on Certain Conventional Weapons締約国 コンセンサス方式により、将来の条約の要素を起草しています。
Stop Killer Robots グローバルキャンペーン 市民社会連合 自律型兵器を禁止・規制する、法的拘束力のある条約の実現を求めています。
EU AI法、第2(3)条 EU。有効中 ヨーロッパ連合 軍事、防衛、国家安全保障に関わるAIを、この法律の適用対象から完全に除外します。

10チャットボットと心の健康

チャットボットは、人々に会話を続けさせるように作られています。そして利用者に同意することが、会話を続けさせる方法なのです。

  • 区別すべき3つの害:お世辞(ボットがあなたに同意する)、依存(あなたが何度も戻ってくる)、そして危機(自殺念慮や妄想を抱える人を、ボットが助けられない)。
  • フォローすべき人々:私の指導教員であるDan Jurafskyのスタンフォード大学の研究室で、迎合性に関する研究を主導したMyra Cheng。The New York TimesのKashmir Hillは、妄想に引き込まれた大人たちについても報じています。
  • 法整備がもっとも速く進んでいるのは、この分野です。ニューヨーク州とカリフォルニア州は、Kristen Gonzalez上院議員とSteve Padilla上院議員の主導により、初めてのコンパニオン型チャットボット規制法を可決しました。

まず読むもの

「Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence」 (Science, 2026)

このセクションで一番のおすすめ。主要な11のモデルすべてにおいて、AIは利用者が欺瞞や加害について語った場合でも、人間よりも49%多い割合で利用者の側についていました。お世辞を言われる会話をたった1回するだけで、人々は自分が正しいという確信を強め、埋め合わせをしようとする意欲を失いました。

Myra Cheng、Dan Jurafsky、および同僚

「Exploring the Dangers of AI in Mental Health Care」 (Stanford HAI, 2025)

研究者たちは、セラピー用チャットボットに、危機的状況にある人物からの、率直な質問として書かれたメッセージを送りました。一部のボットは、その質問には答えたものの、その裏にいる人物を見過ごしていました。より大きく新しいモデルも、統合失調症のような疾患に対して、古いモデルと同程度の偏見を示しました。

Jared Moore, Nick Haber, and colleagues

画像:Stanford HAI

記事6
  • 同意することこそが商品です。Hillの報道:精神病の既往歴がない、働く大人たちが、何を持ちかけても同意してくるチャットボットによって妄想に引き込まれていきました。同意することは、人々に会話を続けさせます。そして会話こそがビジネスなのです。
  • なぜ悪循環に陥るのか。Stanford HAIが、チャットボットがやり取りを重ねるたびに誤った思い込みを映し返してしまうとどうなるか、そして設計者や規制当局に何ができるかを論じています。
  • チャットボットは、あなたを理解しているわけではありません。"Stochastic Parrots":流暢な文章は、理解を意味しません。両者を取り違えることこそが危険なのです。Googleは、この論文をめぐってEthical AIチームを解体しました。
小見出しこれを読んでください著者主な考え
妄想 「They Asked an A.I. Chatbot Questions. The Answers Sent Them Spiraling.」 (New York Times, 2025) Kashmir Hill 精神病の既往歴がない大人たちが、自分に同意してくるチャットボットによって、陰謀論や妄想に引き込まれていきました。
妄想 「AI's 'Delusional Spirals' (and What to Do About Them)」 Stanford HAI スタンフォード大学の研究者たちは、チャットボットが利用者の妄想を増幅させた19件の実際のチャットログを読み解きました。それは仕事、人間関係、そして少なくとも1つの命を奪う結果になりました。彼らが示す対策は、検査すること、警告を出すこと、そしてこれを公衆衛生の問題として扱うことです。
チャットボットとは 「On the Dangers of Stochastic Parrots」 (2021)。学術的。 Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, and Margaret Mitchell. "Stochastic parrots":言語モデルは、意味を把握することなく、見てきた単語をつなぎ合わせているにすぎません。この論文はまた、モデルが際限なく巨大化することによるエネルギーコストや、学習データに権力者たちの価値観が組み込まれてしまうことについても警告しています。
法律7

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
コンパニオンチャットボットのセーフガード ニューヨーク州。2025〜26年度の州予算で成立 Kristen Gonzalez上院議員 コンパニオン型チャットボットには、自傷行為の兆候を検知し、利用者を危機対応サービスにつなぎ、人間と話しているのではないことを利用者に伝えることが義務付けられます。
S9051B、未成年者向けの安全でないAIコンパニオン機能について ニューヨーク州。2026年6月に上下両院を通過、知事の署名待ち Kristen Gonzalez上院議員、Alex Bores州議会議員、Letitia James司法長官 未成年者に対し、疑似的な人間関係を演出したり、自傷行為を助長したり、エンゲージメントの最大化を狙ったりするコンパニオン機能を禁止します。
SB 243 およびSB 1119、「Adam's Law」 カリフォルニア。2025年10月および2026年9月に署名 Sen. Steve Padilla コンパニオン型チャットボットには、自分がAIであることの開示、自傷行為に関する対応手順の順守、未成年者の保護、そして子どもの安全に関する監査の実施が義務付けられます。
HB 1806 イリノイ。2025年8月以来有効 イリノイ州議会 AIがセラピーを提供したり、治療上の判断を下したりすることを禁じます。
人間らしいAIコンパニオンに関する措置 中国。2026年7月15日以来有効 中国サイバースペース管理局 コンパニオンAIには、自分がAIであることを利用者に伝え、依存を抑制し、未成年者を保護し、自傷行為に介入することが義務付けられます。
S7263A、チャットボット責任 ニューヨーク州。2026年6月時点で上院運営委員会で審議中 Kristen Gonzalez上院議員 チャットボットの運営者に対し、そのボットが医師、弁護士、セラピスト、その他の免許職を名乗った場合の責任を課します。
S8484、療法でのAI ニューヨーク州。審議中、彼女の2026年AI関連法案パッケージの一部 Kristen Gonzalez上院議員 セラピーにおけるAIの使用を規制するものです。

誰が決定するのか

11独占、プライバシー、国家

AIは、2つの古くからある問題、独占的な権力と監視型のビジネスモデルが生み出した最新の産物です。使うべき道具は、反トラスト法、プライバシー法、そして暗号化です。

  • 半導体、クラウド、データを所有しているのはわずかな企業であり、だからこそAIも彼らのものになっています。ここに挙げるものはすべて、その支配を断ち切るか、そこから抜け出すための方法です。
  • 政策系のシンクタンク:Amba KakとSarah Myers Westが、AI Now Instituteを率いています。その年次報告書は、AIをめぐる権力の所在を示す、単独としては最良の地図です。
  • 本:Shoshana Zuboffは、The Age of Surveillance Capitalism(2019)でこのビジネスモデルに名前を与えました。Cory Doctorowは、Enshittification(2025)で、独占が製品に何をもたらすかに名前を与えました。
  • 国家は、その両側に立っています。ルールを作る側であると同時に、主要な顧客でもあるのです。詳しくはAIとICEと戦争とジェノサイドにおけるAIを参照してください。

まず読むもの

「The Steep Cost of Capture」 (ACM Interactions, 2021)

このセクションで一番のおすすめ。今日のAIは、わずかな企業だけが保有するデータと計算資源の上で動いています。それは"私たちの生活と諸制度に対する過大な権力を、ひと握りのテック企業に明け渡す"ことにほかならず、それらの企業を検証すべき研究に対する権力さえも含まれます。

Meredith Whittaker、Signalの会長

「We Must Regulate A.I. Here's How」 (New York Times, 2023)

FTC委員長として書かれたもの。あらゆるAIスタートアップが必要とするクラウド、半導体、データを支配しているのは"ひと握りの強大な企業"です。彼女が示す答えは、独占、談合、詐欺に対する既存の法律を執行することです。

Lina Khan、FTC議長2021〜2025

「Don't ask if AI is good or fair, ask how it shifts power」 (Nature, 2020)

AIによって搾取されうる立場にある人々こそが、そのプロジェクトを形作るべきです。

AIシステムが公正かどうかを問うのはやめましょう。そこから誰が権力を得るのかを問いましょう。その世界観のすべてを、2ページに。

Ria Kalluri (Stanford)、Radical AI Networkの共同創設者

画像:nature.com

「Do Artifacts Have Politics?」 (Daedalus, 1980)

この分野の原点となったエッセイ。もっともよく知られた事例は、ロングアイランドのバスが通れないほど低く作られた陸橋で、それが貧しい人々や黒人のニューヨーカーをビーチから遠ざけていました。デザインは、その内側に政治を宿すことができるのです。

Langdon Winner

記事、報告書およびキャンペーン10
  • 低価格であることは、判断基準にはなりません。Khanの論文:Amazonが反トラスト法をすり抜けられたのは、この法律が価格の高低しか問わなかったからです。労働者、出品者、競合他社に対する権力は、考慮されませんでした。
  • なぜAIは集中するのか。主要な研究機関がMicrosoft、Amazon、Googleと結びついているのは、半導体、クラウド、データを所有しているのがこれらの企業だけだからです。それこそがFTCの調査が検証した対象です。AI Nowは、この構造の解体を提案しています。集中がこの業界の必然的な方向性であるなら、反トラスト法だけでは不十分です。詳しくは公有化を参照してください。
  • AIエージェント対プライバシー。Whittaker:あなたのチケットを予約してくれるエージェントには、ブラウザ、カレンダー、決済、チャットへの鍵が必要になります。それは、Signalのようなアプリを安全にしている壁を壊してしまいます。
  • 誰もが持つデータは、誰もが持つ交渉力です。VincentとLi:モデルは私たちの労働から作られています。だからこそ人々は、それを提供しない、それに対価を求める、あるいは団結して交渉することができるのです。
小見出しこれを読んでください著者主な考え
独占禁止 「Amazon's Antitrust Paradox」 (2017); AI提携に関するFTC調査 (2024) Lina Khan、Khan体制下のFTC 1つの運動の火付け役となった学生時代の論文。この調査は、Alphabet、Amazon、Anthropic、Microsoft、OpenAIに対し、その数十億ドル規模のパートナーシップについての説明を命じました。
政策アジェンダ Artificial Power (2025); Confronting Tech Power (2023) Amba Kak およびSarah Myers West (AI Now) AIをめぐる権力の所在と、それにどう対処すべきかを示す年次の地図:明確な禁止事項、半導体・クラウド・モデルという構造の解体、そしてデータ収集への制限。オーガナイザーと政策立案者のために書かれています。
プライバシー AIエージェントが暗号化されたアプリを脅かす (2025) Meredith Whittaker Signalの社長は、AIエージェントを"自分の脳を瓶に入れるようなものだ"と表現します。チケットを予約するために、エージェントはあなたのブラウザ、カード、カレンダー、メッセージへのアクセスを必要とし、それは"ルート権限のようなもの"になります。
権利 Blueprint for an AI Bill of Rights (2022) Alondra Nelson (バイデン大統領府科学局) 自動化の時代のための5つの権利:安全なシステム、アルゴリズムによる差別からの保護、データプライバシー、通知と説明、そして人間による代替手段。法的拘束力を持ったことは一度もなく、政権交代後にアーカイブされました。
誰のデータ 「ChatGPT Stole Your Work. So What Are You Going to Do?」 (Wired, 2023); 「Foundation Models and Fair Use」 (2023) Nick Vincent and Hanlin Li; Peter Henderson and colleagues 人々は、データを提供しない、対価を要求する、あるいは団結して交渉することができます。法律論文が論じるのは、"フェアユース"が自動的に企業を守ってくれるわけではない理由です。
人民のためのAI A People's Guide to AI; Indigenous Protocol and AI (2020); 「Roles for Computing in Social Change」 (2020) Allied Media Projects; Indigenous Protocol and AI Working Group; Rediet Abebe and colleagues コミュニティ向けの平易な言葉で書かれたワークブック、先住民によるデザイン原則の一式、そして社会変革におけるコンピューティングの誠実な4つの使い方についての論文:問題を診断すること、厳密さを強制すること、言い訳を論破すること、そして注意を引くこと。
本3

The Age of Surveillance Capitalism (2019)

Shoshana Zuboff (ハーバード、エメリタス)

"監視資本主義":人間の経験を、行動予測のための無料の原材料として取り込むこと。

Cover of Enshittification

Enshittification (2025)

Cory Doctorow

独占によって利用者や供給者を締め上げる自由を得ると、プラットフォームは腐っていきます。AIバブルには懐疑的です。

Power and Progress (2023)

Daron AcemogluおよびSimon Johnson

新しい技術が多くの人々を豊かにするのは、労働者がその分け前を要求する力を持っているときだけである、という1,000年分の証拠。

法律6

2026年9月現在のステータス。

法律または法案どこでどのステータス誰何ができるのか
EU AI法 EU。2024年8月から施行、禁止事項は2025年2月から、汎用モデルに関するルールは2025年8月から、大半のルールは2026年8月から適用。高リスクに関する義務は2026年Digital Omnibusにより2027年12月に延期 ヨーロッパ議会と評議会 リスクに基づく法律:禁止される用途、高リスクシステムへの義務、透明性に関するルール、そして汎用モデルの開発者に対する義務。
中国のAI規則:生成AI対策 (2023)、AIコンテンツラベリング (2025)、アルゴリズム推奨条項 (2022) 中国。有効中。包括的なAI法はまだない 中国サイバースペース管理局 生成AIに対するコンテンツ、学習データ、セキュリティに関する義務。AI生成コンテンツへのラベル表示の義務化。アルゴリズムの届け出と、利用者によるオプトアウト。
Delete Act, SB 362、およびそのDROP削除プラットフォーム カリフォルニア州。2023年に署名、削除申請プラットフォームは2026年1月から稼働 Sen. Josh Becker 1回の申請で、登録されているすべてのデータブローカーからあなたのデータが削除されます。
州によるAI法を無効化しようとする連邦レベルの動き:廃案となった10年間のモラトリアム(2025年)と大統領令14365 アメリカ。上院は2025年7月に99対1でこのモラトリアムを否決、大統領令は2025年12月から施行 Ted Cruz上院議員、トランプ政権。40州の司法長官、AFL-CIO、Teamsters、ILWUが反対 州によるAI規制を阻止しようとするものです。この大統領令は、州のAI法に異議を申し立てるための司法省タスクフォースを設置します。
California Consumer Privacy Act (CCPA) カリフォルニア州。2020年から施行、同年に住民投票により強化 司法長官と、州のプライバシー保護機関 企業があなたについて何を保有しているかを知り、それを削除させ、その販売を拒否する権利。
The AI PACT(法律ではなく、候補者による誓約)、The Hillによる報道 アメリカ、2026年中間選挙。2026年9月時点で35人の候補者が署名:民主党員と無所属の候補者のみで、共和党員はゼロ Political Integrity Project。署名者にはDan Osborn、Gina Hinojosa、Connie Chan、Brad Landerが含まれます 5つの誓約:データセンターへの税制優遇や密室での取引を行わないこと、主要なモデルの公開前に独立した安全性審査を行うこと、職を失った労働者へのAI配当、AI企業が裁判で責任を問われるようにすること、そして救済措置を行わないこと。

12規制より速く動く

テック業界でもっとも強大な力を持つ人々の一部は、それを公然と口にしています。十分な速さで作り続ければ、民主主義は追いつけなくなる、と。

  • Peter Thielは、PayPalとPalantirの共同創業者であり、J. D. Vanceの上院選出馬に資金を提供しました。2009年、彼は"自由と民主主義は両立可能だとはもはや信じていない"と書き、"政治と技術の間の死の競争"だと表現しました。その計画は、その競争に勝つことです。
  • 資金もそれに続きます。Andreessen HorowitzとOpenAIの社長が資金提供するスーパーPAC、Leading the Futureは、州のAI法を1つの緩やかな全国ルールに置き換えるような候補者を当選させるため、2025年に1億2,500万ドルを集めました。議会では、同じ動きが連邦優先の原則として現れています。
  • つまり速度は、副産物ではなく戦略なのです。どんな法律よりも速く作ってしまえば、法律はもはや意味を持たなくなります。

まず読むもの

「The Education of a Libertarian」 (Cato Unbound, 2009)

このセクションで一番のおすすめ。彼自身の言葉で語られる計画を、5分で。"自由と民主主義が両立可能だとはもはや信じていない。"彼が示す抜け道はテクノロジーです。サイバー空間、宇宙空間、そして海に浮かぶ都市。

Peter Thiel

「Peter Thiel just gave the public its closest look yet at his 'Antichrist' theory」 (Fortune, 2026)

現在のバージョン。Thielの語りでは、反キリストとは安全と世界的なルールを約束する支配者のことです。Greta ThunbergとAI安全性についての著述家Eliezer Yudkowskyは、彼にとって無自覚な手先だとされます。報道によれば、彼は今ではLeo XIV教皇もそこに加えているといいます。

Fortune

画像:Fortune

「The Techno-Optimist Manifesto」 (2023)

この運動の信条。その敵のリストには"テック倫理"、"トラスト・アンド・セーフティ"、"サステナビリティ"が含まれます。AIを減速させることについて:"存在を阻まれたAIによって防げたはずの死は、一種の殺人である。"

Marc Andreessen

画像:Andreessen Horowitz

より深い切り込み2
小見出しこれを読んでください著者主な考え
Nick Land 「Accelerationism: how a fringe philosophy predicted the future we live in」 (The Guardian Long Read, 2017) Andy Beckett 読みやすい歴史解説。1990年代、Nick Landは、資本主義と技術は、もはや誰にも制御できなくなるまで加速させるべきだと論じました。彼は後に"The Dark Enlightenment"を著し、これは反民主主義的なテック右派の基礎文献となりました。Andreessenの宣言文は、彼を守護聖人として名指ししています。
民主主義からの脱出 Crack-Up Capitalism (2023) Quinn Slobodian ある歴史家が、市場はあっても有権者はいない特区を夢見るThielとその仲間たちの構想、シーステッド、チャーターシティ、タックスヘイブンを追っています。

13公共所有権

"機械を誰が所有するのか"という問いに対する左派の答えは、公衆であり、それを動かす労働者たちです。

  • その答えの3つのバージョン:労働者が何を作るかを計画する、水道や電力のようにインフラを公衆が所有する、あるいは機械が働き、その成果をみなで分かち合う。
  • 本:Lucas Aerospaceのエンジニアで職場委員でもあったMike Cooleyは、Architect or Bee?(1980)を書きました。Novara Mediaの共同創設者Aaron Bastaniは、Fully Automated Luxury Communism(2019)を書きました。
  • 機械についての2つの古典的なテキスト、CapitalとGrundrisseからのものは、さらに深くにあります。
  • イギリスのテレビ番組で、ノーベル賞受賞者であり"AIのゴッドファーザー"でもあるGeoffrey Hintonは、AIがすべての人に役立つようにするにはどうすればよいかと尋ねられました。彼の答えはこれがすべてでした。"社会主義。"

まず読むもの

「The Lucas Plan Was a Workers' Alternative to Neoliberalism」 (Tribune, 2022)

このセクションで一番のおすすめ。1976年、解雇に直面したLucas Aerospaceの労働者たちは、兵器の代わりに作るべき150の製品案をまとめました。風力タービン、人工腎臓、ハイブリッドエンジン。会社はこれを拒否し、雇用は削減されました。1979年、ノーベル平和賞の候補にもなりました。

Jamie Medwell

画像:tribunemag.co.uk

「The Californian Ideology」 (1995)

テクノロジーについての古典的な左派分析:シリコンバレーは、ヒッピー的な自由と自由市場への熱狂を融合させ、その結果を必然だと呼びました。

Richard Barbrook およびAndy Cameron

「Treat AI Like a Public Utility」 (Jacobin, 2025)

2つの要求:"職を失った労働者のための公的雇用プログラム"、そして電力網のように公共インフラとして規制されるAIモデル。

Matt HuberおよびHolly Buck

画像:jacobin.com

"First, Do No Harm: AI Under Democracy"(選挙公約、2026年6月)。それに対する攻撃を、PolitiFactが検証しています。

AIは、私たちのデータと労働によって作られました。私たちはその一部を所有すべきです。

彼の計画:最大手のAI企業の株式の半分を公的機関の手に、そして主要な研究機関の取締役会に公的な過半数を。反対派はこれを共産主義だと呼びました。

Abdul El-Sayed、ミシガン州選出の米国上院議員候補

画像:Abdul for U.S. Senate

記事10
  • 武器としての機械。Capital、第15章:機械は労働時間を短縮できたはずでした。しかしオーナーの手にかかると、それは労働時間を延ばし、ストライキを打ち砕く道具になります。労働者たちはまず機械そのものを攻撃し、やがてその使われ方を攻撃することを学びました。
  • "一般的知性"。Fragment on Machines:生産が社会全体で積み上げられた知識の上に成り立つようになれば、機械を私的に所有することの正当性は保ちにくくなります。言語モデルは、今のところもっとも文字通りの事例です。すべての人の書いたものから作られながら、所有しているのはひと握りの企業なのです。
  • 労働者は、技術のあり方を指定することができます。Notes From Belowは、今のテック労働者にとってのLucas Planとはどのようなものかを問いかけています。当時の計画が失敗したのは、労働者たちがアイデアを持っていても、所有権を持っていなかったからです。
  • 初期設定を公有にするか、それとも寡頭制にするか。Jacobin:公的な統制がなければ、AIがもたらす利益はひと握りの所有者のものになります。
  • AI安全性の立場からさえも。大量失業と急騰する利益について、Hintonはこう言います。"それはAIのせいではない。資本主義というシステムのせいだ。"
小見出しこれを読んでください著者主な考え
元の分析 「Machinery and Modern Industry」, Capital vol. 1、ch. 15 (1867、オンラインで無料) Karl Marx 工場についての長い章。オーナーの手にかかると、機械は労働時間を延ばし、女性や子どもを労働に引き込み、ストライキを打ち砕きます。
労働者の計画 「Bringing Back the Lucas Plan」 Felix Holtwell、Notes From Below (2018) "技術は政治的なものである。それでもなお、その設計を最終的に握っているのは資本主義的な企業である。"Lucasの事例から引き出される教訓は、テック労働者が組織化すれば、何が作られるかについて発言権を勝ち取れるということです。
民主的管理 「Democratize AI or Make the AI Oligarchy an Inevitability」 (Jacobin, 2025) David Moscrop オートメーションが労働者を解放するかどうかは、「ロボットを所有しているかにかかっています。」 「今、それは労働者でも一般大衆でもありません。しかし、それはできました。」
元の分析 「Machinery on Fragment」、 Grundrisse (1857–58、オンラインで無料) Karl Marx 労働者が機械を見守るだけの存在に成り下がった、完全自動化された機械システムを構想しています。自動化をめぐる左派のあらゆる議論が立ち返る一節です。
AI安全保障から Hinton on ITV's Peston (ビデオ); その Financial Times インタビュー、Fortuneによって報告されたように (2025) Geoffrey Hinton、ノーベル賞受賞者および「AIの教父」 テレビで、AIをどうすれば社会に役立たせられるかと尋ねられ、彼はたった一言、社会主義、と答えました。彼はFinancial Timesに対し、AIは大量失業と急騰する利益をもたらすだろうと語りました。"それはAIのせいではない。資本主義というシステムのせいだ。"
本2

Fully Automated Luxury Communism (2019)

Aaron Bastani、Novara Media共同創設者

機械が公有化されれば、自動化はすべての人に豊かさをもたらしうるのです。

Architect or Bee? (1980)

Mike Cooley、Lucas Aerospace職場委員

人は、自分のために作られたシステムに反応するだけの蜂になるか、それとも自分が使う技術の設計者になるか、どちらかです。

背景

AI安全保障の観点

AI安全性のコミュニティは、高度なAIが人間の制御を逃れたり、破滅的な規模で悪用されたりすることを懸念しています。このガイドはそのリスクを真剣に受け止め、誰がその制御盤を握っているのかを問います。

  • 彼らが正しく指摘していること:Yoshua BengioとGeoffrey Hinton(チューリング賞、2018年)は、早い段階からAIの力を真剣に受け止めていました。この分野の実践的な要求は、カリフォルニア州のSB 1047のように、労働組合が支持してきたものと重なります。公開前のモデルのテスト、内部告発者の保護、企業への責任の明確化。
  • 非営利団体と資金:この分野の多くは、効果的利他主義の内側で育ってきました。Facebookの共同創業者が資金を出すOpen Philanthropyは、Center for AI Safetyのような非営利団体を支援しており、Sam Bankman-Friedは、FTXが破綻する前にAnthropicへ約5億ドルを投じていました。Politicoは、ワシントンにおけるこのネットワークを図解しています。
  • Anthropic:2021年に、Dario AmodeiやChris Olahを含む元OpenAIのスタッフによって、安全性を最優先する研究機関として設立されました。安全性研究はその売り文句の中心にあり、リスクの高いモデルを差し控えるための明文化された方針も持っています。同社はまた最先端のAIを開発・販売しており、それはPalantirを通じて軍にも届いています。
  • 証拠の問題:このガイドで扱う害は、実際に測定されたものです。一方、破滅的リスクは予測であり、その多くは通常の科学的検証の外で発表されています。どちらも検討に値します。
  • 批判者たち:Timnit GebruとÉmile P. Torresは、あらゆることをこなすように作られたシステムは安全性をテストしようがないと論じ、解決策は用途を限定した道具にあるとしています。
これを読んでください著者彼らの見方
「Concrete Problems in AI Safety」 (2016) Dario Amodei, Chris Olah, Jacob Steinhardt, Paul Christiano, John Schulman, Dan Mané この分野の基礎となった論文であり、ほぼ誰もが敬意を払うものです。学習システムがうまくいかなくなる5つの現実的なパターン、たとえば報酬を不正に操作したり、誰も望んでいない副作用を引き起こしたりすることを、エンジニアリングの問題として捉え直しています。
「Managing extreme AI risks amid rapid progress」 (Science, 2024) Yoshua Bengio, Geoffrey Hinton, Andrew Yao, Stuart Russell, and 21 co-authors AIは近いうちに、広範な領域で人間に匹敵するか、それを上回るようになるかもしれません。リスクは、大規模な社会的被害や悪用から、人間による制御の不可逆的な喪失にまで及びます。安全性研究とガバナンスは、AIの能力の進歩に大きく後れを取っています。
「The TESCREAL Bundle」 (First Monday, 2024) Timnit Gebru およびÉmile P. Torres 批判:AGIや実存的リスクをめぐる思考の多くは、トランスヒューマニズム、効果的利他主義、ロングターミズムに由来しており、そのルーツは20世紀の優生学にまでさかのぼります。そしてそれらは、今まさに起きている害から人々の目をそらしてしまいます。
「AI Safety for Everyone」 (Nature Machine Intelligence, 2025) Balint Gyevnar およびAtoosa Kasirzadeh 内部からの批判:AI安全性を実存的リスクを中心に定義してしまうと、実際に安全性に関わる仕事をしている人々の大半が締め出されてしまいます。彼らのレビューは、この分野の大半が具体的で現在進行形の問題を扱っていることを明らかにし、この言葉のより広い定義を主張しています。
AI安全性に関する法律と、それを支持しているのは誰か5

2026年9月現在のステータス。

法律または法案ステータスがサポートに反対
SB 1047、カリフォルニア州:最大級のモデルに対する安全プロトコル、停止機能、そして監査 2024年9月に拒否権を発動 Geoffrey Hinton, Yoshua Bengio, Stuart Russell、SAG-AFTRA、National Organization for Women、Elon Musk、AI研究機関の従業員100人超、Anthropic(慎重な立場で) OpenAI, Meta, Google、Andreessen HorowitzとY Combinator、Fei-Fei Li, Andrew Ng, Yann LeCun、Nancy Pelosiほかカリフォルニア州選出の民主党下院議員たち
SB 53、カリフォルニア州:最先端の研究機関に安全枠組みの公表とインシデント報告を義務付け、内部告発者を保護 2025年9月に署名 Anthropic; Encode Consumer Technology Association; Chamber of Progress; Andreessen Horowitz
RAISE Act、ニューヨーク州:安全枠組みと72時間以内のインシデント報告、違反には最大300万ドルの罰金 2025年12月に署名、2026年3月に修正、2027年1月に施行 提案者はAndrew Gounardes上院議員とAlex Bores州議会議員、Kristen Gonzalez上院議員も共同提案者として自身の委員会で審議を進めた。HintonとBengio Andreessen Horowitz、Leading the FutureスーパーPAC、Tech:NYC、Chamber of Progress、NetChoiceほかの業界団体
EU AI Actのシステミックリスク規則とCode of Practice 2025年8月以来適用 Anthropic、OpenAI、Google、Microsoft、Amazon、Mistralが署名、ヨーロッパの市民社会団体が擁護 Metaは署名を拒否、ヨーロッパの経営者46人は"時計を止める"よう求めた
州のAI法を無効化しようとする連邦レベルの動き モラトリアムは99対1で否決(2025年)、大統領令は施行中 OpenAI、Meta、Google、Andreessen Horowitz 40州の司法長官、AFL-CIO、Teamsters、ILWU、AnthropicのDario Amodei、ACLUおよび140の市民社会団体

政治理論

このリストが依って立つ、より古くからの議論。

レンズ読む著者それが与えるもの
人種的資本主義 Black Marxism (1983) Cedric Robinson 資本主義は常に労働者を人種によって選別してきました。その技術は、その選別を受け継いでいます。
植民地主義 Discourse on Colonialism (1950) Aimé Césaire 植民地主義は、植民者自身をも野蛮にします。そしてそれを文明と呼ぶのです。
帝国と搾取 How Europe Underdeveloped Africa (1972) Walter Rodney ヨーロッパは、アフリカを貧しくすることで豊かになりました。発展と低開発は、1つの同じ過程です。"AI植民地主義"の背後にある枠組みです。
テクノロジーと解放 「This Is the Voice of Algeria、」を含むA Dying Colonialism (1959) Frantz Fanon ラジオは、植民者の道具としてアルジェリアにもたらされました。革命はそれを奪い取りました。ある技術が何であるかを決めるのは、それを誰が制御しているかです。
オートメーション The American Revolution: Pages from a Negro Worker's Notebook (1963、オンラインで無料) James Boggs デトロイトの黒人自動車労働者:自動化は単に仕事を減らすだけではなく、労働者の集団全体を、経済がもはや必要としない"部外者"にしてしまいます。
連動した抑圧 The Combahee River Collective Statement (1977、オンラインで無料) Combahee River Collective 黒人社会主義フェミニストたち:人種、性、階級による抑圧は互いに絡み合っており、だからこそ一体のものとして闘わなければなりません。
廃止 Are Prisons Obsolete? (2003) Angela Davis 一部のシステムは、改革するのではなく終わらせるべきです。技術における"アボリショニスト・ツール(廃絶のための道具)"の原点です。
常識 「Common-sense neoliberalism」 (Soundings, 2013) Stuart Hall およびAlan O'Shea 支配的な考え方が、いかにしてただの常識であるかのように感じられるようになるか。なぜ"AIは避けられない"という言葉が、当たり前に聞こえてしまうのか。
プラットフォーム Platform Capitalism (2016) Nick Srnicek プラットフォームは、データを採取するビジネスです。だからこそAIは、わずかな企業に集中するのです。

注目すべきグループ

グループそれが重要な理由人
AI Now Institute AIがいかに企業権力を集中させ、不平等を深めているかを、労働権を軸に検証。戦争とデータセンターについての報告も。 2017年、Meredith WhittakerとKate Crawfordによってニューヨーク大学で共同設立、現在はAmba KakとSarah Myers Westが率いる
DAIR ビッグテックから独立した、コミュニティに根ざしたAI研究。アフリカとアフリカ系移民に焦点を当てています。 2021年12月2日にTimnit Gebruによって設立、Alex Hanna、Milagros Miceli
UCLA Center for Critical Internet Inquiry Safiya Nobleの拠点:人種、ジェンダー、コンテンツモデレーション、そしてプラットフォームの権力。 Safiya Noble およびSarah T. Roberts
Ida B. Wells Just Data Lab (プリンストン) 学生、アーティスト、活動家たちが共に、テクノロジーを媒介とした害に立ち向かっています。 Ruha Benjamin
回避可能 AI安全性の立場から:AIがもたらす大規模なリスクをめぐって市民を組織化し、超知能への競争を止めることを求めています。地域のデータセンター反対運動と連携し、Data Center Opposition Reportを共同発行しています。 2025年、AI研究者David Kruegerによって設立

注目すべき人物

人今で知られている
Karen Hao ジャーナリスト かつてMIT Technology ReviewとThe Wall Street Journalに所属。AI ColonialismシリーズとEmpire of AI(2025)を執筆。
Dan Jurafsky スタンフォード大学 言語学・計算機科学教授 マッカーサー・フェロー、2002年。このリストの多くが依拠する倫理セミナー、CS 384を教えています。私の指導教員です。
Meredith Whittaker Signalの会長(2022年以来) Googleに13年在籍し、セクシャルハラスメントに対する和解金や強制仲裁に反対する、約2万人規模の2018年11月のウォークアウトを組織しました。2017年にAI Nowを共同設立。Lina KhanのFTCに助言しました。
Lina Khan コロンビア大学Center for Law and the Economyのディレクター 2021年6月から2025年1月までFTC委員長を務め、反トラスト法の"ネオ・ブランダイス派"的な復権を主導しました。Zohran Mamdaniの政権移行チームを共同で率いました。
Timnit Gebru DAIRの創設者 エリトリア人の両親のもとアディスアベバで生まれ、10代で難民となりました。Black in AIを共同設立。2020年12月、"Stochastic Parrots"をめぐってGoogleを解雇されました(Google側は本人の辞職だとしています)。その1年後にDAIRを設立しました。
Margaret Mitchell Hugging FaceのChief Ethics Scientistとして、偏見に対抗する仕事をしています Googleのethical AIチームを設立し、共同で率いていました。2021年2月、Gebruがどのように扱われたかについての証拠を探していたことを理由に解雇されました。事実上、彼女を擁護したことによる解任です。
Ruha Benjamin Alexander Stewart 1886 Professor of African American Studies at Princeton Ida B. Wells Just Data Labの創設ディレクター。マッカーサー・フェロー、2024年。"the New Jim Code"という言葉を作りました。
Dr. Joy Buolamwini Algorithmic Justice League創設者 彼女自身を「コードの詩人」と呼んでいます。 Gender ShadesおよびUnmasking AI。
Veena Dubal UC Irvineの法学教授 ギグワーカーの擁護者であり、Proposition 22への反対者。
Ria Kalluri スタンフォード研究者 Dan Jurafskyの倫理セミナーを共同で教えていました。Radical AI Networkの共同創設者。

資料

労働9
帝国と搾取4
戦争とジェノサイドにおけるAI6
AIとICE3
監視2
人種的偏見7
チャットボットと心の健康3
独占、プライバシー、国家5
公共所有権3
AI安全保障の観点5
法律および背景2
  • 法案の全文と審議状況は、各セクションの法制表からリンクされています。状況の確認日は2026年9月20日です。
  • このリストの多くの文献は、Dan Jurafsky、Ria Kalluri、Peter Hendersonが教えるCS 384: Ethical and Social Issues in NLP(スタンフォード大学、2023年春学期)のシラバスに由来します。

著者について

このガイドは、スタンフォード大学でもっとも有名なAIの授業であるCS 229(機械学習)の元主任TAによって書かれました。著者はAndrew Ngのもとで働き、Stanford NLP GroupとStanford AI Labに所属し、このカリキュラムの大部分を教えてきました。著者はStanford Graduate Workers Union(UE Local 1043)で組織化に携わり、SB 1047への労働組合の支持を取り付ける組織化を手伝い、DSAとWFPのメンバーであり、そして忠実だが心穏やかではいられないLakersファンでもあります。このガイドは、以下から多くを引いていますCS 384: Ethical and Social Issues in NLP、で教えられたセミナーDan Jurafsky、MacArthur天才著者の優等学位論文の指導を務めた。

ウォッチリスト

文献の代わりとなる、トピック別の動画。

トピック視聴著者
帝国と搾取「Empire of AI」:AIがどのように新しい植民地の世界を創造しているか; 拡張インタビュー; データセンター抵抗Karen Hao on Democracy Now!
戦争とジェノサイドにおけるAI「Lavender & Where's Daddy」Yuval Abraham on Democracy Now!
AIとICE「Who's Behind ICE?」Mijenteオーガナイザー on Democracy Now!
人種的偏見「Reimagining the Default Settings of Technology」; 「Resistance and the Five Stages of Corporate Grief」Ruha Benjamin; Deborah Raji
AIハイプと倫理"Deep Unlearning":AIの誇大宣伝、倫理、偏見についてTimnit Gebru on Democracy Now!

YouTubeで

まずは最初の5本から:Buolamwini、Robert Williamsの映像、60 Minutes、Uberのドライバーたち、そしてKaren Hao。

人種的偏見

"How I'm fighting bias in algorithms"

TED 9分

Joy Buolamwiniは、顔認識ソフトウェアが自分の肌の色の濃い顔を検出できないことを示し、偏見がいかにしてコードに組み込まれるかを説明します。

YouTubeで開く

監視

"Wrongfully Arrested Because of Flawed Face Recognition Technology"

ACLU 8分

Robert Williamsとその家族が、顔認識システムが別人を誤って特定したことで、デトロイト警察が娘たちの目の前で彼を逮捕した経緯を語ります。

YouTubeで開く

労働

"Training AI takes heavy toll on Kenyans working for $2 an hour"

60分 14分

大手AI企業のためにデータのラベル付けや暴力的なコンテンツの審査を行うケニアの労働者たちが、その賃金と、消えることのないトラウマについて語ります。

YouTubeで開く

労働

"We Put 7 Uber Drivers in One Room. What We Found Will Shock You."

More Perfect Union 12分

7人のドライバーが、自分のアプリを並べて開くと、同じ乗車に対して異なる金額を提示されていました。アルゴリズムによる賃金差別を、実際に目にする瞬間です。

YouTubeで開く

帝国と搾取

"Empire of AI":AIがいかにして新たな植民地的世界を作り出しているかについて、Karen Haoが語ります

Democracy Now! 14分

AI企業は、かつての帝国がそうしたように、世界中から土地、水、データ、そして安価な労働力を奪い取っています。

YouTubeで開く

帝国と搾取

"A.I.'s Environmental Impact Will Threaten Its Own Supply Chain"

New York Times Opinion 6分

Kate Crawfordが、AIのサプライチェーンが依存する、嵐の被害を受けた町を訪れます。

YouTubeで開く

労働

Brian Merchant、"Debates in AI"

ロードアイランド設計学校 15分

Blood in the Machineの著者が、自動化が実際には誰の利益に奉仕しているのかについて語ります。

YouTubeで開く

人種的偏見

"Deep Unlearning":AIの誇大宣伝、倫理、偏見について、Timnit Gebruが語ります

Democracy Now! 18分

インターネット上のデータで学習したAIが、いかに人種差別と不平等を固定化してしまうか。

YouTubeで開く

AIとICE

"From Facial Recognition to Geolocation: Inside the Tech Powering ICE Raids"

Amanpour and Company 19分

404 MediaのJoseph Coxが、ICEが人々を見つけ出すために使う技術と、Palantirの役割について詳しく解説します。

YouTubeで開く

戦争とジェノサイドにおけるAI

"Lavender & Where's Daddy"

Democracy Now! 27分

Yuval Abrahamが、イスラエル軍がガザにおいて、ほとんど人間による確認を経ないままAIを使って殺害対象リストを生成していた経緯について語ります。

YouTubeで開く

戦争とジェノサイドにおけるAI

Edwin Blackが、IBM and the Holocaustについて語ります

WNBF News Radio 23分

音声のみ。著者自身による短い説明。

YouTubeで開く

チャットボットと心の健康

"What to know about 'AI psychosis' and the effect of AI chatbots on mental health"

PBS NewsHour 7分

落ち着いたトーンのセグメント:精神科医が、チャットボットによって助長される妄想と、OpenAIに対する訴訟について説明します。

YouTubeで開く

独占、プライバシー、国家

Lina Khan、The Daily Showに出演

The Daily Show 21分

Jon Stewartが、当時のFTC委員長に、わずかなテック大手がAIを支配することになるのかと尋ねます。

YouTubeで開く

独占、プライバシー、国家

"Signal's Whittaker on Privacy in the Age of Data and AI"

Bloomberg Live 23分

データに飢えたAIが、なぜ私的なコミュニケーションを脅かすのか。

YouTubeで開く

公共所有権

The Lucas Planドキュメンタリー (1978)

STEPS Centre 25分

Lucas Aerospaceの職場委員たちが、社会的に有用な生産のための自分たちの計画を発表します。

YouTubeで開く

AI安全保障の観点

"The Catastrophic Risks of AI, and a Safer Path"

TED 15分

Yoshua Bengioが、欺きや制御への抵抗を行うシステムをなぜ懸念しているのかを、平易な言葉で説明します。

YouTubeで開く
トピック視聴チャンネル長さなぜ
人種的偏見「How I'm fighting bias in algorithms」TED9分Joy Buolamwiniは、顔認識ソフトウェアが自分の肌の色の濃い顔を検出できないことを示し、偏見がいかにしてコードに組み込まれるかを説明します。
監視「Wrongfully Arrested Because of Flawed Face Recognition Technology」ACLU8分Robert Williamsとその家族が、顔認識システムが別人を誤って特定したことで、デトロイト警察が娘たちの目の前で彼を逮捕した経緯を語ります。
労働「Training AI takes heavy toll on Kenyans working for $2 an hour」60分14分大手AI企業のためにデータのラベル付けや暴力的なコンテンツの審査を行うケニアの労働者たちが、その賃金と、消えることのないトラウマについて語ります。
労働「We Put 7 Uber Drivers in One Room. What We Found Will Shock You.」More Perfect Union12分7人のドライバーが、自分のアプリを並べて開くと、同じ乗車に対して異なる金額を提示されていました。アルゴリズムによる賃金差別を、実際に目にする瞬間です。
帝国と搾取"Empire of AI":AIがいかにして新たな植民地的世界を作り出しているかについて、Karen Haoが語りますDemocracy Now!14分AI企業は、かつての帝国がそうしたように、世界中から土地、水、データ、そして安価な労働力を奪い取っています。
帝国と搾取「A.I.'s Environmental Impact Will Threaten Its Own Supply Chain」New York Times Opinion6分Kate Crawfordが、AIのサプライチェーンが依存する、嵐の被害を受けた町を訪れます。
労働Brian Merchant、「Debates in AI」ロードアイランド設計学校15分Blood in the Machineの著者が、自動化が実際には誰の利益に奉仕しているのかについて語ります。
人種的偏見"Deep Unlearning":AIの誇大宣伝、倫理、偏見について、Timnit Gebruが語りますDemocracy Now!18分インターネット上のデータで学習したAIが、いかに人種差別と不平等を固定化してしまうか。
AIとICE「From Facial Recognition to Geolocation: Inside the Tech Powering ICE Raids」Amanpour and Company19分404 MediaのJoseph Coxが、ICEが人々を見つけ出すために使う技術と、Palantirの役割について詳しく解説します。
戦争とジェノサイドにおけるAI「Lavender & Where's Daddy」Democracy Now!27分Yuval Abrahamが、イスラエル軍がガザにおいて、ほとんど人間による確認を経ないままAIを使って殺害対象リストを生成していた経緯について語ります。
戦争とジェノサイドにおけるAIEdwin BlackについてIBM and the HolocaustWNBF News Radio23分音声のみ。著者自身による短い説明。
チャットボットと心の健康「What to know about 'AI psychosis' and the effect of AI chatbots on mental health」PBS NewsHour7分落ち着いたトーンのセグメント:精神科医が、チャットボットによって助長される妄想と、OpenAIに対する訴訟について説明します。
独占、プライバシー、国家Lina KhanについてThe Daily ShowThe Daily Show21分Jon Stewartが、当時のFTC委員長に、わずかなテック大手がAIを支配することになるのかと尋ねます。
独占、プライバシー、国家「Signal's Whittaker on Privacy in the Age of Data and AI」Bloomberg Live23分データに飢えたAIが、なぜ私的なコミュニケーションを脅かすのか。
公共所有権The Lucas Planドキュメンタリー (1978)STEPS Centre25分Lucas Aerospaceの職場委員たちが、社会的に有用な生産のための自分たちの計画を発表します。
AI安全保障の観点「The Catastrophic Risks of AI、and a Safer Path」TED15分Yoshua Bengioが、欺きや制御への抵抗を行うシステムをなぜ懸念しているのかを、平易な言葉で説明します。