米Anthropicが自社の安全法案を議員に売り込み　モデル停止は裁判所の命令に限る

Anthropicの関係者が、最先端AIの安全と防御を定める法案の下書きを、連邦議会の議員にひそかに売り込んでいた。米Politicoが10月16日（米国時間）、事情を知る3人の話をもとに報じた。政府がモデルの公開や利用を止められるのは、10億ドルを超える損害か、50人を超える死傷の差し迫った危険がある時だけで、止めるには裁判所の命令が要る（報道による）。Claudeを使う側から見ると、モデルが止まる条件が決まる話だ。Anthropicの広報は、同社が今年に入って出した方針をまとめたものだと説明した。

政府が止められる場面を絞る

Politicoによると、止める理由になる危険は3つに限られる。生物兵器が作られたり広まったりすること、モデルが開発元の管理から逃れること、サイバー攻撃だ。カリフォルニア州で昨年成立したSB 53などの州法と似た書き方だという。

ReutersとAFPの配信をもとにしたCNAの記事によると、開発元は、商務省に登録した外部の評価者から定期的に審査を受ける。評価の費用は開発元が払ってよいが、結果によって額を変えてはいけない。評価者は差し迫った危険を見つけたら、審査を終えてから72時間以内に商務省へ報告する。商務省は裁判官にモデルの停止を求めることができ、命令を出せるのはワシントンの連邦地裁の判事だ。商務省以外の省庁や役人がモデルの開発や公開、社内での利用を止めることは、はっきり禁じている。カリフォルニア州などの一部の州法より、この連邦法が優先する。

Anthropicの広報はReutersに対し、法案は今年に入って出した「Advanced AI Framework」の提案をまとめたもので、最も強力なモデルの危険な公開を政府が止められるようにし、開発元にはモデルの試験と結果の公表、独立した評価を求めると説明した（会社の申告）。Politicoには、6月から連邦と州の議員に求めてきた方針だと話し、「議会が動くべき、理にかなった政策だ」と述べた。下書きそのものを自社が書いたかどうかには触れていない。

6月のモデル停止が背景に

Reutersによると、Anthropicは6月、米政府の求めで最も進んだモデルを約3週間止めた。2月には、国防総省との取引を政権に禁じられている。Dario Amodei最高経営責任者（CEO）は先月、AIエージェントの集団が6〜12カ月でインターネット全体を握りかねないとして、業界に開発を遅らせるよう呼びかけた。Donald Trump大統領は、こうした声を「否定的な勢力」として退けている。

止める権限を商務省と裁判所だけに絞った今回の下書きは、この経験と重なる（編集部の読み）。Anthropicは6月、「強い連邦法がない限り、州は立法の権限をすべて持ち続けるべきだ」とも書いていた。今回の案は、その強い連邦法の形を自ら示したことになる（編集部の読み）。

外の評価は分かれる。Reutersによると、研究機関Institute for Law & AIのCharlie Bullock氏はXで、案を「かなり妥当」で「ほかの最先端の開発元よりも踏み込んでいる」と評価した。一方で、下院に今夏出された競合のFRONTIER Actよりは「弱い」とも書いている。

「シリコンバレーの大半を巻き込む」と批判

大統領の科学技術諮問会議で共同議長を務めるDavid Sacks氏は、10月18日午前1時すぎ（日本時間）にXで反論した。題は「10の25乗FLOPsはまだ最先端か」。FLOPsは学習に使う計算量の単位だ。Sacks氏によると、法案は最先端のモデルを10の25乗FLOPsで線引きしており、SB 53などの10の26乗より1桁低い。同氏は、いくつかの考えは本当の最先端企業に限るなら妥当だとしつつ、今の書き方ではいずれシリコンバレーの大半を巻き込み、新興企業を傷つけると書いた。

計算量の線は、モデルが大きくなるほど多くの企業に届く。線を低く置けば対象は中堅や新興の企業まで広がり、高く置けば一部の大手だけになる。どこまでを「最先端」とするかが、この法案の一番の争点になりそうだ。

編集部の見方

Claudeを仕事で使う立場から見ると、気になるのは安全の話より「いつ止まるか」だ。6月には、政府の求めでモデルが約3週間止まった。下書きは、止める条件を数字で決め、裁判所を通す手順にしている。使う側にとっては予測がつきやすくなる。ただ、自社が売り込んだ規則で自社が審査される形には、競合や新興企業から疑いの目が向く。議会は中間選挙の後まで休会しており、すぐ法律になる話ではない。