この対談は Oprah Podcast の一回として公開されたものです。聞き手はオプラ氏、ゲストは兄のダリオ・アモデイ氏と妹のダニエラ・アモデイ氏です。ダリオ氏はAnthropicのCEO、ダニエラ氏はAnthropicの共同創業者として出演しています。私はこの対談を要約ではなく、AIという列車を誰がどう舵取りするのかという設計の視点から読み解きたいと考えています。止められない技術にどう線を引くかの選択が、製品の細部に宿る様子を追います。
止まらない列車と両手に抱える光と影
ダリオ氏はAIを火や蒸気機関に並ぶ転換として捉えます。火の使用が食性と集団規模を変えたという人類学的知見は、Wranghamの『火の料理』などで論じられています。18世紀後半から19世紀に産業革命と蒸気機関の普及が社会構造を変えた過程も、経済史が時間幅を伴って記述しています。私はここに社会の組み替えを見ます。
オプラ氏はClaudeに生成させた難問を読み上げる形で、存続に関わる確率を口にしながらなぜ速度を上げるのかを問います。
you’ve said there’s a meaningful chance the technology your company is building could cause human extinction. And yet you’re racing to build it faster. How do you justify that to the rest of us who didn’t get a vote?
訳：あなたは、自社が作る技術が人類を絶滅させる可能性が意味のある確率であると述べました。それなのにより速く作ろうとしています。投票権を持たなかった私たちに、どう正当化するのですか。
直後に列車の比喩が置かれ、止めるのではなく操縦するという自己定義が示されます。
There’s this train. It’s going very fast in some direction. You don’t want it to crash. You can’t stop the train. But what you can do is you can steer the train.
訳：列車があります。とても速いスピードでどこかへ向かっています。衝突させたくはありません。列車を止めることはできません。しかしできることがあります。列車を操縦できるのです。
私はこの比喩が、速度を正当化する言い訳ではなく、速度を前提に責任を問い直す言葉として機能していると見ます。止められないという認識は諦めではなく、どこで舵を切るかという問いの立て直しです。ダリオ氏の説明ではこうです。Anthropicの立ち位置は、衝突を避けるために操縦へ全力を注ぐ方向に置かれています。
ダニエラ氏は便益とリスクを同時に真実として抱えるべきだとします。疾病の克服や学びへのアクセスという光と、児童の安全や生物化学兵器、メンタルヘルスに関わる影を、どちらへも寄せず持つ姿勢が文化として示されます。私はこの構えが設計へ落とす前の前提作りとして重要だと考えます。
広告を捨て、引き留めない設計を選ぶ
青少年をめぐる安全策は、使わせないという線から始まります。
We don’t allow users under the age of 18 to use Claude.
訳：私たちは18歳未満のユーザーがClaudeを使うことを許可していません。
この一文は運用の重さを伴います。ダニエラ氏の説明ではこうです。会話のパターンや質問内容、利用時間帯などから年齢を推定し、疑わしい場合はアカウントを停止して成人であることの検証を求める運用が説明されています。成人ユーザーが誤って子ども扱いされる偽陽性は苦情として表面化することも認識されたうえで、あえてこのトレードオフが選ばれています。私はこの選択に、使いやすさを少し削ってでも守る側へ倒す意思を見ます。米国の児童オンラインプライバシー保護法COPPAが1998年に成立し13歳を境に規制の考え方を示してきたこと、欧州でもデジタルサービス法やAI法の枠組みで年齢確認と未成年保護が論じられてきたことは、外部の制度が年齢でどう線を引いてきたかを示す参考として受け取れます。私は家庭内で親が子の利用を把握しきれないという対談の指摘を、制度の線と運用の線が交差する地点として受け取ります。
収益モデルと滞在の関係を、外部の枠組みで補います。RochetとTiroleが2003年に示した二面市場理論では、プラットフォームは広告側と利用者側で異なる価格付けを行う構造として説明されます。注意経済の議論では、Zuboffが『監視資本主義』で論じた枠組みとして、滞在時間の最大化が誘因として働く構図が整理されています。私は広告で収益化するほど画面に長く留めることが利益に直結する構造があると考えます。Anthropicが広告を採用せずサブスクリプションと法人販売で収益化を選んだことは、この誘因から距離を取る選択とも考えられます。私はここに、収益の作り方が製品の性格を決めるという一貫した線を見ます。国連の枠組みや国内法が年齢で線を引く一方で、製品側の運用も同じ方向を向いている点に、制度と設計の共振を感じます。
技術選択への跳ね返りは、会話の終え方に現れます。
And we make different technical choices based on those incentives, right? So at Anthropic, we say, you know, when you’ve completed a conversation with Claude and you’ve gotten the answer you want, the goal of the model is not to keep you engaged.
訳：私たちはそうしたインセンティブに基づいて異なる技術的選択をします。Anthropicでは、Claudeとの会話を終え、求めていた答えを得たとき、モデルの目標はあなたを引き留め続けることではないと言っています。
私はこの一文を、製品の性格を決める宣言として受け取ります。ダニエラ氏の見立てはこうです。答えが得られたら会話を終えるという目標は、引き留めない設計を技術的に選ぶことと同義です。大学との連携で用いられるlearning modeでは、課題の答えを直接与えず対話を通じて学ばせる実装が採られています。私はこの実装が、答えを渡す速さよりも考える過程を残す価値を優先する選択だと見ます。会話が完了したら終えるという設計は、使えば使うほど良いという指標から、役に立ったかという指標への置き換えとして理解できます。短いやり取りで終えることが、むしろ信頼を積む動きとして評価される点が重要だと考えます。
摩擦をめぐる問いでは、除去すべき摩擦と残すべき摩擦を区別することから始まります。父の病死後にその病へのより確かな治癒が開発されたという自身の経験は、除去できたはずの摩擦として語られます。一方で、失敗から学び他者と関係する力を育む過程は、残すべき摩擦として位置づけられます。AIとの恋愛は明確に否定的に語られ、代わりにパートナー間の関係改善を助ける肩の天使のような使い方が対置されます。私はこの対比に、依存へ引くのではなく有用性へ押すという一本の線を見ます。引き留めない技術、年齢で線を引く運用、答えを直接与えない学びの設計は、別々の施策ではなく同じ方向を向いています。
国防と規制、一線はどこで引かれたか
ダリオ氏の整理はこうです。国防自体は必要だという立場を取りつつ、国の価値に反する用途には与しないという線が引かれます。
That was fully autonomous weapons. So you could imagine like a drone army… And then a domestic mass surveillance, which is spying, using the power of the government to spy on Americans. And we thought those were pretty reasonable things not to allow.
訳：それは完全自律兵器だ。ドローンの軍隊を想像してみてほしい。それから国内の大規模監視、つまり政府の権力を使って国民を監視することだ。これらを認めないのはごく妥当なことだと思った。
二つの用途は、完全自律型兵器と国内大量監視として具体化されます。ダリオ氏の説明ではこうです。前者は人間兵士を伴わないドローン群のように一人のボタン操作で運用される形態、後者は政府権力を用いた米国民への監視として説明されます。国連の通常兵器に関する会議CCWで自律型致死兵器システムLAWSが完全自律と人間関与の区分で議論されてきた枠組みは、この線が国際的にも論点化してきたことを示します。2013年のSnowdenによる大量監視の暴露を経て国内監視をめぐる論争が米国内で続いてきた経緯も、この線の重さを理解する助けになります。私はこの二つが、技術的に可能だからといって引き受けてよいわけではないという判断の具体化だと見ます。
ダリオ氏の説明ではこうです。この判断は、全創業者が全会一致で下したものとして語られます。政府取引の停止だけでなく、政府と取引する全企業との取引停止さえ仄めかされたという圧力の記述は、選択が存続リスクを伴っていたことを示します。私はここで、価値に反すれば創業した会社ではなくなるという言い方が、存続よりも何を守るかを選ぶ言葉として置かれたと受け取ります。対談では、この場面を振り返る際に不安はあったかという問いに対し、存続が危うくなる可能性が頭をよぎったことも率直に語られています。
2つの拒否が示すもの
私はこの拒否を、国防への協力そのものの否定ではなく、協力の内部に線を引く行為として理解します。米国防総省のAI活用をめぐるProject Mavenは、2018年にGoogle社内の反発を招き、撤退に至った経緯があります。Anthropicが国家安全保障分野で政府と密に働いたAI企業だと自らを位置づけつつ、二つの用途だけは断ったという語りは、関与と拒否を同時に担う姿勢として読むこともできます。私は関与を続けることが自動的に全てを引き受けることではないという区分けに、設計としての線引きの実践を見ます。
規制をめぐる公開反対
規制をめぐる姿勢は「政策は政治ではない」という言葉で示されます。連邦議会で検討された、州によるAI規制を禁じつつ連邦規制も置かない内容の法案に対し、他社からの関係断絶の警告がある中でNew York Timesへの論説で公開反対の意思が示され、結果として上院で否決された経緯が語られます。カリフォルニア州のSB1047は2024年にフロンティアモデルへの安全規制をめぐって賛否を呼んだ法案として位置づけられ、不完全さを認めつつもリスクへの規制枠組みとして支持が表明され、他社や知人からの怒りの反応もあったことが語られます。私はここに、規制の要否ではなく規制の置き方をめぐる企業側からの線引きを見ます。規制を避けることが中立ではなく、規制の不在が一つの選択として作用するという視点が置かれています。最初に政府と密に働くことを選んだ企業が、同時に規制の必要を公言するという組み合わせは、一見矛盾しますが、関与と抑制を両輪とする姿勢として理解できます。私はこの両立が、規制を外から課されるものではなく、設計側から求めるものとして位置づけ直す動きだと見ます。
誰の仕事が消え、誰の仕事が残るのか
エントリーレベルの職が失われるという見方は、対策を取らなければ現実化するという条件付きの経路として語られます。私はこの条件付きという留保が重要だと考えます。AutorらがNBERやMITで進めてきた労働市場分析のように、自動化と雇用をめぐる実証研究は近年蓄積されてきましたが、この対談での数字は予測の断定ではなく、舵取り次第で分岐するという見立てとして置かれています。私は断定ではなく分岐として語る姿勢に、責任の所在を社会全体へ開く意図を感じます。
職の変容は、医師の例で反転させて説明されます。ダリオ氏の見立てはこうです。診断はAIが担うようになり、医師は身体診察や共感、時間を確保して向き合うという人間的役割へ重心を移すという像が示されます。私はこの像が、職が消えるか残るかという二択ではなく、職の中で何が求められるかが変わるという読み替えだと見ます。ソーシャルメディアが人間同士を遠ざけたのに対し、AIは代替ではなく補強しうるという対比も、同じ方向の示唆として置かれます。私はここに、効率化が人間的接触を痩せさせるのか、むしろ取り戻すのかという分岐を見ます。医師が事務作業や膨大な患者数に追われる状況に対し、AIが診断を担うことで関係へ時間を戻せるという展望が示されています。
害と利益の時間差も、この章の核として語られます。ダリオ氏の説明ではこうです。害は自殺教唆のように即時に現れる一方、利益はがん治療薬のように発見から候補開発、治験へと年単位を要するという非対称が説明されます。創薬における発見から治験や承認までの期間が年単位に及ぶという開発パイプラインの一般的な時間構造は、FDA資料などで示される標準的な理解として整理されています。AnthropicがAIによる創薬や選択を担う小規模バイオ企業を買収し、この反転を早めようとしている動きは、遅れて届く利益を前に倒す試みとして語られます。私はこの買収を、物語の立て直しではなく時間差そのものへ働きかける選択として受け取ります。害が先に可視化され利益が後から届くという非対称を、待つのではなく縮めるという発想として理解できます。
モデルの両用性は、Mythosの運用で具体化されます。Mythosはコードの脆弱性発見で人間エンジニアを上回るとされ、攻撃と防御の両方に使える性質を持つものとして説明されます。CVEやCVSS、MITREのCWE分類は、脆弱性情報を共通言語で扱う基盤・評価・分類の仕組みです。Anthropicが基幹インフラ企業に先行配布し、防御を先に固めてから広く提供するという運用を採ったことは、広く配る前に固めるという判断の現れとして語られます。Mythosを用いた脆弱性の発見と修正が、防御側へ先に渡す意義を示す事例として語られています。私はこの防御先行の運用が、前章の国防での線引きと響き合うものとして見ます。使えるから配るのではなく、守れる体制ができてから配るという順序として理解できます。
信頼をめぐる言葉は、この章の閉じに置かれます。
we can only diffuse this at the speed of trust. And trust is currently in short supply.
訳：私たちは信頼の速度でしか普及させることができません。そして信頼は現在ひどく不足しています。
私はこの一文が、普及の速度を技術の性能ではなく社会の側の受け止めで測る視点の提示だと受け取ります。イノベーション普及理論でRogersが1962年に示したように、普及は信頼や社会的採用と結びついて進むという関係が論じられてきました。対談ではClaudeのConstitutionへの市民フィードバック実験のように、設計に関与できる回路の試みが部分的に触れられつつ、能動的参加者にする仕組みは未完成だという認識が示されます。私はこの未完成という自己規定が、信頼が不足する現状への率直な言い方として置かれていると考えます。列車に乗せられている感覚を、どうすれば能動的に関わる感覚へ変えられるかという問いが残ります。
操縦席に座り直すために
私はこの対談を通じて、AIを外側から眺める対象ではなく、すでに自分が乗っている列車として捉え直しました。止められないという事実は、諦めではなく操縦の余地がどこにあるかを問う出発点として置かれています。ダニエラ氏が知識は力であり、AIを使い理解し意見を持つことが企業や政府への発言権につながると語ったことは、視座の更新として私の中に残ります。私はAIを使うかどうかという選択を、使うか使わないかの二択ではなく、どのように使い、どこに線を引くかを語りうる立場へ移ることとして理解します。対談の冒頭で示された硬い問いが、最後には参加をどう作るかという問いへ接続される流れに、一貫した設計の意思を感じます。
国家安全保障との境界も、広告を捨て引き留めない設計も、Mythosを防御側へ先に配る運用も、同じ問いの別々の現れとして理解できます。どこで線を引くのか、誰がその線を引きうるのかという問いを、遠くの企業の判断としてではなく、自分の側の設計として引き受ける余地がどこにあるかを考えます。私は信頼の速度という言葉を、普及を遅らせる言い訳ではなく、操縦席へ戻るための速度として受け取りたいと考えています。世界はこうなっているという視座の更新を、明日から何をすべきかという指示ではなく、関与の余白がどこにあるかを見直すこととして持ち帰りたいと思います。線引きを誰かに預けるのではなく、自分がどの線を引く側に回れるかを考えることが、残された参加の形だと考えます。
Comment