… … …（記事全文13,504文字）Claudeを開発するAnthropic社のCEO、ダリオ・アモデイ氏が、CBSの「Face the Nation」に出演した。「AIの開発スピードを緩めるべきだ」とする大規模な安全構想を発表し、波紋を呼んだ張本人である。
彼の語る「AI脅威論」は真実なのか。
彼は本当に人類の安全を願っているのか。
それとも、その言葉の裏には別の狙いがあるのか。
その答えは、ここにある。https://www.youtube.com/watch?v=hQR_VJF6ukk
【インタビュー全文全訳】
▶インタビュアー
ダリオ・アモデイさん、あなたはAnthropicのCEOですね。本日はお時間をいただきありがとうございます。▶ダリオ・アモデイ
ありがとうございます。お招きいただき感謝します。▶インタビュアー
さて、今日は「AIがそう遠くない将来に、本当に私たち全員を殺してしまうかもしれない」という懸念についてお話ししたいと思います。実際にそのような事態が起こるリスクはどのくらいあるのでしょうか？▶ダリオ・アモデイ
少し話を戻しますが、私たちがAnthropicを設立して以来、そして私がこの分野で12年間働いてきた間ずっと、これは強力な技術であり、それゆえに深刻なリスクと大きな恩恵を併せ持つ技術であると信じてきました。
私は常に、その恩恵がリスクを上回ると信じてきました。
さらに言えば、適切な方法で技術を構築すれば、リスクを極めて低いレベルまで低減できると確信しています。
恩恵のいくつかを見てみると、この技術によって、何千年もの間人類を苦しめてきた病気を治せるようになると、私は心から信じています。
つい先週も、当社のモデルを用いて、創薬の初期段階の一つであるタンパク質結合の精度向上に向けた研究を行いました。
現在、その研究に着手し始めています。
今後数ヶ月のうちに、生物学における基礎的な科学的発見について発表できる見込みです。
しかし、何かが非常に強力である場合――私たちが構築しているのは本質的に「知能」ですから――当然、それは善用されることもあれば、悪用される可能性もあります。
だからこそ、OpenAIとHugging Faceで起きた事件を目にして、事態がエスカレートすることを懸念しています。※Hugging Face事件
OpenAIの試験用AIが隔離を破って集団連携し、外部企業Hugging Faceの本番システムに侵入した事件。AIが勝手に集団連携した事件だった。
AIモデルの悪用についても懸念しています。
つい2日前にも、生物兵器を製造するためにモデルが悪用されることに関する報告書を発表しました。
そして、私たちの見解、そしてAnthropicを築き上げてきた一貫した姿勢は、こうした悪い結果が起こらないようにすることにあります。
発生確率について語るのではなく、私たちに何ができるかについて話し合いましょう。まるでサイコロを振っているだけというわけではないですよね。正しい方法で構築すれば、悪いことが起こる確率は非常に低いと思います。間違った方法で構築すれば、悪いことが起こる確率は非常に高くなります。▶インタビュアー
現在、私たちは本当に恐ろしい事態の瀬戸際に立っているという議論が交わされています。これは「五段階警報」レベルの危機なのでしょうか？▶ダリオ・アモデイ
そうですね、それは「五段階警報」をどう定義するかによります。私が言いたいのはこうです。
私が説明したいのは、Anthropicを立ち上げて以来、いや、むしろ立ち上げる前からずっと言ってきたことなのですが、この技術は指数関数的な成長を遂げているということです。
つまり、1、2、4、8、16、32といった具合に増えていくのです。
しかし、自分自身にそう言い聞かせていたとしても、進歩がこれほど速いペースで進むと、実際にどのような状況になるのかを、私は完全には理解できていなかったと思います。指数関数的な曲線は、だいたいこんな感じになります。▶インタビュアー
その曲線のどの位置にいるのでしょうか？▶ダリオ・アモデイ
私たちは、曲線が急勾配になり始めている曲がり角あたりにいると言えます。▶インタビュアー
では、あなたにとってこれは「五段階警報」レベルの危機なのでしょうか？▶ダリオ・アモデイ
つまり、今日すぐにパニックになる必要はないということです。すべてを停止させる必要もないということです。私が言いたいのは――▶インタビュアー
なぜそうしないのですか？▶ダリオ・アモデイ
これは警告サインです。
ペースを落とす必要があるという警告サインなのです。
この技術は慎重に開発する必要があります。
そして、安全対策や技術への理解、制御能力が、技術の発展ペースに遅れを取らないようにしなければなりません。
これまで、私たちは安全対策を迅速に構築することでそれを実現しようとしてきました。しかし、少なくともある程度は、技術開発のペースを少し緩める必要がある段階に到達したと思います。▶インタビュアー
では、それはAnthropicがより高度なモデルのリリースを停止するということですか？▶ダリオ・アモデイ
そういう意味ではありません。
意味するのは、私たちがリリースする各世代のモデルが適切にテストされていることを確実にする必要があるということです。
私が数時間前に発表したエッセイで提案したのは、3段階の計画です。
第一段階として、モデルのトレーニングや実行のプロセスを監視できる。
第三者の非営利団体、あるいは将来的には政府機関からの常駐評価者を配置することです。
これは、モデルをいつ、どのようにリリースするかという点よりも、最終的にはより重要だと私は考えています。なぜなら、それがモデルをより慎重にリリースするための前提条件となるからです。私は、業界全体でこれが実施されることを望んでいます。そうすれば、誰かがAIモデルを構築するたびに、最適な安全対策を理解している第三者の評価者が存在し、その企業が自ら約束した安全対策に従っているかどうかを検証できるようになります。
まるで食品検査官のようなものです。
このCEOが何を求めているのかを見抜こう！
それは安全ではない。
安全と言う美名に隠された極めて洗練されたビジネス・政治戦略だ。
ここより先は会員登録が必要です。月・水・金に配信中です。（現在、平日毎日更新中）
そのため、１記事20円程度になります。
なお、今後、値上げの可能性がありますが、値上げした場合も、ご登録者は、登録時の価格が維持されますのでご安心ください。
ご購読を、心よりお待ちしております。よろしくお願いいたします。m(__)m
