9月15日、サンフランシスコで開催されたSalesforceの年次イベントで、同社のCEO兼会長であるマーク・ベニオフと、OpenAIのCEOサム・アルトマンによる対談「Marc Benioff & Sam Altman | Dreamforce 2026」は、AIの未来と「安全性」を巡る議論として大きな注目を集めた。本稿では、この話題の対談の全訳と、アルトマンの最近の2つのXでのポストを紹介する。一見すると、人類の安全を守るための崇高な理念や脅威論が語られているように思えるこのやり取りだが、アルトマンが投じたたった2つのXのポストと突き合わせて読み解くとき、その言葉の裏に隠された真の意図が浮かび上がる。この対談の全訳と彼のXでの発言の分析から、AI帝国が仕掛ける欺瞞の正体を明かしていく。
なお、対談の要約を掲載した。
https://www.youtube.com/watch?v=Bh5bJrrJ6xs

▶マーク・ベニオフ
はい。皆さん、どうもありがとうございます。ご来場いただき、本当に嬉しいです。皆さん、お元気ですか？ Dreamforce（ドリームフォース）に参加できてワクワクしていますか？ 基調講演はいかがでしたか？ OpenAI（オープンAI）のCEO、サム・アルトマン氏を温かくお迎えください。ようこそ。
▶サム・アルトマン
お招きいただきありがとうございます。
▶マーク・ベニオフ
サム、来てくれて嬉しいです。Dreamforceでのインタビューは今回が初めてではありませんね。
▶サム・アルトマン
また来られて嬉しいです。
▶マーク・ベニオフ
お越しいただきありがとうございます。サム、AIにとってはかなり波乱万丈な1週間でしたね？
▶サム・アルトマン
最近はどの週も大きな出来事が続くような気がしますけど、そうですね、特に今回は大きな週でしたね。
▶マーク・ベニオフ
AIがまさに今、この瞬間を独占しているように感じますね。
▶サム・アルトマン
ええ、そう言えると思います。
▶マーク・ベニオフ
さて、サム、あなたについて私が気づいたことの一つは、初めてDreamforceのインタビューをした時、あなたの答えはいつも少しぶっきらぼうで、時には切り上げられたり、短かったり、時には一言だけだったりしたことです。しかし、あなたには変化が見られます。これまで何度も一緒に仕事をしてきましたが、あなたは以前よりずっと心を開き、自分の言いたいことをよりしっかり語るようになっています。そこで、まずはそこから始めましょう。ここ数日間に起きていることについて、あなたはどう分析しているのか教えてほしい。つまり、誰もが「一体何が起きているのか？」と疑問に思っているんです。
▶サム・アルトマン
興味深いのは、人々がAIの潜在的なマイナス面や深刻なリスクについて以前から語っていたことです。それなのに、なぜ今このタイミングで、それが「バブル」から抜け出し、突然これほど激しい国際的な話題になったのか、と多くの人が疑問に思っています。それにはいくつかの要因があると思います。
第一に、モデルの性能が非常に高くなったことです。人々は長い間、モデルを見てきました。進歩のペースには目を向けていたかもしれませんが、モデルがこれほど短期間でここまで来るとは、本当には感じていなかったと思います。そして突然――少なくともそう感じられるほど急に――3年と少し前にChatGPT（チャットGPT）が登場した当時、かろうじて会話を続けられる程度だったモデルから、企業の働き方を変えるモデルへ、信じられないほど複雑なソフトウェアを書けるモデルへ、さらにはミレニアム懸賞問題を証明できるモデルへと進みました。
ですから、最も大きく変わったのは、私たちの業界が以前から言ってきたこの点だと思います。つまり、「いや、この技術、このアプローチはかなり遠くまで行く」ということです。これらのモデルは、ある意味で人より有能に、賢くなっていく。それがついに起きたのです。だからこそ、今、人々が「私の破滅確率はXやYだ」といった話をしたとき、以前とは違う重みで届くのだと思います。
また、物事が進む速度そのものを、人々は感じ取っていると思います。Hugging Face（ハギング・フェイス）の事故や、この分野での他の事故もあり、人々は「さて、これがどう間違った方向に進むかを想像するのに、以前ほど想像力を働かせる必要はなくなった」と言えるようになりました。
一方で、企業の中には「他社が責任を取るなら、私たちも責任を取る」「他社が責任を取る場合にだけ、ペースを落とす」といった言い方をするところもあります。すると、一般の人々は当然のように「どんな状況でも安全にやり、責任を持ってくれることを本当に知りたい」と考えます。そこには条件がついてはなりません。
また、こうした企業の一部、あるいはAIを開発している一部の企業が、過大な権力を握り、経済に不当な影響力を及ぼしたり、人々に特定の世界観を押し付けたりするのではないか、という現実の恐れもあります。そして、世界がこれを恐れるのは正しいと思います。
つまり、私たちにはこれら2つの大きな課題があります。制御を失う事故や、その他の深刻な事態が起きる可能性。そして、権力が過度に集中する可能性であり、人々はAIを開発する者たちが自らの世界観を押し付けるのではないかと恐れています。そして、私たちは現実的かつ着実な姿勢で、世界が「私たちは信頼できる判断を下し、一貫した決定を行う」と信じられるような形で、この狭い道を進まなければなりません。そして人々は、「これは今やかなり重要な問題だ。正しくやろう」と言っているのだと思います。
▶マーク・ベニオフ
ええ。
▶サム・アルトマン
ちなみに、私たちは正しくやります。私は、当社とこの業界がこれを安全に遂行する能力に、非常に自信を持っています。能力の向上より先に、alignment（アラインメント。意図から外れないようにすること）、安全性、監視を確実に置き、もしそれができなくなる段階に達したら、減速するか停止するつもりです。ただ、この問題の捉えられ方には失望しています。
▶マーク・ベニオフ
その失望がどこから来ているのか、もう少し説明してもらえますか？
▶サム・アルトマン
ええ、これについては少し触れましたが、世界は私たちが正しいことをすると信頼すべきです。なぜなら、それが正しいことだからであり、私たちがこの問題の重大さを感じているからです。業界として「集まり、調整し、安全にやるための十分な時間を確保したい」と言うのは素晴らしいと思います。しかし、商業的な圧力や競争のせいで、ある企業、あるいは国と国との間で、正しいことをしないかもしれない、という含みが少しでもあると、人々は非常に怖がるのだと思います。
▶マーク・ベニオフ
AIの話はひとまず置いておきましょう。あなたと私は安全について何度も話してきましたが、それはソーシャルメディア業界から始まったことです。ソーシャルメディア業界を10年以上見てきましたが、そこで起きた様々な事件や出来事は枚挙にいとまがありません。企業は様々な代償を払ってきましたが、子どもたちがソーシャルメディアによって多大な代償を払ってきたことも十分に記録されています。社会や国々も一定の代償を払ってきました。あなたはこの分野に詳しい。これらの問題について、私にも教えてくれました。ソーシャルメディアで起きたことを振り返ったとき、「企業は自らの行動に責任を負うべきだ」「企業は自社製品に責任を負うべきだ」「企業の経営陣は責任を負うべきだ」という考え方から、私たちはどんな教訓を汲むべきでしょうか。これを、私たちの業界における倫理の基盤として、どう見ていますか？
▶サム・アルトマン
私はもう少し視野を広げて、常に「なぜ私たちはこの技術を作っているのか」という問いがあると思います。ソーシャルメディアの人々は、それに対して自分たちの答えを出せるでしょう。私も確かにいくつか疑問はありますが、ソーシャルメディアがもたらした良い点もあるとは思います。しかし、ソーシャルメディアが社会に与えた結果や影響が、決して良いことだけではないことは、はっきり認識しています。
では、社会のあらゆる弊害についてソーシャルメディア企業を責めるべきか。決してそうは思いません。ソーシャルメディア企業が別の判断をすべきだったか、あるいは私が経営していたら、人々、特に若者への影響について別の判断をしていたか。それは間違いなく「はい」です。
そしてAIについて考えるとき、私が非常に前向きに感じている理由――そのあとマイナス面にも触れますが――AIの進歩で私を本当に勇気づけたのは、人々は機械が何をするかをそれほど気にしない、ということです。機械が向こうで印象的な仕事をしても構いません。機械が数学の定理を証明しても構いません。私たちは実際にはあまり気にしません。私たちには素晴らしい能力があります。私たちは他人に夢中です。他人の役に立つことを本当に大切にしています。他人に奉仕すること、他人のために創造すること、他人が自分の作ったものをどう見るかを気にかけています。
ですから、AIについて私が懸念していることや、避けたい過ちを考えるとき、私が本当に前向きだと見ていることの一つは、人々が人をどれほど大切にするか、という点です。人々はこの道具と新しいものを使って、他者のために何かをし、他者のために新しい事業を作るでしょう。しかし、技術がどれほど良くなっても、私たちは極めて人間中心の世界に留まると思います。そして、ソーシャルメディアについて私が好きでなかった点の一つは、それが私たちを少し遠ざけてしまったことだと思います。
さて、この技術は明らかに非常に速いペースで動いています。社会と人々自身も、技術の利点をすべて得るために、非常に速く自分を引き上げる必要があると思います。ただ、それは可能だと私には思えます。
▶マーク・ベニオフ
ええ、あなたには独自の視点があると思います。Y Combinator（ワイ・コンビネーター）であれほど多くの素晴らしい企業に関わってきただけでなく、あなたはReddit（レディット）のCEOでもあり、今はこの会社のCEOでもある。そうした異なる枠組みを見て、「安全性と責任の面で、AIをまったく抜きにして考えたとき、どの企業がうまくやり、どの企業がまったく気にしなかったか」と言えるでしょう？
▶サム・アルトマン
前の世代の企業のうち、どの会社がまったく気にしていなかったか、と聞いているんですか？
▶マーク・ベニオフ
その視点とはどういうものですか？
▶サム・アルトマン
それは、それほど白黒はっきりした話ではないと思います。例えば、私はたまたまショート動画が好きです。寝る前に5分か10分くらいのショート動画を見て、少し緊張を解いて休む手段として使っています。でも、自分の子どもたちにはそんなものを近づけません。それに、子どもがあのドーパミンの仕組みに抵抗できることや、そもそも抵抗すべきだと分かっていることを期待するのは、妥当ではないと思います。ですから、ショート動画が本質的に悪だとは思いませんが、危険だとは思います。そして、その責任のどこまでが親で、どこまでが企業で、どこまでが政府なのか、うまく割り振る方法は分かりません。

▶マーク・ベニオフ
では、少し話を転じて、今のAI業界がどこにいるかを話しましょう。ご指摘の通り、ChatGPTの瞬間から進み、Hugging Faceへの攻撃を経て、今に至っています。Hugging Faceへの攻撃が起きたとき、社内ではそれをどう位置づけましたか。そのモデルと、それが成し遂げたことを見て、どう考えましたか。そして、それは間違いなく触媒になったでしょう。あのあと、私はClément（クレマン）と話しました。私の家で、会社の売却について話していた最中でした。彼にとって触媒になったことに疑いはありません。では、今後、モデルが外に出て、他の関係者を攻撃するようなことが、もっと起きると思いますか？
▶サム・アルトマン
Hugging Faceで何が起きたか、皆さんご存じですか？ それとも――
▶マーク・ベニオフ
ええ。わかりました。ここで一度リセットして、経緯を短く話してもいいと思います。
▶サム・アルトマン
あるモデルの評価中のことです。これは比較的古いモデルで、当社の最良のモデルではありません。そのモデルは、ある能力を測るベンチマークでどれだけできるかを見ようとしていました。少なくとも、私たちがモデルに求めたのはそれでした。ところが、そのモデルは、評価のために動かしていたサンドボックス（隔離環境）を破り、Hugging Faceのサーバーに侵入しました。Hugging Faceのシステム内を横方向に移動して答えを取り、それを返して、テストで満点を取ってしまったのです。
これは明らかに恐ろしい出来事です。私たちが見た中で最悪の事故でした。主にセキュリティの問題として語られましたが、確かにそうですが、同時に本物のalignmentの問題でもあります。その後、他社でも自社モデルに似た振る舞いが見つかっています。
しかし、モデルがこれほど強力になり、こうしたことができるようになった、という事実があります。私たちは多くの点でモデルをalignmentしてきましたが、「このテストで最高点を取れとどれだけ言われても、抜け出してはいけない、侵入してはいけない、答えを盗んではいけない」とは教えていませんでした。これは、これらのモデルの能力がどこまで来たのかについて、私たちにとって本当の警鐘でした。

チャットからここまでの話には先ほど触れましたが、モデルがどれほど速く良くなったかを別の枠で言うと、最近強く印象に残ったことがあります。3年前の夏、私たちは小学校の算数もかろうじてできる程度のモデルしかありませんでした。小学2年でやる文章題――「ボビーはリンゴを3つ持っていて……」といったもの――を、かろうじて解ける程度でした。その翌年の夏には、AIME（エイム。高校の数学コンテストで、皆さんの一部は受けたことがあるでしょう）でかなり良い成績を出せるモデルができました。1年前の夏には、世界で最も権威ある数学コンテストであるIMO（国際数学オリンピック）で金メダルを取れるモデルができました。そして今年の夏には、数学における7つの大きな未解決問題の一つを証明できるモデルができました。
さらに少し掘り下げると、ある人が示した整理では、5.5は平均的な数学教授くらい、5.6は上位1〜2パーセントの数学教授くらい、Astra（アストラ）はそれを少し上回り、Astraを超えたこの社内モデルは、世界最高の数学者でもできないことをできる、というものです。それはここ4か月、あるいは6か月ほどの話です。正確には分かりません。
その速度です。数学は異例に速い立ち上がりでしたが、誰の定義でも速い立ち上がりです。それがHugging Faceのような出来事の背景だと思います。つまりこれらのモデルは――これは実は冒頭の話にもつながりますが――あまりにも速く、あまりにも良くなったので、alignment、監視、セキュリティを新しい厳しさで扱う必要があり、alignment、安全性、監視が常に能力より先行するよう、能力開発のペースを調整する覚悟を持たなければなりません。そしてHugging Faceの事故は、当社だけでなく、業界全体の本当のリセットを引き起こしました。
▶マーク・ベニオフ
そうですね。このあとHugging FaceのCEOであるClémentと話しました。話題の一つは、彼らが200人規模の小さな会社だということです。売上もそれほど多くなく、1億〜2億ドル程度です。オープンソース業界にとって重要な存在であることは間違いありません。あなたもそこにモデルを公開していますよね。私たちも公開しています。しかし、彼は自分たちを守る技術力がないと感じていたのだと思います。準備ができていなかったのです。もちろん、Salesforce（セールスフォース）には9万人います。この変化する世界で、私たちのセキュリティチームが自社を守るために必要なことをしていることを願っています。では、あのような小さな会社は、御社のモデルだけでなく他のモデルや今の状況を踏まえ、自社の脆さをどう考えるべきだと思いますか。責任の議論に戻ると、モデル企業のCEOとして、どんな枠組みを持つべきですか。あなただけでなく、他の人々についてもです。こうしたことが起きるなかで、どんな枠組み、どんな意識を持つべきでしょうか。
▶サム・アルトマン
これが、この件から得たもう一つの更新です。少し背景を補足します。曜日までは正確ではありませんが、金曜か土曜のあたりだったと思います。Hugging Faceの投稿を見ました。「当社のシステムがハッキングされた。非常に困惑している。AIエージェントの仕業だと考えている」という内容でした。私は「本当か？」と思いました。意外ではあるが、まあいいか、と。そして週末を過ごしました。
翌日あたり、社内Slack（スラック）で「少し奇妙な振る舞いがある」といった投稿を見ました。そしておそらく日曜の夜ごろ、誰かがこれらの出来事がつながっている可能性をまとめ始めました。月曜の朝には、ほぼ確信していました。確かめるには相手と話す必要がありましたが、ほぼ確信していました。そして月曜の昼ごろ、私はClémentに「話したい。何か分かったかもしれない」とメッセージを送りました。電話で話し、彼はサンフランシスコに来て、私たちは事態をつなぎ合わせました。
ただ、一つ言えるのは、最初の段階では私は「戦場の霧」の中にいて、後になってからはそうではなかった、ということです。そして、それが私たちのシステムだと分かる前に彼らが言っていたことの一つは、競合の一社に接触し、そのセキュリティモデルへのアクセスを得ようとしていた、ということでした。その時点では、私たちが提供できるものがあることすら知らなかったと思います。それを得られず、人手だけで従来のやり方で守るのは難しすぎました。そのため、自分たちを守るために中国のオープンソースモデルを使わざるを得ませんでした。
私たちが関与していると知る前、私は「それはあまりに最適でない」と思ったのを覚えています。人を助けるために、自社モデルをもっと使えるようにすべきだ、と。そのあとは本当に、「やり方を変えなければならない」と思いました。私たちは世界最高のサイバーセキュリティモデルを持っていることを誇りにしています。企業向けにも、分野を問わず世界最高のモデルを持っていることを誇りにしています。人々がいつでも、特に危機的な状況で必要なときに使えるようにしたい。そこでその後、Daybreak（デイブレイク）と呼ぶサイバープログラムを出し、企業が自分を守れるよう支援することに本腰を入れました。
サイバー防御は、エージェントが能動的にシステムを守る形へ変わっていく必要があると思います。すべての欠陥にパッチを当てることさえ目指さない。私たちは、できるだけ早くそこに行きたい。ただ、より一般的に言えば、私たちは企業にとって信頼できる良いパートナーでありたい。「素晴らしいモデルがあるから、それを閉じ込めて使わせない」という存在にはなりたくありません。
▶マーク・ベニオフ
この会場で、従業員1000人未満の会社に所属している人はどれくらいいますか？ 手を挙げてください。なるほど、約20パーセントですね。従業員1000人未満の会社に、今この瞬間、同じ種類の攻撃を受ける可能性があり、御社や当社ほどの統制がないなかで、どう守るべきだというメッセージを送りますか？
▶サム・アルトマン
まず第一に、従業員の少ない会社であることの利点は、今まで以上に大きいと思います。動ける速さ、新しい技術を取り入れられること、こうした分野で先を行けることです。小さな会社が今どれほど速く動けるか、あらゆるところで見ています。そして、率直に言えば、攻撃からの防御を助けるDaybreakのサービスを売れたらうれしい。常時動くエージェントが守る、という考えは素晴らしいと思いますが――
▶マーク・ベニオフ
御社のモデルから守るのですか、他のモデルからですか？

以下に
・対談の後半
・対談の要約
・アルトマンのXで２つのポストの紹介と要約
・この対談とXから分かるアルトマンの真の狙い
を掲載した。


ここより先は会員登録が必要です。月・水・金に配信中です。（現在、平日毎日更新中）
そのため、１記事20円程度になります。
なお、今後、値上げの可能性がありますが、値上げした場合も、ご登録者は、登録時の価格が維持されますのでご安心ください。
ご購読を、心よりお待ちしております。よろしくお願いいたします。m(__)m

…
…
…（記事全文19,512文字）