マイクロソフト | 上海スイフトペースソリューションズ株式会社

人工知能の分野をリードする人々は、彼らが生み出しているテクノロジーそのものについて懸念を引き起こしています。

「このテクノロジーが進歩するにつれて、人々がそれによって私たちの生活がどのように変化するかについて不安を抱いていることを私たちは理解しています。私たちも同じです」とサム・アルトマンは言う。

世界最大手のテクノロジー企業であるマイクロソフトとグーグルは、規制のないAI開発の危険性について警告している。同時に、両社は最も人気のある製品に AI を導入するために競い合っています。

「このテクノロジーには人間の理解のような複雑さはありませんが、それが世界に展開されるという点で私たちに大きな影響を与えるでしょう」とサラ・マイヤーズ・ウェストは言う。

それで、それは私たちをどのように変えることができるでしょうか？

今日のポイント: Microsoft と Google の AI 戦争。

Dina Bass 氏、ブルームバーグニュースのテクノロジーおよび AI レポーター。

ウィル・ナイトは『WIRED』のシニアライターで、人工知能を担当している。

サラ・マイヤーズ・ウェスト氏は、人工知能の社会的影響を研究する AI Now Institute のマネージングディレクターです。

メグナ・チャクラバルティ: AI 開発者の世界から、彼らが開発している AI について警告する公開書簡がまた届きました。ただし、これはステートメントというよりは単一の文です。

「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで世界的な優先事項であるべきです。」

チャクラバルティ氏: この声明はAI安全センターが主催し、AI技術の最前線にいる研究者を含む政治家や科学者が署名している。したがって、まず第一に、技術者たちが文字通り繰り返し規制を求めているとき、私たち、国民、そして政治的代表者は彼らの声に耳を傾け、自主規制できないと言っているのですから、それについて何らかの行動をとるべきです。

そして、文明を変えるテクノロジーに関して言えば、テクノロジー関係者が自主規制することに頼るべきではないでしょう。なぜなら、まさにその文明をどのように変えるかについて発言権を持つべきなのは、国民であり、文明であり、つまり残りの人類だからです。あるいは少なくとも私はそう思います。

ハイテク業界も自主規制はしないと言っている。だって、彼らの両側の口から少なからず会話が起こっているんですよね？一方では、Google DeepMind CEOのDemis Hassabis氏とMicrosoftの最高科学責任者Eric Horvitz氏が警告書の署名者の一人となっている。一方で。

サティアナデラ: AI の時代が到来しており、マイクロソフトが AI を強化しています。

チャクラバルティ: それは、マイクロソフト CEO のサティアナデラが今年初めに、規制されていない AI の危険性について警告している一方で、彼の会社は新しい AI テクノロジをマイクロソフトの膨大な製品範囲のほぼすべての側面に押し込んでいると発表したことです。

ナデラ: 私たちは基盤モデルの機能が非線形に向上していることを目の当たりにしており、それをプラットフォームとして利用できるようにしています。そして、顧客がクラウドプロバイダーを選択し、新しいワークロードに投資するにつれて、当社は AI のリーダーとしてその機会を捉える有利な立場にあります。

チャクラバルティ: たとえば、マイクロソフトは現在、自社の検索エンジン Bing に生成 AI ツールを搭載しています。 Google も負けじと、この警告書に署名しており、生成 AI の開発に力を入れています。 Google CEOのサンダー・ピチャイ氏はCBSの60ミニッツで次のように語った。

サンダー・ピチャイ: これはあらゆる企業のあらゆる製品に影響を与えることになります。だからこそ、これは非常に奥深いテクノロジーだと思います。そして、私たちはまだ初期の段階にいるのです。

チャクラバルティ: そしてつい先月、Google のエンジニアリング担当副社長のキャシー・エドワーズは、同社が世界で最も人気のある検索エンジンに生成 AI を導入すると発表しました。世界の検索市場シェアの 80% を占める Google 検索は、1 秒あたり 99,000 件の検索があり、毎日 85 億件以上の検索が行われています。

キャシー・エドワーズ: これらの新しい生成 AI 機能により、このような作業がよりスマートになり、検索がより簡単になります。これまで見てきたように、これは、複数の角度から探求する複雑なものを理解する必要がある場合に特に役立ちます。あなたの質問にも疑問が残る時代です。

チャクラバルティ: Google、Microsoft、AI。この 2 つの企業は非常に大規模であり、その影響力が非常に大きいため、ほぼ同時に公に生成 AI を推進することは Microsoft と Google の AI 戦争と呼ばれています。そしてもちろん、この戦争があなたや他のすべての人類にどのような影響を与えるのかという疑問が生じます。さて、今度は Dina Bass が参加します。彼女は技術者であり、Microsoft を 20 年間取材してきたブルームバーグニュースの記者であり、シアトルから私たちに加わりました。ディナ、ショーへようこそ。

低音: こんにちは、メグナ。

チャクラバルティ: 今日はウィル・ナイトも一緒です。彼は人工知能を扱う『WIRED』のシニアライターで、ここスタジオに参加しています。オンポイントへようこそ。

ウィル・ナイト: こんにちは。お招きいただきありがとうございます。

チャクラバルティ: それで、まず第一に、Google Microsoft AI 戦争のこの枠組みが正確なものであるかどうかについて、お二人から意見を聞きたいのです。なぜなら、少なくとも検索においては、私たちがこの 2 社からほぼ同時に 2 つの発表があります。それで、ディナ、これは二人の間で大きな戦争ですか？

BASS: 両者の間には間違いなく激しい競争があります。ここで省略されているカーテンの向こうの魔法使いのようなものは Open AI だと思います。基本的に Microsoft テクノロジーの中心となるのは OpenAI のテクノロジーです。私たちが注目しているのは、マイクロソフトがオープンAI、つまり言語と画像生成テクノロジーを採用していることです。また、すべての製品にコードを書き込みます。

そして、これらのテクノロジーの多くは実際には Google で発明され、開拓されたものであるにもかかわらず、Microsoft がこれらの機能のいくつかを少し早く世に出したため、Google を少し劣勢にさせたようです。その結果、Google が初期段階にもかかわらず Microsoft を捕まえようとしているようなものになってしまいました。

しかし、それは、最終的にこれらの両方を通過する可能性のある他の多くの企業、他の多くのスタートアップ、多くのオープンソースの仕事を除外することになると思います。ご存知のとおり、数週間前に Google エンジニアからのメモがリークされ、OpenAI と Google には堀がなく、オープンソースの取り組みによって追い越されるだろうと述べていました。したがって、枠組みは正しいです。しかし、さらに多くのことが起こっています。

チャクラバルティ: いいですね。それをやっていきます。何が起こっているかについては、数分以内に詳しく説明します。しかし、両社のリーチと規模を考慮すると、両社の AI、特に生成 AI への取り組みが私たち全員にどのような影響を与えるかについて、もう少し焦点を当てたいと言わざるを得ません。それでは、ウィル、あなたに同じ質問です。つまり、これは、Microsoft と Google の間の 1 年にわたる競争における、ある種の新しい戦線なのでしょうか?

ナイト: 絶対にそうだと思います。つまり、ディナが言っているように、これは間違いなく、GPT のようなモデルによって導かれた AI の機能の一部における非常に深い前進であるものによって推進され、両者間の競争の新時代であることは間違いありません。そして、まだたくさんの制限があります。

しかし、大きなテクノロジーの変化が起こるたびに、私たちはこれまでインターネットやモバイルでそれを見てきました。大企業は、お互いに先を行く機会を見出しており、おそらく後れを取ることを心配しているかもしれません。

チャクラバルティ: さて、サンダー・ピチャイとサティア・ナデラの両方の話を聞きました。両社の CEO は、本質的に、これにより両社の活動すべてが変革されるだろうと述べています。 CEO がそう言うと、私はその言葉を信じてしまう傾向があります。しかし、つまり、それが Microsoft と Google を変革するという点では同じだと思いますか? おそらく私たちが知っているとおりではありませんが、それらはどのように動作し、何をするのでしょうか?

ナイト: 確かにそう思います。つまり、制限があることにも注意する必要があります。このテクノロジーは急速に世に出てきています。それには問題があります。しかし、私はそれをソフトウェアと同じくらい基本的なものだと考えています。そして、AI の前の時代にもそれが見られました。機械学習は非常に多くの製品を変革し、多くの企業を変革してきました。これは、機械学習で何ができるかという点において、一種の段階的な変化であり、実際には非常に重要な変化です。

これは主にチャットボットや画像生成で見られますが、これはコンピューターに与えることができる一種の新しい機能セットを表します。そしてそれらは非常に汎用的です。はい、彼らはそうするつもりです、私はそれをあらゆるところに適用しようとすると思います。途中で多くの問題が発生する可能性があります。

チャクラバルティ: わかりました、ディナ、それで、私にとって本当に興味深いのは、ご存知のとおり、ChatGPT の直後にあることです。ChatGPT は、人々が Microsoft や Google の生成 AI の利用にアクセスできる最初の種類の公共アクセスポイントの 1 つが、検索を通じて行われます。右？そして検索と同じように、文字通り誰もが毎日、常に検索を使用しています。 Bing の AI を活用した検索を使用したことがありますか?

BASS: そうですね、そしてあなたがその点を指摘するのは興味深いことです。なぜなら、数か月前まで、検索というのは、競争という点ではインターネットの中でも本当に眠いものだったからです。つまり、実際のところ、10 年前に Microsoft が本質的に負けた検索戦争を Microsoft と Google が再戦する話になるとは想像もできませんでした。つまり、これは私たちがイノベーションの機が熟していると考えていた分野ではありません。使ったことあります。

ChatGPT のような自由回答型の質問を使用すると、はるかに優れています。ご存知のとおり、コンテンツ、楽しいコンテンツ、レシピ、買い物リストを生成できるだけでなく、より自由な質問に答えることもできます。どの製品を購入するか、どこに旅行するかを考えている場合。

しかし、ウィルが指摘しているように、それは多くの間違いを犯しており、両社は引用を行うことでそれを回避しようとしています。クリックしてデータの出所を確認し、間違いを見つけることができます。ただ、ユーザーがそのようなことをするかどうかはわかりません。このような間違いを専門用語で言うと、幻覚です。そういうことのようです。ラジオの話し方で丁寧に言えば、これはでっち上げの婉曲表現のように思えます。したがって、それはまだ問題です。

チャクラバルティ: ライブデモに参加する予定はありますか?

これを試してみるべきでしょうか？なぜなら、私の目の前では Microsoft Edge が開いているからです。ところで、興味深いことに、この権利を持っていると、他のブラウザーでは Bing AI を利用した検索を使用できなくなります。

…というわけで、ここにあります。私の前で開けてください。何が起こるか分かりません。以前にもこの質問をしたことがあるので、そう思いますが、これは夏の旅行に関する私のお気に入りの質問です。そしてそれは十分にオープンエンドです。ディナ、Bing AI 検索について聞いてみます。なぜ航空旅行はこれほど恐ろしいのでしょうか？それだけで十分です、ディナ？

バス: もちろんです。

チャクラバルティ: さて、それではここに入ります。そしてそれは考えているのです。ああ、そんなに速くないですよ？それはまだ続いています。それは普通ですか？うん。

ナイト: そうですね、バックエンドで実行されているのは、答えを見つけ出そうとしている巨大なニューラルネットワークです。したがって、通常の検索とはまったく異なります。

チャクラバルティ: ああ、分かった。ここに答えが付いています。おお。長い答えです。同誌によると、飛行機での旅行が不快になる理由はいくつかあるという。 CNN のビジネス記事によると、何らかの理由としてパイロットや客室乗務員の不足が挙げられています。そうですね、特にパイロット面ではそうです。パイロットが不足していました。

ワクチン規則、座席数の減少、運賃の値上がり、手に負えない不機嫌な乗客の数についての懸念。次に、航空業界が停止に陥り、現在急増する需要に追いつくのに苦労していることを受けて、パンデミックによって引き起こされた痛みについてのInvestopediaとTimeの記事を引用している。これがお役に立てば幸いです。わかった。もし私が航空業界について何も知らなかったとしても、これらの答えは理にかなっていると言えるでしょう。しかし、それは大規模な大義を無視しています。

ナイト: … やっていることは、ウェブから膨大な量の情報を取得し、それから、必ずしも正しい答えではなく、もっともらしい答えを推測しようとしているだけです。

チャクラバルティ: …これらの製品が誰でも使えるように迅速に展開されることについて、何か懸念はありますか?

BASS: 紳士淑女の皆様、自分たちはベータテスターであることを心に留めておいてください。これはあなた方で実験されているのです。企業は、それが必要であり、それを改良し、うまく機能させるためには大量のデータが必要であると言うでしょう。

チャクラバルティ氏: 私は今、Microsoft の新しい AI パワーサーチを活用した検索について質問しています。 WBUR の On Point という素晴らしいラジオ番組とポッドキャストを聞いてみませんか? Enter を押すのは少し怖いですが、そうします。私たちは、これらの巨大企業の両社が生成 AI テクノロジーを自社の製品に展開し始める中、Microsoft と Google の AI 戦争について話しています。ああ、見てください。それは答えて、こう言いました。

はい。 On Point は、ボストンの WBUR によって制作されたラジオ番組およびポッドキャストです。経済や医療から政治、環境まで幅広い話題を取り上げます。この番組は、最も重要な問題について報道関係者や一般の人々と対話します。

したがって、幻覚はありません。わかった。しかし、Microsoft や Google のような企業にとって、そしてそのテクノロジーのユーザーである私たちにとって AI の重要性という点では。 Google CEOのサンダー・ピチャイ氏がCBS 60 Minutesで語った内容は次のとおりです。

ピチャイ: 私は常々、AI は人類が取り組んでいる最も奥深いテクノロジーであり、火や電気、あるいは私たちが過去に行ってきたものよりも奥深いものだと考えてきました。なぜそうなのか？知性とは何か、人間とは何かという本質に迫ります。ご存知のとおり、私たちはテクノロジーを開発中であり、いつかは確実にこれまでに見たものよりもはるかに高性能になるでしょう。

チャクラバルティ: そして、これは Microsoft CEO のサティアナデラが先月アンドリューロスソーキンと会話し、AI の動きが速すぎるかもしれないという事実について話しているところですが、AI の動きは速すぎるかもしれないが、一部の人々が考えているようなものではないという事実について話しています。

ナデラ: 多くのテクノロジー、多くの AI がすでに大規模に存在していますよね? 私たちが以前から知っているように、あらゆるニュースフィード、あらゆる種類のソーシャルメディアフィード検索…それらはすべて AI 上にあります。そして、どちらかと言えば、ブラックボックス、私は自動操縦の時代と表現したいと思います。興味深いことに、私たちは AI の自動操縦の時代から AI の副操縦士の時代に移行しつつあります。どちらかというと、確かに、それは急速に進んでいますが、正しい方向に速く進んでいると感じます。

チャクラバルティ: 私たちはマイクロソフトについてたくさん話しました。でも、私はすぐに Google に移行したいと思っています。どういうわけか説明してもらえますか。これが正確な表現であれば、私はかなり長い間、彼らが AI に関してほぼリードしている 2 つの中間にいると感じてきました。

ナイト: ええ、もちろんです。彼らは、これらの飛躍につながる多くのものを発明しましたが、誤った動作をする可能性があるため、いくつかのものをリリースすることを躊躇していました。それが今私たちが目にしていることです。そこで彼らは、Microsoft、つまり OpenAI がこれらの大きな言語モデルのいくつかをリリースし、検索で潜在的に何ができるかを示していることに少し盲目になってしまったのです。

そこで Google 社内で大パニックが起こり、急に「追いつく必要がある」ということになったようです。これにすべてを投げ込まなければなりません。彼らは、Google と DeepMind という 2 つの異なる AI ユニットを統合しました。そして今、あなたが言及したように、デミス・ハサビスがその両方のリーダーです。そしてこれは、ビル・ゲイツが何年も前に語ったインターネットの波のような大きな瞬間のひとつで、彼らは突然、私たちが追いつく必要があることに気づきました。

チャクラバルティ: ニューヨーク・タイムズ紙で、メモが出回っていたという記事を見ました。それが Google 内だったのか Microsoft 内だったのか思い出せません。しかし、そうは言っても、このレースは数週間で勝敗が決まる可能性があります。

BASS: それは Google だったかも知れません。それはマイクロソフトから聞いた話ではありません。それはどちらかと言えば批判的であり、おそらくそれは彼らがリードしていると感じているからかもしれません。サティア・ナデラに尋ねたところ、彼はこれが永続的なリードではなく、最初のリードであることに非常に重点を置いていると言いました。 Microsoft が必要とする市場も含め、多くの市場が破壊されているという事実を十分に認識しています。

そして、ご存知のとおり、ここではチャットに重点を置きましたが、AI の追加とそれをめぐる競争のもう 1 つの主要なベクトルの 1 つは、再び Microsoft と Google の間のオフィスソフトウェアになります。 Microsoftにとって、市場シェア約2％を持つBingを実験することは一つのことだ。彼らにとって、重要な AI アシスタントを自社のオフィス製品 (ご存じのとおり、主力製品である) に導入し始めることは別の問題であり、おそらくそれよりも少し慎重に、少しゆっくりと展開しているとはいえ、彼らはそれを行っています。 Bing のもの。

チャクラバルティ: わかりました。クリッピーの時代はもう終わった、というのがあなたの言っていることです。

BASS：これもClippyかな。つまり、ミームが広まっていたということです。おそらく5月4日くらいだったと思います…あれは、Bingに関するミームのようなもので、「クリッピー、私はあなたの父親です」のようなものでした。つまり、これはある意味、Microsoft が Clippy でやりたかったこと、そして 2016 年頃に展開した対話型 AI 戦略で実際にはうまくいかなかったものの実現です。当時は技術があまり良くなかったので。

チャクラバルティ: わかりました。まあ、とても良いです。私が引用したメモに少し戻って、ここにニューヨーク・タイムズからの記事があります。そして、マイクロソフト社の技術責任者であるサム・シラス氏が社内電子メールに書いたことが書かれており、タイムズ紙はそれが閲覧されたと述べている。そしてその電子メールの中で、シラス氏は、後で修正できることを現時点で心配するのは、完全に致命的な間違いであると述べました。

そして、新しい種類のテクノロジーへの突然の移行は不可欠でした。なぜなら、シラス氏がこのメモで書いたように、やはりニューヨーク・タイムズ紙の見方では、最初に製品を導入した企業が長期的な勝者となるからです。彼らが先に始めたからといって。場合によっては、その差が数週間で測定されることもあります。ディナさん、あなたは Microsoft を直接カバーしている人ですが、それについてはどう思いますか?

BASS: 明らかに、Microsoft はここで非常に急速に動いています。つまり、彼らが新しい AI 製品を導入しない週はほとんどありませんでした。それで、あなたがショーを始めたときの疑問が浮かび上がります。これがどのような影響を与えるかを彼らがそんなに心配しているのなら、なぜそれを急速に展開し続けるのですか？

ご存知のとおり、当社がこうした問題を解決するために非常に迅速に動いていることは承知しています。しかし、繰り返しになりますが、彼らから聞いたのは、自分たちが先に導入したという事実が勝者であるとは考えていないということです。彼らは、ここには混乱が生じる可能性が大いにあると感じています。そして、ご存知のとおり、オフィスについても言及しました。クラウドに関する混乱の問題もあります。

チャクラバルティ: 雲の周りです。わかった。ここにはほんの少しのテープがあるので、少しの間、その考えを保留してください。あなたは Microsoft が提供する他の製品について話していました。そこで、3 月の「Future of Work with AI」と呼ばれるイベントで、Microsoft はコパイロット (この会話では Clippy 2.0 と呼ぶことにします) を紹介しました。 Microsoft 365 の AI アシスタント機能です。

Copilot は、大規模な言語モデルの力を Microsoft グラフおよび Microsoft 365 アプリのデータと組み合わせて、あなたの言葉を地球上で最も強力な生産性ツールに変えます。

チャクラバルティ: では、ウィルさんは、Google が検索以外の製品にも AI を展開すると予想していますか?

KNIGHT: ええ、実際、彼らはすでに Google IOS でそれを始めています。彼らは、私たちが Office で見ているものと同様の機能をいくつかデモンストレーションしました。Office は、文章を書いたり、文書を作成したり、電子メールを作成したり、スプレッドシートにアクセスしたり、さまざまな作業を支援したりするのに役立ちます。

チャクラバルティ: わかりました。ということで、お二人とも興味深い質問を提起されましたが、明らかに、これらのことが展開される製品はストーリーの表面部分にすぎないということです。私が思うに、実際にもっと深刻なことが起こっているのは、人々がこれをソフトウェアと同じくらい基本的なことについて話しているときです。 … Google と Microsoft の間で現在見られている熱狂的な活動は、どちらがこの新しいテクノロジー、生成 AI とその使用方法においてリーダーになれるかということに関するものでしょうか?

ナイト: かなりの部分がそれに関するものだと思います。そして、これらの企業の内部の人々から私が聞いたのは、経営陣が技術者や彼らに懸念を抱いている人々の意見さえも聞いていないことがあるということです。したがって、彼らは、このようなものを世に出して、何十億台のコンピュータに展開されることになる基礎的なテクノロジーと見なされるもので主導権を握ることに必死なのです。

チャクラバルティ: それで、ディナ、その質問についてどう思いますか?

バス：それは公平だと思います。そして彼らは、私たちは注意を払っていると言いながら、これらの製品が完璧に機能しないことは承知しているので、製品がどのように機能しないのかを知ってほしいと言いながら、ちょっとしたダンスをしているようです。しかし、ここには別のものがあります、そしてここには別のものがあります。そして、あなたもこれを試してみてください。ついでに、あなたも私たちを規制すべきです。ちょっとタップダンスをやってみるという感じです。

チャクラバルティ: もう一度検索に戻りますが、それは人々が本質的に最も理解できるタッチポイントだと思うからです。 Google と Microsoft の取り組みは、人々の検索の使い方や検索から得られる情報をどのように変えると思いますか?

ナイト: そうですね、それはまだ分からないと思います。つまり、この生成検索を使用してみると、幻覚を引き起こす何かがあることに私は驚きます。メイクアップアイテムですよね？それは私たちが検索エンジンに期待していることではありません。そして、それが実現するかどうかはまだ分からないと思いますが、ご存知のとおり、その利点は限界を完全に上回ります。間違いなく、何らかの形で検索に浸透すると思いますが、完全に取って代わるわけではないかもしれません。

チャクラバルティ: そうですね。ご存知のとおり、Google が AI 対応検索をリリースしたときのテープの少し前に、キャシーエドワーズが話していたのを聞きました。「ああ、これは、質問が含まれている質問には特に役立ちます。」彼女はそこで何をしようとしていると思いますか?

ナイト: 彼女はあなたが何かを尋ねるフォローアップの質問について話していると思います。たとえば、Bing チャットや Google のチャットボットなど、明確な質問をすることができます。したがって、これらのものとのより人間らしい対話に入ることができます。しかし、それは私の心の中にたくさんの問題を引き起こします。なぜなら、あなたはこれらのことを正当化できないレベルまで擬人化しているようなものであり、それは多くの混乱を引き起こし、人々が彼らが話していることを一種の誤解に導く可能性があるからです非常に奇妙に思われることを言うことがあります。

チャクラバルティ: それでは、ここでほんの 1 分で、これらの幻覚や懸念についてさらに詳しく説明することにします。しかし、ディナ、あなたは先ほど少し話していましたが、私たちが再び Microsoft 対 Google について話しているのは驚くべきことではありませんか。しかし、私の理解する限り、彼らは少なくとも2015年までの一定期間、ある種の法的および規制上の休戦協定に達していた。そのように説明していただけますか？

バス：そうだね。両社の間には一種の正式な緊張緩和があった。彼らが競争しないわけではなかった。彼らは依然として非常に精力的に競争していました。繰り返しになりますが、特に Google がオフィスと生産性の分野で Microsoft からさらに多くのビジネスを奪おうとしているためです。しかし、彼らが合意したのは、規制当局に対してお互いについて文句を言わないということだった。それがここ数年で崩れてしまった。両者は規制当局に対し、互いについて声高に不満を訴えてきた。そして、それにより別の次元が追加されます。この AI の戦いを見てみると、両社間の敵対関係は別の側面から見えてきます。

さて、それでは、ディナ、サラ・マイヤーズ・ウェストを会話に参加させたいので、少しだけここでお待ちください。彼女は、人工知能の社会的影響を研究する AI Now Institute のマネージングディレクターを務めています。オンポイントへようこそ、サラ。

サラ・マイヤーズ・ウェスト: 迎えてくれてありがとう。

チャクラバルティ: それで、番組を紹介しましたが、マイクロソフトとグーグルの両方の非常に上級の人々が、存亡の脅威になる可能性があるというまた別の AI 警告書に署名しています。私たちは規制される必要があります。そして、ディナと私たちが非常に慎重に計画を立ててくれたように、検索で生成される AI 製品が時々幻覚を起こすことを知りながら、本当に何十億人もの人々が毎日使用するこれらの製品をプッシュし続けています。それは私のお気に入りの恐ろしいものになるでしょう今週の言葉はこちら。つまり、これらの企業がこのようなことをしているのは、少々無責任ではないでしょうか、サラ？

マイヤーズ・ウェスト: つまり、私たちはテクノロジーの急速な進歩の時代に戻っているようです。彼らは、実際には完全に検証またはテストされておらず、市場に出す準備ができていないことを認めながらも、基本的にこれらのテクノロジーを実際に実験しています。

つまり、Dana は、私たち全員がこのベータテスターであると完璧に言いましたが、これは OS の新しいバージョンをベータテストするものです。それとも、新しいアプリか Word の最新バージョンのベータテストかわかりません。製品のベータテストを行って、その見返りに真実かどうかわからない情報を提供することは、まったく異なります。

そして、これは、真実の答えを与えるために信頼できる製品です。つまり、私にとっては火遊び以上のもののように思えます。つまり、製品を展開する前に、企業に AI の世界についてもっと考えさせるためのシステムは整備されているのでしょうか?

マイヤーズ・ウェスト: とても良い質問ですね。そして、これらの企業はこうした懸念を長い間認識しており、ウィル氏はすでに、Googleが2015年から基盤となるテクノロジーに取り組んできたが、こうしたリスクを理由にその展開を躊躇していたことに言及した。 OpenAI も同様に、しばらくの間このテクノロジーに取り組んでいます。そして、2019 年に、ChatGPT を動かすエンジンである GPT-4 の前身である GPT-2 モデルをリリースしようとしていたとき、OpenAI は、これは一般公開するには危険すぎると言いました。抑えるために。

今ではその考えが変わりました。しかし、あの瞬間を振り返ってみると、彼らは詐欺のリスク、誤った情報の拡散、サイバーセキュリティのリスクについて、同様の懸念を多く表明していました。そして、それらの潜在的なリスクは明らかに消えていません。現時点で私が本当に重要だと思うのは、規制当局と執行機関が、既存の法律をこれらの制度に適用するあらゆる意図があることを明確にしていることです。

そして、それらのルールがどのように適用されるかについては、非常に明確なフレームワークがあります。たとえば、FTCの欺瞞に関する当局は、たとえそれがシステムの意図ではなかったとしても、それはよくないとはっきりと述べています。大規模な詐欺を可能にするものを作成している場合、それは法律に違反します。

チャクラバルティ: つまり、それがこれほど明確であれば、これらの製品は必ずしも正確とは限らない情報を発信しているため、現在法律に違反しているように見えます。

マイヤーズ・ウェスト: つまり、なぜ企業は違法である可能性が非常に高いシステムを導入しようとするのか、少なくともその種の行為を防ぐための十分なガードレールがないのはなぜかという疑問が生じます。

チャクラバルティ: では、ここで質問させてください。 Microsoft と Google の両方で、リリースすべきかどうかについてかなり活発な議論が行われているように見える場合でも、これらの製品をリリースしたいというある種の抑えがたい衝動の 1 つです。これらの大規模な言語モデルをより良くするためには、より多くの情報が必要だという抑えられない衝動があるのでしょうか? そしてそれを行うための最良の方法は、それらを人々に解き放つことです。

ナイト: それは素晴らしい指摘ですね。そして実際、それが彼らがそんなに急いでいる大きな理由なのです。これらのモデルが非常に優れている理由の 1 つは、人々からのフィードバックに基づいて微調整されているためです。したがって、彼らがそれが良い答えだと思うなら、悪い答えです。そして、それを行うために人を雇うことも、ユーザーを通じてそれを行うこともできます。 Microsoft OpenAI の利点の 1 つは、膨大なユーザーベースを抱えていることです。その利点を基盤にしているため、速度が低下することはありません。

チャクラバルティ: 想像できると思いますが、たとえば Google では 1 日に 85 億件以上の検索があり、たとえその検索のごく一部が AI 対応の検索を通じて行われたとしても、それは膨大な量の情報になるでしょう。

ナイト: … ユーザーから取得できるデータが多ければ多いほど、それにフィードできるデータは多ければ多いほど良いのです。

チャクラバルティ: それでは、AI の世界からの大きな声にもう少し耳を傾けてみましょう。おそらくここ数週間、ジェフリー・ヒントンという名前の男性の話を聞いたことがあるでしょう。同氏は、先月辞任するまでGoogleに在籍していたAIのゴッドファーザー3人のうちの1人とみなされている。

ジェフリー・ヒントン: 私が主に話しているのは、私が生存の脅威と呼んでいるものです。それは、彼らが私たちよりも賢くなり、彼らが私たちを乗っ取る可能性です。彼らはコントロールを得るでしょう。

チャクラバルティ: それがジェフリー・ヒントンです。サム・アルトマンもいる。彼は OpenAI の CEO であり、最近ニューヨーカーラジオアワーに出演し、彼が考える根本的な疑問について語りました。 AIは道具なのか、それとも生き物なのか？

SAM ALTMAN: このシステムは何かというと、テキストを取り込み、それに対して複雑な統計を実行し、さらにテキストを出力するシステムです。そして、そこから驚くべき創発的な行動が起こる可能性があります。これまで見てきたように、それは人の考え方に大きな影響を与える可能性があります。そして、それには多くの制約が必要です。しかし、私たちはここで生き物を構築する道を進んでいるとは信じていません。現在、人間はこのツールを非常に悪用する可能性があり、私はそれについて非常に心配しています。私が今心配している以上に、このもののSFっぽいものが目覚めて制御を失うことです。

チャクラバルティ: それで、サラ・マイヤーズ・ウェスト、サム・アルトマンがそこで言ったことに答えてください。もちろん、それは、私たちの注目を含むすべての見出しを捉えている、ある種の実存的警告だからです。しかし、おそらく私たちが十分に考えていない可能性がある、制御不能シナリオの前に、まったく別の懸念が存在するということ。

マイヤーズ・ウェスト：その通りです。あのクリップを見て、週末に読んだ SF 作家のテッド・チャンとのこの素晴らしいインタビューを思い出しました。そこで彼は、AI という言葉がなかったら、AI を何と表現しますか、と尋ねられました。。そして彼の即座の反応は応用統計でした。ご存知のように、人工知能という用語には多くの意味が込められており、人工知能にこの種の文化的な力を与え、その影響について私たち全員を興奮させたり不安にさせたりしています。

しかし、私たちが今日クリップを聞いた多くの企業リーダーから聞いたことは、1つ目、これらは本質的に一種のデータ予測エンジンであり、2つ目、それらはすでに広範囲に普及しているということについて一貫して繰り返していることです。使用。現時点での違いは、人々が対話できるインターフェースが存在し、AI に対する私たちの理解にまったく異なる観点を与えていることです。

しかし、もし彼らが本質的に、パターンを探すために使用される統計的メカニズムであるならば、彼らが本当に得意であることを証明していることの一つは、社会的不平等の歴史的パターンや、私たちが必要としている種類のパターンを振り返り、増幅することです。私たちは医療や教育における AI の活用に最大の焦点を当てています。

就職面接に呼ばれるかどうか、住宅ローンの金利がいくらになるかなど。私たちが一貫して見ているのは、AI システムが人種差別や性別に基づく差別の歴史的パターンを増幅させる傾向です。そして、それが私たちが最も焦点を当てる必要があるところだと思います。

チャクラバルティ: それで、ご存知のとおり、規制を求める声、あるいは少なくとも、ご存知のとおり、まさに同じ技術者たちが今年繰り返し発表している規制をめぐるより活発な議論について、再び考えるにあたり、ディナに話させてください。あなたは何かについています。私たちはすでに新たな種類の不平等の領域にいると想像しているので、それを情報の不平等と呼ぶことにします。そして私たちは、その面でさらに大きな不平等へと猛スピードで突き進んでいく可能性があります。

一方で、規制当局が明日発表するとしたら、たとえば FTC が明日発表するとします。つまり、私たちはあなたの AI、生成 AI 検索を試してみました。文脈を無視して不正確な情報や回答を生成したり、幻覚を見せたりしていることがわかります。そしてそれは明らかに法律違反です。

ご利用を停止させていただきます。現時点ではこの製品を世に出すことはできないと言うでしょう。 Microsoft が AI を規制すべきかもしれないと言っているにもかかわらずです。ディナ、つまり、マイクロソフトも歴史的に、そしてグーグルも、正直に言うと、これらの同じ企業に対するあらゆる種類の規制と戦うために全力を尽くしてきました。実際に AI が規制されたら彼らはどう反応するでしょうか?

BASS: マイクロソフトは数年前から AI に関する規制を求めてきました。しかし、あなたが指摘したように、彼らが望んでいるのは規制なのです。彼らはそれが一定の点までは進み、それ以上は進まないことを望んでいます。しかし、あらゆる種類の製品の安全性に関する規制があります。よく車の例が使われます。誰かが電気自動車を設計して街を走り回るのをただ許可するわけにはいきません。

そして、私が二番目に言いたいのは、これらの AI システムはすでに人種的偏見や性別による偏見をめぐる重大な問題を抱えているという考えですが、私たちが今懸念すべきことは、必ずしもヒントン博士が焦点を当てているものではないということです。将来、AI が達成できるかどうかさえ分からない超人的な力が現れる可能性があります。問題とは、すでにわかっているのに対処されていないものです。ご存知のとおり、アメリカでは選挙が近づいていますが、問題があります。心配なのは、航空会社がなぜそんなに悪いのか尋ねたときに、ある種間抜けな答えが返ってくることではありません。

懸念されるのは、これらが生成ツールであるということです。つまり、誤解を招く可能性のある新しいコンテンツ、ディープフェイク、本物ではない写真が作成される可能性があるということです。そして、人々はこれらが偽物であると見分けることができないかもしれないということ。これらは、ご存知のとおり、Google や Microsoft などの企業内で AI 研究者や倫理学者が長年指摘してきた問題です。

そして、彼らの聴力という点では、あまり注目されていません。ヒントン博士の発言を例外とすると、彼は Google にいたとき、まさに差し迫った懸念事項である AI に取り組んでいるティムニット・ゲブルー博士やマーガレット・ミッチェル博士のような人々を支持しませんでした。

この記事はもともと WBUR.org で公開されたものです。

著作権 2023 NPR。詳細については、https://www.npr.org をご覧ください。