人類のCEOは、2027年までにAIモデルのブラックボックスを開きたい

人類のCEOダリオ・アモデイ エッセイを公開しました 木曜日は、世界をリードするAIモデルの内部の仕組みについて研究者がほとんど理解していないことを強調しています。それに対処するために、Amodeiは、2027年までにほとんどのAIモデルの問題を確実に検出するために人類の野心的な目標を設定しました。

Amodeiは、今後の課題を認めています。 「解釈可能性の緊急性」で、CEOは、人類がモデルが回答にどのように到達するかを追跡する際に初期のブレークスルーを行ったと言いますが、これらのシステムがより強力になるにつれて、これらのシステムをデコードするためにはるかに多くの研究が必要であることを強調しています。

「私は、解釈可能性をよりよく処理することなく、そのようなシステムを展開することを非常に心配しています」とAmodeiはエッセイに書いています。 「これらのシステムは、経済、技術、国家安全保障の絶対に中心であり、人類がどのように機能するかについて完全に無知であることを基本的に受け入れられないと考えているほど多くの自律性が可能になります。」

人類は、機械的解釈可能性における先駆的な企業の1つであり、AIモデルのブラックボックスを開き、なぜ彼らが決定を下すのかを理解することを目的とした分野です。ハイテク業界のAIモデルの急速なパフォーマンスの改善にもかかわらず、これらのシステムがどのように決定に到達するかはまだ比較的ほとんどありません。

たとえば、Openaiは最近、いくつかのタスクだけでなくパフォーマンスを発揮する新しい推論AIモデル、O3とO4-Miniを発売しましたが、 他のモデルよりも多くの幻覚。会社はなぜそれが起こっているのか分からない。

「生成的AIシステムが財務文書を要約するなど、何かを行うと、特定のレベルまたは正確なレベルで、なぜそれが選択するのか、なぜ他の人よりも特定の単語を選択する理由、または通常正確であるにもかかわらず間違いを犯す理由を知りません」とアモデイはエッセイに書いた。

エッセイでは、Amodeiは、人類の共同設立者であるChris Olahが、AIモデルは「構築されているよりも成長している」と述べていると指摘しています。言い換えれば、AIの研究者はAIモデルインテリジェンスを改善する方法を見つけましたが、その理由はよくわかりません。

エッセイでは、アモデイはAGIに到達するのは危険である可能性があると言います。データセンターの天才の国」 – これらのモデルがどのように機能するかを理解することなく。前のエッセイでは、アモデイはテクノロジー業界が2026年または2027年までにそのようなマイルストーンに達することができると主張しましたが、これらのAIモデルを完全に理解することからはるかに外出していると考えています。

長期的には、Amodeiは、人類が本質的に最先端のAIモデルの「脳スキャン」または「MRI」を実施したいと考えています。これらの検査は、AIモデルの幅広い問題を特定するのに役立ちます。これには、嘘をついたり、権力を求める、またはその他の弱さを求めたりする傾向があります。これには5〜10年かかる可能性がありますが、これらの措置は、人類の将来のAIモデルをテストおよび展開するために必要であると彼は付け加えました。

人類は、AIモデルがどのように機能するかをよりよく理解できるようにするために、いくつかの研究ブレークスルーを作成しました。たとえば、同社は最近、方法を見つけました AIモデルの思考経路を通過します会社が呼ぶもの、サーキット。人類は、AIモデルが米国の都市がどの都市にあるかを理解するのに役立つ1つの回路を特定しました。同社はこれらの回路のほんの一部しか見つかっていませんが、AIモデルには数百万人がいると推定しています。

人類は解釈可能性の研究自体に投資しており、最近作成されました スタートアップへの最初の投資 解釈可能性に取り組んでいます。エッセイでは、AmodeiはOpenaiとGoogle Deepmindに、この分野での研究努力を増やすよう呼びかけました。

Amodeiは、政府に「ライトタッチ」規制を課して、企業が安全性とセキュリティ慣行を開示するための要件など、解釈可能性の研究を奨励するよう求めています。エッセイでは、アモデイはまた、米国が中国へのチップスに輸出管理を行うべきであると述べています。

人類は、安全性に焦点を当てたため、常にOpenaiとGoogleから際立っていました。他のハイテク企業がカリフォルニアの物議を醸すAI安全請求書、SB 1047を押し戻しましたが 人類は、法案の控えめなサポートと勧告を発行しましたフロンティアAIモデル開発者の安全報告基準を設定します。

この場合、人類は、能力を高めるだけでなく、AIモデルをよりよく理解するための業界全体の努力を推進しているようです。