最も強力なAIモデルを開始してから数週間後の木曜日、 Gemini 2.5 ProGoogleが公開しました 技術レポート 内部安全評価の結果を示します。ただし、このレポートは詳細に軽視されていると専門家は言い、モデルがどのリスクをもたらすかを判断することは困難です。
技術レポートは便利です – そして 卑劣な時々 – 企業がAIについて常に広く宣伝しているわけではない情報。概して、AIコミュニティは、これらのレポートを、独立した研究と安全の評価をサポートするための善良な努力と見なしています。
Googleは、AIライバルの一部とは異なる安全報告アプローチを採用しており、「実験的」段階から卒業したモデルと見なされると、技術レポートを公開します。同社はまた、これらの記事に「危険な能力」評価のすべてからの調査結果を含めていません。それらは別の監査のためにそれらを留保します。
TechCrunchが話した数人の専門家は、Gemini 2.5 Proレポートのスパース性にまだ失望していましたが、Googleのことは言及していないことに気付きました。 フロンティア安全フレームワーク（FSF）。 Googleは昨年、FSFを「深刻な危害」を引き起こす可能性のある将来のAI機能を特定する努力として説明したもので導入しました。
“これ [report] AIの政策と戦略研究所の共同設立者であるピーター・ワイルドフォードは、「非常にまばらで、最小限の情報が含まれており、モデルがすでに公開されてから数週間後に出てきました。
Secure AI Projectの共同設立者であるThomas Woodsideは、GoogleがGemini 2.5 Proのレポートをリリースしたことを嬉しく思いますが、タイムリーな補足安全評価を提供するという同社のコミットメントを確信していないと述べました。 Woodsideは、Googleが最後に危険な能力テストの結果を公開したとき、同年2月に発表されたモデルのために、Googleが2024年6月に発表したことを指摘しました。
あまり自信をもたらしませんが、Googleはレポートを利用可能にしていません ジェミニ2.5フラッシュ会社が先週発表したより小さく、より効率的なモデル。広報担当者は、TechCrunchにFlashのレポートが「まもなく登場」していると語った。
「これがGoogleからのより頻繁な更新の公開を開始することを約束することを願っています」とWoodsideはTechCrunchに語りました。 「これらの更新は、それらのモデルも深刻なリスクをもたらす可能性があるため、まだ公開されていないモデルの評価の結果を含める必要があります。」
Googleは、モデルの標準化されたレポートを提案した最初のAIラボの1つであった可能性がありますが、そうであったのはそれだけではありません 透明性に関する境界が下落したと非難された 最近。メタはaをリリースしました 同様に露出度の高い安全性評価 その新しい ラマ4 オープンモデル、およびOpenaiはそのレポートを公開しないことを選択しました GPT-4.1シリーズ。
Googleの頭の上にぶら下がっていることは、Techの巨人が規制当局に行ったことを保証し、AIの安全性テストと報告の高い水準を維持します。 2年前、 グーグルは米国政府に語った 「範囲内」のすべての「重要な」パブリックAIモデルの安全レポートを公開します。会社 同様のコミットメントでその約束をフォローアップしました に 他の国AI製品を中心に「公共の透明性を提供する」ことを誓約します。
民主主義技術センターのAIガバナンスの上級顧問であるケビン・バンクストンは、散発的であいまいなものの傾向をAIの安全性に関する「底辺への競争」と報告しています。
「Openaiのような競合するラボが数ヶ月から数日までのリリースの前に安全テスト時間を剃ったという報告と組み合わされて、GoogleのトップAIモデルのこのわずかなドキュメントは、企業がモデルを市場に出すにつれて、AIの安全性と透明性についての底への厄介なストーリーを語っています」とTechCrunchに語りました。
Googleは声明で、技術レポートでは詳細ではありませんが、リリース前にモデルの安全性テストと「逆境レッドチーム」を実施していると述べています。
Views: 0
