Openaiは、なぜChatGptがsycophanticになったのかを説明しています

Openaiは持っています 死後を公開しました に 最近のsycophancyの問題 デフォルトのAIモデルの電源ChatGPTを使用して、 GPT-4O – 先週リリースされたモデルの更新をロールバックすることを強制した問題。

週末に、GPT-4Oモデルの更新に続いて、ソーシャルメディアのユーザーは、ChatGPTが過度に検証され、快適な方法で応答し始めたと述べました。それはすぐにミームになりました。ユーザーは、あらゆる種類の問題を称賛するChatGptのスクリーンショットを投稿しました、 危険な 決定 そして アイデア。

日曜日のXの投稿で、CEOのサム・アルトマン 認められた 問題と、Openaiは「できるだけ早く」修正に取り組むと述べました。 2日後、アルトマン 発表 GPT-4Oのアップデートはロールバックされており、Openaiはモデルの性格に対する「追加の修正」に取り組んでいました。

Openaiによるとモデルのデフォルトのパーソナリティを「より直感的で効果的に感じる」ことを目的としたこの更新は、「短期的なフィードバック」によってあまりにも多くの通知を受け、「ユーザーのChatGPTとの相互作用が時間の経過とともに進化する方法を完全に説明しませんでした。」

ChatGPTで先週のGPT-4Oアップデートをロールバックしました。これで、よりバランスのとれた動作を持つ以前のバージョンにアクセスできます。

何が起こったのか、なぜそれが重要なのか、そして私たちがどのようにsycophancyに取り組んでいるかについての詳細： https://t.co/lohou7i7dc

–Openai（@openai） 2025年4月30日

「その結果、GPT ‑ 4oは、過度に協力的だが不誠実な応答に偏っていました」とBlog投稿でOpenaiは書いています。 「シコパンティックな相互作用は不快で、不安になり、苦痛を引き起こす可能性があります。私たちは不足し、それを正しくすることに取り組んでいます。」

Openaiは、コアモデルトレーニング技術とシステムプロンプトの改良を、GPT-4oをサイコファンシーから明示的に操縦するなど、いくつかの修正を実装していると言います。 （システムプロンプトは、モデルの包括的な行動と相互作用のトーンを導く最初の指示です。）会社は、「増加するためにより多くの安全ガードレールを構築しています。 [the model’s] 誠実さと透明性」、そしてその評価を拡大し続けて、「サイコファンシーを超えた問題を特定するのに役立つ」と述べています。

Openaiはまた、ユーザーが「リアルタイムのフィードバック」を与えて、chatGPTとの「直接的なインタラクション」に「直接影響」し、複数のChatGPTパーソナリティから選択できるようにする方法を実験していると述べています。