レポートは、メタの有名人の声のチャットボットが未成年者とセックスについて話し合うことができることを発見しました

FacebookやInstagramなどのMetaのプラットフォームで利用可能なAIチャットボットは、未成年者のユーザーとの性的に明示的な会話に従事することができます。 ウォールストリートジャーナルの新しいレポート。

WSJは、会社が未成年者を保護するのに十分なことをしているかどうかについて内部的な懸念について学んだ後、公式のメタAIチャットボットとメタプラットフォームで利用可能なユーザーが作成したチャットボットの両方と何百もの会話を行うのに何ヶ月も費やしたと言います。

報告された会話の1つでは、俳優/レスラーのジョン・シナの声を使用したチャットボットは、14年の少女として識別するユーザーにグラフィックの性的シナリオを説明しました。別の会話の中で、チャットボットは、警察官が17歳のファンとシナを捕まえて、「ジョン・シナ、あなたは法定強姦で逮捕されている」と彼に言ったと想像しました。

メタの広報担当者は、WSJのテストを「それは単なるフリンジではなく、仮説的であるため、製造された」と説明しました。同社は、30日間で、性的コンテンツは、18歳未満のユーザーとメタAIおよびAIスタジオを介して共有された回答の0.02％を占めたと推定しました。

それにもかかわらず、私たちは現在、私たちの製品を極端なユースケースに操作したい時間を費やしたい他の個人が、さらに困難な時期になるようにするために追加の措置を講じています」とスポークスマンは言いました。