Apple Intelligenceでユーザーデータを用いてプライバシーを保護しつつAIを改善する方法をAppleが説明 – GIGAZINE

AppleはAIプラットフォームの「Apple Intelligence」を展開しており、2025年3月31日(月)にリリースされた「iOS 18.4」「iPadOS 18.4」「macOS Sequoia 15.4」で、日本語版がiPhoneやiPadなどで利用可能になりました。そんなApple Intelligenceの性能を改善するため、Appleが「プライバシーを保護しつつユーザーデータをAIの改善に利用する方法」について説明しています。

Understanding Aggregate Trends for Apple Intelligence Using Differential Privacy – Apple Machine Learning Research
https://machinelearning.apple.com/research/differential-privacy-aggregate-trends

Apple to Analyze User Data on Devices to Bolster AI Technology – Bloomberg
https://www.bloomberg.com/news/articles/2025-04-14/apple-to-analyze-user-data-on-devices-to-bolster-ai-technology

Apple’s complicated plan to improve its AI while protecting privacy | The Verge
https://www.theverge.com/news/648496/apple-improve-ai-models-differential-privacy

Appleは公式ブログで、「Appleはプライバシーを基本的人権だと考えています。また、ユーザーのプライバシーを保護しながら、ユーザーに優れた体験を提供できると信じています」と述べ、プライバシーを重視する姿勢をアピールしています。

ユーザーのプライバシーを保護するという方針は、AIプラットフォームのApple Intelligenceでも維持しています。Appleは、Apple Intelligenceの基盤モデルをトレーニングする際、ユーザーの個人データややり取りを使っておらず、インターネット上で公開されているコンテンツも個人情報を削除した上で使用しているとのこと。

しかし、個人情報を含まずに現実世界の入力を模倣した「合成データ」は、必ずしも顧客のデータを代表しているとは限りません。そのため、経済メディアのBloombergは、合成データでトレーニングされたAIは適切に機能しないことがあると指摘しています。

そこでAppleは、プライバシーを保護しつつユーザーデータを利用するため、「differential privacy(差分プライバシー)」という手法を用いています。差分プライバシーは、個々のユーザーと紐付いたデータを収集せずに人気のプロンプトやパターンを特定する手法であり、すでにApple Intelligenceでカスタム絵文字を作成する「Genmoji」で使用されています。

差分プライバシーでは、複数のユーザーが「カウボーイハットをかぶった恐竜」などを含む絵文字をリクエストした場合、匿名のままプロンプトや単語のシグナルを検出します。特定の単語が検出されるには大勢のユーザーがその単語を使っていなくてはならず、Appleが受信する信号にはIPアドレスやAppleアカウントにリンクできるIDなどが含まれていないため、ユーザーのプライバシーを守りつつユーザーデータを利用できるというわけです。

AppleはすでにGenmojiの改善に差分プライバシーを使用しており、今後のリリースでは画像生成ツールのImage Playgroundや画像マジックワンド、写真や動画を使用したムービー作成機能、作文ツール、カメラに写った物の詳細をAIに尋ねるビジュアルインテリジェンスなどにも、差分プライバシーのアプローチを採用するとしています。

Apple Intelligenceの「カメラに写った物の詳細をAIに聞ける機能」や「画像内の不要物を消せる消しゴムマジックっぽい機能」を使ってみた – GIGAZINE

一方、要約ツールや長い文章全体を操作するようなApple Intelligenceのライティング機能では、Genmojiのように短いプロンプトを用いた方法は効果的ではありません。そこでAppleは、合成データとユーザーデータを利用したテキスト生成機能の改善方法を開発したとのこと。

この方法では、まず実際のメールやメッセージを模倣した合成データを生成し、合成メッセージの単語やトピック、長さなどの要素を持つ埋め込み表現(Embedding)を抽出します。この埋め込み表現を少数のユーザーデバイスに送信し、実際のユーザーが作成したメールやメッセージと比較することで、データの精度を向上させていくという仕組みです。

以下の図は、さまざまな合成データの埋め込み表現をデバイスに送信し、得られたフィードバックをAIの改善に役立てる流れを示したもの。ここでも差分プライバシーを採用することで、ユーザーのプライバシーを保護したままApple Intelligenceの性能を向上させることができます。

Appleは今後のベータ版ソフトウェアで電子メールのテキスト生成機能を改善するため、上記の合成データを使用した仕組みを用いるとのこと。なお、これらのユーザーデータを用いたApple Intelligenceの改善は、「デバイス解析とプライバシー」で分析情報の送信に同意したユーザーのみを対象に行われます。

Appleは、「これらの技術により、Appleは使用したプロンプトやメールの内容といった個人に関する情報を知ることなく、全体的な傾向を把握することができます。Appleは製品体験を向上させるために機械学習とAIの最先端技術を進化させ続けると共に、ユーザーのプライバシーを保護するための最先端技術の開発と実装にも引き続き取り組んでいきます」と述べました。