「Civitai禁止の5000AIモデル、再びHugging Faceに！」

実在の人物を無断で再現するAIモデルがHugging Faceに再アップロード

ニュース記事公開日：2025年07月16日

最近、AI開発プラットフォーム「Hugging Face」に、実在の人物の姿を無断で再現するために作成されたAIモデルが5000種類以上ホストされていることが判明しました。これらのモデルは、元々「Civitai」というサイトで公開されていましたが、同意なしに性的コンテンツを生成する目的で利用されていたため、Civitaiは2025年5月にこうしたモデルを全面的に禁止することを発表しました。

Civitaiからの禁止と再アップロードの背景

Civitaiは、クレジットカード会社からの圧力を受けて、これらの演算モデルを削除しました。しかし、Civitaiのユーザーたちは失われる前に問題のモデルをダウンロードし、組織的にHugging Faceに再アップロードする動きを見せました。この行動は、ユーザー間での情報共有を通じて行われ、モデルの悪質な目的を隠す手法が用いられています。

これらのモデルは、「LORA」や「Test model」といった一般的な名称に変更されているため、特定の有名人を検索しても見つけにくくなっています。実際、非同意の性的コンテンツの作成に利用されていることが確認されています。

Hugging Faceの利用規約と倫理的懸念

Hugging Faceでは、「嫌がらせやいじめ、明確な同意なしに作成された性的コンテンツ」を禁止していますが、AIモデル自体がユーザーによってそのように使用されなければ、直ちに規約違反にはならないという曖昧さがあります。

倫理部門は「AIは同意に基づいた技術であるべき」との基準を提示していますが、本人の同意なく姿を再現するモデルの存在は、この倫理指針と矛盾しています。研究者は、これらのモデルが大半が女性有名人やインフルエンサーを対象にしていることを強調しています。

この問題は、AIの倫理性や利用方法についての大きな議論を呼ぶことが予想されます。

🧠 編集部より：

この記事のテーマについての補足説明

概要 最近、AI開発プラットフォームであるHugging Faceに、実在の人物を無断で再現するAIモデルが5000件以上アップロードされている事実が判明しました。これらのモデルは、同意のない性的コンテンツを生成するために使用され、Civitaiからの移行が行われています。

背景 AI技術の進化により、画像生成モデルが簡単に入手できるようになっていますが、その一方で倫理的な問題も生じています。特に、実在の人物を無断で使用したコンテンツは、個人の権利やプライバシーを侵害する可能性があり、社会的な課題となっています。

Civitaiの行動 Civitaiが2025年5月に実在の人物を基にしたAIモデルを禁止したのは、決済処理業者からの強い圧力が影響しています。これに対し、Civitaiのユーザーは、禁止前にモデルをダウンロードし、Hugging Faceへ再アップロードするという行動を取りました。この活動は、プライバシー侵害への毅然とした抵抗という側面も持つと考えられます。

Hugging Faceの規約と倫理 Hugging Faceでは、「嫌がらせ、いじめ、または明確な同意なしに作成された性的コンテンツ」を禁止しています。ただし、モデル自体がその目的で使われるとは限らないため、規約違反となるかは微妙なグレーゾーンにあります。この点で、同社は「同意に基づいた技術であるべきだ」とする倫理基準を掲げていますが、現状のモデルの存在はその理念に反していると指摘されています。

ちょっとした豆知識

最近では、AI技術が様々な分野で進化を遂げていますが、特にアートやデザインの分野では、人間のクリエイティビティを支えるツールとして活用されています。しかし、権利や同意のない使用に関しては、法律や倫理の整備が追いついていないのが現状です。AIを利用する際には、その影響や責任についても考慮することが重要です。

関連リンク

• Civitai: Civitai公式サイト
• GIGAZINEの記事: 画像生成AIによるアダルトコンテンツ生成は「ポルノで学習したモデルの無料配布」
• Hugging Face: Hugging Face公式サイト

この問題に関心を持つことは重要であり、テクノロジーの発展を見守る一方で、その倫理的な側面にも目を向ける必要があるでしょう。

• キーワード: 非同意