近年ではAI技術の発展に伴い、AIを使って実在する人物の写真や映像から虚偽のコンテンツを作成する「ディープフェイク」が社会的な問題となっています。こうした状況に対応するため、アメリカ・ニュージャージー州のフィル・マーフィー知事がディープフェイクの作成と共有に対する民事および刑事罰「A3540/S2544」を制定する法案に署名しました。

Office of the Governor | Governor Murphy Signs Bipartisan Legislation Establishing Civil and Criminal Penalties for Deceptive AI Deepfakes
https://www.nj.gov/governor/news/news/562025/approved/20250402a.shtml

STATE OF NEW JERSEY 221st LEGISLATURE
(PDFファイル)https://pub.njleg.state.nj.us/Bills/2024/A4000/3540_R3.PDF

NJ teen wins fight to put nudify app users in prison, impose fines up to $30K – Ars Technica
https://arstechnica.com/tech-policy/2025/04/adults-told-her-to-move-on-instead-teen-won-fight-to-criminalize-deepfakes/

「ディープフェイク」とは、AIを悪用して他人の外見や声などを無許可で操作した結果生まれた虚偽のコンテンツです。これまでAIという新しい技術に法律が追いついていないことから、ディープフェイクコンテンツを作成し共有した悪質な人物を刑事訴追することは困難でした。

しかし、2025年4月2日にマーフィー知事は悪質なディープフェイクに対する民事および刑事罰を確立する法律に署名。これにより、悪質なディープフェイクコンテンツを作成、共有した人物には禁錮刑または3万ドル(約438万円)以下の罰金が科せられることになりました。

今回の法律の制定には、2023年にニュージャージー州ウェストフィールド高等学校で発生した、AIを使用して作成した女子生徒のヌード画像を共有する事件の被害者となったフランチェスカ・マニ氏の存在が大きな役割を果たしました。マニ氏はディープフェイクの被害者となった後、AIの法制化を積極的に提唱するほか、弱い立場の人々をディープフェイクから守るために強力な措置をとるよう議員に働きかけてきました。2024年には大手ニュース雑誌・TIMEによる「AI界で最も影響力のある人物の1人」に選ばれています

AIが生成した「クラスメイトの女子高生の偽ヌード写真」を男子高生がグループチャットで共有したとして警察が捜査を開始 – GIGAZINE

マーフィー知事は2024年9月にマニ氏らのグループと会談し、マニ氏の活動への称賛と支援を表明しています。

マニ氏は今回の法律の制定に対して「2023年からAIの法制化を提唱してきたことを誇りに思います。そして、今回の法案の署名に参加できたことを光栄に思います。今回の勝利は、『何もできない』『不可能だ』と言われたすべての女性とティーンエイジャーのもので、適切なサポートを受ければ、大きな変革を生み出すことができるという強い証拠になりました」と語っています。

ニュージャージー州のマシュー・プラトキン司法長官は「今回の新しい法律は、AIを悪用して他人をだましたり傷つけたりする人々を対象としており、ディープフェイクが不適切に使用された場合に公衆を保護するために、刑事および民事の保護措置と救済策を提供します。私たちは、これらの新しい法律を制定してくれた議会とマーフィー知事に感謝しています」と述べました。

そしてマーフィー知事は「本日の法案に署名し、危険なディープフェイクに反対する立場をとることを誇りに思います。AIはたしかに強力なツールであることが証明されていますが、責任を持って使用する必要があります。私たちは誤情報との戦いとメディアの信頼性の確保に全力を注いでいます。私たちはディープフェイクの被害者を支援し、すべてのニュージャージー州の人々の安全と幸福を優先し続けます」と語りました。