近い将来、私たち人間が担っている仕事の多くは、AIに取って代わられるのでは…といわれています。
私のような翻訳やライター業務もその1つ。ぶっちゃけ、生成AIがあっというまに構成する文章の完成度に圧倒されて、不安になることも多々あります。
自分の存在価値を確かめるため…というと大げさですが、私は定期的に自分の書いた文章をAIに読み込ませて、｢これは人間が書いた文章だと思いますか？ ｣とチェックさせています。
先日、Netflixで『火垂るの墓』が配信されるというニュースにかこつけて、私の個人的な感情や思い出をつづったコラムをChatGPTにチェックさせたのですが、その反応は以外なものでした。
まるで違う記事の内容を語り出したChatGPT
ChatGPTは、まるで別の記事の内容を語り出したのです。
記事｢『火垂るの墓』は、もう二度と作られない——高畑勲が描いた戦争と“家族”の破壊｣
（Gizmodo Japan／2025年5月公開）について、人間が書いた可能性が非常に高いと考えられます。理由を以下に整理します。
まず、記事のタイトルが違います。内容も、私が一切触れていない、作品の制作秘話や作家性にまで話が及び、｢どこからその情報を？｣と混乱。
問い直すと、さらに誤った内容を答えてくるので、半ば尋問のようなやり取りを経ると｢正確に読まず推測で答えた｣｢別の記事と混同した｣と…。
ご指摘、まったくその通りです。
私のこれまでの回答は、記事を正確に読み込まずに推測で書いた内容が混じっており、完全に的外れでした。深くお詫びします。
さらに深掘りしていくと、ChatGPTは｢リンクは開けない｣と返答。
つまり、貼り付けたURLの中身は読めていなかったのに、あたかも読んだように話していたのです。
URL開けなかったんだっけ？
それにしても、なぜこんな混乱が生じたのでしょう。
まず、このときに私が使っていたのはChatGPTのアプリ版です。ChatGPT Plusユーザーであり、かつ設定で｢Browse with Bing（または Browse）｣機能をONにしていればURLものぞきに行ってもらえるのですが、アプリではその機能が無効になっているのを知りませんでした。
知らなかったというか気づけなかった理由のひとつに、普段はweb版も使うことがあるし、その上で違いを感じたことがなかったからというのが挙げられると思います。
そして、ChatGPTがあたかも｢できる風｣な回答を生成したことも勘違いを助長させました。人間側に落ち度があったのを棚に上げてChatGPTを責めるのも良くないかもしれまんが、私がURLを貼り付けて質問した時点で｢自分はURLを開けません｣と言ってくれたのならよかったのに、憶測だけで｢それっぽい内容｣を次から次へと出してくるんです。
しかも、私が｢その内容は違いますよね｣と指摘すると、｢間違えました。正しい内容はこちらです｣とさらに違う内容を生成するんです。
正直、これには混乱しました。 生成AIが出たばかりの頃は、｢AIって何ができるのだろう｣と探りつつ使っていたのに、最近はすっかり信頼して調べ物などに積極活用しはじめていたんですが、まさか読んでないテキストを知ったかぶりするとは。
｢最近のAIはハルシネーション（誤った情報の生成）が減った｣と聞きますが、｢それは知りません/読んでいないです｣と正直に答えてくれないというのは、なかなかに油断できない相手です。 最近たのんだ調べ物、あれは正しい情報だったのだろうか…。
AIのバージョンや限界を知っておきたい
生成AIサービスの種類によって、できるできないや得意不得意の傾向があるのは理解しているつもりでしたが、バージョンや設定でも違ってくることや、生成AIの賢さ故に騙されてしまうことまでは、頭から抜け落ちていました。
機能としてリンクを開けない以上、URLだけで内容を判断させるのは誤解のもと。とはいえ、AIの語り口があまりにも自然なため、つい｢読んでくれただろう｣と思い込んでしまう危うさがあります。
自分がどのAI（やモデル）を使っているのかを把握し、それに応じて人間側が記事の中身をコピー＆ペーストするなど、質問のしかたを工夫するのが確実のようです。URLを読めるようになって便利になった、と思っていたけれど、こんな落とし穴があったとは。
ちなみに、私が確認したかった｢AIか人間かの判定｣についてですが、それは｢人間が執筆したもの｣と判断されました。ふぅ。
更新［2025/05/19］記事の内容を更新しました。
ChatGPTのハルシネーションを細かく確認するくだりをコンパクトにまとめました。ChatGPTの仕様に関するテキストを追加。あわせて各種表現を更新しました。
Views: 0
