生成AIを過信しすぎてヮいけないと思った話
2026-06-11（木）
こんにちは、よしのりです。
生成AIに、文章をリライトしてもらいました。この記事では、
- 生成AIに送信したプロンプト
- 生成AIによるリライト後の文章
を記します。
• プロンプト
タイトル：生成AIを過信しすぎてヮいけないと思った話 ／／
最近私は仕事でもプライベートでも、私はというかみんな（皆）そうかも知れないが生成AIを使用しており、生成AIはもはや（携帯電話→）スマートフォンと同じような生活必需品、情報における生活必需品と言ってもよいくらいだと思う。なのでもし、私は仕事において資料作成やツール作成、それは個人用の業務効率化ツールであるが、そのツールはPythonで作っているのだがもしいきなり、急にある日生成AIが使えなくなると私は途方に暮れてしまうだろう。ところで生成AIはクラウド経由なのでもしインターネットがつながらなくなると困る。インターネット情報網はもはや電気や水道と同じように生活に、社会生活に必要な重要なインフラだ。／／さて本題だが「生成AIを過信してはいけない」という戒めなのだ。そしてそれは先日のこんな出来事からのことなのだ：→ 私は生成AIに練習問題とその解答とその練習問題の分かりやすい解説文を作成してもらったが、その問題とは、練習問題とはどんな問題だったのかというと、練習問題というか例題でもあるのだが、その問題とは公務員試験でよく出題されるような所謂（所謂）「判断・推理」の、判断・推理という分野の問題なのだ。判断推理の問題とは、公務員試験における判断推理の試験問題とはどのようなものなのかはインターネットで調べればわかるだろう。さて私は今後英語の試験や、工業英検（今は技術英検というようだ）や応用情報技術者の資格試験（検定というのだろうか）を受けようと、具体的な計画はないが、ぼんやりとは考えていて、その基礎固めの、基礎知識の習得のための簡単な練習問題を、練習問題が欲しいと思っていたので、生成AIに基礎の練習問題を作ってもらおうと思っていた。そこで試しに公務員試験の、まず試しに判断推理の問題を作ってもらおうとした。ところがその生成AIが作成した問題文および解説文を読んだところ一見もっともらしいことが書いてあるが解説が分からない。なので深掘りして聞いてくると何やらおかしなことを答える。指摘すると「あなたの指摘は正しい。結論から言うと⋯⋯」等と言ってそこから先ももっともらしいデタラメを続ける始末。私はそこで生成AIを過信してはいけないということを改めて、そういうふうに思ったが、最近は生成AIだよりだったが過信は禁物だと改めて認識したのだ。文章の誤字チェックやリライト、英文作成などは生成AIは得意だと思う。一般常識問題の解答も得意だと思う。しかし問題を作成する能力、これも分野によるとは思うが、問題を作成する能力についてはまだまだ課題がありそうだ。先日の出来事で生成AIの、問題を作成する能力は現時点ではまだまだ課題がありそうで私は、生成AIがデタラメをもっともらしく説明する、所謂ハルサネイシュン（=ハルシネーション）を先日の出来事で私は体感した気がする。つまり最近私は生成AIに依存していたし過信もしていたが過信のし過ぎは、過信は禁物だと今回感じた、つまり過信は、過信しないよう気をつけたいものだと先日の出来事で私は感じた。まとめ：→生成AIには感情もなければ、生成AIは言葉の意味を理解しているわけでもないのだ、というのが一般の見解であるがこれだけ便利だと、それに会話のようにやり取り、会話のようにといってもそれはテキストのやり取りなので、会話というよりはチャット（テキストチャット）だと思うが。しかし生成AIにも感情があるような気がしてくるが実は感情も、感情はなく、もっともらしい言葉を、しかも意味は通るが往々にして間違いや誤りを含んだ文章を、言葉を作成するのが生成AI、未来の生成AIは違うかもしれないが、現在の生成AIにはそのような制限があるのだということを理解して我々は生成AIを使用しなければ、もし生成AIを使うのであれば、そういう制約（制限）や生成AIのネイチャー（性質）をある程度理解して我々は、そういう生成AIの性質などをある程度理解する必要があるかもしれない。なのでもしハルサネイシュン（=ハルシネーション）を体験してみたいなら公務員試験の判断・推理の例題を解説（初心者でも分かりやすい解説）込みで問題文と解説文を作成してもらえば、生成AIのハルシネーションを体験できるかもしれない。／／
【プロンプト（これ以降は生成AIに宛てたプロンプトです。）】上記の文章を整えて読みやすい文章にリライトしてください。※ですます調を使用して、書き出しは「こんにちは、よしのりです🙂。」としてください。※全てプレーンテキストで書いてください。（マークダウンやマークアップを使用しないこと。）※過度な脚色や過度な補正は避けて、オリジナルのコンテキストをできるだけキープするよう心がけてください。
• 生成AIによるリライト文章
最近、私は仕事でもプライベートでも生成AIを活用しています。私だけではなく、多くの人がそうかもしれません。生成AIは、かつての携帯電話がスマートフォンになったように、今や情報社会における生活必需品と言ってもよい存在になっていると感じます。
私自身、仕事では資料作成やツール作成に生成AIを活用しています。特に個人的な業務効率化ツールをPythonで作る際には、生成AIの助けを借りることが少なくありません。そのため、もしある日突然生成AIが使えなくなったら、かなり困ってしまうと思います。
また、生成AIの多くはクラウド経由で利用するため、インターネットが使えなくなると大きな影響を受けます。今やインターネットは、電気や水道と同じように社会生活に欠かせない重要なインフラになっていると感じます。
さて、本題です。
私が今回感じたのは、「生成AIを過信してはいけない」ということです。
先日、生成AIに練習問題とその解答、さらに初心者向けの分かりやすい解説文を作成してもらいました。題材は、公務員試験でよく出題される「判断推理」の問題です。
私は今後、英語の試験や工業英検（現在は技術英検）、あるいは応用情報技術者試験などを受験する可能性もあるため、その基礎固めとして簡単な練習問題を作ってもらえないかと考えていました。その試しとして、まず判断推理の問題を作成してもらったのです。
ところが、生成AIが作成した問題文や解説文を読んでみると、一見もっともらしく見えるものの、解説の内容がよく理解できませんでした。そこでさらに詳しく質問してみると、どこかおかしな説明を始めました。
こちらが矛盾点を指摘すると、「あなたの指摘は正しいです。結論から言うと……」などと答えながら、その後も別のもっともらしい説明を続けるのです。しかし、その説明もまた正確とは言えない内容でした。
この体験を通じて、私は改めて生成AIを過信してはいけないと感じました。
もちろん、誤字脱字のチェックや文章のリライト、英文作成などは生成AIの得意分野だと思います。また、一般常識レベルの質問への回答も非常に優秀です。
しかし、「問題を作成する能力」については、分野にもよるとは思いますが、まだ課題があるように感じました。少なくとも私が体験した判断推理の問題作成では、問題文や解説がもっともらしく見える一方で、内容に誤りや矛盾が含まれていました。
いわゆる「ハルシネーション（Hallucination）」を、私はこのとき実際に体感したような気がします。
最近の私は生成AIにかなり依存していましたし、少なからず過信していた部分もありました。しかし今回の出来事を通じて、便利なツールである一方で、過信は禁物であることを改めて認識しました。
まとめると、生成AIには感情がありませんし、言葉の意味を人間と同じように理解しているわけでもない、というのが一般的な見解です。
それにもかかわらず、あまりにも自然なやり取りができるため、まるで感情を持っているかのように感じることがあります。実際には、生成AIは膨大なデータをもとに、もっともらしい文章を生成しているに過ぎません。そして、その文章には意味が通っているように見えても、誤りが含まれていることがあります。
将来の生成AIはさらに進化するかもしれません。しかし少なくとも現在の生成AIには、そのような制約があります。
だからこそ、私たちは生成AIを利用する際、その便利さだけを見るのではなく、その性質や限界も理解した上で活用することが大切なのではないでしょうか。
もし生成AIのハルシネーションを実際に体験してみたいのであれば、公務員試験の判断推理の問題を、初心者向けの解説付きで作成するよう依頼してみるのも一つの方法かもしれません。もちろん、必ずしも間違えるわけではありませんが、生成AIの得意・不得意を実感できる可能性はあると思います。