生成AIのココがダメ（408号）

前回は「まずはAIを使ってみようよ」という紹介記事を書きましたが、「光あるところ影がある」というわけで、全てを無条件に受け入れられるわけではありません。

　生成AI、使ってみませんか？（407号） 
　https://note.com/egao_it/n/n907d7a6e50f6

というわけで、今回は生成AIを利用する上での注意点についてお話をします。


1. 生成AIはあくまで伴走者

最初に「生成AIなんて道具に過ぎない」という至極あたり前のことを書いておきたいと思います。

道具なんですから、それを使う側の意識がすごく大事だって話です。
変な例えですが、包丁は料理に便利な道具ですが、人を傷つけることもできます。クルマだって、運搬や移動に便理ですが、一歩間違えば凶器になります。

生成AIだって同じで、使い方を誤れば、便利どころかトラブルの元になりかねないということです。

道具を使うのはあくまで「人」です。
主客転倒にならないように、注意したいものです（自戒も込めて）


2. 生成AIはウソを言う

はい。これはもう間違いなくその通りです。
めっちゃ、自信満々でウソをつきます。
しかも、それを正しいと言い張って訂正してくれない場合もよくあります。

この原因ですが、主にトレーニングミスやトレーニング不足によるものです。
トレーニングというのは、生成AIを提供する側（chatGPTなら開発会社のOpenAI）が行うもので、生成AIを鍛えるために行う作業のことです。
例えば、chatGPTだったら、GPT3.5は2021年9月時点のデータですし、GPT4 であっても2023年10月のデータとのこと。
生成AIからすれば、トレーニングによって得た知識（学習済モデル）は正しいという前提で回答するしかありません。推論をする上での拠りどころですから。

ところが、これをベースにすると、トレーニングデータ量が少ない分野や数年前の情報ではお話にならない分野での現実世解とのズレが表面化します。

そのズレというのが、ウソという形で表面化するんですね。

もちろん、生成AIの運営側も十分それは承知していて、学習データだけでは回答できそうにない場合は、検索エンジンなどを利用して生成AI自身の回答を補強させる仕組みにしています。

とはいえ、この手法も完璧ではありえません。
結果として、ウソを堂々と主張するケースが出てくるわけです。

なお、AIがウソついとるな？と感じたら、人間側で調べた結果（記事のURLなど）をつきつけるのは有効で、素直に「ごめんなさい」してくれます。笑。


3. 秘密情報の扱い

一般的な質問ではなく、打合せの音声をテキスト化する時などは十分に気を付けてください。

生成AIに限りませんが、社外秘の情報を外部サービスに渡すことには十分に慎重になるべきです。生成AIのサービスでは、さらにそのデータが流用される可能性がありますから、一層注意をすべきです。

流用というのは、こちらが提供した情報を汎用的なものと見做して、生成AI側に取り込む可能性を言います。
悪意で流用をするようなサービスは論外ですが、いわゆる「サービス向上のため」提供されたデータを利用しているサービスもあります。
この場合は、利用規約に必ず規定されていますので、規約をしっかり確認すべきです。

有償アカウントであれば、再利用はしないというのが定番のようです。
（情報保護をタテにした営業行為なのかもしれませんが...）


4. 著作権問題

これは特に画像生成などで問題視されているようですが、生成した文章や画像が他者の著作権を侵害するケースがあります。

特に画像生成では（アニメ制作で有名な）「スタジオジブリ風に人物を描いて」といった指定をされた場合の対応に問題があります。

著作権的には生成AIに「ジブリ風」で描いてもらったとしてもそれは盗作にはあたりません。
だって、著作権侵害というのは、その作家が書いたものをコピーした場合にのみ発生するルールだからです。

とはいえ、現実に作風をコピーしたことによる裁判も起きています。（争点は著作権違反ではなく、著作人格権やブランド盗用を理由とした不正競走防止法あたりと思います）

いずれにしても生成AI側も訴訟リスクを抱えてまで、類似画像の生成をしたいわけではありませんので、現状では作風を指定したプロンプト（作成指示）は拒否する傾向にあるようです。


5. 頼りすぎない

３つ目の注意点は、生成AIは「最大公約数」でしかない、という点です。

これは、生成AIが多くの情報を学習し、いわば最適解を返してくれるのですが、その分「優等生」な回答にならざるを得ないという問題です。

単に質問に対する回答を得たいだけなら「優等生」の回答でいいんです。

確かに生成AIに作らせれば、非の打ちどころがないように感じる文章を作ってくれます。
ですが、それは体裁が整っているだけで、内容の良し悪しとは関係ありません。

人が文章を書く時には必ず目的があります。商品の紹介だって、失敗した時の謝罪だって、その当人が書くことに価値があります。

ひながた（ベース）を生成AIに作ってもらうのは構いませんがが、その文に魂を入れるのは人でしかできないことです。

ちょっと、恥をしのんで告白しますが、ここ数回（405号〜407号）の「がんばりすぎないセキュリティ」では筆者自身が生成AIを利用していました。
もちろん、文章そのものは相変わらず筆者が執筆するのですが、骨組みの検討などに生成AIを積極的に利用していました。

ところがですね、この文章のレビューをしてくれている家族（家内）が「つまらん」と言うのですね。

聞いてみると、「どこがおかしいというわけじゃないけれど、いつもの熱量を感じない。平板になってて読んでてワクワク感がない」と言うのですね。

これは非常に重要な指摘だと思っています。

私は、あくまでストーリを組む部分にしか生成AIを利用していなかったのですが、それですらこういう結果が出てくるのです。

皆さんの想像以上に生成AIを頼りすぎるのは良くないことのようです。


6. まとめ（今日からできること）

前回は生成AIをかなり持ち上げましたが、今回はその逆に注意点を書きました。

今は、生成AIという技術の過渡期です。生成AIとの役割分担をどうすべきかということを人類全体が「走りながら考えている」状態だと思います。

「もう数年で生成AIに仕事を取られる」という主張もありますが、そんなことはなかろうというのが筆者の主張です。
現に、1970年代に一大ムーブメントとして流行した「合理化（機械化）反対」運動でも労働者の働く機会が減ることを訴えていましたが、今も皆さん（好きか嫌いかは別にして）働いていますもの。

すごいすごいと言われている生成AIを利用して、逆に人間のスゴさを感じた筆者でした。

今日からできること：
　・生成AIは平気でウソをつく。
　　→裏を取ることはとても重要
　・生成AIの生成物（画像や動画）の利用には十分な注意を。
　　→利用しなくて済むならそれが一番
　・結局は人間が作成しないと意味がない。
　　→生成AIの利用はせいぜいひながた作成まで

今回は、生成AI利用での注意点について書きました。
次回もお楽しみに。

（本稿は 2025年6月に作成しました）