いまさら聞けない、生成AIサービスの注意点

日々、文章の読みやすさを追求している、上原です。
みなさんは生成AIサービスと、どんな風に付き合っていますか？　私は時間があるときには、できるだけ触れて慣れ親しむようにしています。そして、自分の業務プロセスの中に、少しでもAIで代用できる部分がないかと、試行錯誤しながらチャンスをうかがっているところです（笑）。

現時点でも、生成AIサービスは多くのことができます。文章生成や機械翻訳、データの解析や分析、画像生成や音楽生成も......。仕事が奪われる、と戦々恐々としている人が多いのも、わかる気がします。

ただ、現時点ではまだ、生成AIサービスが生成した創作物が、著作権法に触れる可能性を否定できません。また、AIが自己学習したデータの中に個人情報が含まれていた場合、プライバシーを侵害してしまう可能性があります。

そして、私が特に懸念しているのが、ハルシネーションです。生成AIサービスは、事実と異なる内容や無関係な内容を、それっぽい形で提示してきます。そのため使用者は、適切な命令に加えて、校正・校閲が必要になるわけです。AIが優秀だからといって、回答をうのみにすることは、まだ危険かもしれません。

試しに、ある生成AIサービスに対して、恥ずかしながら私が書いた書籍を知っているか聞いてみました。

私：「Webライティング成功の法則60」という本を知っていますか？

AI：はい、『Webライティング成功の法則60』は、ネット上で文章を書く際に役立つアイデアやコツをまとめた書籍です。著者は●●正治氏で、Webコンテンツ制作の専門家として知られています。本書は、ウェブサイトの記事やブログ、SNSの投稿など、オンライン上でのコミュニケーションに必要なスキルを身につけるためのヒントが盛り込まれています。また、わかりやすい言葉で説明されているため、初心者から上級者まで幅広い層に役立つ一冊として、広く読まれています。

ほめてもらえたのはうれしいのですが、私の名前は上原佳彦です......。恐らく実在するであろう別人の名前が出てきたので、名字は伏せましたが、上原ではありませんでした。

私：著者は、本当にその人で間違いないですか？

AI：申し訳ありません、私が回答した内容に誤りがあります。『Webライティング成功の法則60』の著者は●●洋治氏であり、私の回答にあった「正治」という名前は誤りでした。お詫び申し上げます。

名前はもちろん、名字も間違ったままです......。ちょっと質問を変えてみます。

私：この本は、どの出版社から販売されましたか？

AI：『Webライティング成功の法則60』は、SB Creative社から出版されています。SB Creative社は、日本の出版社で、主にコンピュータ関連書籍を中心に幅広いジャンルの書籍を手がけています。

出版社も違います......。もしかしたら、後発の本と間違えている......のかな？

私：似た名前の本と勘違いしていませんか？

AI：申し訳ありません、私が回答した内容に再度誤りがありました。『Webライティング成功の法則60』という書籍は存在しないようです。おそらく、私が他の書籍名を間違って回答してしまったのだと思われます。お詫び申し上げます。

とうとう存在自体をデリートされてしまいました......。

今回はBlogを面白おかしいものにするため、特に大きくすれ違ったやり取りを例としてご紹介しましたが、本来のAIは基本的に優れた回答を提供してくれます。別の生成AIサービスで試したら、ちゃんと著者として私の名前を教えてくれましたし......。プロンプト（指示）の設計次第で、AIとのすれ違いは減らせるはずですから、私が質問をもっと工夫すれば、正しい答えを導き出せたのかもしれません。

私が懸念しているのは、AIが質問の答えについて「わからない」とはいわずに、もっともらしい回答を自作してくることです。サービス精神が旺盛なのは歓迎ですが、不明ならば「わからない」といってほしいですし、必要があればさらなる情報のインプットを使用者側に要求してほしいものです。

こうした技術は日進月歩の勢いで進化していますから、おそらく改善はすぐに実施されることでしょう。あくまで現時点では、ハルシネーションに注意しながら、校正校閲を行う必要があるということです。このことに注意しておけば、生成AIサービスは素晴らしいツールだと感じています。