そもそも生成AIとは？
生成AI（ジェネレーティブAI）とは、学習済みのデータに基づいて、新たなデータを生み出す人工知能（AI）の一種です。
従来のAIが画像認識や音声認識のように既存のデータから答えを探し出すのに対し、生成AIはゼロから新しいデータを生み出すことができます。
例えば、今までのAIは「犬と猫の画像で犬 or 猫か判断するもの」で、生成AIは「犬猫の特徴を持つ新しい動物」のイメージとなります。
はじめに2022年11月にChatGPT（会話形式で答えてくれるAIチャット）が登場してから「生成AI（新しいアイデアなどを生み出すAI）」が今後の仕事の仕方が変わっていくという話が確実な将来になってきました。ではどんな仕事が今[…]
生成AIを使用時のリスク
生成AIは新しい無限の可能性を提示してくれます。
ただし、使用するときにどんな文章や画像などができるのかは予測できないというデメリットもあります。
その他にも注意するべき点がありますので、ご紹介します。
①情報漏えい
ChatGPT（会話形式で答えてくれるAIチャット）などの無料版では入力した情報を学習してしまうため、ビジネスや個人情報などを入力することは危険です。
例えば、カレー屋さんのメニューのキャッチコピーをChatGPTに考えてもらいました。
秘伝のレシピの隠し味をChatGPTに伝えて、それを秘密にしてと言ってもその言葉を学習して使ってしまいました。
その結果、そのデータを学習し、他の人にも知られてしまう可能性があります。
生成AIに機密情報などを入力する場合は生成AIの利用規約などを確認することをおすすめします。
②著作権侵害
生成AIではインタネット上の大量のデータを使って学習しているため、意図せず同じような文章や画像が作成されてしまう可能性もあります。
特に画像生成では著作権侵害の可能性も高く、「出力が既存の著作物と似ているかどうか」が判断のポイントになります。
そのため、使用する際は文章であれば、「web上に似たような文章が存在しないかコピーチェック」などで確認することお大事です。
画像であれば、「Googleで類似画像検索などのツール」を使って似ている画像がないか、また生成AIの規約なども確認する必要があります。
日本でもAIの著作権についてはまだまだ検討なども多く、最新情報などは確認することも大事です。
③プライバシー侵害
個人の情報を集めるためにAIなどで情報をまとめたり、作り話を入れたプロフィールを作成などするとプライバシー侵害に当たる可能性もあります。
例えば、好きなアイドルのプライベート情報を知りたくて、AIにまとめてもらったが、事実確認しないでSNSに投稿するなどもプライバシー侵害になることもあります。
AIはこの後に紹介するリスクの④公平性の不透明さ⑤ハルシネーション（虚偽）などで間違った情報なども作成する恐れがあります。
④公平性の不透明さ
AIはどのように結果が表示されるか予測できないため、時には偏りが生じます。
例えば、「性別も入れたカレー屋のペルソナ表にしてください作成してください」としたときに性別の偏りがあることもあります。
その他にも悪用できそうなプログラムを意図せず作ってしまうこともあります。
AIの影響範囲も考えて、利用する範囲を判断することが大事です。
⑤ハルシネーション（虚偽）
ChatGPTなどは入力した文章をもとに「つぎの文章を大量のから確率的に確からしいテキストを作っている」ため、間違えることもあります。
2023年には大阪府が作成したChatGPTを使ったチャットツールで万博は中止なのか？の質問に「中止になった」と虚偽の情報を回答していました。
そのようなことは多いため、あくまで最終的には自分で事実を確認する必要はあります。
番外編⑤ハルシネーション（虚偽）への対策
ハレーションを完全になくすことはできませんが、対策として「入力文章（プロンプト）を工夫する」ことができます。
例えば、「事実のみで回答して、できない場合は回答できないと答えてください」と書くことで、最もらしい文章を作らないように制御することもできます。
その他にも「どのように考えて、答えを出したのかも教えてください」などのように書くことでもハルシネーションを減少できます。
その他にもプロンプトのコツは以下の記事を見てください。
ChatGPTのプロンプトとは？まずChatGPTはコンピュータとの会話を楽しむためのツールです。言い換えれば、コンピュータとおしゃべりできる友達のような存在です。ChatGPTに質問をすると、それに答えてくれたり、おしゃべりを[…]
まとめ
生成AIは課題もまだまだ多いですが、ゼロから調べたり考えるよりさっと物事を知りたい、作品を作りたいなどにはとても時間の節約（印象は半分くらい）になります。
セキュリティーの課題など大きい課題もありますので、すぐに便利にならないことも多いですが間違えなく今後の未来を変える存在になっていくと思います。
AIを使える人材は今後も価値は上がると思いますので、ぜひ生成AIに多くの人が触れてほしいです。
