【4-2】生成AIに潜む重大なリスク
◆ 安全に使うための「信号機」
生成AIは非常に強力なツールですが、使い方を誤ると大きな問題を引き起こす可能性があります。ここでは、ビジネスで安全にAIを活用するために必ず知っておくべき3つの重大なリスクを「赤信号」として学びましょう。
◆ 赤信号①：AIは平気で嘘をつく（ハルシネーション）
第1章でも触れましたが、これは最も注意すべきリスクです。AIは事実ではない情報を、まるで真実であるかのように自信満々に生成することがあります。これを「ハルシネーション」と呼びます。
具体例：
- 存在しない論文を引用する：「〇〇に関する研究論文を教えて」と聞くと、実在しない著者や論文名を創り出して引用することがあります。
- 歴史的な出来事を間違える：特定の事件の発生日や関係者の名前を間違えて、もっともらしいストーリーを生成します。
対策：AIの回答は常に「仮説」と捉え、必ず公的な情報源などで裏付けを取る（ファクトチェック）ことが不可欠です。
◆ 赤信号②：入力した情報はAIの学習に使われる可能性がある
多くのAIサービスでは、ユーザーが入力した情報をサービス改善のために再利用することが利用規約に定められています。
具体例：
- 機密情報を要約させる：未発表の新商品の企画書や、個人情報が含まれる顧客リストなどを要約させると、その情報がAIの学習データとなり、他のユーザーへの回答として出力されてしまうリスクがあります。
- 社内秘のメールを作成させる：人事情報や会社の財務状況に関するメールの作成を依頼すると、その内容が外部に漏洩する可能性があります。
対策：会社の機密情報、取引先の非公開情報、顧客や従業員の個人情報は絶対に入力しないというルールを徹底する必要があります。
◆ 赤信号③：AIは社会の偏見を反映する（バイアス）
AIはインターネット上の膨大なテキストを学習しているため、そのデータに含まれる社会的な偏見やステレオタイプも一緒に学習してしまいます。
具体例：
- 職業のイメージを固定化する：「看護師のイラストを描いて」と指示すると女性ばかりを生成したり、「社長のイラスト」では男性ばかりを生成したりする傾向があります。
- 特定の属性に偏った意見を述べる：特定の国籍や性別に対して、偏った見方に基づいた文章を生成してしまうことがあります。
対策：AIの生成物は常に社会的なバイアスを含んでいる可能性があると認識し、特に公に発信するコンテンツに利用する際は、人間の目で厳しくチェックすることが重要です。
【用語まとめ】
- バイアス (Bias)
偏見や先入観のこと。AIが学習データに含まれる偏った情報を反映してしまうこと。 - 情報漏洩 (じょうほうろうえい)
内部にとどめておくべき情報が外部に漏れ出てしまうこと。