生成AIを使う前に知っておきたい課題

生成AIは便利ですが、知らずに業務へ持ち込むと事故が起きます。どこで転ぶかを先に知れば、避け方も見えます。

こんにちは、zawato（@zawato7）です！

本記事はディープラーニング入門ロードマップの第32回、シリーズ最終回です。最後は使う側が引き受けるリスクの話です。

ハルシネーション｜自信たっぷりに間違える

ハルシネーションとは、生成AIが事実と異なる内容をもっともらしく出力してしまう現象です。幻覚とも訳されます。

大規模言語モデルは次に来る確率の高い言葉をつないで文章を作ります。自然さが最優先で、内容が事実かを照合する仕組みはありません。存在しない論文や条文をそれらしく書くのはこのためです。

人間のフィードバックによる調整や外部検索の併用で減らせますが、ゼロにはなりません。重要な用途では人によるファクトチェックを前提に組み込みましょう。

バイアスと公平性｜偏りは学習データから入り込む

AIの判断が特定の属性に不利に働く問題は、多くの場合、学習データの偏りに由来します。2つの用語が対で問われます。

やっかいなのは全体の正解率が高いと見えにくい点です。モデルの評価を平均だけで済ませず、属性ごとに分けて確認しましょう。

著作権と個人情報｜入力と出力の両方に注意

法的リスクは「何を入力するか」と「出てきたものをどう使うか」の2方向で考えます。まずは出力側から。

著作権法30条の4により、情報解析目的の利用なら著作権者の許諾なく著作物を使えるのが原則です。ただし著作権者の利益を不当に害する場合は除かれます。学習自体は広く認められますが、出力が既存作品と似ていれば別問題。侵害は類似性と依拠性の両方で成立します。

入力側も同様です。SaaS型のサービスに機密情報や個人情報を打ち込むと、学習に使われて他者への回答に現れる場合があります。個人情報は目的を明示して集め、目的外に使わないのが原則。迷う場面では専門家に確認しましょう。

ディープフェイクとAIガバナンス｜ルールと体制で抑える

ディープフェイクとは、実在の人物の顔や声を合成した偽の映像・音声です。画像生成や音声合成の進歩で、わずかな素材から誰でも作れます。設計段階から対策を織り込むセキュリティ・バイ・デザインが要ります。

社会のルール整備は、法的拘束力を持つハードローと、拘束力のないソフトローに分かれます。

EU AI ActはAIをリスクの高さで分類し、許容できないものは禁止、高リスクには厳しい義務を課します。組織内でこれを回す仕組みがAIガバナンスで、教育・アセスメント・監査を続け、最終判断は人間が下します。

まとめ

• ハルシネーションは言語モデルの仕組みに由来し消えず、バイアスは全体平均では見つからない
• 著作権法30条の4は情報解析目的の利用を原則認めるが、著作権者の利益を不当に害する場合は除かれる
• 日本はソフトロー、EUはハードロー。組織はAIガバナンスで人間の最終判断を担保する

よくある質問

Q. ハルシネーションはプロンプトの工夫でなくせますか？
A. 減らせますが、なくせません。根拠資料を一緒に渡す工夫は有効ですが、最終確認は人が行う前提で使いましょう。

Q. 生成AIに社内資料を貼り付けても問題ないですか？
A. 利用規約次第です。入力が学習に使われる設定なら、機密情報が他者への回答に現れるおそれがあります。学習に使わないプランかを確認しましょう。

Q. 生成AIが作った画像に著作権は発生しますか？
A. AIが自律的に生成しただけのものには原則認められないとされます。人の創作的な意図が表現に反映されていれば、認められる可能性があります。

Q. EU AI Actと日本のAI事業者ガイドラインの違いは？
A. 拘束力の強さです。EU AI Actは制裁を伴うハードローで、リスクに応じて規制を変えます。AI事業者ガイドラインはソフトローです。