生成AIの代表的リスクの一問一答

生成AIの利用に伴う「情報漏えいリスク」の例として、最も適切なものを1つ選びなさい。

• ①AIが作成した文章に、事実と異なる数値が含まれているのに気づかずに資料に載せる。
• ②社外秘の会議資料を、入力が学習に使われる設定のままで、AIサービスに入力する。
• ③AIが作成した画像が、既存のキャラクターに似ていることに気づかずに広告に使う。
• ④AIが作成した採用の評価に、性別による偏りが含まれていることに気づかずに使う。

生成AIの利用に伴う「名誉毀損・信用毀損・炎上リスク」の例として、最も適切なものを1つ選びなさい。

• ①人気の漫画のキャラクターに酷似した画像をAIで作り、自社の広告に許可なく使う。
• ②社外秘の売上の資料を、入力が学習に使われる設定のままAIに入力して分析させる。
• ③実在の人物の、事実と異なる不祥事をAIに書かせ、確認せずにSNSで公開する。
• ④AIが作った市場の統計の数値を、元のデータで確かめずに社内の報告書に載せる。

ディープフェイクによる「なりすまし」のリスクの例として、最も適切なものを1つ選びなさい。

• ①社長のあいさつ文をAIに作らせたら、実際にはない実績が書き込まれていた。
• ②社長との面談の記録を、入力が学習に使われる設定のままAIに入力する。
• ③他社の社長の講演のスライドを、無断でAIに加工させて自社の資料に使う。
• ④社長の声と顔を再現したビデオ通話で、経理担当者に至急の送金を命じる。

ソーシャルエンジニアリングに関する記述として、適切でないものを1つ選びなさい。

• ①ソーシャルエンジニアリングは、ソフトウェアの脆弱性だけを狙う技術的な攻撃である。
• ②人の心理的な隙や油断につけ込み、機密情報を聞き出したり操作させたりする手口である。
• ③上司や取引先を装い、至急の対応を求めて、考える時間を与えない手口がよく使われる。
• ④電話や声だけで判断せず、別の連絡手段で本人に確認することが、有効な対策になる。

生成AIがサイバー攻撃に悪用されるリスクの説明として、最も適切なものを1つ選びなさい。

• ①生成AIは攻撃者が使えないように作られているため、悪用されるおそれは一切ない。
• ②生成AIが悪用されるのは画像の分野だけで、文章やプログラムの分野では起こらないとされる。
• ③自然な文面のフィッシングメールを大量に作るなど、攻撃の手間を下げるのに悪用されうる。
• ④生成AIはプログラムを書けないため、不正なプログラムの作成に悪用されることはない。

多要素認証の説明として、最も適切なものを1つ選びなさい。

• ①知識・所持・生体など、異なる種類の要素を組み合わせて本人かどうかを確認する方法
• ②パスワードと、事前に登録した秘密の質問の答えの2つを入力して本人を確認する方法
• ③パスワードを定期的に別の新しいものに変更して、同じものを使い続けないようにする方法
• ④ログインに使われた端末の情報を記録し、不審なログインがないかを後から調べる方法

生成AIの出力に含まれる差別・偏見・バイアスに関する記述として、適切でないものを1つ選びなさい。

• ①学習データに含まれる偏りは、生成AIの出力が偏ってしまう主な原因の一つである。
• ②偏りの原因は学習データにあるため、利用者が出力を直しても対策にはならない。
• ③出力に、特定の属性への偏りや不公平な表現がないかを確認して、必要に応じて直していく。
• ④採用や評価のように、人に影響する用途で使うときは、特に注意が必要である。

生成AIに業務の情報を入力するときの考え方として、最も適切なものを1つ選びなさい。

• ①入力した情報は利用者の画面にしか表示されないので、どのような情報でも入力してよい。
• ②業務を早く終わらせるため、手元にあるすべての資料をそのまま入力して要約させる。
• ③個人のアカウントで使う無料のサービスなら、会社の機密情報を入力しても問題ない。
• ④入力データがどう保存・利用されるかを確認し、ルールで認められた情報だけを入力する。

生成AIの代表的リスクと、その例の組合せとして、適切でないものを1つ選びなさい。

• ①ハルシネーション：入力した個人情報が、別の利用者への回答の中に表れること
• ②情報漏えい：社外秘の資料を入力し、それが外部のサービスに保存されて漏れること
• ③権利侵害：既存の作品に酷似した生成物を、許可なく広告などに使ってしまうこと
• ④なりすまし：実在の人物の声や顔を合成した動画で、送金などを指示されること

生成AIの代表的リスクに関する次の記述a〜dのうち、適切なものの組合せを1つ選びなさい。
a．多要素認証は、パスワードと秘密の質問の答えを組み合わせる方式のことである。
b．ディープフェイクは、なりすましによる詐欺に悪用されることがある。
c．入力した情報は、サービス提供者側に送られることは一切ない。
d．生成AIの出力にも、学習データの偏りが表れることがある。

• ①a・b
• ②b・d
• ③a・c
• ④c・d