プライバシー・公平性・透明性・安全性の一問一答

システムの企画・設計の段階から、あらかじめプライバシーの保護の仕組みを組み込んでおくという考え方として、最も適切なものを1つ選びなさい。

• ①プライバシー・バイ・デザイン
• ②オプトアウト
• ③ヒューマン・イン・ザ・ループ
• ④フィルターバブル

店舗などに設置したカメラの画像をAIで分析する場合の、プライバシーへの配慮として、最も適切なものを1つ選びなさい。

• ①カメラの画像は個人情報にあたることがないため、撮影していることを知らせる必要は一切ない。
• ②撮影していることや利用目的を掲示などで知らせ、必要以上のデータを保存しないよう配慮する。
• ③防犯目的と掲示していれば、同じ画像を販促のための分析に使うときも改めて示す必要はない。
• ④撮影していることを知られると客が来なくなるため、できるだけ気づかれないように撮影する。

採用の選考を支援するAIが、過去の採用データに含まれていた偏りを学習し、特定の性別の応募者を不当に低く評価してしまった。このような問題を防ぐための考え方として、最も適切なものを1つ選びなさい。

• ①AIの判断は常に客観的で公平であるため、結果を人が確認する必要はない。
• ②性別の項目を入力から削除しさえすれば、偏りは必ず完全になくなる。
• ③学習データの偏りを点検し、属性ごとの評価結果に不当な差がないかを検証する。
• ④過去の採用データは実績なので、偏りがあってもそのまま学習させるべきである。

AIの公平性についての説明として、最も適切なものを1つ選びなさい。

• ①公平性の定義はただ1つに決まっており、その定義を満たせばどのような場面でも公平だといえる。
• ②正解率が高いモデルであれば、属性によって結果に差があっても、必ず公平だといえる。
• ③公平性は技術的な問題にすぎないため、関係者の間で価値観について話し合う必要はない。
• ④公平性の定義は複数あり、状況によってはすべてを同時に満たすことができない場合がある。

AIのシステムについて、その判断の根拠や仕組み、データの扱いなどを、必要に応じて関係者に分かるように示すことを表す考え方として、最も適切なものを1つ選びなさい。

• ①透明性
• ②匿名性
• ③汎化性能
• ④冗長性

画像にわずかなノイズを加えるだけで、人間には元の画像と区別がつかないのに、AIに誤った分類をさせてしまう入力を何というか。最も適切なものを1つ選びなさい。

• ①データ拡張
• ②敵対的サンプル（Adversarial Examples）
• ③ドロップアウト
• ④ハルシネーション

AIの学習データに、攻撃者が意図的に不正なデータを紛れ込ませ、モデルに誤った判断をさせたり、特定の入力で誤動作させたりする攻撃として、最も適切なものを1つ選びなさい。

• ①データクレンジング
• ②データ拡張
• ③データポイズニング
• ④データドリフト

大規模言語モデルを組み込んだサービスに対して、悪意のある指示を入力や参照される文書に紛れ込ませ、開発者の意図しない動作や情報の漏えいを引き起こそうとする攻撃として、最も適切なものを1つ選びなさい。

• ①SQLインジェクション
• ②ブルートフォース攻撃
• ③DDoS攻撃
• ④プロンプトインジェクション

複数の組織や端末がデータを1か所に集めることなく、それぞれの手元でモデルを学習させ、学習の結果（パラメータの更新情報など）だけを共有して全体のモデルを改善する手法として、最も適切なものを1つ選びなさい。

• ①連合学習（Federated Learning）
• ②アンサンブル学習
• ③転移学習
• ④強化学習

AIのシステムの安全性とセキュリティの確保についての考え方として、最も不適切なものを1つ選びなさい。

• ①想定外の入力や状況でも、人や財産に危害を与えないよう、リスクを評価して対策を講じる。
• ②AIのモデルは攻撃の対象にならないため、従来と同様のセキュリティ対策は不要である。
• ③攻撃者の視点でシステムの弱点を探す検証（レッドチーミングなど）を行い、弱点を改善する。
• ④問題が起きたときに、AIの動作を止めたり人が介入したりできる仕組みを用意しておく。