【イベントレポ】AIの光と闇？失敗しないために知っておきたいAIリスクとその対応 ①政府の動き編 by StudyCoさん

はじめに

StudyCoさん主催の「AIの光と闇？失敗しないために知っておきたいAIリスクとその対応 ①政府の動き編」に参加しました！

この記事ではイベントレポをまとめました。

ちいかわお好きなの親近感湧きました😊
ハチワレグッズ持ってたらキャッチの人に声かけられなかったの面白すぎる笑
困ってる人がいたら勧めてみます🫡

概要

大まかな内容は下記の二本立て。詳細な内容は『AIリスク教本』からもとられているとのこと。

• AIリスクに対する政府の動向
• AIリスクの分類

AIリスクに対する政府の動向

リスクの種類

• 社会的受容性
• 遵法性

各国政府の動き

• 日本：G7広島AIプロセス
• アメリカ：雇用決定におけるAIの使用を規制、ボランタリー・コミットメント、AI Safety Institute
• イギリス：AI規制制作文書、AI Safety Institute
• EU：GDPR（General Data Protection Regulation：一般データ保護規則）、欧州AI規則案

日本にもJapan AI Safety Instituteが2024年2月にできたみたいです。
つい最近ですね。

また、アメリカでは、ニューヨーク公共図書館もAI Safety Instituteに参加する、という記事がカレントアウェアネスにありました。
そうか、著作物に関わるものなので、図書館も関係ありますよね🤔

EU

GDPR

加盟国の国内法に優先して適用される！（これはかなり強い）
EEAと取引があるすべての組織にも範囲が適用されるので、「外国のことだしいいや」が通用しない。

自動化された個人意思決定…？
→就職活動の採用や病気の診断など、人生に重大な影響をもたらすような意思決定をAIに任せちゃダメだよってイメージかな。

欧州AI規則案

• リスクベースアプローチ→リスクごとで規制の強さが変わる
• 罰則を伴う法的拘束力がある
• EUに関わるなら対象になる可能性は否めない
• 全世界のデファクトスタンダードになるかも？
  今は日本国内では法的な罰則はないが、影響を受ける可能性がある

犯罪予測システムはダメなんだ、じゃあ、パーソンオブインタレストは実現しないのかな。
まあ確かにこれで冤罪が生まれまくっても困るかも。
リスクレベルが上になっているものの根拠というか理由を深掘りすると面白いかも。

約65億の制裁金はびっくり😲
ただ大企業がやらかした場合に金銭的な面だけでなく、実際の損害額はそれでは済まないのかもなーとも思いました。
社会的な面で被害を受けた人たちの存在を測るのは現実的じゃないしな〜。

AIリスクの分類

信頼できるAIと対照になるリスク

1. 説明可能性⇄ハルシネーション（AIの挙動を理解・説明できないリスク）
   • 局所的な説明：特徴量など一部の内容による影響
   • 対局的な説明：全般的な振る舞いによる影響
2. 公平性⇄バイアス（根拠にする情報の偏りによって起こる）
   • 保護属性はAIの判断根拠にするのは×、間接的に類推できるようなものも×
   • 特徴量にバイアスがないか確認が必要
3. 堅牢性⇄AIの精度劣化・AIに判断を迷わせる攻撃のリスク
4. 透明性⇄AIを人と誤解する・AIサービスの責任の所在が不明確になる
   • ステークホルダーの多層化・法整備が技術に追いついていない
   • 法整備が整うまで人間が介在して責任の所在を明確にする
   • 学習データ関係の概要を情報開示する（どういうデータ？　どういうプロセス？）
5. データの権利／プライバシーの尊重⇄著作権・肖像権の侵害・生成AI作成物の著作権が認められにくくなる・生成AIが個人上を出力する

リスク対策への絶対的な解はない、というのが印象的でした。

去年プロマネの勉強をしていたので、リスク対応策の話が面白かったです！
機械的にではなく、取りうる策と実際の問題を踏まえて検討するのが大事ですね。

まとめ

最初の注意でサブカルネタ多いですよ！とあったのですが、想定以上に豊富なネタで楽しかったです😊
ちょっと慣れていないテーマだったのでネタが挟まる時に息抜きになって助かりました笑
猫ミームの流れ完璧でした🐱

AI関連は昨年からの技術発展が目覚ましい上にニュースもバンバン入ってきていて、自分の中で噛み砕いて情報整理する機会がなかったのがずっと気がかりでした。
一応、G検定は合格できたものの、断片的な情報でしか頭に入ってなかったので、今回のウェビナーで法律・規則周りの大枠を整理できて良かったです！

初めに、特にAIシステム提供者向けと言われていましたが、ユーザー側・導入企業側も法の規制による影響が把握できるので、知っておいて損はない内容だったと思います✨

同じテーマのウェビナーの第2回目を開催されるとのことなので、早速申し込みました！
楽しみです🎉

ブログランキング参加中です！

▼お役に立てましたらぽちっと応援頂けると励みになります！
他の素敵な資格ブログさんに飛べます！

にほんブログ村

人気ブログランキング

関連