生成AIと安全性

「オープンハウス2024」の一環として、国立情報学研究所（National Institute of Informatics：NII）の活動報告（黒橋 禎夫 国立情報学研究所長）、3人の専門家の基調講演「生成AIと安全性」が行われ、ライブ配信が行われました。
3人の専門家の基調講演は、下記の通りです。
「AIセーフティへの政府の取り組み」（AIセーフティ・インスティテュート 副所長・事務局長 平本健二 氏
「SB Intuitions の大規模言語モデルと生成AIへの懸念に対する対策」（SB Intuitions株式会社 取締役 兼 CRO 井尻 善久 氏）
「生成AIに関するルール形成の最新動向」（京都大学大学院法学研究科 特任教授・弁護士 羽深 宏樹 氏）
いずれもわかりやすく話されており、参考になりました。
 
アーカイブ動画は、6月 17日まで公開されているということです。
https://www.youtube.com/watch?v=2CCHEATihj4&t=407s
 
オープンハウス2024：NII活動報告・基調講演「生成AIと安全性」
国立情報学研究所 - National Institute of Informatics
6月7日（金）13:00-15:00 NII活動報告・基調講演
https://event.nii.ac.jp/event/8572
 
 
Generative AI and Safety
 
As part of "Open House 2024," the National Institute of Informatics (NII) held an activity report by NII Director Yoshio Kurohashi, followed by three keynote speeches by experts on "Generative AI and Safety." The event was streamed live.
The three keynote speeches by the experts were as follows:

• "Government Initiatives for AI Safety" by Kenji Hiramoto, Deputy Director and Secretary-General of the AI Safety Institute
• "Addressing Concerns about Large Language Models and Generative AI by SB Intuitions" by Yoshihisa Ijiri, Director and CRO of SB Intuitions Inc.
• "Recent Trends in Rule Formation for Generative AI" by Hiroki Habuka, Specially Appointed Professor at Kyoto University Graduate School of Law and Attorney-at-Law

Each of the speeches was presented in an easy-to-understand manner and was very informative.
 
 
 
ChatGPT 4o

6月7日（金） NII活動報告・基調講演　文字起こし.pdf
PDF
「オープンハウス2024」の一環として、国立情報学研究所（National Institute of Informatics：NII）の活動報告（黒橋 禎夫 国立情報学研究所長）、3人の専門家の基調講演「生成AIと安全性」が行われ、ライブ配信が行われました。 3人の専門家の基調講演は、下記の通りです。 「AIセーフティへの政府の取り組み」（AIセーフティ・インスティテュート 副所長・事務局長 平本健二 氏 「SB Intuitions の大規模言語モデルと生成AIへの懸念に対する対策」（SB Intuitions株式会社 取締役 兼 CRO 井尻 善久 氏） 「生成AIに関するルール形成の最新動向」（京都大学大学院法学研究科 特任教授・弁護士 羽深 宏樹 氏）添付ファイルは、動画の文字起こしです。ステップバイステップでそれぞれの講演の要約を作成してください。
 
ChatGPT
平本健二氏の基調講演「AIセーフティへの政府の取り組み」
要約
平本健二氏は、AIの急速な技術進展とその社会的影響を背景に、政府がどのようにAIセーフティを推進しているかについて述べました。主なポイントは以下の通りです：

1. 政府と関係団体の取り組み:
   • 政府や関係団体が発表するガイドラインの重要性を強調。
   • これらのガイドラインを正しく理解し、広く普及させるための取り組みを紹介。
   • 最近の金融業界の生成AIガイドラインなどの具体例を示し、安全にAIを利用するための活動を行っている。
2. AIのリスクとガバナンス:
   • 技術的なリスクだけでなく、社会的リスク（プライバシー侵害、選挙への悪用、心理的影響など）も重要視。
   • AIのリスクを最小限に抑えながら、その価値やイノベーションを最大化するための仕組み作りを進めている。
3. 国際連携と標準化:
   • 各国との連携を強化し、国際的な政策の協調や技術標準の作成に取り組む。
   • G7やOECDなどの国際組織と協力し、AIセーフティの枠組みを作成する。

井尻善久氏の基調講演「SB Intuitions の大規模言語モデルと生成AIへの懸念に対する対策」
要約
井尻善久氏は、SB Intuitionsがどのように大規模言語モデルと生成AIのリスクに対処しているかについて説明しました。主なポイントは以下の通りです：

1. 生成AIのリスクと対策:
   • 言語モデルの急速な進展とそのビジネスへの影響を振り返り、生成AIのダウンサイド（リスク）について議論。
   • モデレーション機能やAIの安全性に関わる技術的な取り組みを紹介。
2. データの流通と活用:
   • 学習・推論時に使用するデータの流通メカニズムについての議論を紹介。
   • データの安全な流通と活用を確保するための技術や手順を整備。

羽深宏樹氏の基調講演「生成AIに関するルール形成の最新動向」
要約
羽深宏樹氏は、生成AIに関するルール形成の最新動向について、国内外の政策動向を紹介しました。主なポイントは以下の通りです：

1. 生成AIのガバナンスフレームワーク:
   • 生成AIのガバナンスに関する考え方のフレームワークを整理。
   • 生成AIの急速な進展に伴い、国内外でルール形成が活発化している現状を説明。
2. 政策動向と方向性:
   • 国内外の主な政策動向を紹介し、将来の政策の方向性を示唆。
   • 政策の一例として、G7やOECDでの検討、広島AIプロセスなどを紹介。
3. 国際連携と協力:
   • 国際連携の重要性を強調し、AIセーフティに関する各国の取り組みを紹介。
   • 国際的なルール作りや技術標準の調整を通じて、AIの安全性と信頼性を高める取り組みを進めている。

これらの要約は、各基調講演の主要なポイントを簡潔にまとめたものです。
 
 
黒橋 禎夫 国立情報学研究所長の報告の要約もお願いします。
ChatGPT
黒橋 禎夫 国立情報学研究所長の活動報告
要約
黒橋禎夫氏は、NII（国立情報学研究所）の役割と最近の活動について報告しました。以下はその要点です：

1. NIIの役割:
   • NIIは大学共同利用機関の一つであり、個別の大学では難しい研究やサービスを提供する役割を担っている。
   • 情報学研究のハブとして、設備や資金が必要なビッグサイエンスを支える場を提供。
2. 研究の取り組み:
   • 4つの研究系（情報学プリンシプル研究系、アーキテクチャー科学研究系、コンテンツ科学研究系、情報社会相関研究系）があり、それぞれが大規模な研究プロジェクトを進めている。
   • 例えば、河原林先生の離散数学グラフアルゴリズムの研究や、蓮尾先生の情報技術の社会的信頼性に関する研究などが紹介された。
3. 事業の取り組み:
   • 超高速ネットワーク「サネット」、研究データ基盤、サイバーセキュリティ、クラウド認証など、NIIが提供するインフラが日本の学術研究を支えている。
   • G7科学技術大臣会合で合意されたオープンサイエンスの推進に向け、研究データの公開やリサーチデータクラウドの充実を図っている。
4. 国際連携:
   • NIIは約200名の客員教授とともに、国内外の大学や研究機関と連携している。
   • フランスとの共同研究プロジェクト「コプHAI」や、先端国際共同研究推進事業「アスパイア」など、国際的な共同研究も推進。
5. 将来の方向性:
   • 情報学の基盤から知識基盤への移行を進め、AI生成モデルの活用によって学術分野横断の協力を促進。
   • データ基盤やネットワーク基盤をさらに強化し、総合的な問題解決に向けた研究と事業を融合させる。

黒橋所長の報告は、NIIが情報学研究の中心として、国内外の連携を強化しながら、技術と社会の両面で重要な役割を果たしていることを強調しています。
これらの要約は、活動報告の主要なポイントを簡潔にまとめたものです。詳細については、添付の文字起こしを参照してください​​.
 
 
平本健二氏の基調講演の中でAIセーフティ・インスティテュート（AISI)の活動について触れています。ポイントをまとめてください。
ChatGPT
AIセーフティ・インスティテュート（AISI)の活動について
平本健二氏の基調講演の中で、AIセーフティ・インスティテュート（AISI）の活動について詳しく触れています。以下にその要点をまとめます。

1. 設立の経緯と目的:
   • AISIは、AI技術の安全性確保を目的に2024年2月に設立された。
   • 日本政府の指導の下、AI技術のリスク管理と安全確保を推進。
2. 活動内容:
   • ガイドラインの策定と普及:
     • AI技術のガイドラインを策定し、これを広く普及させる活動。
     • 最近の金融業界向け生成AIガイドラインの例を挙げ、業界ごとの安全指針の整備。
   • リスク評価と管理:
     • AI技術のリスク評価とその管理方法の確立。
     • 国内外のガイドラインとの比較や翻訳作業を通じ、各国の基準を参照しつつ、日本独自の基準を整備。
3. 国際連携と標準化:
   • 他国のAIセーフティ組織との連携を強化し、国際的な基準作りに貢献。
   • G7やOECDなどの国際的な会議でのリーダーシップを発揮し、日本が主導する形での行動規範の作成。
4. 最新の取り組み:
   • 米国NISTのリスクマネジメントフレームワークの翻訳と公開準備。
   • レッドチーミング（脆弱性評価）の強化と、国際的な評価手法の導入。
   • AI技術の信頼性や公平性を確保するための技術開発。
5. 今後の方向性:
   • AIセーフティに関する技術の研究開発を継続し、産業界での信頼性確保を目指す。
   • 生成AIのデータ権利処理と利益還元の仕組みを構築し、持続可能な利用を促進。

平本氏の講演では、AISIがAI技術の安全性確保のために幅広い活動を展開していることが強調されました​​.