ChatGPT等の生成AIの驚異と脅威

2022年度AIPシンポジウム成果報告会（2023年3月28日）の特別講演「大規模言語モデルの驚異と脅威」（東京工業大学情報理工学院 岡崎 直観 教授）の動画（約43分）が公開されています。
ChatGPT、InstructGPTなどの大規模言語モデルやプロンプト、人間のフィードバックによる強化学習などの技術が説明されており、その仕組みを理解するのに参考になりました。
 
政府は人工知能（AI）に関わる政策を検討する「AI戦略会議」を5月にも設置し、「ChatGPT」など生成AIを含むAI全般の開発や活用を促す方策を専門家や政府関係者らで議論し、著作権や個人情報の扱いなど規制の必要性も精査するとのことです。
活用を前提とした規制の議論が行われることで、脅威が幾分でも減らせると良いと思います。
 
2022年度AIPシンポジウム成果報告会
2023年3月28日
主催 理化学研究所 革新知能統合研究センター
https://aip.riken.jp/sympo/sympo202303/
 
特別講演「大規模言語モデルの驚異と脅威」東京工業大学情報理工学院 岡崎 直観 教授
https://www.youtube.com/watch?v=PUuk4Cv-ycg
2022年11月にOpen AIが公開したChatGPTが世界で注目を集めている。一般ドメインかつ多言語で、従来のチャットボットとはレベルの異なる高品質の対話をリアルタイムに実現するサービスを（Research Preview版ではあるが）無料で提供し、検索、金融、広告、教育、法務などの広範囲な分野の転換点となり得ることは、驚異的なことである。本講演では、ChatGPTがベースにしているInstructGPTを中心に、大規模言語モデルやプロンプト、人間のフィードバックによる強化学習などの技術を概観する。また、ChatGPTのような生成型の人工知能が社会やビジネス、学術にもたらす脅威について述べる。
 
チャットＧＰＴなどの活用と規制議論、「ＡＩ戦略会議」設置へ…政策の司令塔
2023/04/26
https://www.yomiuri.co.jp/politics/20230425-OYT1T50283/
 
AI政策で司令塔、適正利用へ規制も議論　政府　5月にも戦略会議
2023年4月26日
https://www.nikkei.com/article/DGXZQOUA260VO0W3A420C2000000/