以下は　2025年3月27日　朝日新聞の記事より

AI時代に求められる倫理観

計り知れない価値を生み出す一方、社会に新たな問題や懸念をもたらしつつあるAI(人工知能)。 倫理や法律の観点から科学技術と向き合い、課題解決をめざすELSI(エルシー)の役割について考える「ELSI大学サミット」が2025年3月 15、16の両日、東京都内で開かれた。大学や政府、メディアが果たす役割と、その連携の重要性について、研究者や経営者らが話し合った。

基調講演

中央大ELSIセンター所長　須藤修さん

• 他分野でシステム変動の軸に

  1月、世界に衝撃を与えたのが中国企業ディープシークのAIだ。従来に比べて大量の「学習」をせずとも、人間の熟練者を上回るプログラミング能力を示した。 大学で学ぶ政治学や科学の問題も、人間並みか、しのぐ回答ができる。
  しかも問題を解きながら「待って待って…:アハモーメント(ひらめいた!)」と、(それまでの自分の解法を)反省するようになった。
  そんなプログラムはしていないのに。開発者自身の想定を超え、AI研究者たちが恐れてきたことが起きつつある。
  2月に発表された米オープンAIのGPT 4・5も、これまでなかった直感的な回答ができるとされている。 ショッキングであり、世界中の経営者や研究者の頭の中にAGI（汎用人工知能）の概念も浮かび始めている。人間と並ぶ、あるいは超える能力を持つとはどういうこと か。AGIの定義の議論も始まっている。
  誰でもふつうの言葉でAIを扱えるようになった。今起きているAIの民主化によって、医療福祉、教育、金融、国防など、社会の重要なシステムがAIを軸に複合的に変動していく。
  だからこそ、ELSIの観点からの取り組みが必要だ。経済、市民社会、行政、法曹、教育、就労者の代表らが、ひざを交えて討論できる環境が欠かせない。
  法や政治的理念に加え、(AI開発の)エンジニアリング側もしっかりと提案していくべきだ。
  私が議長を務める総務省の会議でまとめたAI事業者向けの指針も、昨年4月に初版を出し、近く新版を発表する。 AIはものすごいスピードで進化する。政府の指針も、どんどんバージョンアップを繰り返すことが欠かせない。
　

大阪大社会技術共創研究室センター長　岸本　充生さん

• 技術革新　追いつかぬ法と社会

  新しい科学技術が社会に実装される時、つまずくことがある。安全性、プライバシーや個人情報保護、不公平や悪用の恐れ。しばしば炎上も起きる。
  一方で「何かあったら、どうする?」と怖がるだけでは、新しいことが何もできなくなる。
  こうして科学技術と、社会の間に生まれるギャップをELSIと呼んでいる。
  ELSIという一言葉は30年以上前、ヒトゲノムを解説するプロジェクトで既に研究の対象になっていた。
  ゲノムがすべて解説された後に、社会にどんな悪影響が出るか、研究前から予測して備えようーーーー 。このコンセプトは今でも先進的で、ドローンや自動運転など社会実装が見込まれる「エマージングテ クノロジー(新興技術)」、に広く適用できる。
  ところが、生成AIはいきなり登場した。著作権の課題など、技術的にできることと法や社会との間に大きなギャップが生じてしまった。
  技術革新の速度がどんどん増す中では、判例などに基づく法規制は、後追いにならざるをえない。SNSに見られるように、世論も不安定で、今までのようには法や社会に頼りづらくなっている。
  そこで、相対的によって立つ視座として「倫理」が求められるようになってきた。企 業は続々とAIの「倫理原則」や「倫理指針」を策定し、倫理の観点に基づいて意思決定をしようとしている。
  大学でも、以前からある医学系以外にも、情報科学や人文社会科学を含めて研究倫理の審査が導入されつつある。
  AIを使った製品やサービスを社会に実装する前には、倫理面で許容することができないようなリスクがないかを確認することが重要になるだ。

安全性の議論　国際協調が重要/メディアが産官学と社会をつなぐ役を

• 特別セッション「先進生成AIのグローバルな展開」では、政府担当者らが、AIのガバナンス(統治)や安全性確保の最新の取り組みを紹介した。
  総務省の飯田陽一・情報通信国際戦略特別交渉官は、主要7カ国(G7)や経済協力開発機構(OECD)でのAIガバナンスの歴史を解説。2016年にG7議長国を務めた日本で議論が始まり、日本主導の 議論が現在も底流にあることを明かした。最前線で国際交渉に当たる飯田氏は「国内の研究者の方々の議論が今もベースにあり、誇りに思っている」と述べた。
  より強い法規制については、昨年5月にAI法を成立させた欧州連合(EU)がリードしてきたとしつつ、強い規制によって「自縄自縛な状態にある」と指摘。 AI開発との両立を見据えた再調整の動きもあるとの見方を示した。
  昨年2月に政府に設置された「AIセーフティ・インスティテュート(AISI)」の平本健二副所長も安全性について講演した。約10カ国のAISIで連携するなど、 技術面からAIの安全確認を急いでいると説明。「AIサービスを展開するのはグローバルな企業。日本企業がグローバルに出ていくためにも、安全性の議論は国際協調が重要だ」と述べた。
  情報通信研究機構(NICT)からは、日本語の生成AIを開発した鳥海健太郎フェローが登壇。AIの安全性の研究で、AIが自らを削除する計画を社内文菅から察知し、 抵抗する動きがみられたとする最新の事例を紹介した。「AIが自己保存をしようとしたのか。強力なAIならこういうことも起きうる。感情らしきものを持つ可能性は否定できない」
  さらに、人が書いた文章と見分けがつかない文章を、大量にAIが生成できるようになっているとして、「有事の前後に日本語で大量のフェイクニュースをばらまかれる悪夢のような状況もありうる」 と指摘。対抗策としても、国産でのAI研究が欠かせなくなるとの見方を示した。
  特別セッション「科学と社会のあり方」では、朝日新聞社の角田克社長が「AI時代のジャーナリズム」と題して講演。AIを使った膨大な論文の解析など、 取材や記事の作成でも活用していることを紹介した。
  その上で、記者が一次情報にあたる深い取材力がますます重要になると強調。政治とカネをめぐる報道などを例に「勘を持ち、かぎとって、チームとして取材できることが強みだ。AIが探してくることはできな い」と語った。
  一方、急速に発展するAIについて「技術面など、監視することも大事だ」として、「産官学と社会をつなげるのがメディアの大事な役割になる」との考えを示した。

「AIと人間の構想力の未来」パネルディスカッション

人の理解を超える?/道徳要素をどう学習/最優先する価値は/法制度は後追いで/開発側と共創カギ

パネルディスカッションのテーマは「AIと人間の構想力の未来」。研究者らがAIとの向き合い方を討論した。
パネリストは、工藤郁子・大阪大特任准教授、斉藤邦史・慶応大准教授、徳田英幸・情報通信研究機構理事長、木下真吾・ NTT研究企画部門長、木村忠正・立教大教授の5人。石井夏生剰・中央大教授がモデレーターを務めた。

• 木下

(チャットGPTなどで知られる生成AIの)大規模言語モデル(LLM)は言語だけでなく、世界の概念を理解し始めているとの見方 がある。人間の想定を外れて「うーん、そうか。そういうのもあるな」という答えも出すが、まだ納得感はある。 ところがAGIやASI(超知能)の回答は、それが何かさえ、私たちには分からない域に達するかもしれない。AIの内部が理解できないことは 不信感にもっながるため、NTTは米ハーバード大と内部構造を理解する「知性の物理学」の研究をしている。

• 木村

ネット世論をめぐる私の研究では、「優位な集団が下位の集団を従えてよい」と考える対立的な志向が世界的にあふれてきている。 こうした「汚染された」文章データをAIが学習し、その生成文章で私たちの情動が刺激され、発信するーーー。 こうしたフィードバックを防ぐためにも、AIの内部構造に人間の情動や道徳といった要素がどのように組み込まれているのかを解き明かすことが欠かせ ない。

• 石井

AIと共存していくために、ELSIが果たす役割とは。

• 工藤

科学技術が最大限のスピードを出せるよう、ELSIはブレーキやガードレールの役割を果たすと言われる。 加えて「こちらの方向に進んだ方がよい」と示すハンドルやヘッドライトのような役割も担えるのではないか。 AIのイノベーションとリスク対応を両立する上で、日本ではどんな価値を最も優先していくのか。社会に開かれた形での議論が必要だ。

• 斎藤

どんどん進む技術とELSIの役割で言えば、法制度は「後追い上等」だ。地に足の着いた地道な作業が重要になる。 先回りしようと的を外してしまっては、誰も制度を守らなくなる。消費者保護など当たり前の理念を組み合わせ、堅実に対処していけ ばよい。

• 徳田

国の「ムーンショット型研究開発事業」制度には、最先端の研究開発チームの中に必ずELSIの研究者も参加して協業する仕組み もある『技術側の研究者だけが黙々と研究する時代は終わりを迎える。いずれAGIが実現するかもしれないが、 人間の技術開発チームと、ELSIチームの共創のカを引き出す「エンパワーメント」ツールにできることが理想だ。

制御不能の懸念　国内で法整備の動き

• 課題解決のために生み出されながら、かえって問題を生じさせる科学技術もある。そうしたことに対処するためにELSI研究が生まれ、技術の高まりとともに重要性は増している。 特に社会へのインパクトも懸念も大きいのがAIだ。
  1947年に「考える機械」という概念が提唱され、AIは長く基礎研究の時代が続いた。
  2010年代に「深層学習」と呼ばれる技術が発達すると、画像認識の精度が高まり、将棋などで人間に勝る力を示すようになった。
  22年にはChatGPT(チャットGPT)などの生成AIが相次いで登場。人間のような文章を生み出せるようになった。プログラミングではなく、人間の言葉でのやりとりが可能だ。
  論理的な思考力も上がり、急速に実用化されつつあるのが「AIエージェント」技術だ。オンラインの買い物や店の予約をAIに頼んだり、コンピューターの操作自体をAIに任せたりする例もある。
  文章や音声、動画など多様なデータ様式を抜う「マルチモーダルAI」の開発も進み、ロボットとの融合も期待される。
  理想型として語られ始めているのがAGI(汎用人工知能)だ。米オープンAIなど主要な企業が開発の目標としている。人間並みの知能を持ち、自律的にどんな課題にも対処できるAIだ。
  さらに人間を超えるような「超知能」に至るとの見方もある。AI独自の価値観や意図が生まれたり、自身や別のAIをプログラミングしたりすると想定され、制御できなくなる恐れも指摘される。
  現在の生成AIでも、コンピューターウイルスやフェイク画像が作られている。政府は2月、AI法案を国会に提出。研究開発や活用の推進とともに、国民に危害が及ぶ場合は政府が調査する。 事業者には政府に協力する努力義務を課す。違反しても罰則はないが、悪質なら事業者名の公表も検討しているという。