荘内日報ニュース

2024年（令和6年） 1月16日（火）付紙面より

変化球 新・ロボット工学の三原則

　アメリカのＳＦ作家アイザック・アシモフ（1920―1992）は、ロボットをテーマに多くの作品を発表した。約70年前に次のような「ロボット工学の三原則」を提唱している。

　「第一条　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

　第二条　ロボットは人間に与えられた命令に服従しなければならない。ただし、与えられた命令が、第一条に反する場合は、この限りではない。

　第三条　ロボットは、前掲第一条および第二条に反する恐れのない限り、自己を守らなければならない。（小尾芙佐訳）」

　当時は初期のコンピュータが発明された時代で、やがて機械が人間を滅ぼすのでないかと、本気で心配され始めた。アシモフは人間とロボットが共生する社会の背景に三原則を考えたが、ロボットをＡＩ（人工知能）に読み換えれば、まさに現代が直面する問題に通じる。

　昨年はＡＩの話題が急に増えた。特にチャットＧＰＴなどの登場で、誰でも日常的に使える機会が増えた。しかし実用には各方面から問題提起がされている。人間が意図的に悪用すれば、恐ろしい道具となる可能性は大きい。これは小説の中だけの空想ではなくなった。

　フェイク動画を使って偽情報を拡散させたり、犯罪に利用する事例が発生している。このように倫理に反し社会を混乱させる不安があるが、最も危険な使い方を忘れてはいけない。

　それは軍事利用によるリスクだ。すでに殺人ＡＩ兵器の開発に積極的な国があるという。現在は銃の引き金を引くのは心を持った人間だ。しかし効率的に殺人と破壊だけを目的にするＡＩが兵器に組み込まれたら、戦争のあり方が変わってしまい、恐ろしさは核兵器に勝るとも劣らない。ウクライナやガザの惨状を見るにつけ、その思いを強くする。

　国連はようやく、人間の判断を介さず目標を攻撃するＬＡＷＳ（自律型致死兵器システム）への対応が急務とする決議を、昨年12月に採択した。だが具体的な規制方法については、まだこれからの議論を待つ段階だ。

　ＡＩを人間を脅かすモンスターでなく、役立つ存在として発展させるためのルールは何か。アシモフのロボット工学三原則を読み直すと、今でも着眼点の鋭さと定義の簡潔さに感心する。ＡＩの問題を考えるには、このような視点を忘れてはならないだろう。

論説委員 小野 加州男