2018年に小原先生が編集に携わり、「良心学入門」というタイトルの本が出版されました。
廣安は第15章「人工知能と良心」を執筆しています。2018年というタイミングは、2014年11月頃から日本で急速に進展したAIの第3次ブームが始まった時期であり、文理融合的な視点での書籍としてはかなり早期の出版だったと思われます。
現在読み返してみると、当時の文章は論旨がぼやけている感じが否めません。
今もう一度書き直して改善したいところです。
ただ、その当時の状況では仕方なかったところもありました。
人工知能と良心を結びつけるのは無理があるお題だったのです。
私の専門はシステム工学であり、システムという人工物が良心を持つという考えには違和感を感じていました。良心を持つべきは使う側の人間だと思っていたからです。そのため、文章の目的が曖昧になり、良心に直接対峙せず、歴史を振り返る内容になってしまいました。
明確な主張はしていないものの、この文章で伝えたかったポイントは以下の通りです。
1）現在は第3次ブームであること。
2）人工知能は結局のところ、人工物であること。
3）人工知能（AI）には、強いAIと弱いAIの2つのカテゴリが存在すること。
4）作成された人工物が本当に人工知能であるかどうかを判断するのは非常に困難であり、それを判断できる人間も困ってしまうこと。
そして、背後にある感情としては、
1）第3次ブームは一過性のものであり、いずれ終わると考えていた。
2）人工知能が抱える問題は、ほとんどが人工物に共通する一般的な問題であり、人工知能固有の問題ではないこと。
例えば、新しい道具が登場すると、その使い方で人に危害や損害を与える場合があるが、それは人工物だからであり、人工知能特有の問題ではない。仕事が奪われるという議論もあるが、新しい優れた人工物は常にそのような側面を持っている。
3）弱いAIは、能力が低いわけではなく、設計された問題に対しては非常に強力であること。
一方、強いAIはすぐには現れないと考えていた。
4）人工知能であるかどうかを判断することが、人間が人工知能と誤認される危険性を含んでおり、これがもっとも大きな問題であるということ。
良心との関連性を強調しすぎて、文章がぼんやりとしたものになってしまったが、これらの論点をもっとストレートに伝えるべきだったと後悔しています。
現在の状況については、以下のように考えています。
1）個人的には、第4次ブームが始まっていると考えています。
2）人工知能は、結局のところ、人工物であることを忘れてはならないということ。
特に、AIに対して十分な議論が必要な現代において、その議論が科学技術の問題なのか、人工物の問題なのか、それとも人工知能固有の問題なのかをきちんと区別して考える必要があります。
3）対話型の意味で言うと、強いAIが登場しているように感じます。どんな話題にも十分に対応できるからです。これは予想よりも早く実現しました。弱いAIの向上には内挿探索が効果的ですが、強いAIを作るには外挿探索が必要で、そのアルゴリズムを作る手がかりがないため、強いAIの登場はまだ先だと考えられていました。しかし、Generative Modelが膨大なデータを処理した結果、我々は強いAIが出現した（あるいは出現したと錯覚した）と感じるレベルまで達しました。これは、強いAIを作るには外挿探索が必要ではなかったのかもしれませんし、我々が外挿探索を行っていると思っていたのですが、実際には内挿探索がほとんどだったのかもしれません。正直、人間らしさとは外挿探索だと思っていたので、この気づきには驚愕しています。
4）今、まさに人工知能と呼ばれているものが本当に人工知能なのかどうかが判断されようとしており、その行為がリアルな人間を人工知能と誤認する危険を含んでいます。人の仕事が奪われるとか、人の情報が悪用されるとかのレベルではなく、人間が人工物以下として扱われる危険にさらされているのです。
これが、2023年5月の段階での現状かなあ。
（この文章はchat GPT4.0の手助けを借りています）