小原先生が編集に携わり、「良心から科学を考える」が出版されています。
この本では、廣安が「第10章：AIに関する問題」の執筆を担当しました。
AIについて議論する際、難しいのはそれが人工物の問題、AI固有の問題、あるいは科学技術の問題であるかという点です。
正直なところ、AI固有の問題というよりも、人工物や科学技術が持つ問題がAIの登場によって焦点化されるという認識で、科学技術の持つ問題を扱う他の章も存在する中、執筆の過程では苦労しました。
その結果、完全にまとまりきらない文章になってしまいましたが、強調したかったポイントは以下のようになります。
１）AIの第3次ブームの技術的中心はDeep Learning (DL)である。
２）思考には速い思考「システム1（情動的共感）」と遅い思考「システム2（認知的共感）」があり、良心に基づく行動にもこれら二つのモードに対応した良心（システム1）と良心（システム2）が存在する。
３）AIの成果には、生成された結果がある。
４）学習を論じる際に重要なのは、「使用するデータ」と「学習アルゴリズム」の二つである。
５）AIは人間や社会と独立して存在するものではなく、共生するものである。単体のAIでは問題のない技術・システムであっても、人間と社会が連携し複雑なシステムとなったときに、問題が生じることがある。
６）「人間の知能を圧倒的に拡張する技術」が成果を上げており、この技術は、「知能拡張技術」（Intelligence Amplifier, IA）と呼ばれる。
７）現在のブーム中に、「強いAI」に至ることは難しい。
８）私たちはAIに生命性を感じている。
また、背後にある感情として次のような点が挙げられます。
１）DLは教師あり学習であり、教師データの作成が技術的な障壁となり、これがブームの終焉を引き起こす可能性がある。
２）AIについてじっくりと考え、適切に対処する必要がある。そのためには、良心（システム2）が必要である。決してAIやICTを「よくわからない」とか「あまりよく知らない」と言ってはいけない。よく理解し、自ら対処することが、良心的な行動である。
３）DLに囚われすぎて、生成モデルにまで考えが至っていなかったことに気付く。今読み直すと、AIの成果として生成モデルの話をしている。驚き。
４）特に日本では、「使用するデータ」の重要性に無頓着であることが問題である。アルゴリズムだけでは不十分でデータが必要であり、これらの二つの要素は学習における両輪である。
５）これはAI固有の問題というよりも高度な技術を含んだ人工物の問題であるが、AI単体での議論は意味がない。いずれ人間と社会の中に取り込まれ、複雑系として存在することになる。そのため、AI単体の使用を禁止する議論は無意味である。
６）AIによって私たちの知能が拡張されており、拡張されるように利用することが好ましい。
７）「強いAI」の実現には外挿探索が重要であり、このアルゴリズムを作るのは難しいと考えていた。
８）AIができることが増えるにつれ、人間はAIに生命性を感じるようになっている。
チューリングテストが一つの人工知能かどうかを判断するテストなわけだが、このテストが本質的に表しているのは、
テスト対象の判定ではなくて、受け取りの判定をしているというところだ。
生命性を感じたら対象は生命なのである。
人工知能に生命を感じる場合もあるし、生命を持つヒトに生命を感じない場合もある。
そのときに問題が生じるのである。
この本が出版されたのは2021年の初めであり、それからわずか2年で世界は大きく変わりました。
GPTの進化が進み、その結果、ChatGPTというサービスが広く世間に認知されるようになりました。
現在、私たちは良心を持ってAIと向き合う必要があるという本が求められています。
１）第3次AIブームの技術的中心はDLであったが、現在は大規模言語モデル（LLM）が教師なし学習をベースに、精錬を教師あり学習で行うモデルが注目されている。その意味では、第3次AIブームは終焉を感じさせなかったものの、第3.5次あるいは第4次のAIブームへと移行していると言えるでしょう。
２）今日では、ますます良心（システム2）が重要だと感じられる。
AI技術の急速な発展に伴い、倫理的、社会的な問題に対処するために深い思考が必要となっている。
３）GANはDLの一種であり、今から考えると、LLMの基本となっているGenerative modelに繋がるものであったと言える。
４）現在はアルゴリズムよりもデータの議論が重要である。
日本でもChatGPTのようなサービスを実現するには、データの理解が十分でないと感じられる。
５）LLMを使用しない選択肢は現実的ではない。高度な人工物の利用を排除することは不可能である。
６）「知能拡張技術」（Intelligence Amplifier, IA）の視点は今後も重要であることが予想される。AI技術が人間の知能を補完し、拡張する役割がますます重要になるでしょう。
７）対話型の意味で言うと、強いAIが登場しているように感じられる。どんな話題にも十分に対応できるからである。これは予想よりも早く実現しました。弱いAIの向上には内挿探索が効果的ですが、強いAIを作るには外挿探索が必要で、そのアルゴリズムを作る手がかりがないため、強いAIの登場はまだ先だと考えられていました。しかし、Generative Modelが膨大なデータを処理した結果、我々は強いAIが出現した（あるいは出現したと錯覚した）と感じるレベルまで達しました。これは、強いAIを作るには外挿探索が必要ではなかったのかもしれませんし、我々が外挿探索を行っていると思っていたのですが、実際には内挿探索がほとんどだったのかもしれません。正直、人間らしさとは外挿探索だと思っていたので、この気づきには驚愕しています。
８）LLMの出現とその成果により、人々はますますAIに生命性を感じている。特に、LLMが人間の言語を理解し、対話ができるようになったことで、人々はAIに対してより親近感を抱くようになっています。
これが、2023年5月の段階での現状かなあ。
（この文章はchat GPT4.0の手助けを借りています）