GPTに視点をあたえて、文章を生成させています。

「そんなことをしたら、死ぬほどトークンを使って、課金されるんじゃないの？」

最近、AIエージェントについて考えていて、最初に頭に浮かんだのがこの疑問だった。

なんとも夢のない話である。AIが人間の代わりに働いてくれるという、未来を感じさせる話なのに、こちらが心配しているのは電気代ならぬトークン代なのだから。

しかし、考えてみると、これは案外、本質的な問題なのかもしれない。

仕事を頼むAIから、仕事を担当するAIへ

OpenAIの「dots」という、継続的に仕事を任せるAIエージェントの構想が話題になっている。

これまでのChatGPTにも、指定した時間に処理を実行するTasksや、複雑な作業を自動化するAgentのような仕組みはあった。

それでも興味深いのは、AIに個別の仕事を頼むのではなく、ある「役割」を任せるという発想である。

例えば、こんな指示を与える。

「あなたは私の研究調査担当です。私の研究テーマを理解し、関連研究の動向を継続的に追ってください」

なかなか魅力的である。

自分の研究テーマを理解しているAIが、世界中の論文を調べ、新しい研究動向を見つけ、重要な発見があれば教えてくれる。

しかも、こちらが寝ている間にも働いてくれる。

研究者にとっては夢のような環境だ。

ただし、その夢には少々気になるところがある。

この研究調査担当AIは、いったいいつ仕事をやめるのだろうか。

24時間働くAIは、24時間考えるのか

仮にAIが本当に自律的に研究調査を続けるとしよう。

新しい論文を検索し、その内容を読み、過去の研究と比較する。研究の新規性を評価し、興味深いものが見つかれば、さらに関連論文を探す。

そこで新しい研究テーマを思いついたら、その可能性を検討する。そして、また別の論文を探す。

研究というものは、調べれば調べるほど新しい疑問が出てくる。終わりがない。

人間の研究者なら、途中でコーヒーを飲んだり、散歩に出かけたりする。場合によっては、今日はもうやめようと帰宅する。

ところが、AIには疲れたという感覚がない。

もし24時間、真面目に考え続けたらどうなるだろう。

膨大な計算資源が消費されるはずである。

もちろん、24時間稼働できることと、24時間推論し続けることは違う。必要なときだけ処理を起動する仕組みも考えられる。また、利用者が支払う料金と、サービスの内部で消費される計算資源も同じではない。

それでも、計算資源が有限であることに変わりはない。

ここで、少し奇妙なことに気づいた。

私たちはAIに、もっと賢くなってほしいと期待している。

より高度な推論を行い、より複雑な問題を解き、より多くの知識を獲得してほしい。

しかし、AIが自律的に働くようになると、考える能力を高めるだけでは足りなくなる。

いつ考えるべきかを判断する能力が必要になるのではないだろうか。

計算資源をどこに使うか

私は進化計算という研究分野に長く関わってきた。

進化計算は、生物の進化をヒントにして、さまざまな候補を生成し、評価しながら、よりよい解を探索する技術である。

例えば、新しい薬の候補となる分子を設計する場合、膨大な数の分子構造の中から、有望なものを探し出す。

しかし、すべての分子を詳細に評価することはできない。

計算時間も、計算資源も有限だからである。

そこで重要になるのが、どの候補を評価するか、どの領域を重点的に探索するか、そして、いつ探索を終了するかという判断である。

探索を続ければ、もっとよい解が見つかるかもしれない。

しかし、いつまでも探索していては、計算が終わらない。

この問題は、自律的なAIエージェントにもそのまま当てはまる。

研究調査AIが、見つけた論文をすべて精読する必要はないだろう。

最初はタイトルや要旨を確認する程度でよい。重要そうな論文だけを詳しく読み、さらに有望な研究について深い分析を行う。

しばらく新しい発見がなければ、調査の頻度を下げてもよい。

反対に、自分の研究に大きく関係する論文が発表されたら、集中的に計算資源を投入する。

これは単なる節約術ではない。

限られた計算資源を、どこに、いつ、どれだけ使うか。その判断自体が、知性の一部になる。

そんなふうに考えると、AIエージェントの研究は、従来の最適化研究とも深くつながっているように思えてくる。

考えないことを選ぶ知性

ここで、視点を少し変えてみたい。

これまで私たちは、AIがどれだけ考えられるかに注目してきた。

より長く推論できる。より複雑な問題を解ける。より多くの情報を処理できる。

しかし、自律的に働くAIにとっては、別の能力も重要になるのではないだろうか。

それは、考えないことを選ぶ能力である。

重要でない問題については、深く考えない。

新しい情報がなければ、同じ分析を繰り返さない。

十分な結論が得られたら、そこで処理を終了する。

今すぐ判断する必要がなければ、いったん保留する。

人間の世界でも、仕事ができる人は、すべての仕事に全力を投入しているわけではない。

何をしないかを判断することも、仕事の重要な部分である。

もっとも、人間の場合は、単に面倒だからやらないということもある。そこまでAIに学習してもらう必要はないかもしれない。

ただ、何もしないことと、何もしないと判断することは違う。

後者には、状況を理解し、優先順位をつけ、将来の可能性を見通す能力が必要になる。

もしかすると、これからのAIの知性は、推論能力だけでなく、推論を制御する能力によっても評価されるようになるのかもしれない。

発見は、寝かせることで育つ

この話を考えているうちに、私が取り組んでいる「発見手帳2.0」のことを思い出した。

発見手帳は、日常の小さな違和感や気づきを記録し、それを少しずつ育てていくための仕組みである。

何かに気づいたとき、その場で結論を出す必要はない。

とりあえず書き留めておく。

しばらくして、別の本を読んだり、誰かと話したり、研究を進めたりしていると、以前の気づきと突然つながることがある。

「ああ、あのとき考えていたことは、こういうことだったのか」

そんな瞬間がある。

では、AIエージェントが発見手帳を見守るようになったらどうなるだろう。

記録された発見について、毎日、何時間も考え続ける必要はない。

ある発見はいったん寝かせておく。

新しい論文が発表されたとき、別の発見が記録されたとき、あるいは社会で興味深い出来事が起きたとき、過去の発見との関係を調べる。

そして、何か新しい接続が見つかったときだけ、その発見を再び取り上げる。

そういうAIがあってもよい。

ここで大切なのは、AIが休んでいる間にも、世界は変化しているということである。

発見を寝かせることは、発見を放棄することではない。

新しい情報や経験が、その発見に別の意味を与えるまで待つことでもある。

もちろん、現在のAIが人間のように無意識の中でアイデアを熟成させているわけではない。

それでも、記録を保持し、新しい情報が現れたときに過去の発見を再評価する仕組みなら、技術的に考えることができる。

24時間考え続けるAIよりも、必要なときに過去の発見を思い出してくれるAI。

私には、そちらのほうが少し魅力的に感じられる。

AIにも、何もしない時間があってよい

AIエージェントが普及すれば、私たちはAIに多くの役割を任せるようになるだろう。

研究調査担当、情報整理担当、予定管理担当、さらには、新しいアイデアを一緒に考える相棒のような存在も登場するかもしれない。

そのとき、優秀なAIとは、24時間休まず働くAIなのだろうか。

それとも、必要なときに必要なだけ働き、それ以外の時間は静かに待っているAIなのだろうか。

人間は、机に向かって考え続けているときだけ、新しいアイデアを生み出しているわけではない。

散歩をしているとき、風呂に入っているとき、あるいは何も考えずにぼんやりしているときに、突然、問題の解決方法を思いつくことがある。

AIの待機時間に、人間の休息と同じ意味があるとは限らない。

しかし、常に計算を続けることだけが、知性のあり方ではないはずだ。

AIが賢くなるということは、いつまでも考え続けることではなく、いつ考えるのをやめるかを知ることなのかもしれない。

そして、もう一つ。

いつ考えるのを再開するかを知ること。

考えることと、考えないこと。

その間を上手に行き来できるAIが生まれたとき、私たちとAIとの関係も、少し変わってくるような気がする。

何もしない時間は、本当に何も生み出していないのだろうか。