AGIという言葉が、兆円を動かしている。定義は、まだ誰も持っていないのに。

AIを「知能」ではなく「制度」として考える、第3回。

前回はAIエフェクトについて書いた。AIが何かを達成するたび、私たちは「それは本当の知性ではない」と言い直してきた。その延長線上にあるのが、AGIだ。

---

定義のないゴールに向かう競争

いま、AGIという言葉は期待と不安の両方を背負っている。投資も、競争も、規制も、「AGIに備える」という前提で動いている。

OpenAI、Google DeepMind、Anthropic——主要なAI企業はいずれもAGIを目標として掲げている。各国政府はAGIリスクを前提に規制を議論し、投資家はAGIへの到達タイムラインで意思決定をしている。

しかし大きなねじれがある。何をもってAGIと呼ぶのか、まだ決まっていない。

個別の性能なのか。汎用性なのか。社会の中で任せられることまで含むのか。人間と同等の能力なのか、それとも人間を超えることなのか。言葉は大きい。輪郭は曖昧なままだ。

---

定義の競争になる

だからAGIの議論は、技術の競争である前に、定義の競争になりやすい。

誰かが「到達した」と言うたびに、ゴールポストがまた動く。前回書いたAIエフェクトと、同じ構造だ。

2023年にOpenAIが「GPT-4はAGIの初期形態だ」と示唆したとき、他の研究者たちは「そうではない」と反論した。その反論の多くは技術的な根拠ではなく、AGIの定義の違いから来ていた。定義が共有されていない以上、この議論は永遠に続く。

---

熱狂は作れても、制度は作れない

定義のないAGIというゴールに向かう競争は、熱狂は作れても、制度は作れない。

どこに到達すれば社会実装を許容するのか。誰がその判断を下すのか。取り消せるのか。これらは技術の問題ではなく、社会の設計の問題だ。

必要なのは、期待を煽ることでも恐怖を増幅することでもない。何をもって知性とみなすのか、何をもって社会実装を許容するのか、その基準を社会の側が持つことだ。

次回は、その「知性」を誰が、何を根拠に認めるのかという承認の問題を考える。