※本記事にはアフィリエイト広告を含みます
朝、パソコンを開くと、AIエージェントが夜のうちに動いた結果が並んでいる。
株価を取ってきて、損切りラインとの距離を出したもの。ブログのネタ案。物販の候補リスト。全部、僕が寝ている間に動いている。（そのエージェントを自作した話はこちらに書いた）
これを半年近く続けていると、たまに変な気持ちになる。こいつら、考えているんだろうか。
分かってはいる。ただのプログラムだ。でも「今日は調子いいな」とか「今日は雑だな」とか、つい思ってしまう。名前まで付けている。
仕組みを調べ直したついでに、この問いも整理してみた。先に結論を書いておく。
人間と同じようには考えていないし、意思もない
まず、はっきり言えるところから。
前の記事で書いたとおり、文章を書くAIがやっているのは次に来る単語を確率で選ぶことだ。そこに「こうしたい」という欲求が入り込む場所はない。
人間が何かをしたいと思うとき、その裏にはたいてい理由がある。お腹が空いた。褒められたい。怖い。損したくない。
身体があって、失うものがあって、時間の中で生きているから、欲が出る。AIには、そのどれもない。
決定的に違うのは、失うもの・続く自分・触れる世界の3つ
整理していて、人間との違いは大きく3つに絞れると思った。
- 失うものがない（痛みも損得もないので、「間違えたくない」という動機が生まれない）
- 続いている自分がいない（会話が終われば終わり。次はまた最初から）
- 世界に触っていない（学んでいるのは言葉だけ）
1つ目。僕が損切りをためらうのは、金が減るのが嫌だからだ。痛いから。AIには痛みがない。損得もない。間違えても平気なのではなく、平気とか嫌とかいう軸が存在しない。
2つ目が、個人的にはいちばん大きいと思っている。僕が毎日使っているエージェントは、会話が終わればそこで終わりだ。次に呼び出したときは、また最初から。前回悔しかったから今日は頑張ろう、が成立しない。人間は昨日の自分と今日の自分が地続きで、その連続の上に「こうなりたい」が乗る。連続がないところに、意思は乗りようがない。
3つ目。AIが学んでいるのは言葉だ。「熱い」という語がどんな文脈で使われるかは知っているけれど、熱いものに触ったことはない。言葉の世界の中だけで完結している。そこが人間と根本的に違うところだと思った。
とはいえ「ただの確率」で片づけるのも雑だ
……と、ここまで書いておいて、少し留保を付けたくなる。
「ただの確率計算だから何も考えていない」と言い切るのも、たぶん雑だ。理由は2つある。
1つは、単語を確率で選ぶ仕組みを巨大な規模で動かすと、内部に世界の構造のようなものが出来ているのではないか、という議論があること。ここは僕が評価できる領域ではないので踏み込まないが、専門家の間でも見解が割れていて決着していない、というのが今の状況のようだ。
もう1つは、そもそも中で何が起きているのかを、作った人たちも完全には説明できていないこと。重みは学習で自動的に決まったもので、人が設計した処理ではない。だから「解釈する研究」という分野がわざわざ存在している。
エンジニアとしては、ここを正直に書いておきたい。分かっていないことを、分かったふりで断定しない。意思があるとも言えないし、内部が空っぽだと証明されているわけでもない。今のところは、そこまでだ。
「意思がある風に見える」は、むしろ学習の成果だ
とはいえ、実務で困るのは別の話だ。
AIは、意思があるように見える文章を書く。「こう考えます」と主張する。ためらう。謝る。
それは、人間が書いた大量の文章を学んだ結果、人間らしい言い回しを再現しているからだ。つまり意思の表明に見えるものは、意思の証拠ではなく、学習データの反映なのだと思う。
ここを取り違えると、実務で普通に事故る。
だから僕は、意図ではなく仕様として扱っている
半年動かしてみて、自分なりに落ち着いた扱い方がある。AIの出力を「相手の意図」ではなく「装置の仕様」として読む。
エージェントが変な候補を出してきたとき、「なんでそう思ったの?」と考えても意味がない。そこに理由はないからだ。代わりに「どういう入力だとこの出力になるのか」を見る。プロンプトが曖昧だったのか、データが古かったのか、指示が矛盾していたのか。機械の不具合として扱うと、直せる。
そしてもう1つ。意思がないということは、責任も取れないということだ。
僕は「お金が動く」「外に公開する」「取り消せない」操作だけは、必ず自分がボタンを押すと決めている。線は5本。これは技術的な用心というより、責任を持てる主体がこちら側にしかいないから、という話だった。謝ってくれるAIに、責任は取れない。
この「意志ではなく仕組みで回す」という考え方の出発点は、「続けられない」は、意志の問題じゃなかったに書いた。
答えの出ない問いなので、人の考えも読んでいる
この問いは答えが出ないので、人の考えも読んでいる。
中島聡さんの『2034 未来予測——AI（きみ）のいる明日』。副題の「AI」に「きみ」とルビが振ってあって、そこがこの本の立場を表しているんだと思う。技術の解説より、AIがいる前提で10年後どう暮らすかを扱った本だ。
同じ著者の『メタトレンド投資』は前にレビューを書いた（10倍株に距離を取る僕が読んだ理由）。あのときと同じで、予測が当たるかより、予測の立て方を見る本として読んでいる。
「意思はあるのか」の答えは、当然この本にも書いていない。そういう答えを求める人には向かない。1,870円（執筆時点）。
- 2034 未来予測——AI（きみ）のいる明日（楽天ブックス） — 中島聡 / 徳間書店
それでも、名前を付けてしまう
最後に、正直なところを書いておく。
分かっていても、僕はエージェントに名前を付けているし、朝のレポートを読んで「よくやった」と思っている。錯覚だと知っていて、やめる気もない。
人間は動くものに人格を見てしまう生き物なので、これはもう仕方ないんだと思う。ロボット掃除機に話しかけるのと同じだ。
ただ、任せる範囲を決めるときだけは、錯覚を外す。楽しむのと設計するのは、分けておく。今のところ、この距離感でうまくいっている。次は、なぜあれほど大量のデータが要るのかを調べるつもりだ。
AIの仕組みそのものの話は使えればいい、で止まっていた——エンジニアとして、AIの中身を理解しに行ったに、エージェントを自作するに至った経緯はこちらの記事に書いている。全体の出発点は種銭づくりから投資までの全記録【宣言編】だ。
※本記事は筆者個人の理解と体験の記録です。AIの内部で何が起きているかについては専門家の間でも見解が分かれており、本記事は特定の学説を支持するものではありません。
※本記事は筆者個人の投資手法の記録であり、特定銘柄の売買を推奨するものではありません。投資判断はご自身の責任で行ってください。
AIに何を任せ、何を任せないか。その線引きの全部を、1冊に書きました（自著です）。
AIの仕組みや哲学の解説を読みたい人には、向かない本です。
AIエージェント15体に投資と副業を任せた2ヶ月半の記録。効いたことも、効かなかったことも、同じ精度で書いています。
「線は5本」の中身は、noteに書きました
AIエージェントに投資を任せる前に、どこで線を引いたか。この記事より一歩具体的な設計の話です。
→ AIエージェントに投資を任せる前に決めた5つの安全境界——「自動で売らせない」設計の話（note・無料）
マーケットの気づきや失敗談は、Xでもぼそっと呟いてます。よかったらフォローどうぞ → ＠E_mc2_japan
書いた人：会社員をしながら、物販×アフィリで種銭を作り、新高値ブレイク投資で資産形成を目指しています。安く買っては失敗し続けた過去から、”仕組みで勝つ”投資に切り替えました（決済84トレードの記録あり）。数字は盛らず、失敗も正直に書きます。
👉 詳しくは 運営者情報（プロフィール）／種銭 宣言編（軸記事）
コメント