※本記事にはアフィリエイト広告を含みます
正直に書くと、僕はずっと「使えればいい」と思っていた。
株の監視も、ブログの下書きも、物販のリサーチも、AIエージェントに任せている。毎日動いている。結果も出ている。じゃあ中身は知らなくてもいいじゃないか、と。実際、困ってはいなかった。
ただ、ときどき引っかかることがあった。AIが自信満々に間違えたとき、なぜ間違えたのか説明できない。同じことを聞いて答えが変わったとき、それが正常なのか異常なのか判断できない。動いているものの中身を知らないまま使い続けているという状態が、エンジニアとしてどうにも気持ち悪かった。
仕事ならまずやらないことだ。中身の分からない部品を、動いているからという理由で製品に入れることはしない。なのに自分の副業では、それをやっていた。
だから調べ直した。「弱点が分かる程度まで」と決めて。
やったのは、入門書を1冊と、公開されている解説記事をいくつか。数式が出てきたら飛ばした。目的は実装することではなく、自分がどこを信用していいか決めることだったからだ。土日の夜、2週間ぶんくらいだと思う。
今も完全に理解できているとは言えない。それでも、判断は変わった。先に結論を書くと、仕組みが分かると、AIの「どこを信用しないか」を自分で決められるようになる。腑に落ちた順に書いていく。
ニューロン1個がやっていることは、掛けて足して通すだけだった
ニューラルネットワークというと脳っぽい何かを想像するが、1個の「ニューロン」がやっていることは驚くほど単純だった。
- 入ってきた数値それぞれに「重み」を掛ける
- 全部足す（＋バイアスという下駄を足す）
- その結果を「活性化関数」に通して、次へ渡す
これだけだ。掛けて、足して、通す。
活性化関数だけ補足しておく。これは「そのまま素通しさせない」ための仕掛けだ。掛けて足すだけの処理は、何段重ねても結局1回分の掛け算と足し算に潰れてしまう。間に非線形な処理を挟むことで、段を重ねた意味が出る。
このニューロンを層状に並べて、層を何十、何百と重ねる。1個は電卓レベルなのに、億単位で束ねると文章を書く。賢さの正体は、素子の賢さではなく規模と重みの調整だったというのが、最初の腑に落ちたポイントだった。
学習は「答え合わせして、重みを少しだけ直す」ことだった
じゃあその重みは、誰が決めているのか。
最初はランダムだ。そこから、入力を流して答えを出し、正解とのズレ（誤差）を測る。そのズレを減らす方向に、各重みをほんの少し動かす。そしてまた入力を流す。これを膨大な回数くり返す。
肝は「ズレを減らす方向に少し動かす」ところで、どの重みをどっちにどれだけ動かせばズレが減るかを、出力側から逆算していく。これが誤差逆伝播と呼ばれるものだった。動かす幅は毎回ごく小さい。大きく動かすと行き過ぎて、かえって悪くなるからだ。
ここで手が止まった。これ、僕が投資でやってきたことと同じだ。
負けたトレードを見て、損切りラインを1%だけ動かす。翌月また記録を見て、また少し動かす。一度に大きく変えると、たまたま外れた1回に引きずられて全部おかしくなる。だから小さく、何度も。
学習という言葉から想像するような、理解して覚える営みではなかった。ズレを測って、ちょっと直す。それを気の遠くなる回数やっているだけだ。ここが分かってから、AIに対する見方が少し変わった。
文章を書くAIは「次の1語」を確率で選んでいるだけだ
ここがいちばん実務に効いた。
ChatGPTやClaudeのような文章を書くAIは、次に来る単語を確率で予測している。「今日はいい」まで来たら、次は「天気」が高確率、「冷蔵庫」は低確率。それを選んで、また次を予測する。この繰り返しで文章になっている。
このとき、文中のどの単語に注目して次を決めるかも、重みで学習されている。長い文章でも話が繋がるのは、この「どこを見るか」の仕組みのおかげだった。
で、大事なのはここだ。この設計のどこにも「事実かどうかを確かめる」工程がない。
もっともらしく続く単語を選んでいるだけなので、事実であるかどうかは基本的に評価されない。だからAIは、堂々と嘘をつく。悪意ではなく、そういう作りだった。
仕組みが分かると、弱点が全部説明できた
ここまで理解して、それまで「なんとなく変だな」と思っていたことが一列に並んだ。
- 自信満々に間違える → 確率的に自然な文を作る仕組みで、正しさを判定する部分がないから。自信の有無と正しさは無関係
- 同じことを聞いても答えが変わる → 確率分布から選んでいるから。毎回きっちり最高確率の語を選ぶ設定にはなっていない
- 最近の出来事を知らない → 学習した時点までのデータで重みが決まっているから
- 数を数えるのが苦手 → 計算しているのではなく、それらしい続きを選んでいるから
全部、同じ1つの仕組みから出ていた。バラバラの欠陥ではなくて、設計の裏返しだったわけだ。
だから僕は、5本だけ線を引いている
僕はAIエージェントに作業を任せているが、「お金が動く」「外に公開する」「取り消せない」ものだけは、必ず自分が最後のボタンを押すようにしている。この3種類を線にしたものが5本ある。それ以外は全部自動で流す。この線をどう決めたかはこちらに書いた。
この線引き、最初は何となくの用心だった。でも仕組みを知ったあとだと、意味が違って見える。
AIが弱いのは「事実の検証」と「責任を取ること」で、そこは構造的に埋まらない。なら、その2つが関わるところに人間を置くのが正しい設計だ。感覚ではなく、仕組みから導ける話だった。
逆に言うと、そこ以外は任せていい。文章の下書き、データの整形、候補の洗い出し。事実確認が要らないか、あとで自分が確認できる作業なら、任せたほうが速い。
参考にした本は、仕組みより「立ち位置」に効いた
仕組みそのものは解説記事で足りた。ただ、「で、自分はどう使えばいいのか」は記事では埋まらなかった。
そこで8月に買ったのが、中平健太さんの『AIで終わる人 AIで化ける人』だ。技術書ではなく、AIが当たり前になった環境で人がどう動くかを扱った本になる。帯の「『真面目』な人から終わる」がやけに刺さって、そのままレジに行った。1,980円。
正直に言うと、この本を読んで仕組みが分かったわけではない。仕組みは別で調べた。この本で変わったのは、「どこまで任せて、どこから自分でやるか」の温度感のほうだ。技術の理解が欲しい人には向かない。逆に、AIは触っているけど自分の立ち位置が定まらない人には効くと思う。
AIで終わる人 AIで化ける人（楽天ブックス） — 中平健太 / ダイヤモンド社 / 1,980円
もっと仕組み寄りを読みたい人向けには、岡野原大輔さんの『生成AIのしくみ』が候補に挙がる。ただ、こちらは僕はまだ読んでいないので、中身の保証はできない。目次を見て良さそうだった、という段階だ。
使えればいい、で止まらなくてよかった
この記事では、数式は1つも出していない。行列も微分も出てこない。完全に理解したとも言えない。
それでも、「どこを信用しないか」は決められるようになった。ここが変わったのが大きい。
使えればいい、で止まっていたときの僕は、AIが間違えるたびに「今日は調子が悪いのかな」くらいに思っていた。相手のせいにしていたわけだ。仕組みを知ったあとは、間違え方を見て「ああ、これは検証工程がないからだな」と分かる。分かると、自分の使い方のほうを変えられる。
エンジニアとして中身を理解したい、というのは、たぶん趣味ではなくてこれなんだと思う。ブラックボックスのままだと、うまくいかないときに打ち手がない。中身が少し見えていれば、どこをいじればいいかの当たりがつく。
前に書いた「実装できなくてもいい。無理ですの理由を追えればいい」という話と、同じ結論に着地した。必要な解像度は目的によって違う。ただ、ゼロではダメだった。
→ 技術がわからない管理職になりたくない——「中身がわかる」の現実的な定義を3つに絞った
次は、なぜあれほど大量のデータが要るのかと、追加学習の仕組みが気になっている。分かったらまた書く。
正直、こんなに単純な原理で動いていると思っていなかった。すごいというより、ちょっと拍子抜けした、というのが素直な感想だ。
AIに何を任せて何を任せないか、その線の引き方の出発点は種銭づくりから投資までの全記録【宣言編】に書いています。意志に頼らず続く仕組みの話は「続けられない」は、意志の問題じゃなかった、承認の線引きはClaude Codeの承認設計の記事にまとめました。
※本記事は筆者個人の理解の記録であり、技術的な厳密さより「使う側にとって判断が変わるか」を優先して書いています。
※本記事は筆者個人の投資手法の記録であり、特定銘柄の売買を推奨するものではありません。投資判断はご自身の責任で行ってください。
AIに任せる線の引き方を、実際に試した記録を1冊に書きました（自著です）。
ニューラルネットワークの技術的な解説を求めている人には、少し遠回りな本かもしれません。
AIエージェント15体に投資と副業を任せた2ヶ月半の記録です。効いたことも、効かなかったことも、同じ精度で書いています。
AIに「どこまで任せるか」を、損切りの監視で試した話はnoteにも書きました
お金が動く判断の手前まで、AIエージェントに何をさせているか。この記事より一歩具体的な設計の話です。
→ 損切りできない僕が、AIエージェントに損切りラインを監視させてみた（note・無料）
マーケットの気づきや失敗談は、Xでもぼそっと呟いてます。よかったらフォローどうぞ → ＠E_mc2_japan
書いた人：会社員をしながら、物販×アフィリで種銭を作り、新高値ブレイク投資で資産形成を目指しています。安く買っては失敗し続けた過去から、”仕組みで勝つ”投資に切り替えました（決済84トレードの記録あり）。数字は盛らず、失敗も正直に書きます。
👉 詳しくは 運営者情報（プロフィール）／種銭 宣言編（軸記事）
コメント