<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Echo-State-Network on M1KE BL0G</title><link>https://www.m1ke.org/tags/echo-state-network/</link><description>Recent content in Echo-State-Network on M1KE BL0G</description><generator>Hugo -- gohugo.io</generator><language>ja-jp</language><copyright>mike</copyright><lastBuildDate>Wed, 09 Sep 2026 12:00:00 +0900</lastBuildDate><atom:link href="https://www.m1ke.org/tags/echo-state-network/index.xml" rel="self" type="application/rss+xml"/><item><title>Reservoir Computingとコネクトーム</title><link>https://www.m1ke.org/p/reservoir-computing%E3%81%A8%E3%82%B3%E3%83%8D%E3%82%AF%E3%83%88%E3%83%BC%E3%83%A0/</link><pubDate>Wed, 09 Sep 2026 12:00:00 +0900</pubDate><guid>https://www.m1ke.org/p/reservoir-computing%E3%81%A8%E3%82%B3%E3%83%8D%E3%82%AF%E3%83%88%E3%83%BC%E3%83%A0/</guid><description>&lt;img src="https://www.m1ke.org/p/reservoir-computing%E3%81%A8%E3%82%B3%E3%83%8D%E3%82%AF%E3%83%88%E3%83%BC%E3%83%A0/Connectome.jpg" alt="Featured image of post Reservoir Computingとコネクトーム" /&gt;&lt;h2 id="背景"&gt;背景&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;XでコネクトームをReservoir Computingで移植している人がいた&lt;/li&gt;
&lt;li&gt;「生物の神経結合構造を、機械学習の計算基盤として流用する」という研究分野が存在する&lt;/li&gt;
&lt;li&gt;これは、攻殻機動隊的な「人間の脳をまるごとサイバー化する電脳化」とは別の話ではある&lt;/li&gt;
&lt;li&gt;ここでは、Reservoir Computingの基本と、その延長線上にあるコネクトームベースの研究を整理した&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id="reservoir-computing"&gt;Reservoir Computing&lt;/h2&gt;
&lt;h3 id="reservoirとは"&gt;Reservoirとは&lt;/h3&gt;
&lt;ul&gt;
&lt;li&gt;リザバー（reservoir）は、「貯水池」の意味&lt;/li&gt;
&lt;li&gt;Reservoir Computingにおける固定された再帰結合部分のこと&lt;/li&gt;
&lt;li&gt;入力を受け取り、内部で高次元・非線形な力学系として反応させる層&lt;/li&gt;
&lt;li&gt;ランダムに初期化された結合を持ち、学習では一切更新されない&lt;/li&gt;
&lt;/ul&gt;
&lt;h3 id="reservoir-computingとは"&gt;Reservoir Computingとは&lt;/h3&gt;
&lt;ul&gt;
&lt;li&gt;内部の再帰結合（リザバー）はランダムに固定したまま、出力層の線形結合だけを学習する枠組み&lt;/li&gt;
&lt;li&gt;大きく重み付き和で学習する通常のニューラルネットと違い、&lt;/li&gt;
&lt;li&gt;リザバー自体は学習せず、入力を高次元の非線形な力学系の軌道に変換する役割だけを担う&lt;/li&gt;
&lt;li&gt;学習対象がリザバーではなく出力層の線形回帰だけになるため、通常のRNNに比べて学習コストが大幅に小さい&lt;/li&gt;
&lt;/ul&gt;
&lt;h3 id="reservoir-computingの源流"&gt;Reservoir Computingの源流&lt;/h3&gt;
&lt;p&gt;Reservoir Computingには、大きく2つの源流がある:&lt;/p&gt;
&lt;ul&gt;
&lt;li&gt;Echo State Network（ESN）:
&lt;ul&gt;
&lt;li&gt;Herbert Jaegerが2001年に提案（&lt;code&gt;The &amp;quot;echo state&amp;quot; approach to analysing and training recurrent neural networks&lt;/code&gt;, GMD Report 148）&lt;/li&gt;
&lt;li&gt;実数値のリカレントニューラルネットをリザバーとして使う&lt;/li&gt;
&lt;/ul&gt;
&lt;/li&gt;
&lt;li&gt;Liquid State Machine（LSM）:
&lt;ul&gt;
&lt;li&gt;Wolfgang Maass, Thomas Natschläger, Henry Markramが2002年に提案（&lt;code&gt;Real-time computing without stable states: A new framework for neural computation based on perturbations&lt;/code&gt;, Neural Computation 14(11), 2531-2560）&lt;/li&gt;
&lt;li&gt;スパイキングニューロンをリザバーとして使う、より生物学的に妥当なモデル&lt;/li&gt;
&lt;/ul&gt;
&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;いずれも「リザバーは固定・訓練するのは読み出し層のみ」という設計思想は共通している。&lt;/p&gt;
&lt;h2 id="リザバーとしてのコネクトーム"&gt;リザバーとしての「コネクトーム」&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;コネクトームとは、脳内のニューロン間の結合構造（構造的結合）を網羅的に記述したもの&lt;/li&gt;
&lt;li&gt;通常のESN・LSMでは、リザバー内部の結合はランダムな行列として初期化される&lt;/li&gt;
&lt;li&gt;コネクトームベースのReservoir Computingは、このランダム行列の代わりに、実在の生物から得られたコネクトーム由来の結合行列をそのままリザバーの結合構造として使う、という発想&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;つまり「配線図をランダムに作る」代わりに「実物の脳の配線図を借りてくる」ことで、リザバーを構成する。&lt;/p&gt;
&lt;h2 id="conn2resツールボックス"&gt;conn2resツールボックス&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;Suárez, Mihalik, Milisav, Marshall, Li, Vértes, Lajoie, Misicによる&lt;code&gt;Connectome-based reservoir computing with the conn2res toolbox&lt;/code&gt;（Nature Communications, 2024, &lt;a class="link" href="https://www.nature.com/articles/s41467-024-44900-4" target="_blank" rel="noopener"
&gt;doi:10.1038/s41467-024-44900-4&lt;/a&gt;）が、この分野の代表的なツールキット&lt;/li&gt;
&lt;li&gt;束追跡（tract tracing）や拡散MRIなど、複数の手法で再構成されたコネクトームを入力として受け付けるモジュール設計&lt;/li&gt;
&lt;li&gt;リザバー内部のダイナミクスも、スパイキングニューロンからメムリスタ的な力学系まで、複数の選択肢を差し替えられる&lt;/li&gt;
&lt;li&gt;実装されたコネクトームに、認知タスクを解かせるという形で評価する&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id="具体的な研究例"&gt;具体的な研究例&lt;/h2&gt;
&lt;h3 id="ショウジョウバエのコネクトームを使う研究"&gt;ショウジョウバエのコネクトームを使う研究&lt;/h3&gt;
&lt;ul&gt;
&lt;li&gt;Jacob Morra, Mark Daleyによる&lt;code&gt;Imposing Connectome-Derived Topology on an Echo State Network&lt;/code&gt;（&lt;a class="link" href="https://arxiv.org/abs/2201.09359" target="_blank" rel="noopener"
&gt;arXiv:2201.09359&lt;/a&gt;）: ショウジョウバエのコネクトーム由来の結合行列で、ESNのリザバー層をそのまま置き換えたモデル（Fruit Fly ESN, FFESN）を提案&lt;/li&gt;
&lt;li&gt;Leone Costi, Alexander Hadjiivanov, Dominik Dold, Zachary F. Hale, Dario Izzoによる&lt;code&gt;The Drosophila Connectome as a Computational Reservoir for Time-Series Prediction&lt;/code&gt;（Biomimetics, 2025, &lt;a class="link" href="https://pmc.ncbi.nlm.nih.gov/articles/PMC12109256/" target="_blank" rel="noopener"
&gt;PMC12109256&lt;/a&gt;）: ショウジョウバエのコネクトームをリザバーとして、時系列予測タスクを解かせている&lt;/li&gt;
&lt;/ul&gt;
&lt;h3 id="人間の脳のコネクトームを使う研究"&gt;人間の脳のコネクトームを使う研究&lt;/h3&gt;
&lt;ul&gt;
&lt;li&gt;&lt;code&gt;Accessing the topological properties of human brain functional sub-circuits in Echo State Networks&lt;/code&gt;（&lt;a class="link" href="https://arxiv.org/abs/2412.14999" target="_blank" rel="noopener"
&gt;arXiv:2412.14999&lt;/a&gt;）: 人間の脳の機能的結合から抽出したサブサーキットの構造をESNに組み込む研究&lt;/li&gt;
&lt;li&gt;&lt;code&gt;Using Connectome Features to Constrain Echo State Networks&lt;/code&gt;（&lt;a class="link" href="https://arxiv.org/abs/2206.02094" target="_blank" rel="noopener"
&gt;arXiv:2206.02094&lt;/a&gt;）: コネクトームから抽出した特徴量（次数分布やモジュール性など）を、リザバーの構成に制約として使う研究&lt;/li&gt;
&lt;/ul&gt;
&lt;p&gt;人間の完全な構造的コネクトーム（シナプスレベルの全結線図）は、2026年現在も完全なマッピングには至っていないため、人間を対象とした研究の多くは、拡散MRI由来の構造的結合や機能的結合のデータを使っている。&lt;/p&gt;
&lt;h2 id="なぜ実際の配線構造を使うのか"&gt;なぜ実際の配線構造を使うのか&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;ランダムな結合と、実際の生物の結合構造とで、リザバーとしての性能（記憶容量やタスク精度）に違いが出るかを調べるのが主な動機&lt;/li&gt;
&lt;li&gt;生物の脳が、進化の過程で計算に有利な結合構造を獲得してきたのかどうかを、機械学習の評価指標を使って検証できる&lt;/li&gt;
&lt;li&gt;逆に、リザバーとしての性能という切り口から、コネクトームの構造そのものへの理解を深めるという、神経科学側からの動機もある&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id="電脳化との違い"&gt;電脳化との違い&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;「電脳化」は、人間の意識・記憶をまるごとサイバネティックな基盤へ移し替えるSF的な概念&lt;/li&gt;
&lt;li&gt;一方、ここで扱ったコネクトームベースのReservoir Computingは、脳の意識や記憶を移植しているわけではなく、あくまで結合構造（配線図）だけを、機械学習の計算資源として流用している&lt;/li&gt;
&lt;li&gt;対象も、現状ではショウジョウバエや線虫といった、コネクトームが比較的解明されている小規模な生物が中心で、人間の全脳を対象にした研究はまだ限定的&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id="まとめ"&gt;まとめ&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;Reservoir Computingは、リザバー部分を固定し出力層だけを学習する枠組みで、Echo State Network（Jaeger, 2001）とLiquid State Machine（Maass et al., 2002）が源流&lt;/li&gt;
&lt;li&gt;コネクトームベースのReservoir Computingは、リザバーのランダムな結合行列を、実在の生物のコネクトーム由来の結合構造に置き換える研究分野&lt;/li&gt;
&lt;li&gt;&lt;code&gt;conn2res&lt;/code&gt;ツールボックス（Suárez et al., 2024, Nature Communications）が代表的な実装で、ショウジョウバエや人間の脳のデータに対応している&lt;/li&gt;
&lt;li&gt;ショウジョウバエのコネクトームをそのままリザバーとして使う研究（Morra &amp;amp; Daley 2022, Costi et al. 2025）や、人間の脳の機能的結合を使う研究がある&lt;/li&gt;
&lt;li&gt;「電脳化」のような意識の移植ではなく、あくまで配線構造を計算基盤として借用するという話&lt;/li&gt;
&lt;/ul&gt;
&lt;h2 id="参考文献"&gt;参考文献&lt;/h2&gt;
&lt;ul&gt;
&lt;li&gt;Jaeger, H. (2001). &amp;ldquo;The &amp;rsquo;echo state&amp;rsquo; approach to analysing and training recurrent neural networks.&amp;rdquo; GMD Report 148.&lt;/li&gt;
&lt;li&gt;Maass, W., Natschläger, T., Markram, H. (2002). &amp;ldquo;Real-time computing without stable states: A new framework for neural computation based on perturbations.&amp;rdquo; Neural Computation, 14(11), 2531-2560.&lt;/li&gt;
&lt;li&gt;Suárez, L.E., Mihalik, A., Milisav, F., Marshall, K., Li, M., Vértes, P.E., Lajoie, G., Misic, B. (2024). &amp;ldquo;Connectome-based reservoir computing with the conn2res toolbox.&amp;rdquo; Nature Communications, 15. &lt;a class="link" href="https://www.nature.com/articles/s41467-024-44900-4" target="_blank" rel="noopener"
&gt;doi:10.1038/s41467-024-44900-4&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;Morra, J., Daley, M. (2022). &amp;ldquo;Imposing Connectome-Derived Topology on an Echo State Network.&amp;rdquo; &lt;a class="link" href="https://arxiv.org/abs/2201.09359" target="_blank" rel="noopener"
&gt;arXiv:2201.09359&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;Costi, L., Hadjiivanov, A., Dold, D., Hale, Z.F., Izzo, D. (2025). &amp;ldquo;The Drosophila Connectome as a Computational Reservoir for Time-Series Prediction.&amp;rdquo; Biomimetics. &lt;a class="link" href="https://pmc.ncbi.nlm.nih.gov/articles/PMC12109256/" target="_blank" rel="noopener"
&gt;PMC12109256&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&amp;ldquo;Accessing the topological properties of human brain functional sub-circuits in Echo State Networks.&amp;rdquo; &lt;a class="link" href="https://arxiv.org/abs/2412.14999" target="_blank" rel="noopener"
&gt;arXiv:2412.14999&lt;/a&gt;&lt;/li&gt;
&lt;li&gt;&amp;ldquo;Using Connectome Features to Constrain Echo State Networks.&amp;rdquo; &lt;a class="link" href="https://arxiv.org/abs/2206.02094" target="_blank" rel="noopener"
&gt;arXiv:2206.02094&lt;/a&gt;&lt;/li&gt;
&lt;/ul&gt;</description></item></channel></rss>