連載の第2回目では、引き続きパーセント理論を経て人工知能の開発の歴史を振り返っていきます。シリーズの過去のコンテンツをまだ見ていない場合は、まずチェックすることをおすすめします。
[AIストーリー] 人工知能の重要な瞬間 1
1969年、XOR問題と人工知能の最初の冬
<Perceptrons>マーヴィン・ミンスキーとパーセプトロンの問題を指摘した本で、 ソース
1969年、マービン・ミンスキーとシーモア・ペパートは、パーセプトロンの問題と限界を数学的な証明として提示しました。パーセプトロンは、AND や OR のように線形に分離できる問題は可能だが、データを線形 (線形) で区別できない XOR 問題* には適用できないという意味です。実際、これはパーセプトロン**の限界**を証明しましたが、当時は人工ニューラルネットワーク自体の限界を明らかにするものとして受け入れられていました。
その後、人工知能の冬と呼ばれる暗黒時代が到来しました。AI研究への支援が断たれ、AIの可能性に対する懐疑的な見方が広がりました。「人工知能は爆発的なコンビナトリアル爆発（扱いにくい）には対応できない」***は悲観的な見通しを示し、大規模な資金提供が断たれ、多くの研究プロジェクトが中止された。
1986、多層パーセプトロン問題の解決と人工知能の復活
<Parallel Distributed Processing>ジェフリー・ヒントンらによるプレゼンテーション ソース
1986年、ジェフリー・ヒントンは多層パーセプトロン（多層パーセプトロン）****とバックプロパゲーション（バックプロパゲーション）*****アルゴリズムを実験的に証明しました。これにより、私たちは AI の冬をもたらした XOR 問題を解決しました。人工ニューラルネットワークと人工知能の研究は、長期間の暗闇を経て復活しました。
多層パーセプトロンとバックプロパゲーションアルゴリズムの概念図、 ソース
従来のパーセント理論では、XOR 問題を解決できませんでした。しかし、多層パーセプトロンとバックプロパゲーション・アルゴリズムが解決策でした。多層パーセント理論では、隠れ層と呼ばれる中間層を追加することで XOR 問題を解決できました。逆伝播アルゴリズムは、フィードフォワード操作後にエラーをバックに送り返して重み値を最適化することで、多層ニューラルネットワークを可能にしました。
しかし、それはヒントンだけが突然達成した革新ではありませんでした。それは困難な時期でも研究を続けてきた研究者の努力の積み重ねの賜物です。バックプロパゲーションの研究は1960年代にはすでに始まっていたが、停滞した大気*****に埋もれてしまい、ヒントンによって再び明るみに出された。
この結果、しばらくの間AI研究は活性化され、大きな進歩を遂げました。
1990年代、斜面損失問題とAIの第二の冬
人工ニューラルネットワークは、多層パーセプトロンとバックプロパゲーション法によって再び注目を集めています。しかし、これだけではニューラルネットワークへの適用範囲は限られていました。大規模で複雑なデータを扱うには、複数の隠れ層をつなぐ必要があり、限界が見え始めているのはマルチレイヤーのパーセンタイル法とバックプロパゲーション法だけです。
スロープ損失の概念図、 ソース
次に、グラデーションの消失問題（グラデーションの消失問題）****が発生しました。これが、人工知能の第二の冬をもたらした決定的な問題でした。人工ニューラルネットワークの層数が増えると、学習に重要な役割を果たす入力層の重みが適切に調整されなくなります。
やがて、多層ニューラルネットワークの使用上の制限や、複雑な計算処理が困難だった時代のコンピューターの性能など、さまざまな制限により、困難な時期が再び訪れました。人工知能研究は第二次暗黒期に入りました。再び、研究支援が激減し始め、関連産業も停滞期に入りました。
今回は、第1冬から第2冬にかけての人工知能の紆余曲折を振り返りました。次は、ディープラーニングの登場以来進化を続け、最近全盛期を迎えた人工知能の話を紹介します。
参考文献
[1] https://ko.wikipedia.org/wiki/인공지능#역사
[2] https://terms.naver.com/entry.naver?docId=1691762&cid=42171&categoryId=42187
[3] 人工知能の歴史、分類、開発の方向性に関する研究 — チョ・ミンホ http://koreascience.or.kr/article/JAKO202113254541050.pdf
[4] http://www.aistudy.com/history/history.htm
[5] パーセプトロン：人工知能の始まり https://horizon.kias.re.kr/17443/
[6] 人工知能はどのように発展してきたのか、そして人工知能の歴史 https://www.samsungsds.com/kr/insights/091517_CX_CVP3.html
[7] [AIプランニング ②] 人工知能の始まりと発展... 暗黒時代と「AIの冬」 http://scimonitors.com/ai기획②-인공지능-발달과정-튜링부터-구글-알파고-ibm/
[8] 人工ニューラルネットワークの導入と開発動向 https://www.koreascience.or.kr/article/JAKO201724655833983.pdf
一緒に見るのに良いコンテンツ
[AIストーリー] 人工知能の重要な瞬間 1
