報告書番号

R95002

タイトル（和文）

階層型ニューラルネットワークの最適構成選択への情報量基準の適用－情報量基準の適用比較分析－

タイトル（英文）

APPLYING INFORMATION CRITERIA TO SELECTION OF OPTIMAL LAYERED NEURAL NETWORK STRUCTURE-EXPERIMENTAL ANALYSIS OF INFORMATION CRITERIA-

概要 （図表や脚注は「報告書全文」に掲載しております）

最近，様々な分野で非線形で連続な入出力関係を近似する方法として，ニューラルネットワークを適用する研究開発が活発に行われている。しかし，ニューラルネットワークの適切な構成方法は未だ確立されておらず，現在は人間が勘と経験によって決めている状況にある。あらかじめ与えられたデータによって学習させたニューラルネットワークが，どれだけ信頼性の高い予測を行えるかは，その中間ユニット数によって決まる。そこで，本報告では，最適なニューラルネットワークの中間ユニット数の決定に有効であると考えられている４つの情報量基準，ＡＩＣ，ＩＣ（Ｋ，Ｎ），ＮＩＣ，ＮＮＩＣについて，その特徴を明確にした。また，数値シミュレーションによって，当所で提案するＮＮＩＣを用いれば，診断監視，予測，制御などの分野において，最も予測信頼性の高いニューラルネットワークが構成できることを示した。

概要 （英文）

IN ENGINEERING,ONE OF THE MOST IMPORTANT APPLICATIONS OF ARTIFICIAL NEURAL NETWORKS IS NON-LINEAR PARAMETRIC MODELSTHAT CAN APPROXIMATE ANY CONTINUOUS INPUT-OUTPUT RELATIONSHIP. SUPERVISED LEARNING IS BASED ON A TRAINING SET CONSISTING OF A NUMBER OF EXAMPLES OBSERVED FROM AN ACTUAL SYSTEM. AN IMPORTANT BUT DIFFICULT PROBLEM IS TO DETERMINE THE OPTIMAL NUMBER OF PARAMETERS. THIS REPORT SHOWS THAT THE PROBLEM OF DETERMINING THE NUMBER OF HIDDEN UNITS CAN BE ANALYZEDAND SOLVED STATISTICALLY. IN THE STATISTICAL APPROACH,INFORMATION CRITERIA ARE USEFUL FOR SOLVING THE PROBLEM OF MODEL SELECTION. AIC,NIC,IC(K,N) AND NNIC ARE WELL KNOWN INFORMATION CRITERIA APPLIED TO DETERMINING THE NUMBER OF HIDDEN UNITS FOR NEURAL NETWORKS. WE ANALYZE THESE INFORMATION CRITERIA AND CLARIFIED THEIR FEATURES. WE SHOW THAT NNIC IS THEMOST USEFUL INFORMATION CRITERION FOR THIS PROBLEM. FURTHERMORE,WE SHOW THE EFFECTIVENESS OF NNIC BY SIMULATING SOME EXAMPLES. OUR EXPERIMENTAL RESULTS SHOW THAT NNIC IS THE MOST USEFUL INFORMATION CRITERION FOR DETERMINING THE NUMBER OF HIDDEN UNITS. FINALLY,THIS REPORT SHOWS THAT NNIC IS EFFECTIVE IN MEASURING THE QUALITY OF THE APPROXIMATION FOR ARTIFICIAL FEED-FORWARD NEURAL NETWORKS.

報告者

キーワード