前節では,システムの出力 と出力すべき値 との2乗誤差を として,すなわち出力信号 に対し
このように,出力すべき値が予め与えられる場合は,その値を教師値といい,その値との誤差の最小化問題を,教師付き問題といいます。
や によって連続関数のニューラ ルネットワークによる一様近似可能性が研究されています。 その研究成果によれば, に属する任意の連続関数は を十分大きくとれば の元によって一様近似可能で あることがわかっています。 証明なしで使いますが,以下の定理が知られています。
詳しくは以下の文献にあります。