Yapay Sinir Ağları (YSA) (Artificial neural networks-ANN), insan beynindeki biyolojik nöronların birbirine sinyal gönderme şeklini taklit ederek makine öğrenmesi ve derin öğrenme alanlarındaki kalıpları tanımasına ve sorunları çözmesine olanak tanır. (Derin öğrenme konusunda daha detaylı bir şekilde anlatılacaktır.)

YSA, bir girdi katmanı, bir veya daha fazla gizlenmiş halde duran katmanlardan ve son olarak da çıktı katmanından oluşmaktadır. 

Bir girdi katmanı belirlendikten sonra ağırlıklar atanır. Bu ağırlıklar, herhangi bir değişkenin önemini belirlemeye yardımcı olur ve daha büyük olanlar diğer girdilere kıyasla çıktıya daha fazla katkıda bulunur. Tüm girdiler daha sonra ilgili ağırlıklarıyla çarpılır ve toplanır. Daha sonra çıktı, çıktıyı belirleyen bir aktivasyon fonksiyonundan geçirilir. Bu çıktı belirli bir eşiği aşarsa, ağdaki bir sonraki katmana veri ileterek düğümü etkinleştirir. Bu, bir düğümün çıktısının bir sonraki düğümün girdisi olmasına neden olur. Çıktı katmanına kadar bu yöntem uygulandığı için ileri beslemeli bir ağ olarak tanımlanır.

Yukarıda bahsetmiş olduğumuz Yapay Sinir Ağları (YSA) konusunda iki adet regresyon modelini ele alacağız. Bunlardan biri MLPRegressor diğeri ise BernoulliRBM'dir.