Yapay sinir ağlarını oluşturan en temel nesne olarak tanımlanabilen katmanlar, öğrenme işleminin tamamının yapıldığı bölümler olarak ifade edilebilir. Tipik olarak herhangi bir yapay sinir ağı diyagramında toplamda 3 farklı temel katman bulunmaktadır. Bunlar;

• Giriş Katmanı: Çalışmalarda kullanılmak istenilen uygun verilerin kabul edildiği ve alındığı bölümdür.
• Gizli Katmanlar: Aşağıdaki şekilde görüldüğü üzere girdi ve çıktı katmanları arasında bulunan gizli katmanlar bir veya daha fazla sütundan meydana gelmektedir. Bu katmanların görevi, gizlenmiş özellikleri ve kalıpları kendine özgü matematiksel hesaplamalar kullanarak tespit etmektir. 
• Çıkış Katmanı: Giriş ve gizli katmanların gerçekleştirmiş olduğu eylemler sonucunda alınan ilk girdi değerleri uygun dönüşümlerden geçirilir ve bu katman dahilinde çıktı değerler formunda sonuçlandırılır.

Burada belirtilen 3 farklı katmanda giriş ve çıkış katmanı yalnızca bir sütundan meydana gelirken, gizli katmanlar birçok farklı sütundan meydana gelmektedir. Belirtilen 3 katmandan herhangi birinin içerisinde sonsuz sayıda nöron bulunabilmektedir. Genel olarak sonsuz sayıda nörona ev sahipliği yapan bu katmanlar, tipik bir sinir ağını oluşturmak için birbirleri arasında yoğun bağlantılar oluşturmaktadırlar. Yani buradan anlaşılacağı üzere giriş katmanı ile çıkış katmanı birbirlerini doğrudan etkilemektedir ve böylelikle çıktı verilerinin tamamının girdi verilerine bağlı olduğunu söylenebilir. 

Tipik bir yapay sinir ağı aşağıdaki şekil ile basit bir şekilde ifade edilebilir.

Şekilde görüldüğü üzere yapay sinir ağı; girdi, gizli ve çıktı katmanlarından oluşmaktadır.  Ayrıca, yukarıda bahsedildiği gibi giriş ve çıkış katmanlar bir sütundan meydana gelirken, gizli katmanların 2 sütündan oluştuğu ve tüm katmanların birbirlerine yüzlerce farklı şekillerde bağlantı yapabildiği görülmektedir.

Genel hatlarıyla katmanların temel çalışma prensibi;

1. Oluşturulan yapay sinir ağı istenilen özelliklerde veri alır, 
2. Alınan girdi verileri birbirleriyle ilişkili (bağlantı kurulmuş) olan tüm düğümlere gönderilir,
3. Son olarak uygun bir aktivasyon fonksiyonu devreye sokularak sinyal hesaplamaları yapılır.

Sonuç olarak, herhangi bir programcı tarafından uygun görülen verisel değerler girdi katmanına aktarılır. Daha sonra girdi katmanına alınan değerler, bağlantı oluşturulan gizli katmanlara aktarılır. Gizli katmanlarda bazı matematiksel uzantılar kullanılarak verilerin özelliklerinin ve kalıplarının tespiti sağlanır. Tüm bu sürecin ardından uygun değerler çıktı katmanında sonuçlandırılır.