उन सेटिंग्स (लर्निंग रेट, रेगुलराइज़ेशन स्ट्रेंथ, ट्री डेप्थ) को व्यवस्थित रूप से खोजना जो डेटा से नहीं सीखी जातीं बल्कि ट्रेनिंग से पहले चुनी जाती हैं।
क्रॉस-वैलिडेशन: डेटा को कई अलग-अलग तरीकों से बांटना और परफ़ॉर्मेंस का औसत निकालना, ताकि कोई भाग्यशाली/बदकिस्मत स्प्लिट गुमराह न करे।
रेगुलराइज़ेशन (L1/L2): ट्रेनिंग के दौरान बड़े मॉडल वेट्स पर पेनल्टी लगाना ताकि वह शोर को याद करके ओवरफ़िट न कर सके।
संबंधित टॉपिक्स
बैकप्रॉपगेशन: वह एल्गोरिदम जो यह हिसाब लगाता है कि न्यूरल नेटवर्क के हर वेट ने एरर में कितना योगदान दिया, ताकि ग्रेडिएंट डिसेंट को पता चले कि उसे किस दिशा में एडजस्ट करना है।