the real dots (the smiley the network learned from)
new dots, starting as pure noise
الفكرة كلّها. إضافة الـ noise سهلة. امزج قليلًا من الـ noise العشوائيّ في صورة، ثمّ قليلًا آخر، خطوةً بعد خطوة. بعد
100 خطوة لا يبقى إلّا تشويش. لا يحتاج هذا الجزء إلى أيّ تعلّم:
noisy picture = a × picture + b × noise [حيث a = كم من الصورة، و b = كم من
الـ noise، و a² + b² = 1]
إزالة الـ noise يجب أن تُتعلَّم. للتدريب، خُذ مثالًا حقيقيًّا، وأضِف noise حتى خطوة عشوائيّة، واطلب من
شبكة أن تخمّن الـ noise الذي أُضيف. الـ loss هو مقدار خطأ التخمين.
لصنع شيء جديد، ابدأ من noise خالص. اسأل الشبكة عن الـ noise، وأزِل قليلًا منه، وكرّر ذلك 100 مرّة. ما
يبقى يشبه البيانات الحقيقيّة، لكنّه جديد.
يتدرّب الجزء 2 على نقاط لا على صور، فيستطيع أن يتعلّم هنا في ثوانٍ قليلة. كلّ نقطة «صورة» صغيرة
فيها رقمان فقط، x و y. نموذج الصور يفعل الشيء نفسه مع كلّ pixel، بشبكة أكبر بكثير وعادةً بنحو 1,000 خطوة.
الـ Diffusion والـ GANs.
مزوِّر الـ GAN يصنع صورة في تمريرة واحدة. أمّا الـ diffusion فيحتاج تمريرة لكلّ خطوة — 100 هنا — لذا
هو أبطأ. لكنّه يدرّب شبكة واحدة على مهمّة واحدة بسيطة، تخمين الـ noise، دون شدّ وجذب بين شبكتين. وهذا
يجعل تدريبه أكثر ثباتًا.
أمور تستحقّ التجربة:
1. حرّك الـ slider. عند الخطوة 10 يبقى 90% من قوّة الصورة. عند الخطوة 25 يصير 53% ويصعب رؤية الوجه
المبتسم. عند الخطوة 50 يصير 7%، وعند الخطوة 100 يصير 0%: noise خالص.
2. قبل التدريب، اضغط Run to the end. الشبكة لا تقدّم إلّا تخمينات عشوائيّة، وفي 10 تشغيلات من
10، انتهى 0% من النقاط على الوجه المبتسم.
3. Train the noise guesser (نحو 8 ثوانٍ)، ثمّ Run to the end. في 10
تشغيلات، وقع 68–75% من النقاط الجديدة على الوجه المبتسم. استعمل Step ×10 لتشاهد:
عند الخطوة 10 لا يكون عليه إلّا نحو 30%. معظم الشكل يظهر في آخر 10 خطوات.
4. Train more، ثمّ اصنع سحابة جديدة. في 10 تشغيلات، وقع 73–81% من النقاط على الوجه
المبتسم.
5. يتوقّف الـ loss قرب 0.34 ولا يصل إلى 0 أبدًا. التخمين سهل حين يكون الـ noise كثيرًا، لأنّ النقطة حينها
تكاد تكون noise كلّها (خطأ 0.01 للخطوات 51–100). وهو صعب حين يكون الـ noise قليلًا جدًّا (خطأ نحو 1.45
للخطوات 1–10): هل النقطة بعيدة عن الوجه المبتسم بسبب الـ noise، أم أنّ ذلك مكانها الحقيقيّ؟