كتاب "التعلم العميق التوليدي. الإمكانات الإبداعية للشبكات العصبية "

صورةمرحبا ، هابروجيتلي! تعد النمذجة التوليدية من أكثر الموضوعات التي تمت مناقشتها في مجال الذكاء الاصطناعي. يمكن تعليم الآلات رسم الموسيقى وكتابتها وتأليفها. يمكنك بنفسك وضع الذكاء الاصطناعي على مكتبك أو الحامل ، لذلك يكفي التعرف على أكثر الأمثلة ذات الصلة لنماذج التعلم العميق التوليدي: التشفير التلقائي المتغير ، والشبكات التنافسية التوليدية ، ونماذج مثل التشفير - فك التشفير وأكثر من ذلك بكثير.

يجعل David Foster هندسة وأساليب النمذجة التوليدية مفهومة ومتاحة ، وستجعل نصائحه وحيله نماذجك أكثر إبداعًا وفعالية في التدريب. ستبدأ بأساسيات التدريب المتعمق بناءً على Keras ، ثم تنتقل إلى الخوارزميات الأكثر تقدمًا.

  • افهم كيف تغير برامج الترميز التلقائية العواطف في الصور.
  • قم بإنشاء GAN من البداية.
  • تعلم كيفية العمل مع نماذج توليد النص التوليدية.
  • اكتشف كيف تساعد النماذج التوليدية الوكلاء على إكمال مهام التعلم المعزز.
  • استكشف BERT و GPT-2 و ProGAN و StyleGAN والمزيد.

الأهداف والمناهج


يناقش هذا الكتاب الطرق الرئيسية التي سيطرت على مشهد النمذجة التوليدية في السنوات الأخيرة وحققت تقدمًا مثيرًا للإعجاب في المهام الإبداعية. بالإضافة إلى استكشاف النظرية الأساسية للنمذجة التوليدية ، سننشئ في هذا الكتاب أمثلة عملية لبعض النماذج الرئيسية المستعارة من الأدبيات ، وسننظر خطوة بخطوة في تنفيذ كل منها.

خلال الكتاب ، ستصادف قصصًا إرشادية قصيرة تشرح آليات بعض النماذج. ربما تكون إحدى أفضل الطرق لدراسة نظرية تجريدية جديدة هي تحويلها أولاً إلى شيء أقل تجريدًا ، مثل قصة ، ثم الغطس في وصف تقني. ستكون الأقسام المنفصلة من النظرية أكثر قابلية للفهم في سياق يشمل الأشخاص والأفعال والعواطف ، وليس في سياق مفاهيم مجردة إلى حد ما مثل شبكات عصبية أو انتشار عكسي أو وظائف فقدان.

تعد قصة ووصف النموذج طريقة شائعة لشرح الشيء نفسه من وجهتي نظر. لذلك ، عند دراسة نموذج ، سيكون من المفيد في بعض الأحيان العودة إلى القصة المقابلة. إذا كنت معتادًا على خدعة معينة ، فاستمتع فقط باكتشاف أوجه الشبه في كل قصة مع كل عنصر من عناصر النموذج!

يقدم الجزء الأول من الكتاب الطرق الرئيسية لبناء النماذج التوليدية ، بما في ذلك نظرة عامة على التعلم العميق ، وأجهزة التشفير الآلي المتنوعة والشبكات التنافسية التنافسية. في الجزء الثاني ، يتم استخدام هذه الأساليب لحل العديد من المشكلات الإبداعية (الرسم وتأليف القصص والموسيقى) باستخدام نماذج مثل CycleGAN ، ونماذج مثل برنامج الترميز وفك الشفرة و MuseGAN. سنرى كيف يمكن استخدام النمذجة التوليدية لتحسين استراتيجية الفوز للعبة (نماذج العالم) ، والنظر في البنى التوليدية الأكثر تقدمًا المتاحة اليوم: StyleGAN و BigGAN و BERT و GPT-2 و MuseNet.

ساذج Bayes Parametric Model


يستخدم نموذج بارايتر السذاجة الساذج افتراضًا بسيطًا لتقليل عدد المعلمات المطلوب تقييمها بشكل كبير. نحن نفترض بسذاجة أن كل خاصية xj لا تعتمد على أي خاصية أخرى صورةفيما يتعلق بمجموعة البيانات التي تم الحصول عليها على Irma ، وهذا يعني ، على سبيل المثال ، أن اختيار لون الشعر لا يؤثر على اختيار نوع الملابس ، وأن اختيار نوع النظارات لا يؤثر على اختيار تصفيفة الشعر. بشكل أكثر رسمية ، لجميع العلاماتصورة

صورة

يُعرف هذا بتخمين بايزي ساذج. لتطبيقه ، نستخدم أولاً قاعدة احتمالية السلسلة لكتابة دالة الكثافة كمنتج للاحتمالات الشرطية:

صورة

حيث K هو العدد الإجمالي للعلامات (أي خمسة في المثال مع الكوكب Irm).

الآن قم بتطبيق افتراض بايز الساذج لتبسيط السطر الأخير:

صورة

هذا نموذج بايزي ساذج. وتتمثل المهمة في تقييم المعلمات صورةلكل ميزة على حدة وضربها لتحديد احتمال أي مجموعة ممكنة.

كم عدد المعلمات التي يجب تقييمها في مهمتنا؟ لكل خاصية ، تحتاج إلى تقييم المعلمة لكل قيمة يمكن أن تأخذها هذه الخاصية. لذلك ، في المثال مع الكوكب Irm ، يتم تحديد هذا النموذج فقط من خلال 7 + 6 + 3 + 4 + 8-5 = 23 معلمة.

يتم صورةاحتساب أقصى درجة احتمالية على النحو

صورة

حيث صورةهو عدد المرات التي تأخذ فيها السمة k القيمة l في مجموعة البيانات ، و N = 50 هي العدد الإجمالي للملاحظات.

في الطاولة. 1.2 يوضح المعلمات المحسوبة لمجموعة بيانات من كوكب Irm. لإيجاد الاحتمالية التي سيولد بها النموذج بعض الملاحظة x ، يكفي مضاعفة احتمالات السمات الفردية. على سبيل المثال:
صورة

يرجى ملاحظة: هذه المجموعة غير موجودة في مجموعة البيانات الأصلية ، لكن نموذجنا يحدد الاحتمال غير الصفري لها ، مما يعني أنه يمكن توليدها. بالإضافة إلى ذلك ، فإن احتمال هذا المزيج أعلى من ، على سبيل المثال ، (حلاقة طويلة ، شعر مستقيم ، أحمر ، نظارات مستديرة ، تي شيرت برقبة دائرية ، قميص أزرق 01) ، لأن اللون الأبيض للملابس يظهر في مجموعة المراقبة أكثر من اللون الأزرق.

أي أن نموذج بايزي الساذج قادر على تحديد بعض بنية البيانات واستخدامها لإنشاء عينات جديدة غير موجودة في المجموعة الأصلية. قدّر النموذج احتمالية تلبية كل قيمة سمة بشكل مستقل عن الآخرين ، وبالتالي ، باستخدام افتراض بايزي الساذج ، يمكن مضاعفة هذه الاحتمالات لبناء دالة الكثافة الكاملة ،صورة

صورة

في التين. 1.8 يظهر 10 ملاحظات مختارة من قبل النموذج.

لهذه المهمة البسيطة ، فإن افتراض بايزي الساذج لاستقلالية السمات أمر معقول وبالتالي يوفر نموذجًا جيدًا للتوليد.

الآن دعونا نرى ما يحدث إذا تبين أن هذا الافتراض خاطئ.

صورة

مرحبًا إيرم! استمرار


تشعر بشعور معين من الفخر عندما تنظر إلى عشرة إبداعات جديدة أنشأها نموذج بايزي الساذج الخاص بك. بتشجيع من نجاحك ، فإنك تنتبه إلى الجانب الآخر من المهمة ، وهذه المرة لا تبدو بسيطة.

لا تحتوي مجموعة البيانات ذات الاسم المباشر Planet Pixel الذي تم توفيره لك على الميزات الخمس عالية المستوى التي رأيتها أعلاه (لون الشعر ، ونوع الملحقات ، وما إلى ذلك) ، ولكن فقط 32 × 32 بكسل التي تشكل كل صورة. أي أن كل ملاحظة تحتوي الآن على 32 × 32 = 1024 علامة ويمكن لكل علامة أن تأخذ أيًا من 256 قيمة (ألوان فردية في اللوحة).

يتم عرض الصور من مجموعة البيانات الجديدة في الشكل. 1.9 ، وتظهر عينة من قيم البكسل للملاحظات العشرة الأولى في الجدول. 1.3.

لقد قررت تجربة نموذج بايزي الساذج مرة أخرى ، هذه المرة تدرب على مجموعة بيانات بكسل. سيقوم النموذج بتقييم الحد الأقصى لمعلمات الاحتمالية التي تحدد توزيع الألوان لكل بكسل من أجل إنشاء ملاحظات جديدة بناءً على هذا التوزيع. ومع ذلك ، بعد إكمال النموذج ، فإنك تفهم أن هناك خطأ ما. بدلاً من عينات الموضة الجديدة ، أظهر النموذج عشر صور متشابهة ، لا يمكن تمييز أي ملحقات أو علامات واضحة لتصفيفة الشعر أو الملابس (الشكل 1.10). لماذا حدث ذلك؟

صورة

صورة


نبذة عن الكاتب


ديفيد فوستر هو أحد مؤسسي شركة Applied Data Science ، وهي شركة استشارات بيانات تقوم بتطوير حلول مخصصة للعملاء. حصل على درجة الماجستير في الرياضيات من كلية ترينيتي ، كامبريدج ، المملكة المتحدة ، ودرجة الماجستير في البحث التشغيلي من جامعة وارويك.

فازت بالعديد من مسابقات التعلم الآلي الدولية ، بما في ذلك شراء منتج توقع InnoCentive. حصل على جائزة التصور الأولى التي سمحت لشركة أدوية في الولايات المتحدة بتحسين اختيار الموقع للتجارب السريرية.

عضو نشط في المجتمعات عبر الإنترنت مهتم بعلوم البيانات ومؤلف العديد من مقالات مدونة التعلم العميق الناجحة ، بما في ذلك"كيفية بناء جهاز AlphaZero AI الخاص بك باستخدام Python و Keras . "

»يمكن العثور على مزيد من المعلومات حول الكتاب على موقع الناشر على الويب
» المحتويات
» مقتطفات

لـ Khabrozhiteley خصم 25 ٪ على القسيمة - التعلم العميق

عند دفع النسخة الورقية من الكتاب ، يتم إرسال كتاب إلكتروني عبر البريد الإلكتروني.

All Articles