أعتقد أن التعلم الواقعي مع مكافآت قابلة للتحقق سيصبح أكثر أهمية في دفع نماذج اللغة الكبيرة نحو "لحظة ألفا زيرو" الخاصة بها. من المحتمل أن يبدأ بالبرمجة، ثم يمتد إلى الرياضيات والفيزياء ومجالات أخرى حيث يمكن للنماذج الاستكشاف الذاتي، واكتشاف حلول خارج التوزيع قد لا يتخيلها البشر أبدا، والتحقق منها باستخدام إشارة مكافأة مطلقة (0/1). هذا يذكرني أيضا @elonmusk حديثي عن مستقبل يمكن فيه توليد البرامج مباشرة كثنائيات، دون المرور بعملية التجميع التقليدية. قد يكون ذلك ممكنا فعلا إذا كانت نماذج اللغة الكبيرة قادرة على توليد كود ثنائي ثم تنفيذه مباشرة مقابل مكافأة قابلة للتحقق.