স্বায়ত্তশাসিত এমএল ইঞ্জিনিয়ারিংয়ের জন্য একজন শক্তিশালী এজেন্টের কতটা জোতা লাগে?

অটোনোমাস মেশিন লার্নিং ইঞ্জিনিয়ারিং (MLE) এজেন্টরা সম্প্রতি পাবলিক লিডারবোর্ডে উল্লেখযোগ্য অগ্রগতি করেছে। প্রায়শই দীর্ঘ-দিগন্ত চক্রের অগ্রগতির স্থবিরতা এবং একটি বৃহৎ ভাষা মডেল (LLM) এর সীমিত আদিম দ্বারা চালিত, আধুনিক MLE এজেন্ট ক্রমবর্ধমান অত্যাধুনিক মেশিনগুলিতে মোতায়েন করা হয়: বহু-এজেন্ট অর্কেস্ট্রেটর, উত্সর্গীকৃত পুনরুদ্ধার উপ-এজেন্ট এবং আরও অনেক কিছু। যখন এই ধরনের সুযোগগুলি প্রসারিত হচ্ছে, তখন আরও আদিম কিন্তু উন্নত কোডিং এজেন্টের ব্যবহার-যেখানে LLM-এর রিড, রাইট এবং ব্যাশ প্রিমিটিভের মাধ্যমে এক্সিকিউশন পরিবেশে সরাসরি অ্যাক্সেস রয়েছে-ক্ষেত্রে খুব কম মনোযোগ দেওয়া হয়েছে। এই কাগজে আমরা দেখতে পাই যে সমান সময়ের বাজেট এবং একই সীমানা LLM ব্যাকবোনের অধীনে, অত্যাধুনিক ওপেন সোর্স জোতাগুলি একটি ন্যূনতম হারনেস কোডিং এজেন্টের একক বেসলাইন চালানোর উপর কোন সুবিধা প্রদান করে না, কর্মক্ষমতার প্রধান চালক হিসাবে ব্যাকবোনকে নির্দেশ করে। বৃহৎ-স্কেল পদ্ধতিগত বিমোচন অধ্যয়নের একটি সিরিজের মাধ্যমে, আমরা যুক্তি দিই যে এনকোডিং এজেন্টকে সংজ্ঞায়িত করতে যন্ত্রপাতি স্তরগুলি অপ্রয়োজনীয় হয়ে ওঠে। আমরা উপসংহারে পৌঁছেছি যে শক্তিশালী মডেলগুলির চারপাশে হস্ত-নির্মিত জোতা তৈরির প্রচেষ্টা বর্তমান MLE মেট্রিক্সের জন্য খারাপ রিটার্ন দেয়।