মাইক্রোসফটের সিইও সত্য নাদেলা AI-তে একটি “জরুরি ব্রেক” করার আহ্বান জানিয়েছেন

মাইক্রোসফ্ট সিইও সত্য নাদেলা সাম্প্রতিক সপ্তাহগুলিতে তার সমবয়সীদের চেয়ে শান্ত ছিলেন কারণ অ্যানথ্রোপিক, গুগল, ওপেনএআই এবং অন্যান্যদের প্রধানরা কৃত্রিম বুদ্ধিমত্তার ঝুঁকি নিয়ে আলোচনা করেছেন। এখন, তিনি শিল্প-ব্যাপী পরিবর্তনের আহ্বান জানিয়েছেন।

এক্স-এ, নাদেলা যুক্তি দিয়েছিলেন যে আরও সমস্যাযুক্ত ঘটনার ক্ষেত্রে এআই ডেভেলপারদের কাছে টানতে তিনি যাকে “জরুরি ব্রেক” বলছেন তা চালু করার সময় এসেছে। “আমাদের ধরে নিতে হবে যে একটি মডেল আপস করা হয়েছে এবং এটি শুরু থেকেই ধারণ করে,” নাদেলা বলেন। “একজন অনুমোদিত ব্যক্তি সর্বদা একটি মডেল মিড-মিশনে বিরতি বা বন্ধ করতে সক্ষম হওয়া উচিত। আমরা সুপার ইন্টেলিজেন্সকে নেস্টেড ব্ল্যাক বক্সের একটি সেট হিসাবে বিবেচনা করতে পারি না এবং এর সুপারিশ, উত্তর এবং ক্রিয়াগুলিকে কেবল গ্রহণ বা প্রত্যাখ্যান করতে পারি না।”

নাদেলা পুরো পোস্ট জুড়ে “সুপার ইন্টেলিজেন্স” শব্দটি ব্যবহার করেছেন। গত মাসে প্রেসিডেন্ট ট্রাম্প নির্বাহী শাখাকে কৃত্রিম বুদ্ধিমত্তার পরিবর্তে এটি ব্যবহার করার নির্দেশ দেন।

মাইক্রোসফটের সিইও এআই-এর জন্য নিয়ন্ত্রণ এবং অডিট টুল সমর্থিত, মডেলারদের দ্বারা পরিচালিত। “কোন একক মডেলের সিস্টেমের আচরণ এবং সেই আচরণটি আসল উদ্দেশ্যের সাথে সামঞ্জস্যপূর্ণ কিনা তা নির্ধারণ করার জন্য প্রয়োজনীয় প্রমাণ উভয়ই নিয়ন্ত্রণ করা উচিত নয়।”

মডেল “ব্যর্থ বা আপোস করা হলে সময়মত প্রকাশ নিশ্চিত করার জন্য এআই শিল্পের একটি সিস্টেম প্রয়োজন” তিনি বলেছিলেন। এটি কোম্পানিগুলিকে সমস্যাগুলির উপর আরও কার্যকরভাবে যোগাযোগ করার অনুমতি দেবে, এটি নিশ্চিত করে যে কোনও ব্যর্থতা শিক্ষা দেয় যা সমগ্র শিল্প জুড়ে প্রয়োগ করা যেতে পারে।

আমাদের সম্পাদকদের দ্বারা প্রস্তাবিত

সাম্প্রতিক মাসগুলিতে, আমরা বেশ কিছু কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির দুর্বৃত্ত হওয়ার কথা শুনেছি, যার মধ্যে একটি ওপেনএআই এজেন্ট অস্ট্রেলিয়ার সরকারি ওয়েবসাইট অ্যাক্সেস করছে। অ্যানথ্রপির সিইও দারিও আমোদয় গত মাসে ওপেনএআই-এর স্যাম অল্টম্যান এবং এক্সএআই-এর ইলন মাস্ককে অনুসরণ করে “এআই বিকাশের গতি ধীর” করার জন্য কল শুরু করেছিলেন। স্ব-নিয়ন্ত্রণের জন্য এই কলগুলিকে কতটা গুরুত্ব সহকারে নিতে হবে তা জানা কঠিন; কোন বড় প্রযুক্তি কোম্পানি সত্যিই টেবিলে টাকা ছেড়ে যাচ্ছে?

একজন ব্যক্তি অবশ্যই পদ্ধতির অনুরাগী নন: রাষ্ট্রপতি ট্রাম্প।