ডেভিড রবিনসন প্রতিটি বড় ওপেনএআই মডেল রিলিজের সাথে নিরাপত্তা প্রতিবেদন লিখতেন। এই সপ্তাহে তিনি তার পদ থেকে পদত্যাগ করেছেন এবং এখন একটি সম্পাদকীয়তে নিজেকে প্রকাশ করছেন আটলান্টিক মহাসাগর.
তারা যে জিনিসটি তৈরি করতে সাহায্য করেছিল তা কতটা বিপজ্জনক তা সম্পর্কে সতর্ক করার জন্য হঠাৎ কাঠের কাজ থেকে বেরিয়ে আসা প্রত্যেকের সম্পর্কে আপনি যদি কিছুটা উন্মাদ বোধ করেন তবে এটি বোধগম্য। তারা এই জগাখিচুড়ি করা শেষ. কিন্তু এর মানে এই নয় যে আমরা তাদের সতর্কবার্তা খারিজ করব।
রবিনসন বলেছেন শিল্পের সংস্কৃতি মৌলিকভাবে ভেঙে গেছে। আমরা কীভাবে প্রশিক্ষণের মডেলগুলি পরিচালনা করি তার উপর কিছু নতুন নিয়ম বা প্রবিধান আরোপ করার চেয়ে এটি একটি গভীর সমস্যা। সিলিকন ভ্যালি “অত্যন্ত আত্মবিশ্বাস” এবং “ধ্রুবক স্প্রিন্ট” এর সাথে পরিচালিত হয়েছে, তিনি বলেছেন, “অনিচ্ছাকৃত আশাবাদ” সহ আরও বড় এবং আরও ভাল মডেল তৈরি করা যা সম্ভাব্য সমস্যাগুলিকে উপেক্ষা করে বা কম করে।
তার মতে, সময় এসেছে কৃত্রিম বুদ্ধিমত্তা সংস্থাগুলির নম্রতার বোধ তৈরি করার এবং বিচ্ছিন্ন বিশ্বের বাইরে তাকানোর, দ্রুত সরানো এবং প্রযুক্তি শিল্পের জিনিসগুলি হ্যাক করার। বিশেষ করে, তিনি বলেছেন কৃত্রিম বুদ্ধিমত্তার পরমাণু-স্তরের সুরক্ষার প্রয়োজন:
আজকের ঝুঁকির পরিপ্রেক্ষিতে, ফ্রন্টিয়ার ল্যাবগুলিকে পারমাণবিক বিদ্যুৎ কেন্দ্র বা ব্যস্ত বিমানবন্দরগুলির মতো কাজ করতে হবে, অপ্রয়োজনীয়তার স্তর এবং সতর্ক, সময়সাপেক্ষ পরিকল্পনা যাতে মাঝে মাঝে এবং অনিবার্য মানব ত্রুটি বিপর্যয়ের দরজা না খুলে দেয়।
Leave a Reply