নৃতাত্ত্বিক তার অভ্যন্তরীণ মূল্যায়ন ইন্টারনেট থেকে সংযোগ বিচ্ছিন্ন করে

সাম্প্রতিক হাই-প্রোফাইল ঘটনাগুলির পরে যেখানে এআই এজেন্টরা নিয়ন্ত্রণ থেকে পালিয়েছে, অ্যানথ্রপিক সমস্ত অভ্যন্তরীণ মূল্যায়নের জন্য ইন্টারনেট অ্যাক্সেস বন্ধ করে দিচ্ছে। শুক্রবারের একটি প্রতিবেদনে, কোম্পানিটি একটি অমীমাংসিত খুনের বিষয়ে একটি মিথ্যা টিপ জমা সহ “অজান্তে মডেলিং অ্যাকশন” সম্পর্কে বিস্তারিত জানিয়েছে, যা এই সিদ্ধান্তের দিকে নিয়ে গেছে।

যদিও এই আচরণগুলির প্রভাব ন্যূনতম ছিল এবং আমরা ইতিমধ্যে কিছু উচ্চ-ঝুঁকি এবং সাইবার নিরাপত্তা মূল্যায়নের জন্য লাইভ ওয়েব অ্যাক্সেস অক্ষম করে দিয়েছি, আমরা এখন আমাদের সমস্ত অভ্যন্তরীণ মূল্যায়ন অন্তর্ভুক্ত করার জন্য এটিকে প্রসারিত করার সিদ্ধান্ত নিয়েছি যতক্ষণ না আমরা নিশ্চিত করি যে আমাদের নিরাপত্তা এবং পর্যবেক্ষণ ব্যবস্থাগুলি (এই পোস্টের প্রতিকার বিভাগে বর্ণিত) নির্ভরযোগ্যভাবে এই ধরনের আচরণগুলি ধরা পড়ে৷

লাইভ ইন্টারনেট অ্যাক্সেস করার ক্ষমতা, এমনকি যখন মডেলগুলি অফলাইনে চালানোর কথা ছিল, তখনও এআই কোম্পানিগুলির জন্য একটি স্থায়ী সমস্যা হয়েছে। আলিঙ্গন হামলাসহ অনেক ঘটনায় জড়িত এজেন্টরা ইন্টারনেট ব্যবহারে বাধা দেয় বলে ধারণা করা হচ্ছে। যাইহোক, মামলার পরের ক্ষেত্রে, এজেন্টরা এই বিধিনিষেধগুলি এড়াতে সৃজনশীল সমাধান খুঁজে পেয়েছে। শারীরিকভাবে ইন্টারনেট অ্যাক্সেস অপসারণ অবশ্যই AI পরীক্ষার চারপাশে নিরাপত্তা উন্নত করবে, কিন্তু এটি এর উপযোগিতাকেও সীমিত করবে।

প্রতিবেদনটি স্বীকার করে যে অ্যানথ্রপিক প্রায়শই তার এজেন্টরা কী করছে সে সম্পর্কে বেখবর এবং তাদের আচরণ পর্যবেক্ষণ করার জন্য কোনও নির্ভরযোগ্য ব্যবস্থা নেই। ইন্টারনেট অ্যাক্সেস বন্ধ করা কোম্পানিটি তার এজেন্টদের লাগাম টেনে ধরার জন্য নেওয়া সর্বশেষ পদক্ষেপ, যার মধ্যে সাময়িকভাবে তার ফ্রন্ট-এন্ড মডেলের প্রশিক্ষণ বন্ধ করা রয়েছে।

Source link