স্যাম অল্টম্যান মনে করেন AI এর সুবিধাগুলি এতটাই দুর্দান্ত হবে যে পথ ধরে “বিশ্বকে কিছু খারাপ জিনিস মেনে নিতে হবে”।
ওপেনএআই-এর সিইও হ্যাকিং, জালিয়াতি এবং “অন্যান্য খারাপ জিনিস” এর দিকে ইঙ্গিত করেছেন কারণ সমাজের ক্ষতিগ্রস্থ হওয়ার আশা করা উচিত কারণ AI এর সাথে “লোকেরা আরও ভাল জিনিসগুলি করবে”, সম্ভাব্য সুবিধাগুলি বিস্তারিত না করে। ফ্রন্ট-এন্ড মডেলগুলির সুরক্ষা সম্পর্কে ক্রমবর্ধমান উদ্বেগের মধ্যে ওপেনএআই এআই নিয়ন্ত্রণে একটি “হালকা স্পর্শ” পদ্ধতির দিকে ঠেলে দেওয়ার সময় তার মন্তব্যগুলি এসেছে – বারবার ব্যর্থতার কারণে আংশিকভাবে ভয়। কোম্পানির এআই এজেন্টদের বাস্তব-বিশ্বের লক্ষ্যবস্তু হ্যাক করা থেকে বিরত রাখতে।
একটি কর্মক্ষমতা উপর পলিটিকোনতুন পাঠোদ্ধার করা পডকাস্ট – এটির সাথে বিভ্রান্ত হবেন না সীমান্তএর ডিকোডার পডকাস্ট — সোমবার প্রকাশিত, অল্টম্যান ওপেনএআই এবং এর আর্ক্রাইভাল অ্যানথ্রপিকের মধ্যে একটি মূল পার্থক্যকারী হিসাবে এআই-এর বিস্তৃত সুবিধার অন্বেষণে ক্ষতি স্বীকার করার ইচ্ছাকে বর্ণনা করেছেন, যেটি AI সুরক্ষা নিয়ে মতবিরোধের পরে ওপেনএআইয়ের প্রাক্তন কর্মচারীদের দ্বারা প্রতিষ্ঠিত হয়েছিল।
অ্যাকাউন্টটি গত মাসে এনভিডিয়ার সিইও জেনসেন হুয়াং-এর করা মন্তব্যের প্রতিধ্বনি করে, যিনি একইভাবে যুক্তি দিয়েছিলেন যে AI এর ক্ষতিগুলিকে প্রযুক্তির সুবিধার বিপরীতে ওজন করা উচিত। উভয় যুক্তিই ত্বরণের বৃহত্তর দৃষ্টিভঙ্গির সাথে খাপ খায় যে AI বিকাশকে ধীর করা তার নিজস্ব ঝুঁকি বহন করে।
অল্টম্যানের পার্থক্য ওপেনএআই এবং অ্যানথ্রপিকের মধ্যে আরেকটি পার্থক্য চিহ্নিত করে, যারা সম্প্রতি পর্যন্ত উন্নত এআই-এর শক্তিশালী নিয়ন্ত্রণের আহ্বান জানিয়ে বিস্তৃতভাবে সারিবদ্ধ ছিল। ওপেনএআই এবং অ্যানথ্রোপিকের মধ্যে “অনেক দিবালোক” রয়েছে বলে জোর দেওয়ার সময়, অল্টম্যান বলেছিলেন যে এখনও শক্তিশালী প্রবিধানের প্রয়োজন রয়েছে, ওপেনএআইকে অ্যানথ্রপিকের আরও সতর্ক দৃষ্টিভঙ্গির মধ্যে একটি “প্র্যাগম্যাটিক মিডল গ্রাউন্ড” হিসাবে অবস্থান করে এবং যারা খুব কম নিয়মের পক্ষে নয়।
“যদি আমরা নিরাপত্তার নামে এই প্রযুক্তিকে সীমিত করার জন্য খুব বেশি কিছু করি, এবং আমরা অল্প সংখ্যক কোম্পানি বা লোকের সাথে শেষ করি – বা হতে পারে একটি দেশ – যাদের এর উপর খুব বেশি ক্ষমতা রয়েছে, এটিও একটি উপায় যে এটি ভয়ঙ্করভাবে ভুল হতে পারে,” অল্টম্যান বলেছিলেন।
অল্টম্যান আরও চরম ঝুঁকি স্বীকার করেছেন, যার মধ্যে মানুষের এআই সিস্টেমের নিয়ন্ত্রণ হারানোর সম্ভাবনা রয়েছে। যখন নিয়ন্ত্রণের গুরুতর ক্ষতির সম্ভাবনার কথা আসে, তখন “আসুন সেই ভবিষ্যতে যাওয়ার বিষয়ে একটু চিন্তাশীল হই,” তিনি বলেছিলেন।
ব্যালেন্সিং অ্যাক্ট – ভারী বিধিনিষেধ এবং মুক্ত লাগামের মধ্যে – একটি থিম যা অল্টম্যান সাক্ষাত্কারে বারবার ফিরে এসেছিলেন। এটি এমন একটি অবস্থান যা ওপেনএআই-এর সাথে শিল্পের প্রতিষ্ঠিত খেলোয়াড়দের মধ্যে একটি। সমাজের আচরণ এবং ক্রমবর্ধমান সক্ষম ব্যবস্থার কারণে নিয়ন্ত্রকদের সমাধান করতে বলা হচ্ছে এমন অনেকগুলি উদ্বেগকে চালিত করেছে, এই কারণে এটি ভারী নিয়ন্ত্রণের বোঝা বহন করতে পারে।
সাম্প্রতিক মাসগুলিতে এই উদ্বেগগুলি গতি পেয়েছে, আরও বেশি সংখ্যক অভ্যন্তরীণ ব্যক্তিরা সামনের লাইনের ল্যাবগুলিতে সুরক্ষার সংস্কৃতির বিরুদ্ধে ধীরগতির বিকাশ এবং সতর্কতার আহ্বান জানিয়েছেন। দিন আগে পলিটিকো সম্প্রচারিত একটি সাক্ষাত্কারে, OpenAI-এর দীর্ঘকালীন নিরাপত্তা গবেষক ডেভিড রবিনসন কোম্পানি ছেড়েছেন এবং এর নিরাপত্তা সংস্কৃতিকে “ভাঙা” বলে বর্ণনা করেছেন।
এই বছরের শুরুতে ওপেনএআই এজেন্টরা এআই কোম্পানির অজান্তেই হ্যাকিং ফেস হ্যাক করেছে, তার পরে অন্যান্য এআই কোম্পানি যেমন অ্যানথ্রোপিক, মেটা এবং গুগল-এর মতো অনেক এজেন্ট বা এজেন্টের ঝাঁক-বাস্তব বিশ্বের টার্গেটের বিরুদ্ধে কাজ করছে- এমন প্রকাশের মাধ্যমে উদ্বেগও বেড়েছে। ঘটনাগুলি কেবলমাত্র এআই কোম্পানিগুলি তাদের সরঞ্জামগুলিকে কতটা ভাল নিয়ন্ত্রণ করতে পারে তা নিয়েই প্রশ্ন উত্থাপন করে না, তবে জিনিসগুলি ভুল হয়ে গেলে তারা বিশ্বকে কতটা নির্ভরযোগ্যভাবে জানায়। অস্ট্রেলিয়ার প্রধানমন্ত্রী, উদাহরণস্বরূপ, ওপেনএআই এবং অল্টম্যানকে একজন এজেন্ট একটি সরকারি স্বাস্থ্য ওয়েবসাইটকে লক্ষ্যবস্তু করার আগে কর্মকর্তাদের সতর্ক না করার জন্য দায়ী করেছেন।
দুর্বৃত্ত এআই এজেন্টদের কথা বলছি পলিটিকো সাক্ষাত্কারে, অল্টম্যান বলেছিলেন যে কোম্পানীর কাছে “প্রকাশ করার আরও জিনিস রয়েছে”, যদিও সেগুলির মধ্যে কেউই আলিঙ্গন ফেস হ্যাকের স্তরে নয়। পূর্ববর্তী বিবৃতিগুলির সাথে সামঞ্জস্য রেখে, অল্টম্যান পরামর্শ দিয়েছেন যে এটি দীর্ঘ সময় নিতে পারে।
Leave a Reply