এই বছরের ওপেনএআই ডেভডেতে, সিইও স্যাম অল্টম্যান কোম্পানির নতুন এআই এজেন্ট ডটস উন্মোচন করেছেন — ভিড়কে বলেছেন যে কোম্পানি “এআই সীমান্তে গোপনীয়তার জন্য একটি নতুন মান সেট করতে চায়।” ওপেনএআই ব্যবহারকারীদের ডেটা সুরক্ষিত রাখতে ব্যর্থতার জন্য তার প্রধান প্রতিদ্বন্দ্বী মেটা’স মিউজে পর্দাহীন শট নিয়ে দিন কাটাবে। যাইহোক, মিউজ নিজেই, কয়েক মাস আগে, তার পূর্বসূরি OpenClaw-এর একটি নিরাপদ বিকল্প হিসাবে চালু করা হয়েছিল – যখন সিইও মার্ক জুকারবার্গ প্রতিশ্রুতি দিয়েছিলেন যে এটি “গোপনীয়তা এবং নিরাপত্তার জন্য ভিত্তি থেকে তৈরি করা হয়েছে।”
এমন একটি যুগে যেখানে কোম্পানিগুলি ব্যক্তিগত গ্রাহকের ডেটা মজুদ করে এবং সাইবার আক্রমণ এক ডজনের মতো, এআই ল্যাবগুলি ব্যবহারকারীদের তাদের এজেন্টদের সাথে আরও বেশি তথ্য ভাগ করার জন্য বোঝানোর চেষ্টা করছে। সাফল্যের জন্য তাদের সর্বশেষ কৌশল হল প্রতিযোগিতা বাড়ানোর মাধ্যমে নিশ্চিত করা যে, তাদের প্রতিদ্বন্দ্বীদের থেকে ভিন্ন, তারা ব্যবহারকারীর ডেটাকে চোখ থেকে দূরে রাখবে। প্রশ্ন হল কোম্পানিগুলো এই প্রতিশ্রুতি রাখতে পারবে কিনা।
মেটা সুপারিনটেলিজেন্স ল্যাবসের প্রোডাক্টের প্রধান Nate Friedman, X-তে লিখেছেন যে মিউজের সাথে কোম্পানির লক্ষ্য ছিল ওপেনক্লা-এর মতো কিছু তৈরি করা যা আমরা নিরাপদ এবং নিরাপদ এবং ব্যবহার করা সহজ এবং কোটি কোটি মানুষের কাছে স্কেল করতে পারি। ব্যবহারকারীর ডেটা একটি সুরক্ষিত ভিএম-এ সংরক্ষণ করা হয়, যাকে জুকারবার্গ “একটি ব্রাউজার, প্রসেসর, মেমরি এবং স্টোরেজ সহ একটি বিচ্ছিন্ন লিনাক্স কম্পিউটার” হিসাবে বর্ণনা করেছেন৷ সংস্থাটি বলেছে যে মিউজ তৈরির বেশিরভাগ প্রচেষ্টা “পরিচালনার জন্য সতর্ক পরিকল্পনা এবং প্রকৌশলের সাথে সম্পর্কিত ছিল [it] নিরাপদ।” মেটার ব্লগ পোস্টটি অব্যাহত ছিল, “মিউজ এখনও ভুল করতে পারে এবং করবে, তবে আমরা আশা করি যে সেগুলি অনেক কম ঘন ঘন হবে এবং আমরা যে সুরক্ষা ব্যবস্থা তৈরি করেছি তার কারণে অনেক কম ক্ষতি হবে।”
কিন্তু যদিও মিউজ অ্যাপ স্টোর চার্টের শীর্ষে রয়েছে এবং অ্যাপটোপিয়া অনুসারে, সপ্তাহের মধ্যে মার্কিন যুক্তরাষ্ট্রে 600,000 দৈনিক সক্রিয় ব্যবহারকারী সংগ্রহ করেছে, মেটার প্রতিশ্রুতি ব্যর্থ হয়েছে বলে মনে হচ্ছে। যদিও ডেটা অন্যান্য ব্যবহারকারীদের থেকে বিচ্ছিন্ন করা হয়েছে, এবং কোম্পানি এই বছরের শেষের দিকে “মেটাকে ক্রিপ্টোগ্রাফিকভাবে প্রতিরোধ করার এবং আপনার VM-তে ডেটা অ্যাক্সেস প্রমাণীকরণ” করার একটি উপায় চালু করার পরিকল্পনা করেছে, মেটা নিজেই এখনও ডেটা অ্যাক্সেস করতে পারে। একজন নিরাপত্তা গবেষক দ্রুত একটি শূন্য-দিনের দুর্বলতা উন্মোচন করেছেন যা কাউকে Muse দখল করার অনুমতি দিতে পারে (যা তখন থেকে প্যাচ করা হয়েছে), বাহ্যিক আক্রমণ সম্পর্কে উদ্বেগ প্রকাশ করে, একাধিক গুরুতর নিরাপত্তা সমস্যা লঞ্চের আগে শেষ মুহূর্তে প্রকাশিত হয়েছিল, যার মধ্যে একটি ব্যবহারকারীদের মেটা-এর নিজস্ব অভ্যন্তরীণ ডেটাবেস অ্যাক্সেস করার অনুমতি দিতে পারে। 404 মিডিয়া.
মিউজও উদারভাবে ডেটা সংগ্রহ করছে (এবং কিছু ক্ষেত্রে, হস্তান্তর করা)। ডিফল্ট হল ব্যবহারকারীরা এতে কী ইনপুট দেয় সে সম্পর্কে মেটাকে মডেল প্রশিক্ষণ দেওয়ার অনুমতি দেওয়া, যদিও এটি অপ্ট আউট করা যেতে পারে। ক ইনক. একজন প্রতিবেদক অভিযোগ করেছেন যে Muse তার ব্যক্তিগত বার্তাগুলি আপলোড করেছে এবং তাকে এটি না চাওয়া হয়েছে, এবং একজন YouTuber বলেছেন যে এটি মার্কেটপ্লেসের মাধ্যমে একজন অপরিচিত ব্যক্তির কাছে তার ঠিকানা অফার করেছে — উভয় ক্ষেত্রেই, Muse দৃশ্যত উদ্দেশ্য হিসাবে কাজ করেছে, কিন্তু ব্যবহারকারী বুঝতে পারেননি এটি কতদূর যাবে৷ প্ল্যাটফর্মটি “আপনার সমস্ত বন্ধু এবং পরিবারের বিস্তারিত প্রোফাইল” তৈরি করে স্ট্রিং রিপোর্ট এর কোনটিই মেটা থেকে অপ্রত্যাশিত নয়, তবে এটি অবশ্যই এই ধারণাটিকে ব্যাক আপ করে না যে মিউজ অনন্যভাবে গোপনীয়তা বা নিরাপত্তা সচেতন।
সেপ্টেম্বরের শেষের দিকে ডটস ঘোষণা করার সময় OpenAI এই সত্যটি তুলে ধরে। ওপেনএআই-এর কোডেক্স প্রোডাক্ট লিড আলেকজান্ডার অ্যাম্বিরিকোস, DevDay মঞ্চে বলেছিলেন যে OpenAI “সবচেয়ে নির্ভরযোগ্য, নিরাপদ এবং সুরক্ষিত সহকারী” এর উপর দৃষ্টি নিবদ্ধ করে এবং সিইও স্যাম অল্টম্যান দেখিয়েছেন যে লোকেরা কীভাবে তাদের স্বতন্ত্র পয়েন্টগুলির উপর নিয়ন্ত্রণ করতে পারে, যেমন একটি নিয়ম সেট করা যে আপনি কখনই একটি নির্দিষ্ট ডলার পরিমাণের উপর কেনাকাটা করবেন না। “আমি মনে করি আমরা মেটা থেকে আলাদা অবস্থানে আছি যে তাদের কাছে 1.2 বিলিয়ন ব্যবহারকারী আছে এমন AI পণ্য নেই,” গ্লেন বলেছিলেন। কোটস, OpenAI এর অ্যাপ্লিকেশন প্ল্যাটফর্মের প্রধান, এবং যোগ করেছেন যে “এমন কিছু চালু করা যা এই ধরনের ভুল করে যা আমরা এড়াতে কঠোর চেষ্টা করব।”
অল্টম্যান নিজেও DevDay-এ গোপনীয়তা কোণকে ঠেলে দিয়েছেন। ব্যবসায়িক গ্রাহকদের আকৃষ্ট করার জন্য, নির্বাহীরা একটি কাঠামো প্রবর্তন করেছেন যা সংস্থাগুলিকে তাদের ডেটার উপর “শক্তিশালী নিয়ন্ত্রণ” এবং শূন্য ডেটা ধারণ নীতি বিকল্পগুলি (অর্থাৎ OpenAI সার্ভারে কোনও ডেটা সংরক্ষণ করা হয় না) করার অনুমতি দেয়। প্রকৃতপক্ষে, এখনও পর্যন্ত, ডট-এর সাথে অনেক গোপনীয়তা কেলেঙ্কারি হয়নি — যদিও এটি শুধুমাত্র ChatGPT-এর $100+ সাবস্ক্রিপশন স্তরগুলিতে উপলব্ধ, তাই সম্ভবত কম লোক এটি ব্যবহার করছে।
লোকেরা এখনও ওপেনএআই-কে তাদের ব্যক্তিগত ডেটা দিতে স্বাচ্ছন্দ্য বোধ করতে পারে না, কারণ এআই এজেন্টরা এটির অনেক বেশি দাবি করে। উদাহরণস্বরূপ, সীমান্তঅ্যালিসনের অ্যালিসন জনসন তার ব্যাঙ্কের বিশদ বিবরণ টাইপ করতে অস্বস্তি বোধ করেছিলেন যখন বটটি একটি প্রাসঙ্গিক কাজের অংশ হিসাবে জিজ্ঞাসা করেছিল (এটি পরিচালনা করার জন্য মিউজে স্ট্রাইপ ইন্টিগ্রেশন রয়েছে)।
সমস্ত কোম্পানি অবশ্যই গোপনীয়তার প্রতিশ্রুতি দেয় না। ইন্সটিঙ্ক্ট প্রকাশ্যে সমালোচিত হয়েছিল অত্যধিক বিস্তৃত পরিষেবার শর্তাবলীর জন্য যা এটিকে ডেটাতে সীমাহীন অ্যাক্সেস দিয়েছে; তারপর থেকে, সংস্থাটি সমন্বয় করেছে বলে মনে হচ্ছে। আপাতত, AI ল্যাবগুলি সাধারণ জনগণের মধ্যে AI এজেন্টের ব্যবহারকে বিপ্লব করার জন্য একটি ত্রি-মুখী পদ্ধতির উপর নির্ভর করছে বলে মনে হচ্ছে: তাদের দরকারী করে তুলুন, তাদের চতুর এবং বিচ্ছিন্ন করে তুলুন এবং গোপনীয়তা সম্পর্কে প্রতিশ্রুতি দিন—এবং আশা করি তারা স্থায়ী হবে।
Leave a Reply