যদিও উচ্চ-মাত্রিক ডেটার ভিজ্যুয়ালাইজেশনের জন্য অত্যন্ত উপযোগী, টি-এসএনই প্লট কখনও কখনও রহস্যময় বা বিভ্রান্তিকর হতে পারে। সাধারণ ক্ষেত্রে এটি কীভাবে আচরণ করে তা পরীক্ষা করে, আমরা এটিকে আরও কার্যকরভাবে ব্যবহার করতে শিখতে পারি।
মঞ্চ
উচ্চ-মাত্রিক ডেটা অন্বেষণের জন্য একটি জনপ্রিয় পদ্ধতি হল টি-এসএনই নামক কিছু, যা প্রবর্তিত
t-SNE ডায়াগ্রামগুলি কী দেখাতে পারে এবং কী করতে পারে না তা বোঝাতে আমরা কয়েকটি সহজ উদাহরণের মাধ্যমে যাব। টি-এসএনই কৌশলটি সত্যিই দরকারী – তবে শুধুমাত্র যদি আপনি এটি ব্যাখ্যা করতে জানেন।
ডাইভিং করার আগে: আপনি যদি আগে টি-এসএনই জুড়ে না এসে থাকেন তবে এর পিছনের গণিত সম্পর্কে আপনার যা জানা দরকার তা এখানে। লক্ষ্য হল একটি উচ্চ-মাত্রিক স্থানের বিন্দুগুলির একটি সেট নেওয়া এবং একটি নিম্ন-মাত্রিক স্থান, সাধারণত দ্বি-মাত্রিক সমতলে সেই বিন্দুগুলির একটি বিশ্বস্ত উপস্থাপনা খুঁজে পাওয়া। অ্যালগরিদম রৈখিক নয় এবং অন্তর্নিহিত ডেটার সাথে নিজেকে মানিয়ে নেয়, বিভিন্ন ক্ষেত্রে বিভিন্ন রূপান্তর সম্পাদন করে। এই পার্থক্য বিভ্রান্তির একটি প্রধান উৎস হতে পারে.
টি-এসএনই-এর একটি দ্বিতীয় বৈশিষ্ট্য হল একটি টিউনযোগ্য প্যারামিটার, “ধাঁধাঁধাঁক”, যা বলে (আলগালে) কীভাবে আপনার ডেটার স্থানীয় এবং বৈশ্বিক দিকগুলির মধ্যে মনোযোগের ভারসাম্য বজায় রাখা যায়। প্যারামিটার হল, এক অর্থে, প্রতিটি পয়েন্টের নিকটতম প্রতিবেশীর সংখ্যা সম্পর্কে একটি অনুমান। ব্লার মান ফলস্বরূপ চিত্রগুলিতে একটি জটিল প্রভাব ফেলে। মূল কাগজ বলে, “বিভ্রান্তির পরিবর্তনের জন্য SNE-এর কর্মক্ষমতা বেশ শক্তিশালী, এবং সাধারণ মানগুলি 5 থেকে 50 এর মধ্যে।” তবে গল্পটি তার চেয়েও সূক্ষ্ম। টি-এসএনই থেকে সর্বাধিক লাভ করার অর্থ হতে পারে বিভিন্ন বিভ্রান্তি সহ একাধিক প্লট বিশ্লেষণ করা।
এখানেই জটিলতার শেষ নেই। t-SNE অ্যালগরিদম সবসময় ধারাবাহিক রানে একই রকম আউটপুট তৈরি করে না, উদাহরণস্বরূপ, এবং অপ্টিমাইজেশন প্রক্রিয়ার সাথে যুক্ত অতিরিক্ত পরামিতি রয়েছে।
1. এই হাইপারপ্যারামিটার সত্যিই গুরুত্বপূর্ণ
টি-এসএনই-এর “হ্যালো ওয়ার্ল্ড” দিয়ে শুরু করা যাক: দুটি পৃথক ক্লাস্টারের একটি ডেটাসেট। জিনিসগুলিকে যতটা সম্ভব সহজ করার জন্য, আমরা একটি 2D সমতলে ক্লাস্টারগুলি বিবেচনা করব, যেমনটি বাম চিত্রে দেখানো হয়েছে। (স্বচ্ছতার জন্য, দুটি ক্লাস্টার রঙ-কোডেড।) ডানদিকের গ্রাফগুলি পাঁচটি ভিন্ন বিভ্রান্তিকর মানগুলির জন্য t-SNE প্লট দেখায়।
ভ্যান ডার মাটেন এবং হিন্টন দ্বারা প্রস্তাবিত পরিসরে (5 – 50) বিস্ময়কর মানগুলির সাথে, চিত্রগুলি এই ক্লাস্টারগুলিকে দেখায়, যদিও খুব ভিন্ন আকার রয়েছে৷ সেই পরিসরের বাইরে, জিনিসগুলি কিছুটা অদ্ভুত হয়ে যায়। বিভ্রান্তি 2 এর সাথে, স্থানীয় বিভিন্নতা প্রাধান্য পায়। 100-এর বিভ্রান্তির চিত্র, একত্রিত ক্লাস্টার সহ, বিশৃঙ্খলার চিত্র তুলে ধরে: অ্যালগরিদম সঠিকভাবে কাজ করার জন্য, বিভ্রান্তিটি পয়েন্টের সংখ্যার চেয়ে কম হওয়া দরকার। অ্যাপ্লিকেশন অন্যান্য অপ্রত্যাশিত আচরণ দিতে পারে.
উপরের প্রতিটি প্লট 5,000 পুনরাবৃত্তির সাথে করা হয়েছিল একটি শেখার হার (প্রায়ই “এপসিলন” বলা হয়) 10 এর সাথে, ধাপ 5,000 এ একটি স্থিতিশীল বিন্দুতে পৌঁছেছে। এই মানগুলি কতটা পার্থক্য করে? আমাদের অভিজ্ঞতায়, একটি স্থিতিশীল কনফিগারেশন না পৌঁছানো পর্যন্ত সবচেয়ে গুরুত্বপূর্ণ জিনিসটি পুনরাবৃত্তি করা।
উপরের ছবিগুলি 30 ধাঁধায় পাঁচটি ভিন্ন রান দেখায়। প্রথম চারটি স্থিতিশীলতার আগে থামে। 10, 20, 60 এবং 120 ধাপের পরে আপনি ক্লাস্টারগুলির এক-মাত্রিক এবং এমনকি পয়েন্ট চিত্র সহ লেআউটগুলি দেখতে সক্ষম হবেন। আপনি যদি অদ্ভুত “পিঞ্চিং” আকৃতি সহ একটি টি-এসএনই প্লট দেখেন, তবে প্রক্রিয়াটি খুব তাড়াতাড়ি বন্ধ হয়ে যাওয়ার সম্ভাবনা রয়েছে। দুর্ভাগ্যবশত, এমন কোন নির্দিষ্ট সংখ্যক পদক্ষেপ নেই যা একটি স্থিতিশীল ফলাফল দেয়। বিভিন্ন ডেটাসেটের একত্রিত হওয়ার জন্য বিভিন্ন সংখ্যক পুনরাবৃত্তির প্রয়োজন হতে পারে।
আরেকটি স্বাভাবিক প্রশ্ন হল একই পরামিতি সহ বিভিন্ন রান একই ফলাফল দেয় কিনা। দুটি ক্লাস্টারের এই সাধারণ উদাহরণে, এবং আমরা আলোচনা করেছি অন্যদের মধ্যে, একাধিক রান একই বিশ্বব্যাপী আকার দেয়। যাইহোক, কিছু ডেটা সেট বিভিন্ন রানে লক্ষণীয়ভাবে ভিন্ন ডায়াগ্রাম দেয়; এগুলোর একটির উদাহরণ আমরা পরে দেব।
এখন থেকে, অন্যথায় উল্লেখ না থাকলে, আমরা 5,000 পুনরাবৃত্তি থেকে ফলাফল উপস্থাপন করব। এই নিবন্ধে (অপেক্ষাকৃত ছোট) উদাহরণে একত্রিত হওয়ার জন্য এটি সাধারণত যথেষ্ট। যাইহোক, আমরা বিভিন্ন ধরণের বিভ্রান্তি দেখাতে থাকব, কারণ এটি যাইহোক একটি বড় পার্থক্য তৈরি করবে বলে মনে হচ্ছে।
2. টি-এসএনই প্লটে ক্লাস্টারের মাপ কিছুই বোঝায় না
এই পর্যন্ত, তাই ভাল. কিন্তু যদি দুটি ক্লাস্টারের বিভিন্ন মানক বিচ্যুতি থাকে এবং এইভাবে বিভিন্ন আকার থাকে? (আকার দ্বারা আমরা একটি বাউন্ডিং বাক্সের পরিমাপকে বুঝি, বিন্দুর সংখ্যা নয়।) নীচে সমতলে গাউসিয়ানদের মিশ্রণের জন্য টি-এসএনই প্লট রয়েছে, একটি অন্যটির চেয়ে 10 গুণ বেশি ছড়িয়ে রয়েছে।
আশ্চর্যজনকভাবে, দুটি ক্লাস্টার টি-এসএনই প্লটে প্রায় একই আকারের দেখায়। কি চলছে টি-এসএনই অ্যালগরিদম ডেটা সেটে আঞ্চলিক ঘনত্বের পরিবর্তনের সাথে তার “দূরত্ব” ধারণাকে খাপ খায়। ফলস্বরূপ, এটি স্বাভাবিকভাবেই ঘন ক্লাস্টারগুলিকে প্রসারিত করে এবং বিক্ষিপ্তগুলিকে সঙ্কুচিত করে, সন্ধ্যার বাইরে ক্লাস্টারের আকার। স্পষ্ট করে বলতে গেলে, যে কোনো মাত্রা হ্রাস কৌশল দূরত্বকে বিকৃত করে তার থেকে এটি একটি ভিন্ন প্রভাব। (সর্বশেষে, এই উদাহরণে সমস্ত ডেটা শুরুতে 2D ছিল।) পরিবর্তে, ঘনত্বের তুলনা ডিজাইনের দ্বারা ঘটে এবং এটি টি-এসএনই-এর একটি প্রত্যাশিত সম্পত্তি।
নীচের লাইন, যাইহোক, আপনি t-SNE প্লটে ক্লাস্টারগুলির আপেক্ষিক আকার দেখতে পারবেন না।
3. ক্লাস্টারগুলির মধ্যে দূরত্ব কিছুই নাও হতে পারে৷
দূরত্ব সম্পর্কে কি? মধ্যে ক্লাস্টার? নিচের চার্টে 50 পয়েন্টের তিনটি গাউসিয়ান দেখায়, একটি জোড়া অন্য জোড়ার থেকে 5 গুণ বেশি ব্যবধানে।
ধাঁধা 50 এ, চিত্রটি বিশ্বব্যাপী জ্যামিতির একটি ভাল ধারণা দেয়। নিম্ন বিভ্রান্তিকর মানগুলির জন্য, ক্লাস্টারগুলি সমানভাবে দেখা যায়। যখন বিভ্রান্তি 100 হয়, তখন আমরা দেখি বিশ্বব্যাপী জ্যামিতি ঠিক আছে, কিন্তু একটি ক্লাস্টার ভুলবশত অন্যদের তুলনায় অনেক ছোট বলে মনে হয়। যেহেতু 50 এর একটি তির্যক এই উদাহরণে আমাদের একটি ভাল চিত্র দিয়েছে, আমরা যদি বিশ্বব্যাপী জ্যামিতি দেখতে চাই তবে আমরা কি সর্বদা 50 এ তির্যক সেট করতে পারি?
দুর্ভাগ্যবশত, না. আমরা যদি প্রতিটি ক্লাস্টারে আরও পয়েন্ট যোগ করি, তবে ক্ষতিপূরণের জন্য বিভ্রান্তি বাড়তে হবে। নীচে 50 এর পরিবর্তে তিনটি গাউসিয়ান ক্লাস্টারের জন্য 200 পয়েন্ট সহ t-SNE ডায়াগ্রাম রয়েছে। এখন পরীক্ষায় বিভ্রান্তিকর মানগুলির কোনওটিই ভাল ফলাফল দেয় না।
এটা খারাপ খবর যে বিশ্বব্যাপী জ্যামিতি দেখার জন্য ফাইন-টিউনিং পাজলমেন্ট প্রয়োজন। বাস্তব-বিশ্বের ডেটাতে সম্ভবত বিভিন্ন সংখ্যক উপাদান সহ একাধিক ক্লাস্টার থাকতে পারে। সমস্ত ক্লাস্টার জুড়ে দূরত্ব ক্যাপচার করে এমন একটি একক বিভ্রান্তিকর মান নাও থাকতে পারে—এবং দুর্ভাগ্যবশত বিভ্রান্তিকর একটি বিশ্বব্যাপী প্যারামিটার। এই সমস্যাটি সংশোধন করা ভবিষ্যতের গবেষণার জন্য একটি আকর্ষণীয় ক্ষেত্র হতে পারে।
অন্তর্নিহিত বার্তাটি হল যে একটি টি-এসএনই প্লটে ভালভাবে পৃথক করা ক্লাস্টারগুলির মধ্যে দূরত্ব কোন ব্যাপার নাও হতে পারে।
4. এলোমেলো শব্দ সবসময় এলোমেলো দেখায় না।
একটি ক্লাসিক পিটফল ভাবছে যে আপনি নিদর্শনগুলি দেখতে পাচ্ছেন যা আসলেই কেবল এলোমেলো ডেটা। আপনি যখন দেখেন তখন গোলমাল সনাক্ত করা একটি সমালোচনামূলক দক্ষতা, তবে সঠিক অন্তর্দৃষ্টি তৈরি করতে সময় লাগে। টি-এসএনই সম্পর্কে একটি চতুর বিষয় হল এটি জানালার বাইরে প্রচুর বিদ্যমান অন্তর্দৃষ্টি ফেলে দেয়। নিম্নলিখিত চিত্রগুলি বাস্তব র্যান্ডম ডেটা দেখায়, 100 মাত্রায় একটি ইউনিট গাউসিয়ান ডিস্ট্রিবিউশন থেকে 500 পয়েন্ট আঁকা। বাম চিত্রটি প্রথম দুটি স্থানাঙ্কের একটি অভিক্ষেপ।
ধাঁধা 2 সহ প্লটটি নাটকীয় ক্লাস্টার দেখায় বলে মনে হচ্ছে। আপনি যদি ডাটাতে স্ট্রাকচার আনতে ধাঁধা টিউন করেন, তাহলে আপনি মনে করতে পারেন আপনি জ্যাকপটে আঘাত করবেন।
অবশ্যই, যেহেতু আমরা জানি যে পয়েন্ট ক্লাউড এলোমেলোভাবে উত্পন্ন হয়েছে, এটিতে পরিসংখ্যানগতভাবে আকর্ষণীয় ক্লাস্টার নেই: এই “ক্লাস্টারগুলি” অর্থহীন। আপনি যদি পূর্ববর্তী উদাহরণগুলিতে ফিরে তাকান, কম বিভ্রান্তিকর মানগুলি প্রায়শই এই ধরণের বিতরণের দিকে নিয়ে যায়। এলোমেলো শব্দ হিসাবে এই ক্লাম্পগুলি সনাক্ত করা টি-এসএনই প্লট পড়ার একটি গুরুত্বপূর্ণ অংশ।
যাইহোক, আরও কিছু আকর্ষণীয় আছে, যা টি-এসএনই-এর জন্য একটি জয় হতে পারে। প্রথমে পেপ্লেক্সিটি 30 প্লটটি মোটেও গাউসিয়ান ডিস্ট্রিবিউশনের মতো দেখায় না: মেঘের বিভিন্ন অঞ্চল জুড়ে ঘনত্বের মধ্যে সামান্য পার্থক্য রয়েছে এবং পয়েন্টগুলি সন্দেহজনকভাবে সমানভাবে বিতরণ করা হয়েছে। প্রকৃতপক্ষে, এই বৈশিষ্ট্যগুলি উচ্চ-মাত্রিক স্বাভাবিক বন্টন সম্পর্কে দরকারী জিনিসগুলি বলে, যা একটি গোলকের অভিন্ন বন্টনের খুব কাছাকাছি: বিন্দুর মধ্যে মোটামুটি সমান ব্যবধান সহ সমানভাবে ব্যবধান। এই আলোকে, টি-এসএনই প্লট যেকোনো রৈখিক অভিক্ষেপের চেয়ে বেশি নির্ভুল।
5. আপনি কিছু আকার দেখতে পারেন, কখনও কখনও
ডেটা পুরোপুরি প্রতিসমভাবে বিতরণ করা বিরল। আসুন 50টি মাত্রায় একটি অক্ষ-সারিবদ্ধ গাউসিয়ান ডিস্ট্রিবিউশন দেখি, যেখানে স্থানাঙ্ক i-এ আদর্শ বিচ্যুতি হল 1/i। অর্থাৎ, আমরা একটি দীর্ঘ উপবৃত্তাকার বিন্দু মেঘের দিকে তাকিয়ে আছি।
যথেষ্ট উচ্চ বিভ্রান্তিকর মানগুলির জন্য, প্রসারিত আকারগুলি পড়া সহজ। অন্যদিকে, কম বিভ্রান্তিতে, স্থানীয় প্রভাব এবং অর্থহীন “প্রণয়ন” কেন্দ্রের পর্যায়ে নিয়ে যায়। আরো চরম ফর্ম এছাড়াও আসে, কিন্তু আবার শুধুমাত্র সঠিক বিভ্রান্তিতে. উদাহরণস্বরূপ, এখানে 2D তে প্রতিটি 75 পয়েন্টের দুটি ক্লাস্টার রয়েছে, সামান্য শব্দের সাথে সমান্তরাল রেখায় সাজানো।
বিভ্রান্তির একটি নির্দিষ্ট পরিসরের জন্য, দীর্ঘ ক্লাস্টারগুলি সঠিক হওয়ার কাছাকাছি বলে মনে হয়, যা আশ্বস্ত করে।
যাইহোক, এমনকি সর্বোত্তম ক্ষেত্রে, একটি সূক্ষ্ম বিকৃতি রয়েছে: রেখাগুলি টি-এসএনই প্লটে বাইরের দিকে কিছুটা বাঁকা। এর কারণ, যথারীতি, টি-এসএনই ডেটার ঘন এলাকা প্রসারিত করে। যেহেতু ক্লাস্টারের মাঝখানে প্রান্তের তুলনায় তাদের চারপাশে কম ফাঁকা জায়গা থাকে, তাই অ্যালগরিদম তাদের বড় করে তোলে।
6. টপোলজির জন্য, আপনার একাধিক ক্লাসের প্রয়োজন হতে পারে
কখনও কখনও আপনি একটি t-SNE প্লট থেকে টপোলজিকাল তথ্য পড়তে পারেন, তবে এটি সাধারণত একাধিক বিভ্রান্তিকর দেখার প্রয়োজন হয়। সহজ টপোলজিকাল বৈশিষ্ট্যগুলির মধ্যে একটি হল কন্টেনমেন্ট। নীচের চিত্রটি 50-মাত্রিক স্থানে 75 পয়েন্টের দুটি সেট দেখায়। উভয়ই উৎপত্তি কেন্দ্রিক সমমিত গাউসিয়ান ডিস্ট্রিবিউশন থেকে নমুনা করা হয়েছে, কিন্তু একটি অন্যটির তুলনায় 50 গুণ বেশি শক্তভাবে বিচ্ছুরিত। “ছোট” ডিস্ট্রিবিউশনটি আসলে বড়টির মধ্যে রয়েছে।
ধাঁধা দৃশ্য 30 অন্তর্নিহিত টপোলজি সঠিকভাবে দেখায়, কিন্তু আবার t-SNE বিন্দুর ছোট সেটের আকারকে অতিরঞ্জিত করে। ধাঁধা 50-এ, একটি নতুন ঘটনা রয়েছে: বাইরের গোষ্ঠীটি একটি বৃত্তে পরিণত হয়, কারণ প্লটটি এই সত্যটি বর্ণনা করার চেষ্টা করে যে এর সমস্ত পয়েন্টগুলি ভিতরের গ্রুপ থেকে প্রায় একই দূরত্বে রয়েছে। এই চিত্রটিকে একা দেখলে, এই আউটলাইং পয়েন্টগুলিকে এক-মাত্রিক কাঠামো হিসাবে ভুল বোঝা সহজ হবে।
টপোলজি আরো জটিল ধরনের সম্পর্কে কি? এটি ব্যবহারিক ডেটা বিশ্লেষকদের চেয়ে গণিতবিদদের কাছে একটি প্রিয় বিষয় হতে পারে, তবে আকর্ষণীয় নিম্ন-মাত্রিক কাঠামো মাঝে মাঝে প্রকৃতিতে পাওয়া যায়।
পয়েন্টের একটি সেট বিবেচনা করুন যা 3D-তে একটি লিঙ্ক বা বন্ড অনুসরণ করে। আবার, একাধিক বিভ্রান্তিকর মান দেখে সবচেয়ে সম্পূর্ণ ছবি দেয়। কম বিস্ময়কর মান দুটি সম্পূর্ণ আলাদা লুপ দেয়; উচ্চ এক ধরনের বৈশ্বিক সংযোগ দেখায়.
টি-এসএনই-এর ফলাফলকে কীভাবে একাধিক রান প্রভাবিত করে তার একটি আকর্ষণীয় উদাহরণ হল ট্রেফয়েল নট। নিচে Bewilderment-2 ডিসপ্লের পাঁচটি রান রয়েছে।
অ্যালগরিদম একটি বৃত্তে দুবার স্থায়ী হয়, যা অন্তত প্রয়োজনীয় টপোলজি সংরক্ষণ করে। কিন্তু তিনটি রানে এটি তিনটি ভিন্ন সমাধানের সাথে শেষ হয় যা কৃত্রিম বিরতি দেখায়। একটি গাইড হিসাবে ডট রঙ ব্যবহার করে, আপনি দেখতে পারেন যে প্রথম এবং তৃতীয় রান অনেক দূরে।
ধাঁধা 50 এ পাঁচ রান, তবে, দৃশ্যত অভিন্ন ফলাফল দেয় (প্রতিসাম্য পর্যন্ত)। স্পষ্টতই, কিছু সমস্যা অপ্টিমাইজ করা অন্যদের তুলনায় সহজ।
উপসংহার
টি-এসএনই এত জনপ্রিয় হওয়ার একটি কারণ রয়েছে: এটি অবিশ্বাস্যভাবে নমনীয়, এবং প্রায়শই এমন কাঠামো খুঁজে পেতে পারে যেখানে অন্যান্য মাত্রা হ্রাস অ্যালগরিদম পারে না। দুর্ভাগ্যক্রমে, এই নমনীয়তা ব্যাখ্যাকে কঠিন করে তোলে। ব্যবহারকারীর চোখ থেকে দূরে, অ্যালগরিদম সব ধরনের সমন্বয় করে যা এর সিমুলেশনগুলিকে সাজায়৷ লুকানো “জাদু” আপনাকে সমস্ত কৌশল থেকে ভয় দেখাতে দেবেন না। ভাল খবর হল যে টি-এসএনই সাধারণ ক্ষেত্রে কীভাবে আচরণ করে তা অধ্যয়ন করার মাধ্যমে, কেউ কী ঘটছে তার জন্য একটি অন্তর্দৃষ্টি বিকাশ করতে পারে।
Leave a Reply