আপনার হাতের লেখা ইনপুটের উপর ভিত্তি করে নতুন স্ট্রোক তৈরি করে শুরু করা যাক
নিউরাল নেটওয়ার্কগুলি মেশিন লার্নিংয়ের একটি অত্যন্ত সফল পদ্ধতি, কিন্তু কেন তারা যেভাবে আচরণ করে তা বোঝা কঠিন। এটি তাদের বোঝার এবং কল্পনা করার চেষ্টা করার জন্য অনেক আগ্রহ এবং প্রচেষ্টা তৈরি করেছে, যা আমরা এখন পর্যন্ত মনে করি কেবলমাত্র যা সম্ভব তার উপরিভাগ স্ক্র্যাচ করছে।
এই নিবন্ধে আমরা হাতের লেখার একটি জেনারেটিভ মডেল নিয়ে এই দিকে এগিয়ে যাওয়ার চেষ্টা করব
শেষ পর্যন্ত আমাদের কাছে কিছু চূড়ান্ত উত্তর বা ভিজ্যুয়ালাইজেশন নেই, তবে আমাদের ভাগ করার জন্য কিছু আকর্ষণীয় ধারণা আছে। শেষ পর্যন্ত আমরা আশা করি যে তারা এই মডেলগুলির অভ্যন্তর থেকে ঐশ্বরিক অর্থ আবিষ্কার করতে সহায়তা করবে।
মডেলের আউটপুট দেখছি
আমাদের প্রথম পরীক্ষাটি সবচেয়ে সুস্পষ্ট: যখন আমরা দেখতে চাই যে কেউ একটি কাজ কতটা ভালভাবে শিখেছে, আমরা সাধারণত তাদের এটি প্রদর্শন করতে বলি। সুতরাং, আসুন আমাদের মডেলকে আমাদের জন্য কিছু লিখতে বলুন এবং দেখুন এটি কতটা ভাল করে।
বেশিরভাগ লক্ষণই অপ্রত্যাশিত, তবে অনেকগুলি আশ্চর্যজনকভাবে বিশ্বাসযোগ্য। কিছু বাস্তব (বা সত্য) শব্দ এমনকি প্রদর্শিত শুরু. একটি আশ্চর্যজনক বিষয় আপনি লক্ষ্য করবেন যে পাণ্ডুলিপির সামগ্রিক শৈলী একটি নমুনার মধ্যে কমবেশি সামঞ্জস্যপূর্ণ। কারণ এই মডেলের (LSTM) জন্য ব্যবহৃত স্থাপত্যের ধরনটি পূর্ববর্তী ড্র মনে রাখার একটি ব্যবস্থা রয়েছে। তাই হাতের লেখা কতটা অস্পষ্ট বা ঝাপসা, বা বর্তমান অক্ষরের পূর্বে কোন অক্ষরটি মনে রাখতে সক্ষম। (এলএসটিএম সম্পর্কে আরও জানতে এবং কীভাবে সেগুলি মনে রাখা যায়, ক্রিস ওলার একটি ভাল প্রাইমার রয়েছে৷
এমনকি এই মেমরির সাথে, নিউরাল নেটওয়ার্কগুলি থেকে নমুনা তৈরি করার কৌশলটি সম্ভাব্য, যার অর্থ এই নমুনাগুলির প্রতিটি একটি অনেক বড় সম্ভাবনার স্থান। একবারে তাদের দেখা অসন্তুষ্ট বোধ করে – যখন প্রায় অসীম সম্ভাবনা থাকে তখন আমরা কীভাবে এক বা দুটি নমুনা থেকে অনেক কিছু অনুমান করতে পারি? যদি কিছু ভুল দেখায়, তাহলে আমরা কীভাবে জানব যে এটি ছিল কারণ আমাদের মডেলের সাথে কিছু ভুল ছিল বা এটি কেবল বোবা ভাগ্য ছিল?
প্রতিটি পুনরাবৃত্তিতে আমাদের মডেল অনেক পথ তৈরি করতে পারে। একটি বাছাই এবং বাকি বাদ দেওয়ার পরিবর্তে, আসুন তাদের মধ্যে 50টি আঁকুন। নীচে সবুজ চালগুলি এমন জায়গা যেখানে মডেলটি নির্বাচিত পদক্ষেপ থেকে ডানদিকে বিচ্যুত হবে, কমলা যেখানে এটি বাম দিকে বিচ্যুত হবে।
এই কৌশলটি দিয়ে আমরা সম্ভাবনার বিস্তৃত স্থানের উপর আলোকপাত করি। আপনি কিছু ক্ষেত্র দেখতে পারেন যেখানে পরবর্তীতে কী করতে হবে সে সম্পর্কে সাধারণ চুক্তি ছিল। অন্যান্য অঞ্চলে “পরে যেকোন কিছু হতে পারে” এই অনুভূতি বেশি ছিল। অন্যরা রাস্তায় একটি সম্ভাব্য কাঁটা দেখায় বলে মনে হচ্ছে। আমরা “a” বা “g” আঁকতে পারি। কয়েক ধাপ পরে এটি স্পষ্ট যে মডেলটি একটি নৈমিত্তিক “g” এ রূপান্তরিত হয়েছে৷
মডেল-উত্পন্ন নমুনাগুলিকে কল্পনা করার পাশাপাশি, এই কৌশলটি মানব-উত্পন্ন নমুনাগুলিতেও প্রয়োগ করা যেতে পারে। নীচে আমরা দেখতে পাচ্ছি যে মডেলটি প্রতিটি বিন্দুতে কী করবে যদি সে ব্যক্তিটিকে গ্রহণ করে।
এই পরীক্ষাগুলি থেকে এটি স্পষ্ট যে এই মডেলটি মানুষের হাতের লেখা সম্পর্কে অনেক কিছু শিখেছে। কোন ধরনের প্রশ্ন জিজ্ঞাসা করে, আমরা কি হাতের লেখার অনুকরণ করার জন্য অন্ধভাবে ব্যবহার না করে একটি অর্থপূর্ণ উপায়ে এই জ্ঞান আহরণ করতে পারি?
মডেলের অভ্যন্তরীণতা পরীক্ষা করা হচ্ছে
আমাদের মডেলে 500টি কোষ রয়েছে যা এক ধরনের মেমরি হিসাবে কাজ করে যা এটি কী তৈরি করতে হবে তা সিদ্ধান্ত নেওয়ার সময় এটির ইনপুটের অংশ হিসাবে ব্যবহার করবে। মডেলের অগ্রগতির সাথে সাথে এই কোষগুলি কী করছে তা যদি আমরা দেখতে পাই, তাহলে মডেলটি কী করছে তা আমরা একটি স্বজ্ঞাত ধারণা পেতে সক্ষম হতে পারি।
আমরা সময়ের সাথে সেল অ্যাক্টিভেশন দেখিয়ে শুরু করি। নীচের হিটম্যাপের প্রতিটি কলাম পাণ্ডুলিপির একটি লাইনের অংশকে উপস্থাপন করে। প্রতিটি সারি মডেলের একটি কক্ষের প্রতিনিধিত্ব করে এবং স্ট্রোকের একই অংশে এটি সক্রিয় করে রঙিন করা হয়। ডায়াগ্রামটি পরীক্ষা করে আপনি কিছু প্যাটার্ন দেখতে সক্ষম হতে পারেন যে নির্দিষ্ট ধরণের টানের জন্য নির্দিষ্ট কোষগুলি কীভাবে সক্রিয় হয়। আপনি ডায়াগ্রামে ক্লিক করে রঙের লাইনে ব্যবহৃত ঘরটি পরিবর্তন করতে পারেন।
আপনি আকর্ষণীয় নিদর্শন সহ এক বা দুটি কোষ বাছাই করতে সক্ষম হতে পারেন, তবে আমাদের বিশ্বাস করার কারণ রয়েছে যে কোষগুলি সমান্তরালভাবে কাজ করে, তাই একটি একক কোষের কার্যকলাপ কোষগুলির একটি গ্রুপের মতো আকর্ষণীয় নাও হতে পারে।
এই গঠন পরিষ্কার করতে কোষ অর্ডার করার একটি উপায় আছে? আমরা এক-মাত্রিক টি-এসএনই এর প্রয়োগ খুঁজে পেয়েছি
এই সংস্করণে আমরা কিছু স্পষ্ট আচরণ খুঁজে পেতে পারি। উদাহরণস্বরূপ, উপরের দিকে 11-70 কোষগুলি পেন পাথের সামান্য ভিন্ন দিক এবং বক্রতার জন্য সংবেদনশীল বলে মনে হয় – বিশেষ করে 25 এবং 55 সেলগুলি দেখুন৷ অন্যদিকে, নীচের অংশে, 427 এর নীচের কোষগুলি কলম উত্তোলনের উপর দৃষ্টি নিবদ্ধ বলে মনে হয়; উদাহরণস্বরূপ, সেল 494 ভবিষ্যদ্বাণী করতে দেখা যাচ্ছে যে কলমটি তোলা হবে কিনা। মাঝখানে, আমরা পরম অবস্থান ট্র্যাকিং সহ বিভিন্ন কোষ দেখতে পাই। সেল 136 এবং এর প্রতিবেশীরা অনুভূমিক অবস্থান নিয়ে উদ্বিগ্ন বলে মনে হচ্ছে, যখন 236-এর কাছাকাছি কোষগুলি উল্লম্ব অবস্থান নিয়ে উদ্বিগ্ন বলে মনে হচ্ছে। সেল 242 একটি শব্দের মধ্যে অবস্থান ট্র্যাক করতে দেখা যাচ্ছে।
সেশনগুলি অন্বেষণ করার আরেকটি উপায় হল এটিকে একটি উদাহরণ দেওয়া এবং সেশনগুলিকে ইন্টারেক্টিভভাবে দেখা। নীচে আপনি রিয়েল টাইমে সমস্ত ঘরের সেশন লিখতে এবং দেখতে পারেন।
উপসংহার
মেশিন লার্নিং মডেলগুলির ব্ল্যাক বক্সের খ্যাতি ভালভাবে প্রাপ্য, কিন্তু আমরা বিশ্বাস করি যে সেই খ্যাতির অংশটি তারা যে প্রোগ্রামিং প্রেক্ষাপটে আটকে আছে তার থেকে জন্ম নিয়েছে৷ ইন্টারেক্টিভ ভিজ্যুয়ালাইজেশন এনভায়রনমেন্ট (এখানে, জাভাস্ক্রিপ্ট) হিসাবে একই প্রোগ্রামিং প্রসঙ্গে একটি সহজে পরীক্ষাযোগ্য মডেলের অভিজ্ঞতা এই পোস্টের জন্য প্রোটোটাইপিং এবং নতুন ধারনা অন্বেষণের জন্য খুব দরকারী প্রমাণিত হয়েছে।
যেহেতু আমরা সেগুলিকে একই প্রোগ্রামিং প্রেক্ষাপটে আরও বেশি করে নিয়ে যেতে সক্ষম হচ্ছি যেখানে UI কাজ করা হয়, আমরা বিশ্বাস করি যে আমরা মানব-এআই মিথস্ক্রিয়াগুলির আরও সমৃদ্ধ মোড দেখতে পাব। এটি ডিবাগিং এবং মডেলিংয়ের উপর যথেষ্ট প্রভাব ফেলতে পারে, নিশ্চিত হতে, তবে মডেলগুলি কীভাবে ব্যবহার করা হয় তার উপরও। মেশিন লার্নিং গবেষণা সাধারণত মানুষের অনুকরণ এবং প্রতিস্থাপনের চেষ্টা করে এবং ক্রমবর্ধমানভাবে তা করতে সক্ষম হয়। যা কম অন্বেষণ করা বলে মনে হয় তা হল মানুষকে উন্নত করার জন্য মেশিন লার্নিং ব্যবহার করা। এই ধরনের মানব-মেশিন মিথস্ক্রিয়া সর্বোত্তমভাবে অন্বেষণ করা হয় যখন মডেলের সম্পূর্ণ ক্ষমতা ব্যবহারকারী ইন্টারফেসের প্রসঙ্গে উপলব্ধ থাকে।
Leave a Reply