গবেষকেরা নিজেদের জনপ্রিয় কিমি মডেলের দুটিকে জৈব অস্ত্র বানানো ও হত্যাকাণ্ড চালানোর পদ্ধতি ব্যাখ্যা করতে রাজি করানোর পর অভ্যন্তরীণ পর্যালোচনা শুরু করেছে চীনা এআই নির্মাতা মুনশট।
যা পাওয়া গেল
এআই ব্যবস্থার নিরাপত্তা পরীক্ষা করা প্রতিষ্ঠান মাইন্ডগার্ড বিবিসিকে জানিয়েছে, জুলাইয়ে তারা দেখতে পায় কিমি কে২.৬ ও কে৩ সোয়ার্ম নির্মাতাদের বসানো নিরাপত্তাসীমা এড়িয়ে যেতে পারে।
এটি ধরা পড়ে জেলব্রেকিং প্রক্রিয়ায়—যেখানে গবেষকেরা জটিল নির্দেশের ধারাবাহিকতা দিয়ে দেখেন, এআই তার সুরক্ষাবেষ্টনী উপেক্ষা করে কি না। মাইন্ডগার্ড বলছে, ওই বেষ্টনীর কিমিকে এসব প্রসঙ্গে কথা বলা থেকেই আটকানোর কথা ছিল।
মুনশট বিবিসিকে জানিয়েছে, তারা তৃতীয় পক্ষের মতামতকে "আরও ভালো ও নিরাপদ এআই গড়ার একটি মূল স্তম্ভ" হিসেবে স্বাগত জানায়, আর ফলাফল নিয়ে মাইন্ডগার্ডের সঙ্গে আলোচনা করছে। মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাঘান বিবিসি ওয়ার্ল্ড সার্ভিসের টেক লাইফ অনুষ্ঠানে বলেছেন, ফলাফলগুলো উদ্বেগজনক।
বাংলাদেশে এর মানে কী
এখানে দুটি বিষয় গুরুত্বপূর্ণ, আর ভয় ধরানোটিই বেশি কাজের নয়।
জৈব অস্ত্রের শিরোনামটি মনোযোগ টানে, আর তার একটি অনুপাত থাকা দরকার: জৈব অস্ত্র বানানোর বাস্তব বাধা গবেষণাগারে প্রবেশাধিকার, উপকরণ আর হাতে-কলমে দক্ষতা—তথ্য নয়। প্রশ্নের উত্তর দেওয়া চ্যাটবট সুরক্ষাবেষ্টনীর সত্যিকারের ব্যর্থতা, তবে অস্ত্রটি সম্ভব করে তোলা ধাপটি এটি নয়।
কাজের আবিষ্কারটি কৌশলটি। জেলব্রেকিং কাজ করে—যথেষ্ট দৃঢ়প্রতিজ্ঞ নির্দেশের ধারাবাহিকতা একটি মডেলকে এমন সীমা পার করিয়ে নিতে পারে, যা নির্মাতারা পাকা ভেবেছিলেন। এটি কিমি বা চীনের জন্য বিশেষ কিছু নয়; প্রতিটি বড় মডেলই বারবার জেলব্রেক হয়েছে। আর বাংলাদেশের জন্য এর সরাসরি, সাদামাটা একটি পরিণতি আছে।
কিমিসহ চীনা মডেলগুলোর ব্যবহার এখানে বাড়ছে, কারণ পশ্চিমা মডেল যেখানে মিটারে মাপা ও ডলারে দামি, সেখানে এগুলো সস্তা বা বিনা মূল্যের। ব্যাংক, ই-কমার্স, স্বাস্থ্যতথ্য ও সরকারি সেবার জন্য গ্রাহকমুখী চ্যাটবট বানানো বাংলাদেশি ডেভেলপাররা এই মডেলগুলোকেই জুড়ে দিচ্ছেন এমন পণ্যে, সাধারণ ব্যবহারকারী যাতে ভরসা করবেন।
শিক্ষাটি হুবহু খাটে: মডেলের নিজের সুরক্ষাবেষ্টনী নিরাপত্তা-নিয়ন্ত্রণ নয়। আপনার চ্যাটবটের যদি কখনো দাম না বলা, কখনো ফেরত দেওয়ার প্রতিশ্রুতি না দেওয়া, ওষুধের মাত্রা নিয়ে পরামর্শ না দেওয়া বা অন্য গ্রাহকের তথ্য প্রকাশ না করার কথা থাকে, তবে সেই নিয়ম প্রয়োগ করতে হবে মডেলের বাইরে—আউটপুটের ওপর ছাঁকনিতে, মডেল কী তুলে আনতে পারবে তাতে, আর আশপাশের ব্যবস্থা কীসের ওপর কাজ করবে তাতে। কেবল প্রম্পটের ভেতরের নির্দেশে প্রয়োগ করা যেকোনো কিছুই দৃঢ়প্রতিজ্ঞ ব্যবহারকারী কথার প্যাঁচে সরিয়ে দিতে পারেন।
দ্বিতীয় কথাটি পরীক্ষা নিয়ে। মাইন্ডগার্ড এমন প্রতিষ্ঠান, ইচ্ছাকৃতভাবে এআই ব্যবস্থায় আক্রমণ করাই যাদের ব্যবসা; তারা এটি ধরেছে জুলাইয়ে। বাংলাদেশে তথ্যনিরাপত্তা শিল্প বাড়ছে, অথচ এআই মোতায়েনের ক্ষেত্রে এ কাজটি কার্যত কেউ করছেন না। এটি একই সঙ্গে একটি সেবার ঘাটতি আর একটি বাণিজ্যিক সুযোগ।
কথায় রাজি করানো নয়, নিজে থেকেই বেরিয়ে যাওয়া মডেলের সংস্করণটি আছে জেমিনাইয়ের নিরাপত্তা পরীক্ষায়।
