এআইয়ের ‘হ্যালুসিনেশন’: চীনা জাহাজে প্রায় উঠে পড়ছিল মার্কিন সেনারা

চলতি বছরের বসন্তে, মধ্যপ্রাচ্যের কোথাও, একটি চীনা কার্গো জাহাজ থামানোর সব প্রস্তুতি শেষ। মার্কিন সেনাদের একটি সশস্ত্র দল জাহাজে উঠতে তৈরি, আকাশে সামরিক বিমান। কারণ একটি গোয়েন্দা প্রতিবেদন—তাতে বলা হয়েছে, জাহাজটি পারমাণবিক অস্ত্র কর্মসূচির উপকরণ বহন করছে। প্রতিবেদনটি ছিল ভুল। আংশিক নয়, সিএনএনকে ঘটনাটি জানানো চার সূত্রের একজনের ভাষায় ‘পুরোপুরি মিথ্যা’। আর সেটি লেখা হয়েছিল একটি এআই চ্যাটবটের সাহায্যে।

অভিযান থেমে যায় শুধু এই কারণে যে শেষ মুহূর্তে কেউ একজন আরেকবার যাচাই করার সিদ্ধান্ত নেন। ওই একটি বিরতিই একটি ছোট ভুল আর—এক সূত্রের কথায়—‘প্রায় বেধে যাওয়া যুদ্ধের’ মধ্যে পার্থক্য গড়ে দেয়।

ঠিক কী ঘটেছিল

সময়টা ছিল সবচেয়ে খারাপ। তখন ইরানের সঙ্গে যুক্তরাষ্ট্রের সংঘাত চলছে, পুরো অঞ্চল টানটান উত্তেজনায়। এর মধ্যেই মার্কিন বাহিনীর ভেতরে একটি প্রতিবেদন ছড়ায়, যেখানে ওই অঞ্চলে থাকা একটি চীনা জাহাজকে পারমাণবিক উপকরণ পরিবহনকারী হিসেবে চিহ্নিত করা হয়। জাহাজটি আটকানোর প্রস্তুতি এগোয় দ্রুত।

কর্মকর্তারা যখন দাবিটি যাচাই করতে যান, সূত্র গিয়ে ঠেকে মার্কিন বিশেষ বাহিনীর সঙ্গে কাজ করা এক বিশ্লেষকের কাছে। হাওয়াইভিত্তিক স্পেশাল অপারেশনস কমান্ড প্যাসিফিক থেকে আসা তথ্য দিয়ে তিনি একটি চ্যাটবটকে জাহাজের পণ্যতালিকা বিশ্লেষণ করতে বলেছিলেন। চ্যাটবটটি উন্মুক্ত উৎসের তথ্যের সঙ্গে সরকারি সংরক্ষণাগারের গোপন সংকেতভিত্তিক গোয়েন্দা তথ্য মিলিয়ে জাহাজে কী আছে সে বিষয়ে একটি সিদ্ধান্তে পৌঁছায়—এবং ভুল সিদ্ধান্তে পৌঁছায়। এরপর ওই বিশ্লেষক আবার এআই ব্যবহার করে সেই সিদ্ধান্তকে একটি পূর্ণাঙ্গ গোয়েন্দা প্রতিবেদনে রূপ দেন। প্রতিবেদনটি ওপরের দিকে পাঠানো হয়, আর দেখতে সেটি ছিল হুবহু সেই ধরনের প্রতিবেদন, যেটির ওপর কমান্ডাররা আস্থা রাখতে অভ্যস্ত।

জাহাজে আসলে কী ছিল, সিএনএন তা নিশ্চিত হতে পারেনি। স্পেশাল অপারেশনস কমান্ড প্যাসিফিক ও পেন্টাগন তাদের প্রশ্নের জবাব দেয়নি। চ্যাটবটটি বাণিজ্যিক পণ্য ছিল, নাকি সরকারের নিজস্ব ব্যবস্থা—তা-ও স্পষ্ট নয়। তবে সাবেক এক জ্যেষ্ঠ কর্মকর্তা সিএনএনকে বলেছেন, ভেতরে ব্যবহৃত এআই সরঞ্জামের বেশির ভাগই বাণিজ্যিক প্রযুক্তির ওপর সরকারি মোড়ক দেওয়া।

চ্যাটবট কেন আত্মবিশ্বাসের সঙ্গে ভুল বলে

যাঁরা এই সরঞ্জামগুলো ব্যবহার করেন—সেনাবাহিনীতে হোন বা অফিসে—তাঁদের জন্য এটিই সবচেয়ে গুরুত্বপূর্ণ অংশ। বড় ভাষা মডেল (এলএলএম) ডেটাবেসের মতো তথ্য ‘খুঁজে দেখে’ না। দেওয়া লেখার পরে পরিসংখ্যানগতভাবে সবচেয়ে সম্ভাব্য শব্দগুলো তৈরি করে। যখন প্রমাণ কম, পরস্পরবিরোধী বা একেবারেই নেই, মডেল ‘জানি না’ বলে না—ফাঁকটা এমন কিছু দিয়ে ভরে দেয়, যা পড়তে সাবলীল ও নিশ্চিত শোনায়। গবেষকেরা একে বলেন হ্যালুসিনেশন। চ্যাট উইন্ডোতে এর ফল একটি ভুল তারিখ বা বানানো রেফারেন্স। গোয়েন্দা ব্যবস্থায় এর ফল হতে পারে এমন একটি পারমাণবিক পাচারকারী জাহাজ, যার অস্তিত্বই নেই।

এই ঘটনায় দুটি বিষয় পরিস্থিতি আরও খারাপ করেছে। প্রথমত, এআই ব্যবহার করা হয়েছে দুবার—একবার সিদ্ধান্তে পৌঁছাতে, আরেকবার সেটি লিখে ফেলতে। ফলে একজন মানব বিশ্লেষক যে সতর্ক ভাষা যোগ করতেন, তার কিছুই এতে ছিল না। দ্বিতীয়ত, চূড়ান্ত দলিলটি সাধারণ প্রতিবেদনের থেকে আলাদা করার কোনো উপায় ছিল না। যাঁরা পড়েছেন, তাঁদের বোঝার কোনো সংকেত ছিল না যে মূল বিচারটি করেছে একটি যন্ত্র, মানুষ নয়।

গতি বনাম তদারকি

এসব কিছু হঠাৎ ঘটছে না। মার্কিন সামরিক বাহিনী ও গোয়েন্দা সংস্থাগুলো কাজের প্রায় প্রতিটি ক্ষেত্রে এআই ঢোকাচ্ছে—সংগৃহীত বিপুল তথ্য ছাঁকা থেকে হামলার লক্ষ্যবস্তু বাছাই, এমনকি বাজেট ও রসদের মতো সাধারণ কাজেও। গত জানুয়ারিতে প্রতিরক্ষামন্ত্রী পিট হেগসেথ ‘আর্টিফিশিয়াল ইন্টেলিজেন্স অ্যাকসেলারেশন স্ট্র্যাটেজি’ প্রকাশ করেন। প্রতিশ্রুতি: পরীক্ষা-নিরীক্ষার আরও সুযোগ, কম আমলাতান্ত্রিক বাধা, অগ্রাধিকার ভিত্তিতে বিনিয়োগ—যাতে সামরিক এআইয়ে যুক্তরাষ্ট্র এগিয়ে থাকে। যুক্তিটা সরল: ভবিষ্যতের প্রতিপক্ষ, বিশেষত চীন, এআইয়ে দ্রুত এগোতে পারে; ওয়াশিংটন দ্বিতীয় হতে পারে না।

জাহাজের ঘটনাটি এক দৃশ্যে এর পাল্টা যুক্তি। ঘটনা প্রকাশ্যে আসার পর ডেমোক্রেটিক পার্টির একদল সিনেটর শনিবার হেগসেথ ও জাতীয় গোয়েন্দা পরিচালক জে ক্লেটনকে চিঠি দিয়ে সরকারি নজরদারি সংস্থাগুলোকে সামরিক লক্ষ্যবস্তু নির্ধারণে এআই-সংক্রান্ত সাম্প্রতিক ভুলগুলো তদন্ত করতে বলেছেন। তাঁদের উদ্বেগ, সংস্থাগুলো কার্যকর তদারকির চেয়ে গতি ও পরীক্ষা-নিরীক্ষাকে বেশি গুরুত্ব দিচ্ছে।

শিক্ষাটা পেন্টাগনের বাইরেও সমান প্রযোজ্য

বাংলাদেশ কোনো জাহাজে অভিযান চালাচ্ছে না, কিন্তু দেশের ব্যাংক, টেলিকম অপারেটর, সংবাদমাধ্যম ও সরকারি দপ্তরগুলো একই শ্রেণির—প্রায়ই একই বাণিজ্যিক—এআই মডেল ব্যবহার শুরু করেছে। ব্যর্থতার ধরনটি যেকোনো মাপে এক: এআইয়ের উত্তর একটি দলিলে বসিয়ে দেওয়া হয়, দলিলটি তার ফরম্যাটের কারণেই কর্তৃত্ব পেয়ে যায়, আর পরের ধাপে কেউ জানে না সিদ্ধান্তটি নিয়েছে একটি যন্ত্র।

তিনটি অভ্যাস এই ঘটনাটি ঠেকাতে পারত, আর এগুলো চালু করতে কোনো খরচ নেই:

• উৎস চিহ্নিত করুন। এআই দিয়ে তৈরি বা লেখা যেকোনো সিদ্ধান্তে স্পষ্টভাবে তা লেখা থাকুক, যাতে পাঠক সঠিক মাত্রায় সন্দেহ নিয়ে পড়েন।
• কাজের আগে যাচাই, পরে নয়। সিদ্ধান্তের ঝুঁকি যত বড়, একজন মানুষকে তত বেশি দাবিটি মূল প্রমাণ পর্যন্ত ফিরে দেখতে হবে। এখানে সেই যাচাই হয়েছিল—কোনোমতে।
• সাবলীল ভাষাকে আশ্বাস নয়, সতর্কসংকেত ভাবুন। সবচেয়ে বিপজ্জনক এআই আউটপুট সেটিই, যেটি নিখুঁত পড়া যায়।

উচ্চ ঝুঁকির ব্যবস্থায় এআই ঢুকতেই থাকবে, কারণ একঘেয়ে ৯০ শতাংশ কাজে এটি সত্যিই কাজের। যে চীনা জাহাজে শেষ পর্যন্ত কেউ ওঠেনি, সেটি মনে করিয়ে দেয় বাকি ১০ শতাংশের দাম কত হতে পারে।