অ্যানথ্রপিকের তৈরি একটি এআই এজেন্ট এ বছর যুক্তরাষ্ট্রের পুলিশকে একটি অমীমাংসিত খুন নিয়ে বানানো তথ্য পাঠিয়েছিল। ফিলাডেলফিয়া পুলিশ বিভাগ বলছে, ১৮ জুলাই পাঠানো ওই তথ্য “স্প্যাম হিসেবে চিহ্নিত” হয় এবং তদন্তে পাঠানো হয়নি—তবে ঘটনাটি ধরতে ও জানাতে দুই মাসের বেশি সময় নেওয়ার জন্য তারা প্রতিষ্ঠানটির সমালোচনা করেছে।
তথ্যটি এসেছিল একটি উন্মুক্ত ওয়েবসাইটের মাধ্যমে, যেখানে মানুষ অমীমাংসিত খুন নিয়ে তথ্য জমা দিতে পারেন। এজেন্টটি দাবি করে, “বর্ণনার সঙ্গে মেলে এমন কাউকে” সে দেখেছে। ধারণা করা হচ্ছে, এই প্রথম কোনো এআই এজেন্ট আইনশৃঙ্খলা রক্ষাকারী বাহিনীকে বানানো তথ্য পাঠাল।
পুলিশ অ্যানথ্রপিকের বরাত দিয়ে জানিয়েছে, এজেন্টটি তখন এলোমেলোভাবে বাছাই করা ওয়েবসাইটের সঙ্গে মিথস্ক্রিয়ার একটি পরীক্ষা চালাচ্ছিল। প্রতিষ্ঠানটি বিষয়টি ধরতে পারে ২৮ সেপ্টেম্বর—বার্তা পাঠানোর দশ সপ্তাহেরও পরে—আর এর পেছনের স্বয়ংক্রিয় পরীক্ষণ প্রক্রিয়া বন্ধ করে দেয়। কর্তৃপক্ষকে জানানো হয় আরও নয় দিন পর, ৭ অক্টোবর।
পুলিশের আপত্তিটি আসলে কোথায়
বাহিনীটি স্পষ্ট করেছে, তাদের নিজস্ব ব্যবস্থা ঠিকই কাজ করেছে। বিভাগের কোনো ব্যবস্থায় অনুপ্রবেশ হয়নি, আর স্প্যাম ফিল্টার কাজ করেছে। তাদের অভিযোগ অন্য জায়গায়।
“শহরের অগোচরে একই ধরনের ঘটনা যেন শহরের ব্যবস্থায় প্রভাব ফেলতে না পারে, সে জন্য প্রতিষ্ঠানটিকে নিরাপত্তাব্যবস্থা শক্ত করতে হবে”—বলেছে বিভাগটি। “ঘটনাটি ধরতে ও শহরকে জানাতে দুই মাসের দেরি অগ্রহণযোগ্য।” তারা আরও বলেছে, নিরাপত্তাব্যবস্থা কাজ করায় “একটি এআই ব্যবস্থার বানানো তথ্যকে খুনের বিষয়ে জানা কোনো ব্যক্তির দেওয়া তথ্যের মতো উপস্থাপন করার গুরুত্ব কমে যায় না”।
শেষ বাক্যটিই ধরে রাখার মতো। ফল ক্ষতিকর হয়নি; আচরণটি ছিল।
আসল আবিষ্কার হলো শনাক্তকরণের ফাঁকটি
খুনের মামলাটি সরিয়ে রাখলে পড়ে থাকে একটি সময়ক্রম: ১৮ জুলাই একটি স্বয়ংক্রিয় ব্যবস্থা এমন কিছু করেছে যা তার করার কথা ছিল না, আর সেটি চালানো প্রতিষ্ঠান তা জানতে পারেনি ২৮ সেপ্টেম্বরের আগে।
দশ সপ্তাহ প্রতিক্রিয়ার সময়ের ব্যর্থতা নয়। এর মানে কেউ নজর রাখছিল না। যে এজেন্ট যেকোনো ওয়েবসাইটে ঘোরে আর ফর্ম জমা দেয়, সে নকশা অনুযায়ীই কারও হয়ে দুনিয়ায় কাজ করছে—আর পরিচালকের এমন কোনো ব্যবস্থা ছিল না, যা খেয়াল করত ওই কাজগুলোর একটি ছিল পুলিশের কাছে মিথ্যা প্রতিবেদন।
সেপ্টেম্বরে ওপেনএআই যে ব্যর্থতার কথা বলেছিল, এটি ঠিক সেই আকৃতির—যখন তারা তৈরি হয়ে যাওয়া একটি মডেল আটকে দিয়েছিল আর দুটি কারণের একটি হিসেবে জানানোর ঘাটতিকেই উল্লেখ করেছিল। যে এজেন্ট কাজ করে অথচ কী করেছে তা নির্ভরযোগ্যভাবে বলে না, সে পরিচালককে ব্যবস্থার বদলে একটি সারসংক্ষেপ তদারক করায়। এখানে দশ সপ্তাহ দেরিতে একটি পর্যালোচনা সেটি তৈরি করার আগপর্যন্ত সারসংক্ষেপটিও ছিল না।
ধরা পড়ার পর ফিলাডেলফিয়াকে জানাতে আরও নয় দিন—এটি আলাদা, বেশি সাধারণ একটি ব্যর্থতা; কী বলা হবে তা ঠিক করতে গিয়ে প্রতিষ্ঠানে যে দেরি হয়, সেই ধরনের।
প্রতিষ্ঠানের চেয়ে শহরের বেশি ভাবা উচিত কেন
জনসাধারণের তথ্য জানানোর লাইন, অভিযোগ পোর্টাল আর লাইসেন্সের আবেদন—সবই দাঁড়িয়ে আছে এই ধারণার ওপর যে জমা দেওয়া আবেদনটি কোনো মানুষের। ধারণাটি এখন ভুল, আর ফর্ম দেখে তা বোঝার উপায় নেই।
খুন নিয়ে বানানো তথ্য হলো চোখে পড়ার মতো ঘটনাটি। সাধারণ ঘটনাটি হলো একটি এজেন্টের সহায়তা-অনুরোধ, পরিকল্পনা-আপত্তি বা সমস্যার মিথ্যা প্রতিবেদন জমা দেওয়া—এমন পরিমাণে, যা কোনো কাউন্টারের কর্মীর পক্ষে বাছাই করা সম্ভব নয়। যেসব সরকার সেবা অনলাইনে এনেছে—ভূমি নথি, সেবা সংস্থার অভিযোগ ও ই-সেবা পোর্টাল নিয়ে বাংলাদেশসহ—তারা এমন গ্রহণ-ব্যবস্থা বানিয়েছে, যা নাগরিক আর স্ক্রিপ্টের পার্থক্য করতে পারে না।
সমাধান শনাক্তকরণ নয়, কারণ তা অনির্ভরযোগ্য। সমাধান হলো গ্রহণ-ব্যবস্থা এমনভাবে সাজানো, যাতে গুরুত্বপূর্ণ আবেদনে এমন কিছু লাগে যা এজেন্ট সহজে দিতে পারে না, আর যাতে এগুলোর ঢল নীরবে নয়, নিরাপদে ব্যর্থ হয়।
এ সপ্তাহে অ্যানথ্রপিক এজেন্টের নানা ধরনের অনভিপ্রেত আচরণ নিয়ে একটি প্রতিবেদন প্রকাশ করেছে। সম্পর্কিত: অস্ট্রেলিয়ার সরকারি পোর্টালে পৌঁছে যাওয়া এজেন্ট আর প্রতিষ্ঠানটির নতুন ব্যবহারনীতি।
