নিজের চ্যাটবট ক্লডে নতুন একটি নিরাপত্তাস্তর যোগ করেছে অ্যানথ্রপিক, যেখানে মডেলটি নিজের কথোপকথন নিজেই পর্যালোচনা করে এবং ঠিক করে, কোনো মানুষের সেটি দেখা দরকার কি না।
ব্যবস্থাটির নাম ‘সেলফ অ্যাসেসমেন্ট’। ক্লড প্রতিটি উত্তর তৈরি করার পর একটি গোপন নির্দেশনার মাধ্যমে তাকে বলা হয় পুরো কথোপকথনটি—সদ্য লেখা নিজের উত্তরসহ—আবার পড়তে এবং বিচার করতে: ব্যবহারকারীর অনুরোধে ক্ষতিকর কিছু ছিল কি না, থাকলে তা কোন ধরনের ঝুঁকির সঙ্গে সম্পর্কিত, আর মানব পর্যালোচনার জন্য বিষয়টি কতটা গুরুত্বপূর্ণ।
ঝুঁকির ইঙ্গিত না পেলে কথোপকথনটিকে স্বাভাবিক হিসেবে চিহ্নিত করে ব্যবস্থাটি পরের কাজে এগিয়ে যায়। ইঙ্গিত পেলে সেটি মানব পর্যালোচনার জন্য আলাদা করে রাখা হয়।
ব্যবহারকারীকে কিছু জানানো হয় না। কোনো সতর্কবার্তা আসে না, কথোপকথনেও বিঘ্ন ঘটে না।
চলছে জুন থেকে
অ্যানথ্রপিকের তথ্যমতে, ২০২৬ সালের জুন থেকেই ক্লড ফেবল ৫ ও বিভিন্ন মডেলে ব্যবস্থাটি চালু আছে। সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক বার্তায় প্রতিষ্ঠানটি এর বর্ণনা দিয়েছে।
প্রচলিত নিরাপত্তাব্যবস্থা থেকে এটি আলাদা এ কারণে যে, এটি আগে থেকে নির্ধারিত নিয়মের তালিকা ধরে কাজ করে না। সম্ভাব্য ঝুঁকি শনাক্ত করতে এটি ক্লডের নিজস্ব বিশ্লেষণক্ষমতা কাজে লাগায়—অর্থাৎ নীতিগতভাবে, মডেল যত উন্নত হবে ঝুঁকি শনাক্তও তত ভালো হবে, আর নিয়মনির্ভর ছাঁকনির নজর এড়িয়ে যাওয়া জটিল অপব্যবহারও এটি ধরতে পারবে।
খরচ, আর সেটিই আসল কথা
নিরাপত্তা যাচাইয়ে সাধারণত বড় অঙ্কের কম্পিউটিং সক্ষমতা লাগে। অ্যানথ্রপিক বলছে, এখানে তা লাগে না—কারণ ক্লড কথোপকথনটি আগেই প্রক্রিয়াকরণ করেছে, নতুন করে সব তথ্য বিশ্লেষণ করতে হয় না।
প্রতিবার যাচাইয়ে ব্যবহার হয় প্রায় ১০টি অতিরিক্ত টোকেন, এতে মোট কম্পিউটিং খরচ বাড়ে ২ শতাংশেরও কম। প্রতিষ্ঠানটির ভাষ্য, তাদের আগের নিরাপত্তাব্যবস্থায় কম্পিউটিং খরচ বাড়ত প্রায় ২৪ শতাংশ, আর প্রতিদ্বন্দ্বী ওপেনএআইয়ের ব্যবস্থায় তা ১৬ শতাংশ পর্যন্ত যেতে পারে।
যা ধরা পড়েছে
ক্লড ফেবল ৫ মডেলে পরিচালিত পরীক্ষায় সেলফ অ্যাসেসমেন্ট সামগ্রিকভাবে ৭৮ শতাংশ ক্ষতিকর কথোপকথন শনাক্ত করতে পেরেছে। উচ্চ অগ্রাধিকারের ঘটনাগুলোয় এ হার ৯৪ শতাংশ।
যে দিকটি ভেবে দেখার মতো
একভাবে পড়লে এটি সস্তা ও ভালো একটি ছাঁকনি, আর অর্থনীতিই ব্যাখ্যা করে কেন এটি এসেছে: ২ শতাংশ খরচের যাচাই সবকিছুর ওপর চালানো যায়, আর ২৪ শতাংশ খরচেরটি কম জায়গায় চালানোর চাপ তৈরি করে।
আরেকভাবে পড়লে, যে কথোপকথনটিকে আপনি ভেবেছিলেন আপনার আর যন্ত্রের মধ্যেকার ব্যাপার, তার সঙ্গে দ্বিতীয় একজন পাঠক যুক্ত হয়ে আছে—আর নকশাটি ইচ্ছা করেই আপনাকে জানায় না যে আপনি চিহ্নিত হয়েছেন। দুটি পাঠই সঠিক, আর যেকোনো চ্যাটবটে এমন কিছু লেখার আগে দ্বিতীয়টিই মনে রাখার মতো, যা আপনি অপরিচিত কাউকে পড়তে দিতে চাইবেন না।
‘মানব পর্যালোচনার জন্য চিহ্নিত’ বলতে আসলে কী বোঝায়
প্রকাশিত বর্ণনায় বলা হয়েছে, ঝুঁকিপূর্ণ বলে চিহ্নিত কথোপকথন কোনো মানুষের দেখার জন্য আলাদা করে রাখা হয়। সেই মানুষটি কে, কথোপকথনটি কত দিন রাখা হয়, ব্যবহারকারীকে পরে কখনো জানানো হয় কি না, আর পর্যালোচনার পর কী ঘটে—এসব বলা নেই।
গোপনীয়তা নিয়ন্ত্রক সংস্থা এ প্রশ্নগুলোই করত, আর ঘোষণায় উত্তরগুলো নেই। ক্লায়েন্টের তথ্য, চিকিৎসার বিবরণ বা আইনি বিষয় নিয়ে কাজে যাঁরা চ্যাটবট ব্যবহার করেন, তাঁদের এই উত্তরহীনতাকেই প্রাসঙ্গিক তথ্য হিসেবে ধরা উচিত।
এভাবে বানানোর পক্ষে সৎ যুক্তিটি
মানুষকে না জানানোর পক্ষে একটি বাস্তব যুক্তি আছে, আর খারাপ উদ্দেশ্য ধরে নেওয়ার আগে সেটি বলে নেওয়া ভালো। যে ব্যবস্থা ঘোষণা করে ‘এই কথোপকথনটি চিহ্নিত হয়েছে’, সেটি দুর্বলতা খুঁজতে থাকা যে কাউকে শিখিয়ে দেয় সীমারেখাটি ঠিক কোথায়—আর তিনি ততক্ষণ পর্যন্ত বদলে বদলে চেষ্টা করতে পারেন, যতক্ষণ না এমন একটি ভাষা মেলে যা ধরা পড়ে না। নীরব চিহ্নিতকরণ এই প্রতিক্রিয়ার বৃত্তটিই মুছে দেয়।
এই নকশার মূল্যটি দেন তাঁরা, যাঁরা কিছুই খুঁজছেন না—অর্থাৎ প্রায় সবাই—আর যাঁরা এখন জানতেই পারেন না কথোপকথনটি নথিভুক্ত হলো কি না।
সাধারণ নিয়মটি বদলায়নি, কেবল তার প্রমাণ বেড়েছে। কোনো হোস্টেড এআই সেবায় যা-ই লিখুন, তা প্রক্রিয়াকরণ হচ্ছে অন্য কারও কম্পিউটারে, এমন শর্তে যা তাঁরা বদলাতে পারেন। লেখাটিকে সেভাবেই বিবেচনা করুন।
