ভাবুন, এমন একজন মানচিত্রকরকে একটি শহরের মানচিত্র আঁকতে বলা হলো, যে শহরে তিনি কখনো যাননি। তাঁকে রাখা হয়েছে জানালাবিহীন এক ঘরে। হাতে আছে কেবল পঞ্চাশ বছরের পুরোনো কিছু মানচিত্র।
সেই মানচিত্র ধরে চললে যে কেউ এমন দেয়ালে গিয়ে থামবেন যা বহু বছর আগেই ভাঙা হয়েছে, আর খুঁজবেন এমন রাস্তা যা আর নেই। মানচিত্রকর নতুন কিছুই বানাননি। তিনি পুরোনো মানচিত্রই নকল করেছেন।
উপমাটি এসেছে তরুণ ব্রিটিশ বিজ্ঞানলেখক অ্যাড্রিয়ান ড্রেজের পুরস্কারজয়ী রচনা থেকে—অ্যাসোসিয়েশন অব ব্রিটিশ সায়েন্স রাইটার্সের ২০২৬ সালের ইয়াং সায়েন্স রাইটার অ্যাওয়ার্ড পেয়েছে লেখাটি। পুলিশি কাজে এআই সংখ্যালঘু গোষ্ঠীর প্রতি বৈষম্য বাড়িয়ে দিতে পারে—গবেষকদের এই সতর্কবার্তার সবচেয়ে পরিষ্কার সংক্ষিপ্ত রূপ এটিই।
চক্রটি যেভাবে সম্পূর্ণ হয়
এবার সেই মানচিত্রকরের হাতে তুলে দিন অতীতের অপরাধ ও সেগুলো কোথায় ঘটেছে তার তালিকা, আর বলুন পরেরগুলো কোথায় ঘটতে পারে তা রাঙিয়ে দিতে। এরপর পুলিশ টহল দেয় রাঙানো এলাকাগুলোয়।
সেখানে বেশি অপরাধ নথিভুক্ত হয়—কারণ দেখার জন্য সেখানে বেশি পুলিশ আছে। রাঙানো এলাকার বাইরের জায়গা শান্ত মনে হয়, কারণ সেখানে কম মানুষ খুঁজছে। পরের মানচিত্র আঁকার সময় সেই একই এলাকা আরও গাঢ় হয়ে ওঠে।
অর্থাৎ অপরাধের পরিসংখ্যান অপরাধের পূর্ণ তালিকা নয়। তা অনেকটাই পুলিশ কোথায় খুঁজতে বেছে নিয়েছে তার হিসাব।
সত্যিকারের একটি বাহিনীর ভেতরে যা মিলেছে
ইউনিভার্সিটি অব টেক্সাস অ্যাট অস্টিনের সমাজবিজ্ঞানী সারা ব্রেইন লস অ্যাঞ্জেলেস পুলিশ ডিপার্টমেন্টের ভেতরে থেকে দেখেছেন তারা বিগ ডেটা কীভাবে ব্যবহার করে। আমেরিকান সোশিওলজিক্যাল রিভিউ-তে প্রকাশিত তাঁর গবেষণায় দেখা যায়, বাহিনীটি কেবল সাড়া দিতে নয়, ক্রমেই অপরাধের পূর্বাভাস দিতেই তথ্য ব্যবহার করছে—আর সেই তথ্য একদিকে হেলে আছে।
প্রকাশ্য স্থানে ঘটা অপরাধ বেশি চোখে পড়ে ও নথিভুক্ত হয়। পুলিশের মনোযোগ ছিল অসমভাবে কৃষ্ণাঙ্গ এলাকাগুলোর দিকে। একবার তা ব্যবস্থার ভেতরে ঢুকে গেলে, তিনি লিখছেন, ‘পূর্বাভাসগুলো নিরপেক্ষ বলে মনে হয়’।
তাঁর ভাষায় মডেলগুলো তৈরি করে ‘এমন এক দুষ্টচক্র, যেখানে তারা কেবল অপরাধ বা পুলিশি সংস্পর্শের মতো ঘটনার পূর্বাভাস দেয় না, সেগুলোর ভবিষ্যতে ঘটাতেও ভূমিকা রাখে।’
মডেলের সমস্যার চেয়ে তথ্যের সমস্যা বড়
নিউইয়র্ক ইউনিভার্সিটির গবেষকেরা এই উপাদানের একটি নাম দিয়েছেন: নোংরা তথ্য। এগুলো এমন পুলিশি নথি, যা গড়ে উঠেছে দুর্নীতিগ্রস্ত, পক্ষপাতদুষ্ট বা বেআইনি চর্চার ভেতর দিয়ে—কারসাজি করা অপরাধ-পরিসংখ্যান, নির্দোষ মানুষের গ্রেপ্তার।
তাঁরা যুক্তরাষ্ট্রের যে ১৩টি এলাকা পরীক্ষা করেছেন, তার নয়টিতেই বেআইনি বা পক্ষপাতদুষ্ট পুলিশি সময়ের তথ্য এসব ব্যবস্থাকে প্রশিক্ষণ দিতে পাওয়া যাচ্ছিল। তথ্যটি ত্রুটিপূর্ণ, তা ব্যবস্থাটি বুঝতে পারে না। সে একে ধরে নেয় পুনরাবৃত্তি করার মতো একটি ধরন হিসেবে।
তাঁদের সিদ্ধান্তটি সরাসরি: এসব ব্যবস্থা যারা বিক্রি করছে তাদের দেওয়া কারিগরি সমাধান যথেষ্ট নয়, যদি না স্বাধীন কেউ আগে যাচাই করেন তথ্যটি প্রথমে কীভাবে তৈরি হয়েছিল।
বিপরীত যুক্তিটিও শোনার মতো
পুরোনো-মানচিত্রের কাঠামো সবাই মানছেন না। কুইন মেরি ইউনিভার্সিটি অব লন্ডনের মাল্টিমোডাল কৃত্রিম বুদ্ধিমত্তার সহযোগী অধ্যাপক ড. দিমিত্রিওস কোলিয়াস বিবিসিকে বলেছেন, প্রযুক্তি এগিয়ে গেছে।
‘ঐতিহাসিক পক্ষপাত কীভাবে উত্তরাধিকারসূত্রে আসে তা বোঝাতে পুরোনো-মানচিত্রের উপমাটি কাজের, তবে এর সীমা আছে,’ তিনি বলেন। ‘আধুনিক এআই ব্যবস্থা কেবল তার প্রশিক্ষণের উদাহরণ তুলে আনে বা নকল করে না; তারা শেখা তথ্যকে নতুনভাবে মেলাতে পারে এবং এমন ফল ও সমাধান তৈরি করতে পারে, যা ওই উদাহরণগুলোতে স্পষ্টভাবে ছিল না।’
তবে এর বদলে যে ঝুঁকি আসে, সেটিরও নাম তিনি সঙ্গে সঙ্গেই বলেন। ‘এআই ব্যবস্থা যত নতুন সিদ্ধান্ত তৈরিতে সক্ষম হচ্ছে আর যত বেশি স্বাধীনভাবে কাজ করছে, তত নিশ্চিত করতে হবে যে তাদের আচরণ নিরাপদ, নির্ভরযোগ্য এবং অর্থবহ মানবিক নিয়ন্ত্রণের ভেতরে থাকছে।’
অর্থাৎ বাছাইটি পক্ষপাতদুষ্ট ব্যবস্থা বনাম পরিচ্ছন্ন ব্যবস্থার মধ্যে নয়। বাছাইটি পুরোনো কুসংস্কারের পুনরাবৃত্তি করা ব্যবস্থা আর কেউ নিরীক্ষা করেনি এমন নতুন সিদ্ধান্ত বানানো ব্যবস্থার মধ্যে।
কেবল পুলিশি কাজেই নয়
২০১৯ সালে সায়েন্স সাময়িকীতে প্রকাশিত এক গবেষণা যুক্তরাষ্ট্রের স্বাস্থ্যসেবায় ব্যবহৃত এমন একটি এআই ব্যবস্থা পরীক্ষা করে, যা ঠিক করত কোন রোগীরা বাড়তি সহায়তা পাবেন। কাজটি সে করত কার চিকিৎসায় সবচেয়ে বেশি খরচ হবে তার পূর্বাভাস দিয়ে।
সমান অসুস্থ শ্বেতাঙ্গ রোগীদের তুলনায় কৃষ্ণাঙ্গ রোগীদের পেছনে আগে থেকেই কম খরচ হতো, আংশিকভাবে সেবায় কম প্রবেশাধিকারের কারণে। বেশি খরচকে বেশি প্রয়োজনের চিহ্ন ধরে নিয়ে ব্যবস্থাটি অসম প্রবেশাধিকারের একটি উপসর্গকে পড়ল সুস্বাস্থ্যের প্রমাণ হিসেবে।
এসব কেনার আগে যা জিজ্ঞাসা করতে হবে
ইউনিভার্সিটি অব সিডনি ল স্কুলের ডিজিটাল জাস্টিস গবেষক ও সহযোগী অধ্যাপক ড. ক্যারোলিন ম্যাকে নীতিটি সোজাসুজি বলছেন: ‘রাষ্ট্রীয় পুলিশি ব্যবস্থার জনকার্যাবলি মানবিক তদারকি ও যাচাইয়ের আওতায় থাকা উচিত।’ তাঁর দাওয়াই—মানচিত্রটি কেউ ব্যবহার করার আগে স্বাধীন কেউ তা পরীক্ষা করুন, আর ভুল দাগগুলো মুছে দিন।
এখানে যেকোনো প্রতিষ্ঠান—পুলিশ বাহিনী, ঋণগ্রহীতাকে নম্বর দেওয়া ব্যাংক, বিক্রেতাদের ক্রম সাজানো কোনো মঞ্চ—এ ধরনের বিশ্লেষণী ব্যবস্থা নেওয়ার কথা ভাবলে গুরুত্বপূর্ণ প্রশ্নটি বিক্রেতা মডেলটিকে কতটা নির্ভুল বলছে তা নয়। প্রশ্নটি হলো প্রশিক্ষণের নথিগুলো কোথা থেকে এল, কারা সেগুলো তৈরি করেছে, আর কোন পরিস্থিতিতে। মডেল তার তথ্যের বাইরে দেখতে পারে না, আর পক্ষপাতদুষ্ট নথির বিপরীতে মাপা নির্ভুলতা কেবল এটুকুই বলে যে মডেলটি পক্ষপাতটি নিষ্ঠার সঙ্গে শিখেছে।
আরও পড়ুন: এআই নিয়োগে মানুষের পুনর্বিবেচনার অধিকার।
