তথ্য অপব্যবহারের অভিযোগে ওপেনএআই থেকে বরখাস্ত তিন গবেষক খোলা চিঠি প্রকাশ করে বলেছেন, কারণটি তা ছিল না। “আমার বিশ্বাস, করপোরেশন হিসেবে ওপেনএআইয়ের স্বল্পমেয়াদি স্বার্থের চেয়ে নিরাপত্তাকে অগ্রাধিকার দেওয়ার জন্যই আমাদের বরখাস্ত করা হয়েছে”—এক্সে লিখেছেন মিকিতা বালেসনি, সঙ্গে তোমেক করবাক ও জেসমিন ওয়াংয়ের সঙ্গে লেখা যৌথ চিঠি। তিনজনই বলছেন, সম্প্রতি পর্যন্ত তাঁরা নিরাপত্তা বা অ্যালাইনমেন্টের কাজে ছিলেন।
প্রতিষ্ঠানের অবস্থান বদলায়নি। ২ অক্টোবর এক মুখপাত্র বিবিসিকে বলেন, তদন্তে “নিশ্চিত হয়েছে যে এই ব্যক্তিরা প্রতিষ্ঠানের প্রতিষ্ঠিত প্রক্রিয়ার বাইরে গিয়ে স্পর্শকাতর তথ্যের অপব্যবহার করেছেন”, আর শুক্রবার গবেষণা নেতৃত্ব তা আবার বলেন: “আমরা খুব স্পষ্ট করে বলতে চাই, এই সিদ্ধান্তগুলো নিরাপত্তা নিয়ে প্রশ্ন তোলা বা মুখ খোলার কারণে নয়।” ওই নোটে বলা হয়, অভ্যন্তরীণ তদন্তে “তাঁদের প্রকাশিত চিঠিতে যা আছে তার বাইরেও আস্থাভঙ্গের উল্লেখযোগ্য প্রমাণ” মিলেছে।
বরখাস্তের ঘটনাটি নিয়ে আগে লেখা হয়েছে এই প্রতিবেদনে। এটি তার অন্য পিঠ।
গবেষকেরা বলছেন তাঁরা কী নিয়ে কাজ করছিলেন
অ্যালাইনমেন্ট হলো ব্যবস্থার ভেতরে মানুষের মূল্যবোধ গেঁথে দেওয়ার চর্চা, যাতে তা মানুষ আসলে যা চায় সেদিকেই তাক করা থাকে। করবাক নিজের উদ্বেগ নিয়ে সুনির্দিষ্ট ছিলেন, আর চিঠির কারিগরি দিক থেকে সবচেয়ে কৌতূহলোদ্দীপক অংশ সেটিই।
“মাসের পর মাস আমি নিরাপত্তা নিয়ে এই উদ্বেগ তুলছিলাম যে এআই এজেন্ট কী ভাবছে তা পর্যবেক্ষণের ক্ষমতা আমরা হারাচ্ছি—যা তারা বিপথে গেলে ধরার সবচেয়ে ভালো উপায়গুলোর একটি। আমার বিশ্বাস, সে কারণেই আমাকে বরখাস্ত করা হয়েছে।”
দাবিটি খুলে দেখার মতো, কারণ এটি অস্পষ্ট নয়। বর্তমান ব্যবস্থাগুলোকে নিজের কাজ দেখাতে বাধ্য করা যায়—যুক্তির এমন একটি ধারা, যা মডেল কাজ করার আগে মানুষ পড়তে পারে। জানালাটি অসম্পূর্ণ, তবু জানালা। মডেলকে আরও দক্ষ করতে প্রশিক্ষণ দেওয়ার সঙ্গে সঙ্গে ওই দৃশ্যমান যুক্তি সংকুচিত, সংক্ষিপ্ত বা অভ্যন্তরীণ হয়ে যেতে পারে, আর জানালাটি বন্ধ হয়ে যায়। তখন এজেন্টকে বিচার করার উপায় থাকে কেবল সে কী করেছে তা দিয়ে—করে ফেলার পর।
ওয়াংয়ের উদ্বেগ প্রযুক্তি নিয়ে নয়, নজির নিয়ে: “সন্দেহজনক পরিস্থিতিতে ওপেনএআই থেকে সরিয়ে দেওয়া প্রথম ব্যক্তি আমরা নই। কর্মীরা এখনই এ ধরনের কৌশলের বিরুদ্ধে দাঁড়ানো না হলে আমার আশঙ্কা, আমরাই শেষ হব না।”
বাইরের কেউ এটি মীমাংসা করতে পারে না কেন
দুটি বিবরণ পরস্পরবিরোধী, আর দুটিই যুক্তিসংগত। কেউ তথ্যের অপব্যবহার করতে এবং নিরাপত্তা নিয়ে প্রশ্ন তুলতে—দুটোই পারেন; কোনো প্রতিষ্ঠান আস্থাভঙ্গ নিয়ে সত্যি বলেও অভ্যন্তরীণ সমালোচক হারিয়ে খুশি হতে পারে। এ পর্যন্ত প্রকাশিত কিছুই বিষয়টি মীমাংসা করে না।
যা দেখা যায় তা হলো সাবেক কর্মীদের বর্ণনা করা প্রভাবটি: সহকর্মীরা “মুখ খুলতে আর এমনভাবে কাজ করতে ভয় পাচ্ছেন, যা গত সপ্তাহ পর্যন্তও ওপেনএআইয়ে কাজ করার অবিচ্ছেদ্য অংশ ছিল”। বরখাস্তগুলো প্রতিশোধমূলক হোক বা না হোক, যে কর্মীবাহিনী তা বিশ্বাস করে তারা একইভাবে আচরণ করে—আর এই শীতল প্রভাবের জন্য কারও অসৎ উদ্দেশ্য থাকা লাগে না।
ওপেনএআই জানিয়েছে, তারা তৃতীয় পক্ষের নিরাপত্তা মূল্যায়নকারীদের সঙ্গে চুক্তি চূড়ান্ত করছে এবং আগামী সপ্তাহগুলোতে বিস্তারিত জানাবে। মূল সমস্যাটির সারবান জবাব এটিই, কারণ বাইরের মূল্যায়ন কোনো কর্মীর ঝুঁকি নিতে রাজি হওয়ার ওপর নির্ভর করে না।
এটি ঢাকার ক্রেতার কাছে পৌঁছায় কেন
সান ফ্রান্সিসকোর কোনো প্রতিষ্ঠানের অভ্যন্তরীণ মতভেদ বাংলাদেশের ক্রয়সিদ্ধান্ত থেকে দূরের বিষয় মনে হয়। তা নয়, একটি কারণে।
সীমান্তের কোনো মডেলের নিরাপত্তা সম্পর্কে এখানকার ক্রেতা যা কিছু জানেন, তার প্রায় সবই আসে বিক্রেতা প্রতিষ্ঠানের কাছ থেকে। এসব ব্যবস্থা পরীক্ষা করে এমন কোনো বাংলাদেশি নিয়ন্ত্রক নেই, স্থানীয় নিরীক্ষার শর্ত নেই, আর কোনো ব্যাংক বা হাসপাতালের পক্ষে মডেলের আচরণ গভীরভাবে যাচাইয়ের বাস্তব উপায়ও নেই। অভ্যন্তরীণ নিরাপত্তা দলটি কার্যত কেনা আশ্বাসেরই অংশ।
কাজেই সেই দলটি যখন নিজের নিয়োগদাতার সঙ্গে প্রকাশ্য বিরোধে, তখন ক্রেতার লক্ষ করার বিষয় কে ঠিক তা নয়। বিষয়টি হলো, আশ্বাসটি দাঁড়িয়ে আছে এমন এক প্রক্রিয়ার ওপর যা বাইরের কেউ দেখতে পায় না—আর এটিই স্বাধীন মূল্যায়নে জোর দেওয়ার যুক্তি, আর তৃতীয় পক্ষের চুক্তিগুলো ঘোষণা হলে সেগুলো মন দিয়ে পড়ার কারণ।
খাতজুড়ে ধরনটি দেখা যায় নিরাপত্তার কারণে ওপেনএআইয়ের আটকে দেওয়া মডেলে আর যুক্তরাষ্ট্রের নীতি সমন্বয়কারী টাস্কফোর্সে।
