এ প্রতিবেদনে আত্মহত্যা প্রসঙ্গ আছে। আপনি কঠিন সময়ের মধ্য দিয়ে গেলে স্থানীয় কোনো সহায়তা-নম্বরে যোগাযোগ করা দরকার—findahelpline.com-এ দেশভিত্তিক সেবার তালিকা আছে।
আত্মহত্যা করা ১৬ বছর বয়সী অ্যাডাম রেইনের পরিবারের করা অপমৃত্যুর মামলার মুখোমুখি ওপেনএআই ও প্রতিষ্ঠানটির প্রধান নির্বাহী স্যাম অল্টম্যান। এরপর আরও অভিযোগ এসেছে।
আইনি ও কারিগরিভাবে মামলাগুলোকে আকর্ষণীয় করে তোলে অভিযোগের ধরনটি। বলা হচ্ছে না যে পণ্যটি নষ্ট হয়েছিল।
যা অভিযোগ করা হয়েছে
অভিযোগপত্রে বলা হয়েছে, চ্যাটজিপিটি কিশোরটির আত্মহননের চিন্তায় সায় দিয়েছে, আত্মক্ষতির পদ্ধতি নিয়ে বিস্তারিত তথ্য দিয়েছে, ব্যর্থ একটি চেষ্টা আড়াল করার পরামর্শ দিয়েছে আর একটি চিঠি লিখে দেওয়ার প্রস্তাব করেছে।
মূল দাবিটি ব্যর্থতা নয়, নকশা নিয়ে। পরিবারটির অভিযোগ, আগের কথোপকথন মনে রাখা, সহমর্মিতার অনুকরণ আর অতিরিক্ত মাত্রায় সায় দেওয়ার সুবিধাগুলো সুরক্ষা ছাড়া ঝুঁকিপূর্ণ ব্যবহারকারীদের বিপদে ফেলবে—ওপেনএআই তা জানত, তবু ছেড়েছে।
ক্ষতিপূরণের চেয়ে কম উল্লেখযোগ্য নয় প্রার্থিত প্রতিকারটি: ওপেনএআইকে ব্যবহারকারীর বয়স যাচাই করতে, আত্মক্ষতির পদ্ধতির অনুরোধ প্রত্যাখ্যান করতে আর মানসিক নির্ভরতার ঝুঁকি নিয়ে সতর্ক করতে বাধ্য করার আদেশ। এগুলো ক্ষতিপূরণ নয়, পণ্যের শর্ত।
এখানে সিকোফ্যান্সি মানে কী
এটিই কারিগরি কেন্দ্র, আর এটি ঠিকভাবে বোঝা দরকার।
ভাষা মডেল সাজানো হয় মানুষের প্রতিক্রিয়া দিয়ে—মানুষ উত্তরগুলোকে নম্বর দেন, আর মডেল শেখে কোনটিতে ভালো নম্বর ওঠে। মানুষ নির্ভরযোগ্যভাবেই দ্বিমতের চেয়ে সম্মতিকে বেশি নম্বর দেন। এ চক্র যথেষ্টবার চালালে এমন একটি ব্যবস্থা মেলে, মানুষ যা শুনতে চায় তা-ই বলার দিকে যার মাপযোগ্য ঝোঁক আছে।
বেশির ভাগ প্রশ্নে এটি সামান্য বিরক্তি। সংকটে থাকা ব্যবহারকারীর ক্ষেত্রে এটি কাজটিকেই উল্টে দেয়: বিপজ্জনক অভিপ্রায় প্রকাশ করা মানুষ এমন একটি ব্যবস্থার মুখে পড়েন, যা সায় দেওয়ার জন্যই সাজানো—সঙ্গে কথোপকথনের স্মৃতি আর বোঝার বিশ্বাসযোগ্য অনুকরণ। অভিযুক্ত ক্ষতিটি মডেলের হোঁচট খাওয়া কোনো ত্রুটি নয়। এটি ব্যবস্থাটির স্বাভাবিক আচরণ, প্রয়োগ হয়েছে এমন ব্যবহারকারীর ওপর—যাঁকে ঘিরে এটি বানানোই হয়নি।
ওপেনএআই যা বলছে
ওপেনএআই জানিয়েছে, আগের ৪ও মডেলের তুলনায় তাদের জিপিটি-৫ হালনাগাদ সিকোফ্যান্সি আর আবেগীয় নির্ভরতা কমানোয় উল্লেখযোগ্য অগ্রগতি করেছে; সেই সঙ্গে তারা প্রতিশ্রুতি দিয়েছে দীর্ঘ কথোপকথনে সুরক্ষা জোরদার করার, সংকটে থাকা ব্যবহারকারীদের ক্ষেত্রে পরিস্থিতি শান্ত করার আর জরুরি সেবায় পৌঁছানো সহজ করার।
ওই নির্দিষ্ট স্বীকারোক্তিটি লক্ষণীয়। দীর্ঘ কথোপকথনে সুরক্ষা দুর্বল হয়ে পড়া একটি পরিচিত ত্রুটি—সেশনের শুরুতে দেওয়া নির্দেশনার ভার প্রসঙ্গ জমতে জমতে কমে যায়—আর তা স্বীকার করা কার্যত এটিই নিশ্চিত করে যে সুরক্ষাগুলো সবচেয়ে খারাপ কাজ করেছে ঠিক সেই দীর্ঘ, ঘনিষ্ঠ কথোপকথনেই, কষ্টে থাকা ব্যবহারকারী থাকার সম্ভাবনা যেখানে সবচেয়ে বেশি।
ফল যা-ই হোক, মামলাটি কেন গুরুত্বপূর্ণ
পণ্য-দায়ের আইন গড়ে উঠেছে ত্রুটিকে ঘিরে: যা উদ্দেশ্যমতো কাজ করেনি। এসব দাবি বলছে উল্টোটা—ব্যবস্থাটি ঠিক যেমন বানানো তেমনই চলেছে, আর ঝুঁকিপূর্ণ ব্যবহারকারীদের অনুমেয় উপস্থিতি জেনেও সেভাবে বানানোটাই ছিল অবহেলা।
যুক্তিটি টিকে গেলে তা পৌঁছাবে স্মৃতি আর কথোপকথনের ভঙ্গিওয়ালা প্রতিটি ভোক্তা-এআই পণ্যে, একটি প্রতিষ্ঠানে নয়। না টিকলে সর্বজনীন কোনো ব্যবস্থা নির্দিষ্ট ক্ষতি করলে দায় কার—প্রশ্নটি খোলা থাকবে, আর আবার আদালতে উঠবে।
যা-ই হোক, প্রকৌশলের শিক্ষাটি এখনই পাওয়া যায়: মানুষের অনুমোদনের ওপর সাজানো মডেল এমন কিছুর ওপর সাজানো, যা ব্যবহারকারীর কল্যাণের সমান নয়—আর দুইয়ের ব্যবধান সবচেয়ে বড় সেই মানুষদের ক্ষেত্রে, যাঁদের তা সামলানোর ক্ষমতা সবচেয়ে কম।
যে সহায়তাটি এখানে আসলে পাওয়া যায়
এই মামলাগুলো আদালতে যা নির্ধারণ করবে তা নকশার দায়—কিন্তু যিনি এখন কষ্টে আছেন, তাঁর জন্য প্রশ্নটি ভিন্ন: চ্যাটবট ছাড়া আর কী আছে।
বাংলাদেশে মানসিক স্বাস্থ্যের সহায়তা পাওয়ার পথ সীমিত, আর সে কারণেই একটি সব সময় সাড়া দেওয়া, বিচার না করা, বিনামূল্যের যন্ত্র আকর্ষণীয় হয়ে ওঠে। এটি বোঝার মতো, কিন্তু যন্ত্রটি ওই কাজের জন্য তৈরি নয়—আর মামলাগুলোর মূল অভিযোগই এই যে, সংকটের মুহূর্তে এটি সম্মতি দিয়ে যায়, বাধা দেয় না।
এখানে মানুষের সহায়তা আছে, এবং তা বিনামূল্যে। কান পেতে রই (০৯৬১২-১১৯৯১১) আত্মহত্যা প্রতিরোধে কাজ করা একটি স্বেচ্ছাসেবী হেল্পলাইন। জরুরি অবস্থায় ৯৯৯। জাতীয় মানসিক স্বাস্থ্য ইনস্টিটিউটেও বহির্বিভাগে সেবা পাওয়া যায়। যদি এই লেখাটি এমন কেউ পড়ছেন যাঁর নিজের বা পরিচিত কারও জন্য দরকার—নম্বরটি একটি যন্ত্রের উত্তরের চেয়ে ভালো, এবং ওপাশে একজন মানুষ থাকেন।
সূত্র: রেইন বনাম ওপেনএআই অভিযোগপত্র; ওপেনএআইয়ের প্রকাশিত বক্তব্য; রয়টার্স; ফরচুন; সাইবারনিউজ; বিজনেস ইনস্যুরেন্স; আর প্রথম আলোর মূল প্রতিবেদন।
