প্রতিদিন লাখো মানুষ চ্যাটজিপিটিকে জানায় আত্মহত্যার ইচ্ছা
প্রতিদিনই আমরা কিছু না কিছু জানতে চ্যাটজিপিটির কাছে আসছি। এই নির্ভরতা নিয়ে অনেকেই সমালোচনা করছেন, আবার অনেকে এটিকে প্রযুক্তিগত অগ্রগতির স্বীকৃতি হিসেবেও দেখছেন। তবে এবার চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই জানিয়েছে, প্রতিদিন লাখো মানুষ তাদের এই এআই চ্যাটবটের কাছে ‘আত্মহত্যা’ করার ইচ্ছা প্রকাশ করছে।
সোমবার (২৭ অক্টোবর) এক ব্লগপোস্টে এ তথ্য জানানো হয়েছে।
চ্যাটবটটি কীভাবে এসব সংবেদনশীল কথোপকথন পরিচালনা করে, সে সম্পর্কে একটি আপডেটের অংশ হিসেবে এই তথ্য প্রকাশিত হয়। কৃত্রিম বুদ্ধিমত্তা (এআই) মানসিক স্বাস্থ্যের সমস্যা কীভাবে ও কতটা বাড়িয়ে তুলতে পারে সে প্রসঙ্গে জানাতে গিয়ে এ তথ্য জানিয়েছে ওপেনএআই।
প্রতিষ্ঠানটি বলছে, প্রতি সপ্তাহে এক মিলিয়নেরও বেশি চ্যাটজিপিটি ব্যবহারকারী এমন বার্তা পাঠান যেখানে ‘আত্মহত্যার পরিকল্পনা বা ইচ্ছার স্পষ্ট ইঙ্গিত’ পাওয়া যায়।
আত্মহত্যা-সংক্রান্ত চিন্তা ও সংশ্লিষ্ট যোগাযোগের পাশাপাশি, ওপেনএআই আরও জানিয়েছে, প্রতি সপ্তাহে সক্রিয় ব্যবহারকারীদের প্রায় ০.০৭ শতাংশ—অর্থাৎ ৮০ কোটি সাপ্তাহিক ব্যবহারকারীর মধ্যে প্রায় ৫ লাখ ৬০ হাজার জন তাদের কথোপকথনে ‘মনোরোগজনিত বিভ্রম (psychosis) বা মানিয়াজনিত (mania) জরুরি মানসিক স্বাস্থ্যের সমস্যার সম্ভাব্য লক্ষণ’ প্রদর্শন করেন।
তবে ওপেনএআই ব্লগপোস্টে সতর্ক করে জানায়, এ ধরনের কথোপকথন শনাক্ত বা পরিমাপ করা কঠিন। আর এটা কেবল একটি প্রাথমিক বিশ্লেষণ।
চ্যাটজিপিটির সঙ্গে সম্পর্কিত মানসিক স্বাস্থ্য সমস্যার তথ্য প্রকাশ করার পর ওপেনএআই এখন বাড়তি নজরদারির মুখে পড়েছে। সম্প্রতি এক কিশোরের আত্মহত্যার ঘটনায় তার পরিবারের মামলার পর এই নজরদারি আরও তীব্র হয়েছে। মামলার অভিযোগে বলা হয়েছে, ওই কিশোর আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে দীর্ঘ সময় ধরে কথোপকথন চালিয়েছিল
গত মাসে যুক্তরাষ্ট্রের ফেডারেল ট্রেড কমিশন (এফটিসি) ওপেনএআই-সহ এআই চ্যাটবট তৈরি করা বিভিন্ন প্রতিষ্ঠানের বিরুদ্ধে একটি বিস্তৃত তদন্ত শুরু করেছে। এসব চ্যাটবট কীভাবে শিশু-কিশোরদের ওপর নেতিবাচক প্রভাব ফেলছে তা খতিয়ে দেখছে এফটিসি।
ওপেনএআই তাদের পোস্টে দাবি করেছে, সাম্প্রতিক জিপিটি-৫ আপডেটে চ্যাটজিপিটির ‘অবাঞ্ছিত আচরণ’ কমেছে। নিজের ক্ষতি করা ও আত্মহত্যা-সংক্রান্ত ১ হাজারটিরও বেশি কথোপকথনের ভিত্তিতে করা এক মূল্যায়নে দেখা গেছে, ব্যবহারকারীর নিরাপত্তা আরও উন্নত হয়েছে।
তবে এ বিষয়ে মন্তব্যের অনুরোধের তাৎক্ষণিক কোনো জবাব দেয়নি ওপেনএআই।
কোম্পানির পোস্টে বলা হয়েছে, ‘নতুন জিপিটি-৫ (GPT-5) মডেল আমাদের কাঙ্ক্ষিত আচরণের সঙ্গে ৯১ শতাংশ সামঞ্জস্যপূর্ণ, যেখানে আগের মডেলে এই হার ছিল ৭৭ শতাংশ।’
ওপেনএআই জানিয়েছে, জিপিটি-৫ সংস্করণে সঙ্কটকালীন সহায়তা হটলাইনগুলোর অ্যাক্সেস বাড়ানো হয়েছে এবং দীর্ঘ সেশনের সময় ব্যবহারকারীদের বিরতি নেওয়ার জন্য স্মরণ করিয়ে দেওয়ার ব্যবস্থা যোগ করা হয়েছে।
টেক জায়ান্ট প্রতিষ্ঠানটি আরও জানায়, মডেলটি আরও উন্নত করতে গত কয়েক মাসে গ্লোবাল ফিজিশিয়ান নেটওয়ার্কের ১৭০ জন চিকিৎসা বিশেষজ্ঞকে গবেষণায় অন্তর্ভুক্ত করেছে। মডেলের প্রতিক্রিয়াগুলোর নিরাপত্তা মূল্যায়ন করে মানসিক স্বাস্থ্য-সংক্রান্ত প্রশ্নে চ্যাটবটের উত্তর তৈরি করতে সহায়তা করেছেন তাঁরা।
ওপেনএআই জানিয়েছে, এ কাজের অংশ হিসেবে মনোরোগ বিশেষজ্ঞ ও মনোবিজ্ঞানীরা গুরুতর মানসিক স্বাস্থ্য পরিস্থিতি জড়িত ১ হাজার ৮০০ টিরও বেশি মডেল প্রতিক্রিয়া পর্যালোচনা করেছেন। নতুন জিপিটি-৫ চ্যাট মডেলের উত্তরগুলোর সঙ্গে আগের মডেলগুলোর তুলনা করেছেন।
দৈএনকে/রে,আ
