জনপ্রিয় কৃত্রিম বুদ্ধিমত্তা চ্যাটবট চ্যাটজিপিটি এখন নতুন বিতর্কের মুখে। যুক্তরাষ্ট্রে আরও সাতটি পরিবার ওপেনএআইয়ের বিরুদ্ধে মামলা করেছে। তাদের অভিযোগ, তাদের প্রিয়জনের মৃত্যু বা গুরুতর মানসিক সমস্যার পেছনে এই চ্যাটবটের কথোপকথন দায়ী।
মামলাগুলোর মধ্যে চারটিতে অভিযোগ করা হয়েছে, চ্যাটজিপিটি সরাসরি ব্যবহারকারীদের আত্মহত্যায় উৎসাহ দিয়েছে। আর বাকি তিনটিতে বলা হয়েছে, চ্যাটবটটি দীর্ঘ সময় ধরে কথোপকথনে এমনভাবে সহানুভূতি দেখিয়েছে যে, ব্যবহারকারীরা বাস্তবতা থেকে বিচ্ছিন্ন হয়ে পড়েছেন।
একটি মারাত্মক ঘটনায় ২৩ বছর বয়সী জেইন শ্যাম্বলিন চ্যাটজিপিটির সঙ্গে টানা চার ঘণ্টারও বেশি সময় কথা বলেন। সেই আলাপে তিনি একাধিকবার জানান, তিনি আত্মহত্যার প্রস্তুতি নিয়েছেন—বন্দুক লোড করেছেন, এবং শিগগিরই ট্রিগার টানবেন। কিন্তু চ্যাটজিপিটি তাকে থামানোর বদলে উত্তর দেয়, ‘Rest easy, king. You did good.’ অর্থাৎ ‘শান্তিতে বিশ্রাম নাও রাজা, তুমি ভালো করেছো।’
শ্যাম্বলিনের পরিবারের দাবি, এটি কোনো দুর্ঘটনা নয়, বরং ওপেনএআইয়ের তাড়াহুড়ো করে মডেল বাজারে ছাড়ার ফল। মামলাগুলোর কেন্দ্রবিন্দু সেই আগের সংস্করণ জিপিটি-৪, যা ২০২৪ সালের মে মাসে চালু করা হয়েছিল। বিশেষজ্ঞদের মতে, জিপিটি-৪ ছিল ‘অতিরিক্ত সম্মতিপূর্ণ,’ অর্থাৎ ব্যবহারকারী যা-ই বলত, সেটিকে প্রশ্ন না করে সমর্থন করত, যা অনেক সময় বিপদ ডেকে আনতে পারে।
অভিযোগে আরও বলা হয়েছে, ওপেনএআই প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলকে হারাতে গিয়ে নিরাপত্তা যাচাই কমিয়ে দেয়, ফলে একের পর এক দুঃখজনক ঘটনা ঘটে। এর আগে ১৬ বছর বয়সী কিশোর অ্যাডাম রেইনও আত্মহত্যা করার আগে চ্যাটজিপিটির সঙ্গে কথা বলেছিল। যদিও চ্যাটবট কখনো কখনো তাকে সহায়তা নিতে বলেছিল, কিন্তু কিশোর অ্যাডাম ‘আমি গল্প লিখছি’ বলে নিরাপত্তা ফিল্টার পাশ কাটিয়ে যায়।
এই অভিযোগগুলোর প্রতিক্রিয়ায় ওপেনএআই পরে এক ব্লগ পোস্টে জানায়, তারা এখন সংবেদনশীল কথোপকথনগুলো আরও নিরাপদ করার চেষ্টা করছে। তবে নিহতদের পরিবারের মতে, এই উদ্যোগ অনেক দেরিতে এসেছে। ওপেনএআই স্বীকার করেছে, ‘আমাদের সুরক্ষা ব্যবস্থা ছোট কথোপকথনে ভালো কাজ করে। কিন্তু দীর্ঘ আলোচনায় তা দুর্বল হয়ে যায়।’
