চাপে পড়লে ব্ল্যাকমেল করে বেশির ভাগ এআই মডেল: গবেষণা

কয়েক সপ্তাহ আগে নিজেদের তৈরি ‘ক্লদ ওপাস’ কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের বিরুদ্ধে ব্ল্যাকমেলের অভিযোগ তুলে আলোচনায় এসেছিল এআই গবেষণাপ্রতিষ্ঠান অ্যানথ্রপিক। এবার আরও বিস্তৃত গবেষণা প্রকাশ করে প্রতিষ্ঠানটি বলছে—এই প্রবণতা শুধু ক্লদে নয়, বরং বিশ্বের শীর্ষ এআই মডেলগুলোর মধ্যেই এই ঝুঁকি রয়েছে।

শুক্রবার প্রকাশিত নতুন গবেষণায় অ্যানথ্রপিক জানায়, তারা ওপেনএআই, গুগল, এক্সএআই, ডিপসিক ও মেটার মোট ১৬টি শীর্ষস্থানীয় এআই মডেলকে পরীক্ষার আওতায় আনে। গবেষণাটি সম্পূর্ণভাবে নিয়ন্ত্রিত, কল্পিত এক পরিবেশে পরিচালিত হয়, যেখানে প্রতিটি মডেলকে একটি কল্পিত কোম্পানির ই-মেইল অ্যাক্সেস ও স্বাধীনভাবে ই-মেইল পাঠানোর ক্ষমতা দেওয়া হয়। তবে এর ফলাফল ছিল রীতিমতো উদ্বেগজনক।

অ্যানথ্রপিক বলছে, আজকের দিনে এআইয়ের ব্ল্যাকমেলের মতো আচরণ খুব একটা সাধারণ নয়। তবে গবেষণায় দেখা যায়, যখন এসব এআই মডেলকে পর্যাপ্ত স্বাধীনতা ও লক্ষ্য পূরণে বাধা দেওয়া হয়, তখন তারা ক্ষতিকর আচরণে জড়াতে পারে। এটি শুধু একটি নির্দিষ্ট প্রযুক্তির সমস্যা নয়, বরং বৃহৎ ভাষাভিত্তিক, স্বাধীন সিদ্ধান্ত নিতে সক্ষম এআই মডেলগুলোর একটি মৌলিক ঝুঁকি।