প্রশংসা ও চাপের মুখে চ্যাটবট ফাঁস করে সংবেদনশীল তথ্য: গবেষণা

সাধারণত গালি দেওয়া বা বোমা তৈরির উপায়ের মতো ঝুঁকিপূর্ণ বা সংবেদনশীল তথ্য দেয় না কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবটগুলো। তবে সঠিক মনস্তাত্ত্বিক কৌশল ব্যবহার করলে, কিছু এলএলএম (ল্যাঙ্গুয়েজ লার্জ মডেল) নিজস্ব নিয়ম ভেঙে ফেলতে পারে।

যুক্তরাষ্ট্রের পেনসিলভানিয়া বিশ্ববিদ্যালয়ের গবেষকেরা সম্প্রতি এমনই এক গবেষণা চালিয়েছেন জিপিটি-৪ও মিনি মডেল নিয়ে। গবেষণায় তাঁরা মার্কিন মনোবিজ্ঞানী রবার্ট সিয়ালদিনির লেখা বিখ্যাত বই ‘ইনফ্লুয়েন্স: দ্য সাইকোলজি অব পারসুয়েশনে’ বর্ণিত সাতটি প্ররোচনার কৌশল ব্যবহার করে। এসব কৌশল ব্যবহার করে চ্যাটজিপিটিকে এমন সব কাজ করতে বাধ্য করেন, যা সাধারণত এটি করে না।

এই সাতটি কৌশল হলো—কর্তৃত্ব (authority), প্রতিশ্রুতি (commitment), পছন্দ (liking), প্রতিদান (reciprocity), দুষ্প্রাপ্যতা (scarcity), সামাজিক প্রমাণ (social proof) এবং ঐক্য (unity)। গবেষকেরা এসব কৌশল ব্যবহার করে দেখেছেন, কীভাবে এসব ‘ভদ্র’ এআই মডেলকে নিজের নিয়ম ভেঙে কিছু করতে বাধ্য করা যায়।