এআই মডেলকে ‘সৎ হতে’ শেখাবে ওপেনএআই
কৃত্রিম বুদ্ধিমত্তা বা এআইয়ের বিভিন্ন মডেলকে ভুল বা অনাকাঙ্ক্ষিত আচরণ সম্পর্কে সৎ হতে শেখাবে চ্যাটজিপিটির নির্মাতা ওপেনএআইয়ের নতুন এক স্বীকারোক্তিমূলক ব্যবস্থা।
বৃহস্পতিবার এক ঘোষণায় ওপেনএআই বলেছে, নতুন এক পদ্ধতি নিয়ে কাজ করছে তারা, যেখানে বিভিন্ন এআই মডেল নিজেদের ভুল বা অনাকাঙ্ক্ষিত আচরণ স্বীকার করতে শিখবে। এ পদ্ধতিকে কোম্পানিটি ‘কনফেশন বা স্বীকারোক্তি’ বলছে বলে প্রতিবেদনে লিখেছে প্রযুক্তি সাইট এনগ্যাজেট।
সাধারণত বিভিন্ন লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমকে এমনভাবে প্রশিক্ষণ দেওয়া হয়, যেখানে ব্যবহারকারীরা কী শুনতে চান তা অনুমান করে সেই অনুসারে উত্তর দেয় এরা। এতে কখনও কখনও এসব মডেল অতিরিক্ত প্রশংসা বা আত্মবিশ্বাসের সঙ্গে ভুল তথ্য দিতে পারে।
নতুন প্রশিক্ষণ পদ্ধতিতে এআই মডেলকে ওপেনএআই উৎসাহ দেবে যেন এরা মূল উত্তরের পাশাপাশি ব্যাখ্যাও দিতে পারে, বিশেষ করে এআই মডেল কীভাবে ভেবে ও কোন পথে সেই উত্তর দিল, এসবের ব্যাখ্যা। এসব স্বীকারোক্তির বিচার হবে সততার ভিত্তিতে। যেখানে মূল উত্তরের মান যাচাই হবে সহায়কতা, সঠিকতা ও নিয়ম মেনে চলার মতো বিভিন্ন দিক দিয়ে।
ওপেনএআইয়ের গবেষকরা বলছেন, তাদের লক্ষ্য এআই মডেলকে নিজের কাজ সম্পর্কে ব্যবহারকারীদের খোলাখুলি বলতে পারতে উৎসাহিত করা। পরীক্ষায় নকল ও ইচ্ছা করে খারাপ পারফর্মের মতো নির্দেশ অমান্য করার বেলাতেও এআই যেন কোনো সমস্যা তৈরি না করে সেই বিষয়ে এআই মডেলকে উৎসাহ দেবেন তারা।
কোম্পানিটি বলেছে, “যদি মডেল সত্যি সত্যি স্বীকার করে যে সে পরীক্ষায় নকল করেছে, ইচ্ছা করে খারাপ করেছে বা নির্দেশ মানেনি তবে সেসব স্বীকারোক্তিকে শাস্তি না দিয়ে বরং পুরস্কৃত করা হবে।”
