এআইকে অন্ধ বিশ্বাস করলে বিপদে পড়তে পারেন

কৃত্রিম বুদ্ধিমত্তা বা এআই যতই উন্নত হোক, তাকে চোখ বন্ধ করে বিশ্বাস করা বিপজ্জনক এই সতর্কবার্তাই দিয়েছেন গুগলের পেরেন্ট কোম্পানি অ্যালফাবেটের সিইও সুন্দর পিচাই। তার মতে, চকচকে প্রযুক্তি মানেই সবসময় নিখুঁত নয়, আর এআইও এর ব্যতিক্রম নয়।

গুগলের মতো প্রতিষ্ঠান সঠিক তথ্য দেওয়ার জন্য বহু স্তরে যাচাই-বাছাই করে, কিন্তু জেনারেটিভ এআই এখনো ভুল করার সম্ভাবনা রাখে। তাই এআই যা বলছে তা যাচাই না করে গ্রহণ করলে ঠকতে হবে। তিনি বলেন, এআই অনেক ক্ষেত্রে দারুণ সাহায্য করতে পারে বিশেষ করে লেখালেখি, আইডিয়া তৈরি কিংবা স্টার্টিং পয়েন্ট খুঁজে পেতে। কিন্তু এটাকে কখনোই চূড়ান্ত তথ্যসূত্র হিসেবে ধরা উচিত নয়।

এআই কেন ভুল করে, এরও কিছু কারণ আছে। এটি আসলে শেখা ডেটার ওপর ভিত্তি করে ভবিষ্যদ্বাণী করে উত্তর তৈরি করে ফলে তথ্য না থাকলে অনুমান করে ভুল তথ্য বানিয়ে দিতে পারে, যাকে ‘হ্যালুসিনেশন’ বলা হয়। অনেক সময় এটি এমনভাবে উত্তর দেয় যাতে ব্যবহারকারী খুশি হয়, সত্যের সঙ্গে তা মিলুক বা না মিলুক। আবার আপডেট না থাকা ডেটা, ভাষাগত সীমাবদ্ধতা কিংবা আঞ্চলিক তথ্যের ভিন্নতা এসব পাওয়ার ফলে এআই ভুল তথ্য দিতে পারে। ফলে ব্যবহারকারী যদি যাচাই না করে সরাসরি ব্যবহার করেন, তাহলে ভুল সিদ্ধান্ত নেওয়ার ঝুঁকি থেকেই যায়।