ভাবুন তো, আপনি অত্যন্ত গুরুত্বপূর্ণ একটি প্রজেক্ট বা অ্যাসাইনমেন্টের জন্য চ্যাটজিপিটিকে একটি তথ্যভিত্তিক প্রশ্ন করলেন। চ্যাটজিপিটি খুব আত্মবিশ্বাসের সাথে বিস্তারিত উত্তর দিল, সাথে রেফারেন্স ও সাইটেশনও যুক্ত করে দিল। কিন্তু পরে একটু যাচাই করতেই দেখলেন-উত্তরের পুরোটাই বানানো, বাস্তবে সেই গবেষণাপত্র বা ঘটনার কোনো অস্তিত্বই নেই! এমন অভিজ্ঞতা হলে মনে হওয়া স্বাভাবিক যে, চ্যাটজিপিটি হয়তো আপনার সাথে চালাকি করছে। কিন্তু প্রশ্ন হলো, ChatGPT প্রতারণামূলক আচরণ কি ইচ্ছে করে করছে, নাকি এর পেছনে লুকিয়ে আছে অন্য কোনো প্রযুক্তিগত কারণ?
আজকের দিনে শিক্ষার্থী, কনটেন্ট ক্রিয়েটর, ফ্রিল্যান্সার থেকে শুরু করে ব্যবসায়ী পর্যন্ত সবাই প্রতিদিনের কাজে এআই ব্যবহার করছেন। তাই চ্যাটজিপিটির এই ধরনের স্বভাবের পেছনের আসল রহস্য বোঝা সবার জন্যই জরুরি।
১. ChatGPT প্রতারণামূলক আচরণ কি সত্যিই ইচ্ছা করে করে?
আমরা যখন কোনো মানুষের সাথে কথা বলি, তখন ভুল তথ্য দিলে তাকে 'মিথ্যা বলা' বা 'প্রতারণা' বলি। কারণ মানুষের মধ্যে নিজস্ব চিন্তা, উদ্দেশ্য বা ইচ্ছা থাকে। কিন্তু কৃত্রিম বুদ্ধিমত্তা বা AI-এর ক্ষেত্রে বিষয়টি সম্পূর্ণ ভিন্ন।
এআই কি মানুষকে প্রতারণা করতে পারে?
সোজা কথায়-না, কোনো এআই মডেলের মানবীয় অনুভূতি বা আপনাকে প্রতারিত করার নিজস্ব কোনো মনস্তাত্ত্বিক উদ্দেশ্য নেই। ChatGPT deceptive behavior বা এআইয়ের বিভ্রান্তিকর আচরণ মূলত এর অ্যালগরিদম ও ডেটাসেটের ওপর নির্ভর করে তৈরি হওয়া একটি প্রযুক্তিগত ফলাফল।
যখন কোনো এআই মডেল এমন উত্তর তৈরি করে যা সম্পূর্ণ কাল্পনিক কিন্তু দেখতে সত্যি মনে হয়, তখন প্রযুক্তির ভাষায় একে বলা হয় AI hallucination বা কৃত্রিম বিভ্রান্তি।
২. AI Hallucination কী এবং ChatGPT কেন ভুল তথ্য দেয়?
চ্যাটজিপিটি কীভাবে উত্তর তৈরি করে তা বুঝতে পারলে এর ভুল তথ্যের কারণও পরিষ্কার হয়ে যাবে। চ্যাটজিপিটি হলো একটি Large Language Model (LLM)।
┌─────────────────────────────────────────────────────────────┐
│ HOW LLM GENERATES RESPONSE │
├──────────────────────────────┬──────────────────────────────┤
│ Traditional Search │ AI Generation │
├──────────────────────────────┼──────────────────────────────┤
│ • তথ্য গুগলে খোঁজে │ • শব্দের পর শব্দ অনুমান করে │
│ • ফিক্সড সোর্স লিঙ্ক দেখায় │ • বাক্য সাজাতে মেমরি ব্যবহার করে│
│ • হুবহু ডাটা রিটার্ন করে │ • ডাটা না থাকলে অনুমান করে │
└──────────────────────────────┴──────────────────────────────┘
ভুল তথ্য দেওয়ার ৩টি প্রধান প্রযুক্তিগত কারণ:
ক. Next-Token Prediction (শব্দ অনুমানের পদ্ধতি)
এলএলএম (LLM) সত্য বা মিথ্যা চেনে না। এটি মূলত গণিত ও স্ট্যাটিস্টিকসের ওপর ভিত্তি করে একটি বাক্যের পর পরবর্তী সবচেয়ে সম্ভাব্য শব্দ বা টোকেনটি কী হতে পারে তা অনুমান করে বসায়।
খ. তথ্যের শূন্যস্থান বা Data Gap
আপনি এমন কোনো বিষয় নিয়ে প্রশ্ন করলেন যার সুনির্দিষ্ট উত্তর চ্যাটজিপিটির ডেটাসেটে নেই। সেক্ষেত্রে মডেলটি নিজের সিস্টেম বজায় রাখতে কাল্পনিক কিন্তু ব্যাকরণগতভাবে সঠিক শব্দ সাজিয়ে উত্তর তৈরি করে দেয়।
গ. প্রম্পটের গঠনগত ভুল (Prompt Biases)
আপনি যদি চ্যাটজিপিটিকে কোনো ভুল তথ্যের দিকে ইঙ্গিত করে প্রশ্ন করেন (যেমন: "কেন ডাইনোসর ১৯০০ সালেও বেঁচে ছিল?"), তবে চ্যাটজিপিটি আপনার কথার সাথে তাল মিলিয়ে ভুল তথ্য বানাতে শুরু করতে পারে।
৩. AI Alignment ও AI Safety-র চ্যালেঞ্জ
কম্পিউটার বিজ্ঞানীরা প্রতিনিয়ত চেষ্টা করছেন যেন এআই নিরাপদ ও নির্ভুল থাকে। এই প্রক্রিয়াকে বলা হয় AI alignment।
মানুষের ইচ্ছা বনাম এআইয়ের আচরণ: এআই যেন মানুষের চাহিদা বুঝে নিখুঁত উত্তর দিতে পারে, সেজন্য AI safety গবেষকরা রাতদিন কাজ করছেন।
Sycodency বা অতিরিক্ত সম্মতি: চ্যাটজিপিটিকে এমনভাবে ট্রেনিং দেওয়া হয়েছে যাতে সে ব্যবহারকারীর প্রতি বিনয়ী ও সহযোগিতাপূর্ণ হয়। অনেক সময় অতিরিক্ত সহযোগিতাপূর্ণ হতে গিয়ে সে 'না' বলার বদলে কাল্পনিক তথ্য বানিয়ে দেয়।
৪. কীভাবে চ্যাটজিপিটির ভুল তথ্য এড়িয়ে সঠিক সুবিধা নেবেন?
এআই-এর সীমাবদ্ধতা রয়েছে বলেই একে বাদ দেওয়ার প্রয়োজন নেই। বুদ্ধিমান ব্যবহারকারী হিসেবে কিছু নিয়ম মেনে চললে চ্যাটজিপিটি থেকে শতভাগ নিখুঁত আউটপুট পাওয়া সম্ভব:
প্রম্পট পরিষ্কার করুন: চ্যাটজিপিটিকে স্পষ্টভাবে বলুন-"যদি তুমি কোনো তথ্যের ব্যাপারে নিশ্চিত না হও, তবে অনুমানের ওপর ভিত্তি করে উত্তর দিও না।"
ফ্যাক্ট-চেকিং বা তথ্য যাচাই করুন: গুরুত্বপূর্ণ সংখ্যা, ঐতিহাসিক সাল, আইন বা মেডিকেল তথ্যের ক্ষেত্রে এআইয়ের উত্তরের ওপর চোখ বন্ধ করে ভরসা না করে গুগলে প্রাতিষ্ঠানিক সোর্স থেকে মিলিয়ে নিন।
সোশ্যাল অ্যান্ড টেক্সট প্রুফিং: কনটেন্ট ক্রিয়েটর বা ডিজিটাল মার্কেটাররা এআই দিয়ে খসড়া লেখার পর তাতে নিজের বুদ্ধিমত্তা ও হিউম্যান টাচ যুক্ত করুন।
সঠিক টুলস ব্যবহার করুন: রিয়েল-টাইম ডাটার জন্য ইন্টারনেট এক্সেস যুক্ত সার্চ ফিচার বা প্লাগইন অন রেখে প্রশ্ন করুন।
সাধারণ কিছু প্রশ্ন (Frequently Asked Questions)
প্রশ্ন ১: ChatGPT কি ইচ্ছা করে ভুল তথ্য বা মিথ্যা বলে?
উত্তর: না, চ্যাটজিপিটির কোনো মানবীয় আবেগ বা উদ্দেশ্য নেই। ডাটা না থাকলে বা অ্যালগরিদমের অনুমানের ভুল থেকে ChatGPT-এর ভুল তথ্য তৈরি হয়।
প্রশ্ন ২: AI Hallucination কমানোর সবচেয়ে সহজ উপায় কী?
উত্তর: সুনির্দিষ্ট ও স্পষ্ট প্রম্পট দেওয়া এবং চ্যাটজিপিটিকে আদেশের সাথে উল্লেখ করা যেন সে বানিয়ে উত্তর না দেয়।
প্রশ্ন ৩: গবেষণার কাজে কি চ্যাটজিপিটির দেওয়া সাইটেশন বা লিংক ব্যবহার করা নিরাপদ?
উত্তর: একেবারেই না। চ্যাটজিপিটি প্রায়ই কাল্পনিক বই বা গবেষণাপত্রের নাম বানিয়ে ফেলে। প্রতিটি লিংক ও সাইটেশন ম্যানুয়ালি চেক করা উচিত।
উপসংহার
চ্যাটজিপিটি কোনো যাদুকরী উত্তরদাতা নয়; এটি একটি শক্তিশালী গাণিতিক ও প্রযুক্তিগত টুল মাত্র। তাই এআই যা বলছে তা অন্ধভাবে বিশ্বাস না করে এর ChatGPT limitations বুঝতে হবে। প্রফেশনাল ও লার্নার হিসেবে আমাদের কাজ হলো এআই-কে সহকারী হিসেবে ব্যবহার করা, কিন্তু চূড়ান্ত সিদ্ধান্তের চাবিকাঠি নিজের বুদ্ধিমত্তায় রাখা।
ভবিষ্যতের এআই প্রযুক্তিতে নিজেকে দক্ষ ও সচেতন হিসেবে গড়ে তুলতে এক্সপ্লোর করুন আমাদের আধুনিক প্রফেশনাল ও আইটি কোর্সসমূহ!
