নিয়ন্ত্রণহীন এআই মডেলের কার্যক্রম বন্ধে ওপেনএআইয়ের নতুন উদ্যোগ

নিয়ন্ত্রণহীন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের কার্যক্রম দ্রুত বন্ধের জন্য নতুন প্রযুক্তিসুবিধা যুক্ত করেছে ওপেনএআই। ‘কন্ট্রোল রুম’ নামের এই প্রযুক্তিসুবিধা অনেকটা জরুরি মুহূর্তে সুইচ বন্ধের মতো কাজ করবে। ওপেনএআইয়ের দাবি, এই প্রযুক্তিসুবিধা কাজে লাগিয়ে সর্বোচ্চ ৩৫ সেকেন্ডের মধ্যে নিয়ন্ত্রণহীন এআই মডেলের সব কার্যক্রম থামানো সম্ভব।

.এক ব্লগ বার্তায় ওপেনএআই জানিয়েছে, এআইয়ের নিরাপত্তা ও সুরক্ষাঝুঁকি বিবেচনায় রেখে কন্ট্রোল রুম তৈরি করা হয়েছে। নতুন এ প্রযুক্তিসুবিধা মূলত একধরনের কেন্দ্রীয় নিয়ন্ত্রণব্যবস্থা, যা এআই মডেলের মাধ্যমে পরিচালিত বিভিন্ন কাজের ওপর নজর রাখে। এআই মডেল বা এজেন্টের অস্বাভাবিক আচরণের পাশাপাশি নিজ থেকে কাজ করার প্রবণতা শনাক্ত করতে ইতিমধ্যে ওপেনএআইয়ের পর্যবেক্ষণব্যবস্থার সঙ্গে এই প্রযুক্তিসুবিধা যুক্ত করা হয়েছে। কোনো প্রযুক্তিগত ত্রুটির কারণে কন্ট্রোল রুম অকার্যকর হয়ে পড়লেও এআই মডেল অনুমতি ছাড়া কাজ চালিয়ে যেতে পারবে না।

.ওপেনএআইয়ের কন্ট্রোল রুম প্রযুক্তি মূলত ওয়ার্কলোড, ইনফারেন্স ইঞ্জিন এবং কেন্দ্রীয় কন্ট্রোল রুম সার্ভিসের ওপর ভিত্তি করে তৈরি করা হয়েছে। ওয়ার্কলোড বলতে এআই মডেলকে দিয়ে করানো নির্দিষ্ট কাজ বা প্রক্রিয়াকে বোঝায়। অন্যদিকে ইনফারেন্স ইঞ্জিন হলো জিপিইউচালিত ব্যবস্থা, যার মাধ্যমে এআই মডেল বিভিন্ন নির্দেশনা প্রক্রিয়াকরণ করে আউটপুট তৈরি করে। আর কেন্দ্রীয় কন্ট্রোল রুম সার্ভিসের দায়িত্ব হলো এসব কাজের ওপর নজর রাখা এবং মডেলকে আউটপুট তৈরির অনুমতি দেওয়া হবে কি না, তা নির্ধারণ করা। কন্ট্রোল রুম নামের নতুন প্রযুক্তিটি এআই মডেলের নির্ধারিত কার্যক্রমের মধ্যে অস্বাভাবিক কোনো আচরণ শনাক্ত হলেই সেটি দ্রুত অকার্যকর করে দেবে।

.প্রসঙ্গত, চলতি বছরের শুরুতে ওপেনএআইয়ের পরীক্ষাধীন কয়েকটি স্বয়ংক্রিয় এআই এজেন্ট নিয়ন্ত্রণাধীনভাবে অনুমতি ছাড়াই ইন্টারনেটে প্রবেশ করে হাগিং ফেসসহ বিভিন্ন অনলাইন প্ল্যাটফর্মে অনুসন্ধান চালিয়েছিল। শুধু তা–ই নয়, একাধিক দেশের সরকারি ওয়েবসাইটে প্রবেশ বা সেগুলো হ্যাক করার চেষ্টাও করেছিল এআই এজেন্টগুলো। এসব ঘটনার পর থেকে এআইয়ের কার্যক্রম নিয়ন্ত্রণে রাখতে নতুন প্রযুক্তিসুবিধা উদ্ভাবনে কাজ করছিল ওপেনএআই।

সূত্র: ইন্ডিয়ান এক্সপ্রেস

সূত্র: প্রথম আলো