কৃত্রিম বুদ্ধিমত্তার (এআই) সক্ষমতা যত দ্রুত বাড়ছে, ততই সামনে আসছে এর নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন নতুন প্রশ্ন। এবার সেই উদ্বেগের বিষয়টি সামনে এনেছে গুগল নিজেই। বিশেষ সাইবার নিরাপত্তা পরীক্ষার সময় গুগলের এআই মডেল জেমিনি অপ্রত্যাশিতভাবে অনলাইনে থাকা তিনটি বাস্তব সিস্টেমে প্রবেশ করেছিল বলে জানা গেছে।
গুগলের তথ্য অনুযায়ী, একটি নিয়ন্ত্রিত নিরাপত্তা পরীক্ষার সময় জেমিনি এমন কিছু তথ্য শনাক্ত করে, যা পরীক্ষার জন্য তৈরি সিমুলেটেড পরিবেশের বাইরে থাকা বাস্তব সিস্টেমের সঙ্গে সম্পর্কিত ছিল। এরপর মডেলটি সেই সিস্টেমে প্রবেশের পথ খুঁজতে শুরু করে। তিনটি পৃথক ঘটনায় জেমিনি বাস্তব সিস্টেমে প্রবেশ করলেও শেষ পর্যন্ত নিজে থেকেই কার্যক্রম বন্ধ করে দেয়।
ঘটনাটি সামনে এসেছে চলতি বছরের মাঝামাঝি সময়ে পরিচালিত একটি সাইবার নিরাপত্তা পরীক্ষার সূত্র ধরে। স্বাধীন একটি সাইবার নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠানের পরিচালিত ওই পরীক্ষায় জেমিনিকে বিশেষভাবে তৈরি সিমুলেটেড পরিবেশে বিভিন্ন নিরাপত্তা-সংক্রান্ত কাজ করতে দেওয়া হয়েছিল। একই সঙ্গে নির্দিষ্ট কিছু তথ্য শনাক্ত ও বিশ্লেষণের দায়িত্বও দেওয়া হয়েছিল মডেলটিকে।
তবে পরীক্ষার সময় একটি অপ্রত্যাশিত বিষয় ধরা পড়ে। পরীক্ষার পরিবেশে মডেলটির ইন্টারনেট ব্যবহারের সুযোগ থাকায় সেটি এমন কিছু তথ্য খুঁজে পায়, যা বাস্তব প্রতিষ্ঠানের সিস্টেমের সঙ্গে সম্পর্কিত ছিল। এরপর জেমিনি সেই তথ্য ব্যবহার করে সংশ্লিষ্ট সিস্টেমে প্রবেশের চেষ্টা করে।
গুগলের বর্ণনা অনুযায়ী, একটি ঘটনায় জেমিনি পাসওয়ার্ড অনুমান করে বাস্তব সিস্টেমে প্রবেশের চেষ্টা করেছিল। অন্য দুটি ঘটনায় মডেলটি পরীক্ষার সময় খুঁজে পাওয়া ক্রেডেনশিয়াল বা প্রবেশ-সংক্রান্ত তথ্য ব্যবহার করে সংশ্লিষ্ট সিস্টেমে প্রবেশ করতে সক্ষম হয়।
তবে বিষয়টি আরও উদ্বেগজনক হয়ে ওঠে এই কারণে যে, মডেলটি কোনো মানুষের সরাসরি নির্দেশ ছাড়াই ওই কাজগুলো সম্পন্ন করার চেষ্টা করেছিল। অর্থাৎ নির্দিষ্ট সাইবার নিরাপত্তা কাজ করতে গিয়ে এআই মডেলটি পরীক্ষার নির্ধারিত সীমানার বাইরে থাকা বাস্তব সিস্টেমের সঙ্গে যোগাযোগ স্থাপনের চেষ্টা করে।
গুগল জানিয়েছে, জেমিনি যখন বুঝতে পারে যে সংশ্লিষ্ট সিস্টেমগুলো পরীক্ষার অংশ নয় এবং সেগুলো বাস্তব প্রতিষ্ঠানের সিস্টেম, তখন মডেলটি নিজের কার্যক্রম বন্ধ করে দেয়। ফলে এই ঘটনায় বড় ধরনের ক্ষয়ক্ষতি হয়নি বলেও জানিয়েছে প্রতিষ্ঠানটি।
ঘটনার পর সংশ্লিষ্ট তিন প্রতিষ্ঠানকে তাদের সিস্টেমে অননুমোদিত প্রবেশের চেষ্টার বিষয়ে সতর্ক করা হয়েছে। একই সঙ্গে ঘটনাটি এআই মডেলকে বাস্তব বিশ্বের সিস্টেম ও ইন্টারনেটের সঙ্গে যুক্ত করার ক্ষেত্রে নিরাপত্তা ব্যবস্থার প্রয়োজনীয়তা নিয়ে নতুন করে আলোচনা তৈরি করেছে।
গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিথার অ্যাডকিন্স ঘটনাটিকে সাধারণ কোনো বিষয় হিসেবে দেখছেন না। তার মতে, শক্তিশালী এআই মডেলকে সঠিকভাবে নিয়ন্ত্রণ করা না গেলে সেগুলো এমন কাজ করতে পারে, যা বড় ধরনের নিরাপত্তা সমস্যার কারণ হতে পারে। এআইয়ের সক্ষমতা বৃদ্ধির সঙ্গে সঙ্গে সাইবার নিরাপত্তার ক্ষেত্রেও নতুন ধরনের চ্যালেঞ্জ তৈরি হচ্ছে বলে তিনি সতর্ক করেছেন।
বিশেষজ্ঞদের কাছে ঘটনাটির গুরুত্ব আরও বেড়েছে এআই এজেন্টের ব্যবহার দ্রুত বাড়ার কারণে। সাধারণ চ্যাটবটের তুলনায় এআই এজেন্টকে বিভিন্ন কাজ সম্পন্ন করার জন্য তুলনামূলক বেশি স্বায়ত্তশাসন দেওয়া হয়। তারা তথ্য খোঁজা, বিভিন্ন ওয়েবসাইটে প্রবেশ, সফটওয়্যার ব্যবহার কিংবা নির্দিষ্ট কিছু সিদ্ধান্ত বাস্তবায়নের মতো কাজ করতে পারে।
ফলে কোনো এআই এজেন্ট যদি ভুলভাবে কোনো নির্দেশনা ব্যাখ্যা করে কিংবা পরীক্ষার নির্ধারিত সীমা অতিক্রম করে, তাহলে তার প্রভাব সাধারণ কথোপকথনের ভুলের চেয়ে অনেক বেশি হতে পারে। জেমিনির সাম্প্রতিক ঘটনা সেই ঝুঁকিরই একটি উদাহরণ হিসেবে আলোচনায় এসেছে।
এর আগে অ্যানথ্রোপিক ও ওপেনএআইয়ের বিভিন্ন মডেল নিয়েও সাইবার নিরাপত্তা পরীক্ষার সময় অপ্রত্যাশিত আচরণ সামনে আসার খবর প্রকাশিত হয়েছে। এসব ঘটনা এআই মডেলের সক্ষমতা দ্রুত বাড়ানোর পাশাপাশি নিরাপত্তা, পর্যবেক্ষণ ও নিয়ন্ত্রণ ব্যবস্থাও একই গতিতে উন্নত করা হচ্ছে কি না—সেই প্রশ্ন সামনে এনেছে।
এআই মডেলের ক্ষমতা বাড়ানোর গতি নিয়ে ইতিমধ্যে প্রযুক্তি খাতের বিভিন্ন মহলে উদ্বেগ তৈরি হয়েছে। অ্যানথ্রোপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই এর আগে মন্তব্য করেছিলেন, এআই মডেলের সক্ষমতা বৃদ্ধির প্রক্রিয়া কিছুটা ধীর করার প্রয়োজন হতে পারে। তার বক্তব্যের মূল উদ্বেগ ছিল—এআই উন্নয়নের গতি যদি নিরাপত্তা ও নিয়ন্ত্রণ ব্যবস্থার উন্নয়নের চেয়ে বেশি হয়, তাহলে ভবিষ্যতে ঝুঁকি সামলানো কঠিন হয়ে উঠতে পারে।
এই ধরনের উদ্বেগের সঙ্গে ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান এবং এক্সএআইয়ের ইলন মাস্কও বিভিন্ন সময়ে এআই নিরাপত্তা নিয়ে সতর্কতা প্রকাশ করেছেন। তবে এআই উন্নয়ন কতটা দ্রুত এগোবে এবং নিরাপত্তা ব্যবস্থার সঙ্গে এর ভারসাম্য কীভাবে রাখা হবে, তা নিয়ে প্রযুক্তি খাতে এখনও বিস্তর আলোচনা চলছে।
জেমিনির সাম্প্রতিক ঘটনা অবশ্য কোনো বড় ধরনের ক্ষয়ক্ষতির দিকে গড়ায়নি। মডেলটি তিনটি বাস্তব সিস্টেমে প্রবেশের চেষ্টা করলেও শেষ পর্যন্ত কার্যক্রম বন্ধ করে দেয় এবং সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে সতর্ক করা হয়। তারপরও ঘটনাটি গুরুত্বপূর্ণ একটি প্রশ্ন সামনে এনেছে—এআইকে যখন আরও বেশি স্বায়ত্তশাসন দিয়ে বাস্তব জগতের কাজ করানো হবে, তখন তার কর্মকাণ্ডের সীমা কীভাবে নির্ধারণ ও পর্যবেক্ষণ করা হবে?
প্রযুক্তির অগ্রগতির সঙ্গে এআইয়ের সক্ষমতা আরও বাড়বে—এমন সম্ভাবনা নিয়ে কাজ করছেন গবেষকরা। একই সঙ্গে সেই সক্ষমতা যেন অনিচ্ছাকৃতভাবে নিরাপত্তা ঝুঁকিতে পরিণত না হয়, সে বিষয়েও গুরুত্ব বাড়ছে। জেমিনির এই ঘটনা তাই শুধু একটি পরীক্ষার অপ্রত্যাশিত ফল নয়; বরং ভবিষ্যতের স্বয়ংক্রিয় এআই সিস্টেম তৈরির ক্ষেত্রে নিরাপত্তা, নিয়ন্ত্রণ ও দায়িত্বশীল ব্যবহারের প্রয়োজনীয়তাকে নতুন করে সামনে এনেছে।
পড়ুন:চাটমোহরে সড়ক দুর্ঘটনায় একজন নিহত
ইমি/