কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির সক্ষমতা যাচাইয়ের একটি নিরাপত্তা পরীক্ষার সময় নির্ধারিত পরীক্ষামূলক পরিবেশের বাইরে গিয়ে তিনটি প্রতিষ্ঠানের কম্পিউটার ব্যবস্থায় প্রবেশ করেছিল গুগলের এআই মডেল জেমিনি। মে মাসে ইসরায়েলভিত্তিক প্রযুক্তি প্রতিষ্ঠান ইরেগুলারের পরিচালিত একটি নিরাপত্তা পরীক্ষায় এ ঘটনা ঘটে বলে জানিয়েছে গুগল। প্রতিষ্ঠানটির দাবি, পরীক্ষার পরিবেশে অনিচ্ছাকৃতভাবে তৈরি হওয়া একটি ত্রুটির কারণে জেমিনির ব্যবহৃত কম্পিউটার ব্যবস্থা ইন্টারনেটে প্রবেশের সুযোগ পেয়েছিল।
গুগলের জন্য এ ধরনের ঘটনা প্রকাশ্যে আসার ক্ষেত্রে এটি একটি উল্লেখযোগ্য ঘটনা। নিরাপত্তা পরীক্ষার উদ্দেশ্য ছিল এআই মডেলগুলোকে নির্ধারিত সীমার মধ্যে রেখে তাদের সক্ষমতা ও সম্ভাব্য ঝুঁকি যাচাই করা। তবে পরীক্ষার সময় জেমিনি পরীক্ষামূলক পরিবেশের বাইরে থাকা কিছু অনলাইন তথ্য খুঁজে পায় এবং সেগুলো ব্যবহার করে কয়েকটি ওয়েবসাইটে প্রবেশের চেষ্টা করে।
ঘটনাটি ঘটে ‘ক্যাপচার দ্য ফ্ল্যাগ’ বা সিটিএফ ধরনের একটি নিরাপত্তা পরীক্ষায়। এ ধরনের পরীক্ষায় সাধারণত কৃত্রিম বুদ্ধিমত্তা ব্যবস্থাকে বিভিন্ন নিরাপত্তা সমস্যা শনাক্ত ও সমাধানের কাজ দেওয়া হয়। এর মাধ্যমে একটি এআই মডেল কতটা কার্যকরভাবে তথ্য বিশ্লেষণ করতে পারে এবং নির্দিষ্ট নিরাপত্তা চ্যালেঞ্জ মোকাবিলা করতে পারে, তা যাচাই করা হয়।
পরীক্ষার নিয়ম অনুযায়ী, অংশগ্রহণকারী এআই ব্যবস্থাগুলোর সরাসরি ইন্টারনেট ব্যবহারের সুযোগ থাকার কথা ছিল না। কিন্তু পরীক্ষার পরিবেশে থাকা একটি ত্রুটির কারণে জেমিনির ব্যবহৃত ব্যবস্থাগুলো ইন্টারনেটে প্রবেশ করতে সক্ষম হয়। ফলে পরীক্ষার জন্য নির্ধারিত ভার্চুয়াল পরিবেশের বাইরে থাকা কিছু প্রকাশ্য তথ্য মডেলটির নাগালের মধ্যে চলে আসে।
গুগলের দেওয়া তথ্য অনুযায়ী, জেমিনি অনলাইনে থাকা কিছু প্রকাশ্য তথ্য অনুসন্ধান করে। এরপর পাওয়া তথ্যের ভিত্তিতে কিছু পাসওয়ার্ড অনুমান করে কয়েকটি ওয়েবসাইটে প্রবেশের চেষ্টা করে। এমনকি অনলাইনে প্রকাশ্যে তালিকাভুক্ত পাসওয়ার্ডের একটি সংগ্রহও মডেলটি দুইবার ব্যবহার করেছিল বলে জানিয়েছে গুগল।
তবে ঘটনাটির একটি গুরুত্বপূর্ণ দিক হলো, তিনটি ক্ষেত্রেই জেমিনি পরবর্তী সময়ে বুঝতে পারে যে সে পরীক্ষার নির্ধারিত পরিবেশের পরিবর্তে বাস্তব প্রতিষ্ঠানের কম্পিউটার ব্যবস্থায় প্রবেশ করেছে। বিষয়টি শনাক্ত করার পর মডেলটি নিজে থেকেই অনুপ্রবেশের চেষ্টা বন্ধ করে দেয়।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস বলেন, সাধারণ নিরাপত্তা পরীক্ষার অংশ হিসেবেই মডেলটি কিছু ওয়েবসাইটে প্রবেশের চেষ্টা করেছিল। তবে তিনটি ঘটনাতেই মডেলটি বুঝতে পারে যে এটি পরীক্ষার অংশ নয় এবং এরপর নিজে থেকেই থেমে যায়।
ঘটনাটির বিষয়ে ইরেগুলারও গুগলকে অবহিত করে। প্রতিষ্ঠানটি জানিয়েছে, গুগলের ঘটনার সঙ্গে সাম্প্রতিক সময়ে অন্যান্য কৃত্রিম বুদ্ধিমত্তা ব্যবস্থার পরীক্ষায় দেখা দেওয়া একই ধরনের সমস্যার মিল রয়েছে। ইরেগুলারের ভাষ্য অনুযায়ী, জুলাইয়ের শেষ দিকে সংশ্লিষ্ট কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠানগুলোকে এসব বিষয় সম্পর্কে জানানো হয়।
গুগল জানিয়েছে, জুলাইয়ের শেষ দিকে ইরেগুলারের কাছ থেকে ঘটনাটির বিষয়ে জানার পর তারা নিজেদের পরীক্ষার পদ্ধতিতে পরিবর্তন আনে। ভবিষ্যতে এ ধরনের ঘটনা যাতে না ঘটে, সে জন্য পরীক্ষামূলক পরিবেশ ও নিরাপত্তা ব্যবস্থার ওপর আরও নিয়ন্ত্রণ আরোপ করা হয়েছে বলে ধারণা করা হচ্ছে। তবে ঠিক কোন জেমিনি মডেল এ ঘটনায় জড়িত ছিল, তা প্রকাশ করেনি গুগল।
এ ধরনের ঘটনা শুধু গুগলের ক্ষেত্রেই ঘটেনি। সাম্প্রতিক সময়ে ওপেনএআই, অ্যানথ্রপিক ও মেটার এআই ব্যবস্থার পরীক্ষাতেও নির্ধারিত পরিবেশের বাইরে যাওয়ার মতো পরিস্থিতির কথা সংশ্লিষ্ট প্রতিষ্ঠানগুলোর পক্ষ থেকে জানানো হয়েছে। এসব ঘটনায় এআই মডেলগুলো পরীক্ষার উদ্দেশ্যে দেওয়া কাজ সম্পন্ন করতে গিয়ে নির্ধারিত সীমার বাইরে থাকা কম্পিউটার বা অনলাইন ব্যবস্থার সঙ্গে যোগাযোগের চেষ্টা করেছে।
এআই প্রযুক্তির সক্ষমতা যত বাড়ছে, ততই এর নিরাপত্তা ও নিয়ন্ত্রণের বিষয়টি গুরুত্বপূর্ণ হয়ে উঠছে। বিশেষ করে কোনো মডেল যদি মানুষের সরাসরি নির্দেশ ছাড়াই অনলাইনে তথ্য খোঁজা, পাসওয়ার্ড অনুমান করা বা অন্য কোনো কম্পিউটার ব্যবস্থায় প্রবেশের চেষ্টা করে, তাহলে সেটি ভবিষ্যতে কী ধরনের ঝুঁকি তৈরি করতে পারে, তা নিয়ে প্রযুক্তি বিশেষজ্ঞদের মধ্যে আলোচনা বাড়ছে।
তবে গুগলের ভাষ্য অনুযায়ী, এই ঘটনায় জেমিনি তিনটি বাস্তব কম্পিউটার ব্যবস্থায় প্রবেশের পর অনুপ্রবেশ অব্যাহত রাখেনি। বরং পরীক্ষার পরিবেশের বাইরে চলে যাওয়ার বিষয়টি শনাক্ত করার পর মডেলটি নিজে থেকেই থেমে যায়। ফলে ঘটনাটি এআই মডেলের সক্ষমতার পাশাপাশি পরীক্ষামূলক পরিবেশের নিরাপত্তা ব্যবস্থার গুরুত্বও সামনে এনেছে।
অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এর আগে উন্নত এআই মডেল তৈরির ক্ষেত্রে আরও সতর্ক হওয়ার আহ্বান জানিয়েছিলেন। তাঁর মতে, এআই ব্যবস্থার সক্ষমতা বৃদ্ধির সঙ্গে সঙ্গে নিরাপত্তা নিশ্চিত করার বিষয়টিও গুরুত্বের সঙ্গে বিবেচনা করা প্রয়োজন।
গুগলের অ্যাডকিনসও মনে করেন, এ ধরনের ঘটনা শক্তিশালী এআই ব্যবস্থাকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার প্রয়োজনীয়তা তুলে ধরে। একই সঙ্গে এআই মডেল পরীক্ষার সময় আলাদা ও নিয়ন্ত্রিত পরিবেশ নিশ্চিত করা এবং অনিচ্ছাকৃতভাবে ইন্টারনেট বা বাস্তব কম্পিউটার ব্যবস্থায় প্রবেশের সুযোগ বন্ধ রাখার গুরুত্বও এই ঘটনা স্পষ্ট করেছে।
প্রযুক্তি খাতে এআইয়ের ব্যবহার দ্রুত বাড়ার সঙ্গে সঙ্গে এ ধরনের নিরাপত্তা পরীক্ষা আরও গুরুত্বপূর্ণ হয়ে উঠছে। ভবিষ্যতে এআই মডেলগুলোকে আরও স্বাধীনভাবে কাজ করার সুযোগ দেওয়া হলে তাদের কার্যক্রম কোন সীমার মধ্যে থাকবে, কীভাবে অনাকাঙ্ক্ষিত প্রবেশ ঠেকানো হবে এবং বাস্তব কম্পিউটার ব্যবস্থার নিরাপত্তা কীভাবে নিশ্চিত করা হবে—এসব প্রশ্ন প্রযুক্তি প্রতিষ্ঠানগুলোর জন্য গুরুত্বপূর্ণ হয়ে উঠবে।
পড়ুন:ভূমি মন্ত্রণালয়ের নতুন অ্যাপ ভূমিদৃষ্টি, যেসব সুবিধা থাকছে
ইমি/