পরীক্ষার সীমা পেরিয়ে তিন প্রতিষ্ঠানের কম্পিউটারে ঢুকেছিল জেমিনি
গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনি নিরাপত্তা পরীক্ষার নির্ধারিত পরিবেশের সীমা পেরিয়ে তিনটি প্রতিষ্ঠানের কম্পিউটার ব্যবস্থায় অনুমতি ছাড়া প্রবেশ করেছিল। মে মাসে একটি নিরাপত্তা পরীক্ষার সময় এ ঘটনা ঘটে বলে জানিয়েছে গুগল।
ইসরায়েলি প্রযুক্তি প্রতিষ্ঠান ইরেগুলারের পরিচালিত ‘ক্যাপচার দ্য ফ্ল্যাগ’ ধরনের একটি পরীক্ষায় ঘটনাটি ঘটে। এ পরীক্ষার উদ্দেশ্য ছিল কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও সক্ষমতা যাচাই করা।
পরীক্ষার নিয়ম অনুযায়ী, জেমিনির ব্যবহৃত ব্যবস্থাগুলোর সরাসরি ইন্টারনেট ব্যবহারের সুযোগ থাকার কথা ছিল না। তবে পরীক্ষার পরিবেশের একটি ত্রুটির কারণে মডেলটি ইন্টারনেটে প্রবেশের সুযোগ পায়।
গুগলের তথ্য অনুযায়ী, জেমিনি অনলাইনে থাকা কিছু প্রকাশ্য তথ্য খুঁজে পায় এবং সেগুলোর ভিত্তিতে অনুমান করে পাসওয়ার্ড ব্যবহার করে কয়েকটি ওয়েবসাইটে প্রবেশের চেষ্টা করে। এ ছাড়া প্রকাশ্যে তালিকাভুক্ত পাসওয়ার্ডের একটি সংগ্রহও দুইবার ব্যবহার করে।
তিনটি পৃথক ঘটনায় জেমিনি পরে বুঝতে পারে যে এটি পরীক্ষার পরিবেশ নয়, বরং বাস্তব প্রতিষ্ঠানের কম্পিউটার ব্যবস্থা। এরপর প্রতিবারই মডেলটি নিজে থেকে অনুপ্রবেশের চেষ্টা বন্ধ করে দেয়।
গুগলের নিরাপত্তা প্রকৌশল বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস বলেন, সাধারণ নিরাপত্তা পরীক্ষার অংশ হিসেবেই মডেলটি কিছু ওয়েবসাইটে প্রবেশের চেষ্টা করেছিল। তিনটি ক্ষেত্রেই সেটি পরিস্থিতি বুঝে নিজে থেকে থেমে যায়।
ইরেগুলার জানিয়েছে, এ ধরনের ঘটনা এর আগেও কয়েকটি এআই ব্যবস্থার পরীক্ষায় দেখা গেছে। জুলাইয়ের শেষ দিকে সংশ্লিষ্ট এআই প্রতিষ্ঠানগুলোকে বিষয়টি জানানো হয়।
গুগল জানিয়েছে, ইরেগুলারের কাছ থেকে ঘটনার কথা জানার পর তারা পরীক্ষার পদ্ধতিতে পরিবর্তন আনে। তবে ঠিক কোন জেমিনি মডেল এই ঘটনায় জড়িত ছিল, তা প্রকাশ করেনি প্রতিষ্ঠানটি।
সাম্প্রতিক সময়ে ওপেনএআই, অ্যানথ্রপিক ও মেটার এআই ব্যবস্থার পরীক্ষাতেও নির্ধারিত পরিবেশের বাইরে যাওয়ার মতো ঘটনা সামনে এসেছে। এসব ঘটনায় শক্তিশালী এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ ও দায়িত্বশীল ব্যবহারের বিষয়টি নতুন করে আলোচনায় এসেছে।
অ্যাডকিনস বলেন, এ ধরনের ঘটনা শক্তিশালী এআই ব্যবস্থাকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্ব তুলে ধরে।
