সাইবার নিরাপত্তা পরীক্ষার সময় গুগলের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল জেমিনি ভুল করে তিনটি বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। মে মাসে এসব ঘটনা ঘটে। গুগল প্রথমবারের মতো এমন ঘটনার কথা নিশ্চিত করেছে। মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল প্রথম ঘটনাগুলো প্রকাশ করে।
ঘটনাগুলোর পেছনের পরিস্থিতিও প্রায় একই ছিল। ইরেগুলার একটি নিয়ন্ত্রিত পরীক্ষার পরিবেশে কাল্পনিক কয়েকটি প্রতিষ্ঠানের মাধ্যমে এআই মডেলগুলোর সক্ষমতা যাচাই করছিল। ওই পরিবেশে ইন্টারনেট সংযোগ থাকার কথা ছিল না। তবে অনিচ্ছাকৃতভাবে ইন্টারনেট ব্যবহারের সুযোগ তৈরি হয় বলে ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে জানানো হয়েছে।
ইন্টারনেটের সঙ্গে যুক্ত হওয়ার পর জেমিনি অপ্রত্যাশিতভাবে বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করে। ইরেগুলার জুলাইয়ের শেষ দিকে বিষয়টি গুগলকে জানায়। এর আগে ওপেনএআইয়ের মডেল হাগিং ফেস নামে এআই সফটওয়্যার একটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করার ঘটনা প্রকাশ্যে এসেছিল।
গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হিদার অ্যাডকিনস বলেন, নিয়মিত একটি নিরাপত্তা পরীক্ষার সময় জেমিনি অনলাইনে থাকা প্রকাশ্য তথ্য খুঁজে পায়। এরপর পরীক্ষার অংশ বলে মনে করা ওয়েবসাইটে প্রবেশের জন্য মডেলটি কিছু লগইন তথ্য অনুমান করে। তবে তিনটি ঘটনাতেই বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশের পর জেমিনি নিজে থেকেই থেমে যায় বলে জানান তিনি।
অন্য দুটি পরীক্ষায় জেমিনি ইন্টারনেটে থাকা প্রকাশ্য কোড রিপোজিটরিতে দুই প্রতিষ্ঠানের লগইন তথ্য খুঁজে পায়। এরপর ওই তথ্য ব্যবহার করে বাস্তব প্রতিষ্ঠান দুটির সিস্টেমে প্রবেশ করে। সেগুলো পরীক্ষার জন্য তৈরি কাল্পনিক প্রতিষ্ঠান নয় বুঝতে পারার পর মডেলটি আর এগোয়নি বলে গুগলের দাবি।
ওপেনএআই ও অ্যানথ্রপিক তাদের মডেলের মাধ্যমে ঘটে যাওয়া একই ধরনের ঘটনা স্বেচ্ছায় প্রকাশ করলেও গুগল শুরুতে বিষয়টি প্রকাশ্যে আনার প্রয়োজন মনে করেনি। গুগলের বক্তব্য, মডেলগুলো কোনো প্রতিষ্ঠানের ক্ষতি করেনি। তবে যে তিনটি প্রতিষ্ঠানের সিস্টেমে জেমিনি প্রবেশ করেছিল, তাদের বিষয়টি জানানো হয়েছে।
অ্যাডকিনস বলেন, এসব ঘটনা শক্তিশালী এআই মডেলগুলোকে দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষিত করার গুরুত্ব তুলে ধরে।
ওপেনএআই ও অ্যানথ্রপিকের ঘটনাগুলো প্রকাশ্যে আসার পর স্বাধীন সিনেটর বার্নি স্যান্ডার্স এআই প্রযুক্তির উন্নয়ন সাময়িকভাবে থামানোর আহ্বান জানিয়েছিলেন। তার বক্তব্য ছিল, এ ধরনের ঘটনা এআই মডেলগুলোর ওপর নিয়ন্ত্রণের সক্ষমতা নিয়ে প্রশ্ন তৈরি করছে।
এরপর ওপেনএআই দুই সপ্তাহের জন্য তাদের মডেল উন্নয়নের একটি কার্যক্রম স্থগিত করেছিল। অন্যদিকে অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই এআই উন্নয়নে সম্মিলিতভাবে ধীরগতি আনার আহ্বান জানিয়েছেন। তার মতে, সবচেয়ে উন্নত এআই মডেলগুলো পর্যাপ্ত নিরাপত্তাব্যবস্থা নিশ্চিত করেই তৈরি করা প্রয়োজন।
সূত্র: দ্য গার্ডিয়ান