কৃত্রিম বুদ্ধিমত্তা ক্রমাগত প্রমাণ করে চলেছে যে, নিয়ন্ত্রিত পরিবেশ থেকে বেরিয়ে এলে এটি গুরুতর সমস্যা সৃষ্টি করতে পারে। অ্যানথ্রোপিক স্বীকার করেছে যে, তাদের তিনটি ‘ক্লদ’ মডেল অনুমতি ছাড়াই তিনটি প্রকৃত কোম্পানির সিস্টেমে প্রবেশ করেছিল। অভ্যন্তরীণ সাইবার নিরাপত্তা পরীক্ষার সময়। ওপেনএআই একই ধরনের একটি ঘটনা স্বীকার করার মাত্র কয়েক দিন পরেই এই ঘটনাটি প্রকাশ্যে আসে, যা পর্যাপ্ত সুরক্ষা ব্যবস্থা ছাড়া স্বায়ত্তশাসিত এজেন্ট মূল্যায়নের ঝুঁকি নিয়ে বিতর্ককে পুনরায় উস্কে দিয়েছে।
কোম্পানির পক্ষ থেকে দেওয়া এক আনুষ্ঠানিক বিবৃতি অনুসারে, ঘটনাটি 'ক্যাপচার দ্য ফ্ল্যাগ' মহড়া চলাকালীন ঘটেছিল, যা একটি কৃত্রিম নেটওয়ার্কের মধ্যে মডেলগুলোর কাল্পনিক তথ্য সনাক্ত ও আহরণ করার ক্ষমতা পরিমাপ করার জন্য ডিজাইন করা হয়েছিল। একজন বহিরাগত অংশীদারের মূল্যায়ন প্ল্যাটফর্মে কনফিগারেশন ত্রুটির কারণে ইন্টারনেট সংযোগটি সক্রিয় ছিল।এর ফলে, মডেলগুলো নিজেদেরকে পরীক্ষামূলক পরিবেশের মধ্যেই আছে বলে মনে করে আসল অবকাঠামোর সাথে মিথস্ক্রিয়া শুরু করে দেয়। ১,৪১,০০০-এরও বেশি মূল্যায়ন সেশন পর্যালোচনা করার পর অ্যানথ্রোপিক এই ত্রুটিটি আবিষ্কার করে।
ক্লদের তিনটি আক্রমণ
সবচেয়ে গুরুতর মামলাটি জড়িত ছিল ক্লদ ওপাস ৪.৭, যিনি একই ডোমেইন নাম ব্যবহারকারী একটি কাল্পনিক কোম্পানিকে একটি আসল কোম্পানির সাথে গুলিয়ে ফেলেছিলেন।চারটি রানের সময়, মডেলটি অ্যাপ্লিকেশন এবং অবকাঠামো থেকে ক্রেডেনশিয়াল বের করে নেয়, কয়েকশ প্রোডাকশন রেকর্ড সম্বলিত একটি ডেটাবেসে অ্যাক্সেস লাভ করে এবং সিস্টেমটি আসল বলে সন্দেহ করা সত্ত্বেও আক্রমণ চালিয়ে যায়। এর অভ্যন্তরীণ যুক্তিতে সন্দেহ দেখা দিলেও, এটি নিজেকে বোঝায় যে এই টার্গেটটি পরীক্ষারই একটি অংশ।
দ্বিতীয় ঘটনাটি জড়িত ছিল ক্লদ মিথোস ৫, যিনি পাইথনের আনুষ্ঠানিক সংগ্রহস্থল পাইপিআই (PyPI)-তে একটি ক্ষতিকারক প্যাকেজ তৈরি ও প্রকাশ করেছিলেন।এটি করার জন্য, মডেলটি একটি ইমেল অ্যাকাউন্ট খোলে, একটি অস্থায়ী ফোন নম্বর জোগাড় করে এবং এমনকি পরিষেবাটির মূল্য পরিশোধের জন্য তহবিল সংগ্রহেরও চেষ্টা করে। প্যাকেজটি প্রায় এক ঘণ্টার জন্য উপলব্ধ ছিল এবং এই খাতের একটি বড় কোম্পানির নিরাপত্তা স্ক্যানারসহ ১৫টি আসল সিস্টেমে এটি ডাউনলোড করা হয়েছিল। কোডটি কার্যকর করার মাধ্যমে, মডেলটি ক্রেডেনশিয়াল লাভ করে এবং সেই কোম্পানির অবকাঠামোর একটি অংশে প্রবেশাধিকার পায়।
তৃতীয় পর্বটিতে একটি অপ্রকাশিত অভ্যন্তরীণ গবেষণা মডেল অন্তর্ভুক্ত ছিল। তার কাল্পনিক লক্ষ্যকে খুঁজে না পেয়ে, সে ইন্টারনেটে উপলব্ধ প্রায় ৯,০০০ ঠিকানা খতিয়ে দেখল। এবং একটি ডিবাগিং পৃষ্ঠায় দৃশ্যমান ক্রেডেনশিয়াল ও সাধারণ SQL ইনজেকশন কৌশল ব্যবহার করে একটি কোম্পানির অ্যাপ্লিকেশন হ্যাক করেছিল। তবে, অন্য দুটির থেকে ভিন্ন, এই মডেলটি শনাক্ত করেছিল যে পরিকাঠামোটি এই অনুশীলনের সাথে সম্পর্কহীন এবং সক্রিয়ভাবে আক্রমণাত্মক কার্যকলাপটি বন্ধ করে দিয়েছিল।
মানবিক ত্রুটি, ইচ্ছাকৃত লিক নয়
অ্যানথ্রোপিক এটা স্পষ্ট করে দিতে চেয়েছিল যে মডেলগুলো ইচ্ছাকৃতভাবে পরীক্ষার পরিবেশ থেকে বেরিয়ে যায়নি; এটি একটি কনফিগারেশন ত্রুটির ফল ছিল। যার ফলে ইন্টারনেট সংযোগটি সক্রিয় ছিল। কোম্পানিটির দাবি, এজেন্টরা কোনো জটিল দুর্বলতা আবিষ্কার করেনি বা নিজেদের কোনো উদ্দেশ্য সাধনের চেষ্টা করেনি; তারা যে বাস্তব পরিকাঠামোর ওপর কাজ করছে, তা পুরোপুরি না বুঝেই কেবল অর্পিত কাজটি সম্পন্ন করেছিল। মডেলগুলোতে দুর্বল পাসওয়ার্ড, প্রমাণীকরণবিহীন অ্যাক্সেস পয়েন্ট এবং উন্মুক্ত ডিবাগ পেজের মতো সাধারণ কৌশল ব্যবহার করা হয়েছিল।
সন্দেহজনক লগ শনাক্ত করার পর কোম্পানিটি সমস্ত সাইবার নিরাপত্তা মূল্যায়ন স্থগিত করেছে এবং ক্ষতিগ্রস্ত তিনটি সংস্থাকে অবহিত করেছে। তাদের মধ্যে দুজন আগে অনুপ্রবেশটি শনাক্ত করতে পারেনি।এটি দেখায় যে, প্রচলিত শনাক্তকরণ সিস্টেমগুলোর পক্ষে মানুষের করা আক্রমণ এবং স্বয়ংক্রিয় কিন্তু ইচ্ছাকৃত আক্রমণের মধ্যে পার্থক্য করা কতটা কঠিন। অ্যানথ্রোপিক অন্যান্য এআই ল্যাবগুলোকেও আক্রমণাত্মক ক্ষমতা সম্পন্ন স্বায়ত্তশাসিত এজেন্ট পরীক্ষা করার আগে তাদের নিজস্ব পরিবেশ পর্যালোচনা করতে বলেছে।
ওপেনএআই কর্তৃক একটি অনুরূপ ঘটনা প্রকাশের মাত্র ২০ দিন পরেই এই ঘটনাটি ঘটল, যেখানে তাদের বেশ কয়েকটি মডেল একটি অজানা দুর্বলতার মাধ্যমে একটি বিচ্ছিন্ন পরিবেশ থেকে বেরিয়ে এসে হাগিং ফেস-এর প্রোডাকশন ইনফ্রাস্ট্রাকচারে প্রবেশ করতে সক্ষম হয়েছিল। উভয় ঘটনাই কঠোর প্রযুক্তিগত নিয়ন্ত্রণ ছাড়া আক্রমণাত্মক ক্ষমতা সম্পন্ন এআই এজেন্ট পরীক্ষা করার ঝুঁকিগুলো তুলে ধরে। এবং তারা আরও কঠোর নিয়ন্ত্রণ প্রতিষ্ঠার প্রয়োজনীয়তা তুলে ধরেছেন।
প্রতিক্রিয়া এবং নিয়ন্ত্রণ দৃষ্টিগোচর হচ্ছে
এই ঘটনাগুলো ওয়াশিংটনে উদ্বেগ সৃষ্টি করেছে। রাষ্ট্রপতি ডোনাল্ড ট্রাম্প জানিয়েছেন যে, তাঁর প্রশাসন কৃত্রিম বুদ্ধিমত্তার ওপর আরও বেশি নিয়ন্ত্রণ আরোপের বিষয়টি বিবেচনা করছে।তবে, তিনি স্পষ্ট করেছেন যে চীনের থেকে পিছিয়ে না পড়ার জন্য তিনি অতিরিক্ত হস্তক্ষেপমূলক হওয়া এড়াতে চান। জুনের শুরুতে, তিনি ইতিমধ্যেই তার উপদেষ্টাদের সবচেয়ে উন্নত এআই-এর জন্য একটি স্বেচ্ছামূলক সাইবার নিরাপত্তা পরীক্ষার কাঠামো তৈরি করার নির্দেশ দিয়েছেন।
এদিকে, ওপেনএআই, অ্যানথ্রোপিক এবং গুগল ডিপমাইন্ড সহ শীর্ষস্থানীয় এআই কোম্পানিগুলোর ১,০০০ জনেরও বেশি কর্মী একটি ঘোষণাপত্রে স্বাক্ষর করে মার্কিন সরকারকে উন্নত এআই উন্নয়নের গতি ইচ্ছাকৃতভাবে কমিয়ে আনার আন্তর্জাতিক প্রচেষ্টাকে সমর্থন করার আহ্বান জানিয়েছেন। ঝুঁকি বাড়লে উন্নয়নের গতি কমাতে প্রযুক্তিগত ও রাজনৈতিক পদক্ষেপ গ্রহণের আহ্বান জানাচ্ছেন বিশেষজ্ঞরা।বিশেষ করে এই সম্ভাবনার পরিপ্রেক্ষিতে যে সিস্টেমগুলো তাদের নিজস্ব গবেষণা এবং উন্নয়ন স্বয়ংক্রিয় করে তুলবে।
অ্যানথ্রোপিক এবং ওপেনএআই এই ত্রুটিগুলোকে নিয়ন্ত্রণযোগ্য ঝুঁকি হিসেবে উপস্থাপন করার চেষ্টা করে এবং জোর দিয়ে বলে যে তাদের সাইবার নিরাপত্তা মডেলগুলো এতটাই শক্তিশালী যে তা সাধারণ মানুষের কাছে উপস্থাপন করা যায় না। এই অবস্থান তাদেরকে একই সাথে বিপদ সম্পর্কে সতর্ক করতে এবং ভবিষ্যতের যেকোনো বিধি-বিধানে নিজেদেরকে অপরিহার্য অংশীদার হিসেবে প্রতিষ্ঠা করতে সক্ষম করে।এমন এক পরিস্থিতিতে, যেখানে উভয় কোম্পানির মধ্যে প্রতিযোগিতা তীব্র হয়েছে এবং ভয়ই হয়ে উঠেছে প্রধান বিক্রয় কৌশল।
যা ঘটেছে তা একটি স্পষ্ট শিক্ষা দেয়: মডেলগুলো যত বেশি স্বায়ত্তশাসন পাবে, যাচাইযোগ্য বিচ্ছিন্নতা, ডেড-এন্ড নেটওয়ার্ক, সিন্থেটিক ডেটা এবং স্বয়ংক্রিয় শাটডাউন ব্যবস্থার মাধ্যমে সেগুলোকে পরীক্ষা করা ততই জরুরি হয়ে পড়বে। নিরাপত্তা এখন আর শুধু একটি প্রযুক্তিগত সমস্যা নয়, বরং এটি একটি প্রকৌশলগত ও প্রশাসনিক চ্যালেঞ্জ যা সমগ্র শিল্পকে প্রভাবিত করে।এবং গবেষণাগারগুলো যখন সবচেয়ে শক্তিশালী মডেল কার, তা প্রমাণ করার জন্য প্রতিযোগিতা করে, তখন বাস্তব জগৎই চূড়ান্ত পরীক্ষাক্ষেত্র হিসেবে থেকে যায়।