কৃত্রিম বুদ্ধিমত্তাভিত্তিক এজেন্টের অনিয়ন্ত্রিত কর্মকাণ্ডের কারণে বিশ্বের বিভিন্ন দেশের ‘ডজনখানেক’ প্রতিষ্ঠানকে সতর্ক করা হয়েছে। এসব এআই এজেন্ট সরকারি সংস্থা, বিশ্ববিদ্যালয়, সরকারি প্রতিষ্ঠানসহ বিভিন্ন ওয়েবসাইট থেকে তথ্য সংগ্রহের চেষ্টা করেছে এবং কিছু ক্ষেত্রে নিরাপত্তাব্যবস্থা এড়িয়ে যাওয়ার ঘটনাও ঘটেছে।
ব্রিটিশ বার্তাসংস্থা বিবিসির এক প্রতিবেদনে এ তথ্য জানা যায়,
গতকাল শুক্রবার প্রকাশিত এক বিবৃতিতে ওপেনএআই জানায়, আক্রান্ত প্রতিষ্ঠানগুলোর মধ্যে যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি), সেনসাস ব্যুরো ও শিক্ষা বিভাগও রয়েছে। তবে এসব সরকারি সংস্থা থেকে এআই বট যে তথ্য সংগ্রহ করেছে, তা প্রকাশ্য ছিল বলে জানিয়েছে প্রতিষ্ঠানটি।
ওপেনএআই বলেছে, তাদের কিছু এআই এজেন্ট ‘বিশ্বস্ত ও কর্তৃত্বপূর্ণ জনসাধারণের তথ্যের উৎস’ খুঁজছিল। কিন্তু কয়েকটি ক্ষেত্রে এসব এজেন্ট তাদের নির্ধারিত কাজের সীমা অতিক্রম করে ওয়েবসাইটের নিরাপত্তাব্যবস্থা এড়িয়ে তথ্য সংগ্রহের চেষ্টা করে।
ওপেনএআই জানিয়েছে, এসব ক্ষেত্রে সংশ্লিষ্ট ব্যবহারকারীরা তাদের তথ্য মডেল প্রশিক্ষণে ব্যবহারের অনুমতি দিয়েছিলেন। তবে প্রতিষ্ঠানটি স্বীকার করেছে, ব্যবহারকারীদের ছবি এভাবে স্থানান্তর করা ‘উপযুক্ত ব্যবহার ছিল না’। এ ধরনের ঘটনা নতুন নিরাপত্তাব্যবস্থা চালুর আগেই ঘটেছিল এবং তৃতীয় পক্ষের কাছে স্থানান্তরিত সব ছবি সরিয়ে ফেলার কাজ চলছে বলে জানিয়েছে তারা।
সেনসাস ব্যুরোর তথ্য সংগ্রহের সময় এআই এজেন্টগুলো সফটওয়্যার নির্মাতাদের জন্য নির্ধারিত কিছু সরঞ্জাম ব্যবহার করেছিল বলে জানিয়েছে ওপেনএআই। অন্যদিকে, এসইসির ওয়েবসাইট থেকে সংগৃহীত কিছু তথ্য পরে এআই এজেন্টের মাধ্যমে অন্য একটি ওয়েবসাইটে প্রকাশ করা হয়। ওপেনএআই বলেছে, এ ধরনের প্রকাশ তাদের উদ্দেশ্য ছিল না।
চলতি বছরের জুলাইয়ে এআই এজেন্টের এমন অনিয়ন্ত্রিত কর্মকাণ্ডের একটি ঘটনা প্রকাশ্যে আসে। সে সময় ওপেনএআইয়ের একদল এআই এজেন্ট কোনো নির্দেশনা ছাড়াই এআই ডেভেলপার প্ল্যাটফর্ম হাগিং ফেসে অনুপ্রবেশ করেছিল বলে অভিযোগ ওঠে। হাগিং ফেস প্রথমে ঘটনাটি প্রকাশ করে এবং পরে ওপেনএআইও এর দায় স্বীকার করে।
হাগিং ফেসের প্রধান ক্লেমাঁ দেলাঙ্গে বুধবার জাতিসংঘের নিরাপত্তা পরিষদের এক বৈঠকে বলেন, তিনি প্রায়ই ভাবেন, ওই হামলার ঘটনা প্রকাশ্যে না আনলে কী ঘটতে পারত। তাঁর দাবি, পরবর্তী সময়ে জানা গেছে, কয়েক মাস আগেই কয়েকটি শীর্ষস্থানীয় এআই প্রতিষ্ঠানে নজরদারির বাইরে এ ধরনের ঘটনা ঘটছিল।
এ ছাড়া কয়েকটি ঘটনায় এআই এজেন্ট এমন তথ্যও অন্যত্র স্থানান্তর করেছে, যা তাদের স্থানান্তর করার কথা ছিল না। ওপেনএআইয়ের তথ্যমতে, অন্তত ৫৩টি ঘটনায় চ্যাটজিপিটি ব্যবহারকারীদের কার্যক্রম থেকে একটি ছবি নিয়ে অন্যত্র স্থানান্তর করা হয়েছে।
ওপেনএআই এসব ঘটনাকে অনেক ক্ষেত্রে ‘এজেন্ট স্প্যাম’ হিসেবে উল্লেখ করছে। প্রতিষ্ঠানটির ভাষ্য অনুযায়ী, ইন্টারনেটে তথ্য পোস্ট করার মতো ‘অপ্রত্যাশিত বা উদ্বেগজনক’ এআই এজেন্ট কার্যক্রমকে এ নামে চিহ্নিত করা হচ্ছে।
তবে সব ঘটনাকে বড় ধরনের নিরাপত্তা লঙ্ঘন হিসেবে বিবেচনা করা হচ্ছে না। ওপেনএআই বলেছে, কোনো কোনো প্রতিষ্ঠান পর্যালোচনার পর দেখতে পারে যে সংগৃহীত তথ্য আসলে ইচ্ছাকৃতভাবেই প্রকাশ্য ছিল বা এআই মডেলের কার্যক্রম উদ্বেগের কারণ নয়। আবার কেউ কেউ নিজেদের ওয়েবসাইটের নকশাগত সমস্যা বা নিরাপত্তার দুর্বলতা চিহ্নিত করতে পারে।
ওপেনএআই জানিয়েছে, তারা এখন এআই এজেন্টগুলোর প্রশিক্ষণ-সংক্রান্ত কার্যক্রম পর্যালোচনা করছে এবং হাগিং ফেসে হামলার সময় থেকে মাস ধরে পেছনে গিয়ে ঘটনাগুলো খতিয়ে দেখছে। এখন পর্যন্ত শনাক্ত হওয়া বেশিরভাগ ঘটনাই কম ঝুঁকির এবং উল্লেখযোগ্য ক্ষতির প্রমাণ সীমিত বা অনুপস্থিত বলে জানিয়েছে প্রতিষ্ঠানটি। তবে প্রতিটি ঘটনা যাচাই করতে সময় লাগায় পুরো পর্যালোচনা শেষ হতে কয়েক মাস সময় লাগতে পারে।
মন্ট্রিয়ল বিশ্ববিদ্যালয়ের মেশিন লার্নিংয়ের অধ্যাপক ও এআই নিরাপত্তা সংগঠন ‘ইভিটেবল’-এর প্রতিষ্ঠাতা ডেভিড ক্রুগার এসব ঘটনায় উদ্বেগ প্রকাশ করেছেন। তিনি এআই উন্নয়নের ওপর অবিলম্বে ও অনির্দিষ্টকালের জন্য আন্তর্জাতিক স্থগিতাদেশের আহ্বান জানিয়েছেন। তার মতে, এখন পর্যন্ত ঘটে যাওয়া ঘটনাগুলোর পূর্ণ মাত্রা বোঝা যায়নি এবং ভবিষ্যতে নিয়ন্ত্রণের বাইরে চলে যাওয়া এআই থেকে গুরুতর ঝুঁকি তৈরি হতে পারে।
Leave a Comment