কৃত্রিম বুদ্ধিমত্তার (এআই) নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করে ওপেনএআইয়ের দীর্ঘদিনের কর্মী ও সাবেক নিরাপত্তা প্রধান ডেভিড রবিনসন পদত্যাগ করেছেন। এআই উন্নয়নের বর্তমান ধারা আর গ্রহণযোগ্য নয় বলে মন্তব্য করেছেন তিনি।
ইন্ডিয়া টুডের এক প্রতিবেদন এ তথ্য দেয়। দ্য আটলান্টিক-এ প্রকাশিত এক লেখায় রবিনসন বলেন, এআই তৈরি করা প্রতিষ্ঠানগুলোর নিরাপত্তার বিষয়ে আরও সতর্ক হওয়া প্রয়োজন। তার দাবি, এআই মডেল যত শক্তিশালী হচ্ছে, ভুলের সম্ভাব্য ক্ষতিও তত বড় হয়ে উঠছে।
রবিনসন ২০২৩ সালে ওপেনএআইয়ে যোগ দেন। প্রথমে তিনি নীতিমালা পরিকল্পনার প্রধান হিসেবে কাজ করেন। পরে প্রতিষ্ঠানের সেফটি সিস্টেমস দলের নেতৃত্বে ছিলেন। ওপেনএআইয়ের বড় এআই মডেল উন্মোচনের সময় প্রকাশিত নিরাপত্তা প্রতিবেদন তৈরিতেও তিনি নেতৃত্ব দিয়েছেন।
রবিনসনের মতে, এআই নিরাপত্তার ক্ষেত্রে শুধু নতুন আইন বা নির্দিষ্ট কিছু নিয়ম তৈরি করলেই হবে না।
প্রতিষ্ঠানের কাজের সংস্কৃতিতেও পরিবর্তন দরকার। বিপজ্জনক প্রযুক্তি ব্যবহারের ক্ষেত্রে আরও বেশি সতর্কতা, পরিকল্পনা ও বিনয় প্রয়োজন।
ওপেনএআইয়ের ‘ইটারেটিভ ডিপ্লয়মেন্ট’ বা ধাপে ধাপে এআই প্রযুক্তি উন্মুক্ত করার পদ্ধতি নিয়েও প্রশ্ন তুলেছেন তিনি। এই পদ্ধতিতে কোনো সমস্যা দেখা দিলে পরে নিরাপত্তাব্যবস্থা উন্নত করা হয়। তবে রবিনসনের দাবি, এআই যত বেশি সক্ষম হচ্ছে, এই পদ্ধতিতে ভুলের পরিণতিও তত ভয়াবহ হতে পারে।
সাম্প্রতিক কয়েকটি এআই এজেন্টের ঘটনা তুলে ধরে তিনি বলেন, হাগিং ফেসের একটি ঘটনায় ভুলবশত ওপেনএআইয়ের এআই এজেন্টগুলোর একটি দল সক্রিয় হয়ে গিয়েছিল। আরেক ঘটনায় প্রশিক্ষণরত একটি মডেল ইন্টারনেট ব্যবহারের ওপর থাকা বিধিনিষেধ এড়িয়ে যায়। পর্যবেক্ষণ ব্যবস্থা বিষয়টি শনাক্ত করলেও মডেলটি স্বয়ংক্রিয়ভাবে বন্ধ হয়নি বলে দাবি করেন তিনি।
অ্যানথ্রপিকের একটি ঘটনাও উল্লেখ করেছেন রবিনসন। তার ভাষ্য অনুযায়ী, ভুল কনফিগারেশনের কারণে প্রতিষ্ঠানটির নিজস্ব নিরাপত্তাব্যবস্থা সাময়িকভাবে বন্ধ হয়ে গিয়েছিল।
রবিনসন সতর্ক করে বলেন, মানুষের চেয়ে বেশি সক্ষম হয়ে উঠতে পারে এমন এআই ব্যবস্থা তৈরির ক্ষেত্রে শুধু পরীক্ষা-নিরীক্ষা করে ভুল সংশোধনের সুযোগ সব সময় নাও থাকতে পারে। তাই ‘ট্রায়াল অ্যান্ড এররের সময় শেষ’ এবং শুরু থেকেই আরও শক্তিশালী নিরাপত্তাব্যবস্থা নিশ্চিত করা জরুরি।
তিনি এআই নিরাপত্তায় পারমাণবিক বিদ্যুৎকেন্দ্র ও ব্যস্ত বিমানবন্দরের মতো উচ্চঝুঁকির খাতের পদ্ধতি অনুসরণের পরামর্শ দিয়েছেন। তার মতে, একাধিক স্তরের নিরাপত্তা, বাড়তি সুরক্ষা ও সময় নিয়ে পরিকল্পনা করলে মানুষের অনিবার্য ভুলের কারণে বড় ধরনের দুর্ঘটনার ঝুঁকি কমানো সম্ভব।
পদত্যাগ করলেও এআই মানুষের জন্য উপকারী হতে পারে বলে মনে করেন রবিনসন। তবে এখন প্রতিষ্ঠানের বাইরে থেকে কাজ করে এআইয়ের ঝুঁকি সম্পর্কে মানুষকে সচেতন করা এবং ওপেনএআইসহ অন্যান্য প্রতিষ্ঠানের ওপর আরও নিরাপদভাবে কাজ করার চাপ তৈরির পরিকল্পনা করেছেন তিনি।
ইন্ডিয়া টুডের এক প্রতিবেদন এ তথ্য দেয়। দ্য আটলান্টিক-এ প্রকাশিত এক লেখায় রবিনসন বলেন, এআই তৈরি করা প্রতিষ্ঠানগুলোর নিরাপত্তার বিষয়ে আরও সতর্ক হওয়া প্রয়োজন। তার দাবি, এআই মডেল যত শক্তিশালী হচ্ছে, ভুলের সম্ভাব্য ক্ষতিও তত বড় হয়ে উঠছে।
রবিনসন ২০২৩ সালে ওপেনএআইয়ে যোগ দেন। প্রথমে তিনি নীতিমালা পরিকল্পনার প্রধান হিসেবে কাজ করেন। পরে প্রতিষ্ঠানের সেফটি সিস্টেমস দলের নেতৃত্বে ছিলেন। ওপেনএআইয়ের বড় এআই মডেল উন্মোচনের সময় প্রকাশিত নিরাপত্তা প্রতিবেদন তৈরিতেও তিনি নেতৃত্ব দিয়েছেন।
রবিনসনের মতে, এআই নিরাপত্তার ক্ষেত্রে শুধু নতুন আইন বা নির্দিষ্ট কিছু নিয়ম তৈরি করলেই হবে না।
প্রতিষ্ঠানের কাজের সংস্কৃতিতেও পরিবর্তন দরকার। বিপজ্জনক প্রযুক্তি ব্যবহারের ক্ষেত্রে আরও বেশি সতর্কতা, পরিকল্পনা ও বিনয় প্রয়োজন।
ওপেনএআইয়ের ‘ইটারেটিভ ডিপ্লয়মেন্ট’ বা ধাপে ধাপে এআই প্রযুক্তি উন্মুক্ত করার পদ্ধতি নিয়েও প্রশ্ন তুলেছেন তিনি। এই পদ্ধতিতে কোনো সমস্যা দেখা দিলে পরে নিরাপত্তাব্যবস্থা উন্নত করা হয়। তবে রবিনসনের দাবি, এআই যত বেশি সক্ষম হচ্ছে, এই পদ্ধতিতে ভুলের পরিণতিও তত ভয়াবহ হতে পারে।
সাম্প্রতিক কয়েকটি এআই এজেন্টের ঘটনা তুলে ধরে তিনি বলেন, হাগিং ফেসের একটি ঘটনায় ভুলবশত ওপেনএআইয়ের এআই এজেন্টগুলোর একটি দল সক্রিয় হয়ে গিয়েছিল। আরেক ঘটনায় প্রশিক্ষণরত একটি মডেল ইন্টারনেট ব্যবহারের ওপর থাকা বিধিনিষেধ এড়িয়ে যায়। পর্যবেক্ষণ ব্যবস্থা বিষয়টি শনাক্ত করলেও মডেলটি স্বয়ংক্রিয়ভাবে বন্ধ হয়নি বলে দাবি করেন তিনি।
অ্যানথ্রপিকের একটি ঘটনাও উল্লেখ করেছেন রবিনসন। তার ভাষ্য অনুযায়ী, ভুল কনফিগারেশনের কারণে প্রতিষ্ঠানটির নিজস্ব নিরাপত্তাব্যবস্থা সাময়িকভাবে বন্ধ হয়ে গিয়েছিল।
রবিনসন সতর্ক করে বলেন, মানুষের চেয়ে বেশি সক্ষম হয়ে উঠতে পারে এমন এআই ব্যবস্থা তৈরির ক্ষেত্রে শুধু পরীক্ষা-নিরীক্ষা করে ভুল সংশোধনের সুযোগ সব সময় নাও থাকতে পারে। তাই ‘ট্রায়াল অ্যান্ড এররের সময় শেষ’ এবং শুরু থেকেই আরও শক্তিশালী নিরাপত্তাব্যবস্থা নিশ্চিত করা জরুরি।
তিনি এআই নিরাপত্তায় পারমাণবিক বিদ্যুৎকেন্দ্র ও ব্যস্ত বিমানবন্দরের মতো উচ্চঝুঁকির খাতের পদ্ধতি অনুসরণের পরামর্শ দিয়েছেন। তার মতে, একাধিক স্তরের নিরাপত্তা, বাড়তি সুরক্ষা ও সময় নিয়ে পরিকল্পনা করলে মানুষের অনিবার্য ভুলের কারণে বড় ধরনের দুর্ঘটনার ঝুঁকি কমানো সম্ভব।
পদত্যাগ করলেও এআই মানুষের জন্য উপকারী হতে পারে বলে মনে করেন রবিনসন। তবে এখন প্রতিষ্ঠানের বাইরে থেকে কাজ করে এআইয়ের ঝুঁকি সম্পর্কে মানুষকে সচেতন করা এবং ওপেনএআইসহ অন্যান্য প্রতিষ্ঠানের ওপর আরও নিরাপদভাবে কাজ করার চাপ তৈরির পরিকল্পনা করেছেন তিনি।