ওপেনএআই সর্বশেষ মডেলের প্রশিক্ষণ বন্ধ করে দেয় কারণ এআই এজেন্টদের দূষিত বৃদ্ধির রিপোর্ট | OpenAI
ওপেনএআই বলেছে যে AI এজেন্টদের রিপোর্ট বেড়ে যাওয়ায় এটি তার সর্বশেষ এআই মডেলের প্রশিক্ষণ থামিয়ে দিয়েছে।
বিকাশ বন্ধ করার সিদ্ধান্তটি শুক্রবার কোম্পানি প্রকাশ করার কয়েক ঘন্টা পরে এসেছিল যে এটি গ্রীষ্মে বেশ কয়েকটি ঘটনা পর্যালোচনা করছে যেখানে ওপেনএআই এজেন্টরা ফেডারেল সরকারের ওয়েবসাইটগুলি অনুসন্ধান করছে অপ্রত্যাশিতভাবে তথ্য সংগ্রহ এবং বিতরণ করার সময় তাদের যা করতে বলা হয়েছিল তার বাইরে চলে গেছে।
আলাদাভাবে, এআই মূল্যায়নকারী ট্রান্সলুস বলেছেন যে এজেন্টরা ওপেনএআই থেকে বলে মনে হচ্ছে তারা মার্কিন শিক্ষা বিভাগের ওয়েবসাইট হ্যাক করার ব্যর্থ চেষ্টা করেছিল, একটি বিশদ বিবরণ যা OpenAI নিশ্চিত করেনি।
ওপেনএআই একটি বিবৃতিতে বলেছে যে এটি প্রশিক্ষণ পুনরায় শুরু করবে “কেবলমাত্র যখন আমরা আত্মবিশ্বাসী যে আমাদের অতিরিক্ত সুরক্ষা আছে,” যোগ করে যে AI বিকাশ এবং অন্যান্য সমস্যা দেখা দেওয়ার সাথে সাথে এটি আবার “বিরতি” করতে হবে বলে আশা করে।
গত সপ্তাহে, অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্টনি আলবানিজ প্রকাশ করেছেন যে একটি ওপেনএআই এজেন্ট সরকারের জাতীয় স্বাস্থ্য ব্যবস্থা লঙ্ঘন করেছে, তবে বলেছে যে কোনও সংবেদনশীল তথ্যের সাথে আপোস করা হয়নি।
এআই ল্যাবগুলি আইন প্রণেতাদের এবং প্রযুক্তি বিশেষজ্ঞদের দ্বারা বিকাশের ধীরগতির জন্য চাপের সম্মুখীন হচ্ছে যাতে তারা এজেন্টদের তাদের নিজস্ব কাজ করা, ওয়েবসাইট হ্যাক করা এবং অ-পাবলিক তথ্য ফাঁস করা থেকে রক্ষা করার জন্য প্রতিরক্ষামূলক বেড়া তৈরি করতে পারে। ওপেনএআই এবং এর প্রতিদ্বন্দ্বী অ্যানথ্রপিকের প্রধানরাও মন্থরতার আহ্বান জানিয়েছেন।
তিন মাসের মধ্যে এটি দ্বিতীয়বার যে ওপেনএআই তার মডেলগুলির বিকাশ বন্ধ করেছে। প্রথমটি জুলাই মাসে কৃত্রিম বুদ্ধিমত্তা স্টার্টআপ হাগিং ফেসকে লক্ষ্য করে একটি সাইবার আক্রমণের প্রকাশের পরে এসেছিল, একটি এখন-কুখ্যাত ঘটনা যা শিল্প নিয়ন্ত্রণ হারাচ্ছে বলে আশঙ্কা তৈরি করেছিল।
এই সপ্তাহে চীনা রাষ্ট্রপতি শি জিনপিংয়ের সাথে বৈঠকে, ডোনাল্ড ট্রাম্প AI এর বিপদ সম্পর্কে তথ্য ভাগ করে নিতে এবং এটিকে সুরক্ষিত রাখার প্রচেষ্টার সমন্বয় করতে সম্মত হন। যাইহোক, ট্রাম্প বিশ্বাস করেন যে এআই ভয় অত্যধিক এবং পরে পরামর্শ দিয়েছেন যে তিনি কোনও ক্র্যাকডাউনের পরিকল্পনা করছেন না।
ট্রাম্প হোয়াইট হাউসের বাইরে সাংবাদিকদের বলেন, আমেরিকা “ব্রেক লাগাতে” যাচ্ছে না। “তারা আমাদের অগ্রগতি বন্ধ করতে চায় কারণ আমরা চীনকে অনেক এগিয়ে নিয়ে যাচ্ছি এবং আমরা তা চালিয়ে যাব।”
OpenAI এর সাম্প্রতিক ঘটনাগুলি অ-পাবলিক তথ্য প্রকাশের সাথে জড়িত বলে মনে হয় না, তবে তারা জড়িত ফেডারেল সংস্থাগুলিকে সতর্ক করার জন্য কোম্পানির পক্ষে যথেষ্ট উদ্বেগজনক ছিল।
শিক্ষা বিভাগের ঘটনায়, ওপেনএআই এজেন্টরা সরকারি ডেটা অ্যাক্সেস করার জন্য API “ডেভেলপার কী” খুঁজে পেয়েছিল, যদিও শেষ পর্যন্ত শুধুমাত্র সর্বজনীনভাবে উপলব্ধ তথ্য সংগ্রহ করা হয়েছিল।
সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশনের সাথে জড়িত অন্য একটি ক্ষেত্রে, এজেন্টরা প্রত্যেকের কাছে অবাধে উপলব্ধ তথ্য খুঁজে পেয়েছিল, কিন্তু তারপরে এটি ইন্টারনেটে অন্য কোথাও পোস্ট করেছে, একটি কাজ যা তাদের যা করতে নির্দেশ দেওয়া হয়েছিল তার বাইরে চলে গেছে।
ইউএস সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশনের মুখপাত্র কার্ট হপফেন্সপাইগার শনিবার বলেছেন যে “কোন অপাবলিক তথ্য অ্যাক্সেস করা হয়নি।”
শিক্ষা বিভাগ পূর্বে বলেছিল যে এটি “আমাদের ওয়েবসাইট বা ডাটাবেসে কোন প্রভাবের প্রমাণ পায়নি”।
অন্যান্য বেশ কয়েকটি এআই কোম্পানি তাদের মডেলদের অপরাধী হয়ে ওঠা এমনকি ওয়েবসাইট হ্যাক করার ঘটনা প্রকাশ করেছে।
ওপেনএআই সিইও স্যাম অল্টম্যান শুক্রবার একটি সোশ্যাল মিডিয়া পোস্টে বলেছেন যে হাগিং ফেস ঘটনাটি “আমরা এখন পর্যন্ত দেখা সবচেয়ে গুরুতর ঘটনা হিসাবে রয়ে গেছে।”
ওপেনএআই এর আগে এআই মডেলগুলিতে “অপ্রত্যাশিত বা উদ্বেগজনক” আচরণের ছয়টি প্রতিবেদন ভাগ করেছে এবং উদাহরণগুলি ট্র্যাকিং, তদন্ত এবং প্রকাশের জন্য একটি কাঠামো চালু করেছে।
