ওপেনএআই নিরাপত্তা সংক্রান্ত উদ্বেগের কারণে নতুন মডেলের প্রকাশকে বাতিল করেছে
নিরাপত্তা উদ্বেগের কারণে OpenAI তার নতুন AI মডেল – GPT-6.1 Astra – প্রকাশ করবে না, ChatGPT-এর নির্মাতা মঙ্গলবার নিশ্চিত করেছেন।
কৃত্রিম বুদ্ধিমত্তা সিস্টেম, যা ওয়েব ব্রাউজিং এবং অ্যাপ ব্যবহার করার মতো কাজগুলি সম্পাদন করে, কোম্পানির মানগুলির “মান পূরণ করেনি”, ওপেনএআই-এর নিরাপত্তা ব্যবস্থার প্রধান সাচি জৈন বলেছেন।
মঙ্গলবার, OpenAI ঘটনাগুলির উপর একটি আপডেটও প্রকাশ করেছে – যা জুনে ঘটেছে কিন্তু গত সপ্তাহ পর্যন্ত প্রকাশ করা হয়নি – যেখানে এর মডেলগুলি অস্ট্রেলিয়ান সরকারী ওয়েবসাইট এবং সিস্টেমগুলিতে অননুমোদিত অ্যাক্সেস পেয়েছে।
এই ঘটনা এবং প্রধান এআই সংস্থাগুলির দ্বারা তৈরি মডেলগুলির অন্যান্য অনুরূপ লঙ্ঘন সাম্প্রতিক সপ্তাহগুলিতে প্রযুক্তি দ্বারা সৃষ্ট ঝুঁকি নিয়ে বিতর্ককে তীব্র করেছে।
সাম্প্রতিক সপ্তাহগুলিতে, ওপেনএআই-এর স্যাম অল্টম্যান এবং নৃতাত্ত্বিক প্রধান দারিও অ্যামোডেই সহ শীর্ষ এআই নেতারা প্রযুক্তির সাথে যুক্ত ঝুঁকির বিষয়ে উদ্বেগের কারণে শিল্পকে উন্নয়নের গতি ধীর করার আহ্বান জানিয়েছেন।
ওপেনএআই-এর সিদ্ধান্ত, যা প্রথম ওয়াল স্ট্রিট জার্নাল দ্বারা রিপোর্ট করা হয়েছিল, এটি একটি বিরল ঘটনা যে একটি প্রধান এআই বিকাশকারী নিরাপত্তা উদ্বেগের কারণে একটি নতুন সংস্করণ বের করে নিয়েছে।
সর্বশেষ মডেলটি “ক্ষেত্র এবং অনুমোদনের মধ্যে রাখা, এবং এটি কীভাবে ব্যবহারকারীর সাথে কী ধরনের কাজ করা হচ্ছে তার সাথে যোগাযোগ করে,” জৈন বলেন।
“আমরা নিশ্চিত করতে চাই যে আমাদের মডেল ডেভেলপমেন্ট সুরক্ষিত হোক, তা ইন-হাউস হোক বা যখন আমরা এটি ব্যবহারকারীদের কাছে পাঠাই। কিন্তু যখন আমরা এটি ব্যবহারকারীদের কাছে পাঠাই, তখন নিরাপত্তা এবং প্রান্তিককরণের ক্ষেত্রে আমাদের একটি অত্যন্ত উচ্চ বার থাকে,” তিনি যোগ করেন।
GPT-6 Astra ফ্ল্যাগশিপ এজেন্ট মডেলটি সেপ্টেম্বরে চালু করা হয়েছিল এবং এটি জটিল যুক্তি এবং স্বায়ত্তশাসিত কার্য সম্পাদনে বিশেষজ্ঞ। ওপেনএআই বলেছে যে এটি “বছরের গবেষণা এবং বড় বাজির ফলাফল।”
এর প্রযুক্তির সাথে জড়িত বেশ কয়েকটি হাই-প্রোফাইল ঘটনার পরে কোম্পানির নিরাপত্তা নিয়ন্ত্রণগুলি তীব্র তদন্তের অধীনে এসেছে।
