এআই এজেন্টদের শোষণ থেকে রোধ করতে এনভিডিয়া ওপেন এজেন্ট নিরাপত্তা প্ল্যাটফর্ম

এনভিডিয়া এআই ডেভেলপারদের এজেন্টদের জন্য সুরক্ষা ব্যবস্থা সেট আপ করতে এবং তাদের নিয়ন্ত্রণের বাইরে যাওয়া থেকে বিরত রাখতে একটি নতুন সফ্টওয়্যার প্ল্যাটফর্ম প্রকাশ করছে।

এনভিডিয়ার ওপেন এজেন্ট নিরাপত্তা প্ল্যাটফর্মের সোমবার লঞ্চ কোম্পানিগুলি অন্তর্ভুক্ত করার পরে আসে OpenAI, নৃতাত্ত্বিক, লক্ষ্যe গুগল সাম্প্রতিক ঘটনাগুলি প্রকাশ করেছে যেখানে তাদের AI মডেলগুলি তাদের স্যান্ডবক্স থেকে পালিয়ে গেছে এবং অন্য কোম্পানিগুলিতে হ্যাক করার এবং তাদের কম্পিউটার সিস্টেমগুলি অ্যাক্সেস করার চেষ্টা করেছে৷

এনভিডিয়ার একজন প্রতিনিধি রবিবার একটি কলে সাংবাদিকদের বলেছিলেন যে এর প্ল্যাটফর্ম জুলাই মাসে ওপেনএআই হাগিংফেস ঘটনা এড়াতে পারে। তখনই ওপেনএআই মডেলগুলি কন্টেনমেন্ট এড়িয়ে যায়, ওপেন ইন্টারনেট অ্যাক্সেস করে এবং হাগিং ফেস লঙ্ঘন করে, যা একটি ওপেন সোর্স ডেভেলপার প্ল্যাটফর্ম পরিচালনা করে।

“প্রতিটি নিরাপত্তা ঘটনাই অনন্য, এবং আমাদের সেগুলিকে বিশদভাবে বিশ্লেষণ করতে হবে,” জাস্টিন বোইতানো বলেছেন, বিশ্বের সবচেয়ে মূল্যবান কোম্পানি এনভিডিয়ার এন্টারপ্রাইজ এআই-এর ভাইস প্রেসিডেন্ট৷ “যতদূর আমরা জানি, হাগিং ফেস 17,000 এরও বেশি এজেন্ট তাদের অবকাঠামোতে আক্রমণ করেছে যা কয়েক দিন এবং সপ্তাহ ধরে চলেছিল।”

প্রায় চার বছর আগে ChatGPT চালু হওয়ার পর থেকে Nvidia জেনারেটিভ AI বুমের কেন্দ্রে রয়েছে, কারণ চিপমেকারের গ্রাফিক্স প্রসেসিং ইউনিটগুলি বৃহৎ ভাষার মডেল এবং হাইপারস্কেলারদের দ্বারা প্রদত্ত AI পরিষেবাগুলির বিকাশের কেন্দ্রবিন্দু। তবে সিইও জেনসেন হুয়াং সম্প্রতি এআই সুরক্ষা বিতর্কে একটি মূল কণ্ঠস্বর হিসাবে আবির্ভূত হয়েছেন, যুক্তি দিয়েছিলেন যে অনেক সুরক্ষা সমস্যা ইঞ্জিনিয়ারিং সমস্যা যা কম্পিউটিং এবং পণ্য বিকাশের মাধ্যমে সমাধান করা যেতে পারে।

“আপনি কী করতে পারতেন তা নিয়ে আপনাকে ভাবতে হবে, এর সমাধান কী,” হুয়াং সাম্প্রতিক ঘটনাগুলি উল্লেখ করে গত সপ্তাহে প্রকাশিত দ্য নিউ ইয়র্ক টাইমসের এজরা ক্লেইনের সাথে একটি পডকাস্টে বলেছিলেন। “ভবিষ্যতে, অনুগ্রহ করে আপনার প্রক্রিয়ার উন্নতি করুন যাতে এটি আবার না ঘটে।”

নৃতাত্ত্বিক সিইও দারিও আমোদি দুই সপ্তাহ আগে শিল্পে আগুনের ঝড় তুলেছিলেন, এআই মডেল বিকাশকারীদের মডেলগুলি হাত থেকে বেরিয়ে যাওয়ার আশঙ্কায় তাদের অগ্রগতির গতি ধীর করার আহ্বান জানিয়েছিলেন, একটি যুক্তি যা ওপেনএআই-এর স্যাম অল্টম্যান এবং সমর্থন করেছিল। স্পেসএক্স থেকে ইলন মাস্ক।

এনভিডিয়ার নতুন অফার হল এজেন্ট নিরাপত্তা সমস্যার একটি প্রকৌশলী সমাধান, বোইতানো বলেছেন।

“সাম্প্রতিক ঘটনাগুলি এআই এজেন্টদের জন্য একটি মূল বাধাকে হাইলাইট করেছে, এবং তা হল মডেল-স্তরের সুরক্ষাগুলি এজেন্টরা কী অ্যাক্সেস করতে পারে বা করতে পারে তা নিয়ন্ত্রণ করতে পারে না,” বোইতানো বলেছিলেন।

প্ল্যাটফর্মের একটি উপাদানকে Nvidia OpenShell বলা হয়, যা কেন্দ্রীয় প্রসেসরে চলে এবং এজেন্ট ক্ষমতার সীমা নির্ধারণ করে। এনভিডিয়া সেন্ট্রিও ঘোষণা করেছে, যা এজেন্টদের নিরীক্ষণ করে এবং নেটওয়ার্ক চিপগুলিতে চলে, সিপিইউ বা জিপিইউ নয়।

কিছু সফ্টওয়্যার ওপেন সোর্স, এবং এনভিডিয়া তার প্ল্যাটফর্মকে একটি রেফারেন্স ডিজাইন বলছে, যার অর্থ অংশীদাররা এটিকে বাজারে আনার জন্য এটির উপরে পণ্য তৈরি করতে চায়।

নাম এনভিডিয়া সিসকো, মাইক্রোসফট, ওরাকল, কোরওয়েভ, ডেল, এইচপিইলেনোভো, এআরএম e ইন্টেল অংশীদার হিসাবে এনভিডিয়া ওপেনশেলের সাথে ক্লাউড পরিচালিত এজেন্টকে একীভূত করতে অ্যানথ্রপিকের সাথে কাজ করছে।

দেখুন: পিছিয়ে থাকা এনভিডিয়া শীর্ষে রয়েছে৷