সম্প্রতি OpenAI, অলাভজনক কৃত্রিম বুদ্ধিমত্তা গবেষণা সংস্থা এটা জানা একটি প্রকাশনার মাধ্যমে বিষয়বস্তু সংযম সরঞ্জাম নতুন এবং উন্নত (কন্টেন্ট মডারেশন টুলিং), যা এটি উল্লেখ করেছে আরও সুনির্দিষ্ট এবং API বিকাশকারীদের তাদের অ্যাপ্লিকেশনগুলিকে সুরক্ষিত করতে সহায়তা করার উদ্দেশ্যে।
OpenAI গবেষণা দল তার বিনামূল্যের বিষয়বস্তু সংযম সরঞ্জামের একটি আপডেট ঘোষণা করেছে যা এখন সমস্ত বিকাশকারীদের জন্য উপলব্ধ।
সংযম শেষ বিন্দু একটি অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেসের মাধ্যমে ওপেনএআই-এর জেনারেটিভ প্রিট্রেইনড ট্রান্সফরমার-ভিত্তিক ক্লাসিফায়ারগুলিতে অ্যাক্সেসের অনুমতি দেয়, এআই মডেল কি? যারা প্রশিক্ষিত হয়েছে অবাঞ্ছিত বিষয়বস্তু সনাক্ত করতে অ্যাপসে, কোম্পানিটি একটি ব্লগ পোস্টে বলেছে। এই শ্রেণিবিন্যাসকারীরা অ্যাপ্লিকেশনগুলিতে যে কোনও অপ্রয়োজনীয় বিষয়বস্তু সনাক্ত করে।
কোম্পানি এই আপডেট আরোপ করা হয়েছে বিস্তৃত অ্যাপ্লিকেশনে দৃঢ়ভাবে সঞ্চালন করতেসামাজিক নেটওয়ার্ক, মেসেজিং সিস্টেম এবং এআই চ্যাটবট সহ।
একবার আপনি একটি ইনপুট পাঠ্য প্রদান করেন, মডারেশন এন্ডপয়েন্ট কন্টেন্টকে ঘৃণাত্মক বক্তব্য হিসেবে বিশ্লেষণ করে, যৌন বিষয়বস্তু, গালিগালাজ, ইত্যাদি ফিল্টার করতে হবে। সমস্ত সামগ্রী ব্লক করুন (OpenAI API দ্বারা উত্পন্ন) যা OpenAI কন্টেন্ট নীতির বিরুদ্ধে যায়. উপরন্তু, এন্ডপয়েন্ট ক্ষতিকারক মানব-উত্পাদিত সামগ্রী অপসারণ এবং ব্লক করতে পারে।
এন্ডপয়েন্টকে বিভিন্ন ধরনের অ্যাপ্লিকেশনে দ্রুত, নির্ভুল এবং শক্তিশালী হতে প্রশিক্ষিত করা হয়েছে। গুরুত্বপূর্ণভাবে, এটি পণ্যের "ভুল কথা বলার" সম্ভাবনা কমিয়ে দেয়, এমনকি স্কেলে ব্যবহারকারীদের কাছে রোল আউট করার পরেও৷ ফলস্বরূপ, AI সংবেদনশীল পরিবেশে সুবিধাগুলি আনলক করতে পারে, যেমন শিক্ষা, যেখানে এটি অন্যথায় আত্মবিশ্বাসের সাথে ব্যবহার করা যায় না।
মডারেশন এন্ডপয়েন্টের উন্নত সংস্করণ দ্রুত, সঠিক এবং শক্তিশালী হতে ডিজাইন করা হয়েছে এআই-চালিত চ্যাটবট, মেসেজিং সিস্টেম এবং সোশ্যাল নেটওয়ার্কিং সাইট সহ একাধিক ধরনের অ্যাপ্লিকেশন জুড়ে।
গুরুত্বপূর্ণভাবে, ওপেনএআই বলেছে যে এটি একটি এআই মডেলের ভুল জিনিস "বলা" হওয়ার সম্ভাবনা উল্লেখযোগ্যভাবে হ্রাস করে। এর অর্থ হল AI শিক্ষামূলক অ্যাপ্লিকেশনের মতো আরও সংবেদনশীল সেটিংসে ব্যবহার করা যেতে পারে, যেখানে লোকেরা আগে প্রযুক্তি প্রয়োগ করার বিষয়ে সংরক্ষণ করতে পারে।
এটি উল্লেখ করার মতো OpenAI API দ্বারা উত্পন্ন সামগ্রীর সাথে ব্যবহার করার সময় টুলটি বিনামূল্যে। মডারেট বট ছাড়াও, আপনি ক্ষতিকারক বিষয়বস্তু ব্লক করতে পারেন যা OpenAI API দ্বারা নয়, মানুষের দ্বারা তৈরি হয়। বেনামী মেসেজিং প্ল্যাটফর্ম NGL, যা তরুণদের তাদের অনুভূতি এবং মতামত শেয়ার করার জন্য একটি প্ল্যাটফর্ম প্রদান করে, ঘৃণামূলক বক্তব্য এবং হয়রানি সনাক্ত করতে OpenAI টুল ব্যবহার করে। এনজিএল বলেছে যে টুলটিতে সাম্প্রতিক স্ল্যাংয়ের চারপাশে সাধারণীকরণ করার অনন্য ক্ষমতা রয়েছে, উদাহরণস্বরূপ এটি কিশোর-কিশোরীদের দ্বারা ব্যবহৃত ভাষার বিবর্তনের সাথে মেলে।
এটি উল্লেখ করাও গুরুত্বপূর্ণ যে নন-এপিআই ট্র্যাফিকের ক্ষেত্রে, মডারেশন এন্ডপয়েন্ট একটি ফি সাপেক্ষে।
AI ইকোসিস্টেমকে আরও সুরক্ষিত করার জন্য OpenAI-এর প্রতিশ্রুতির অংশ হিসাবে, আমরা OpenAI API দ্বারা উত্পন্ন সমস্ত বিষয়বস্তুর বিনামূল্যে সংযম সক্ষম করতে এই এন্ডপয়েন্ট প্রদান করি। উদাহরণস্বরূপ, Inworld, একটি OpenAI API ক্লায়েন্ট, তার ভার্চুয়াল AI-ভিত্তিক অক্ষরগুলিকে "স্ক্রিপ্টে থাকতে" সাহায্য করার জন্য মডারেশন এন্ডপয়েন্ট ব্যবহার করে। ওপেনএআই প্রযুক্তি ব্যবহার করে, ইনওয়ার্ল্ড তার মূল পণ্যের উপর ফোকাস করতে পারে: স্মরণীয় চরিত্র তৈরি করা।
ওপেনএআই বলেছে বিকাশকারীরা ইতিমধ্যেই এর ডকুমেন্টেশনের সাথে পরামর্শ করে এটি ব্যবহার শুরু করতে পারেন। এটি একটি মূল্যায়ন ডেটাসেটের সাথে তার প্রশিক্ষণ এবং কর্মক্ষমতা প্রক্রিয়ার বিশদ বিবরণী একটি নথিও প্রকাশ করেছে যা এটি বলেছে যে এটি এআই-চালিত সংযমের ক্ষেত্রে আরও গবেষণাকে অনুপ্রাণিত করবে।
পরিশেষে আপনি যদি এটি সম্পর্কে আরও জানতে আগ্রহী হন, আপনি বিশদটি পরীক্ষা করতে পারেন নিম্নলিখিত লিঙ্ক।