Gần đây mở AI, công ty nghiên cứu trí tuệ nhân tạo phi lợi nhuận làm cho nó được biết đến thông qua một ấn phẩm công cụ kiểm duyệt nội dung Mới và Cải tiến (Công cụ kiểm duyệt nội dung), mà nó đề cập chính xác hơn và nhằm giúp các nhà phát triển API bảo vệ các ứng dụng của họ.
Nhóm nghiên cứu OpenAI đã công bố bản cập nhật cho công cụ kiểm duyệt nội dung miễn phí hiện đã có sẵn cho tất cả các nhà phát triển.
Điểm cuối kiểm duyệt cho phép truy cập thông qua giao diện lập trình ứng dụng đến các bộ phân loại dựa trên máy biến áp được đào tạo trước chung của OpenAI, mô hình AI là gì ai đã được đào tạo để phát hiện nội dung không mong muốn trong ứng dụng, công ty cho biết trong một bài đăng trên blog. Các bộ phân loại này phát hiện bất kỳ nội dung không cần thiết nào trong các ứng dụng.
Công ty đã áp dụng bản cập nhật này để hoạt động mạnh mẽ trong một loạt các ứng dụng, bao gồm mạng xã hội, hệ thống nhắn tin và trò chuyện AI.
Sau khi bạn cung cấp văn bản đầu vào, Điểm cuối kiểm duyệt phân tích nội dung dưới dạng ngôn từ kích động thù địch, nội dung khiêu dâm, ngôn ngữ lạm dụng, v.v., cần được lọc. Chặn tất cả nội dung (được tạo bởi API OpenAI) điều đó đi ngược lại chính sách nội dung của OpenAI. Ngoài ra, điểm cuối cũng có thể xóa và chặn nội dung có hại do con người tạo ra.
Điểm cuối đã được đào tạo để nhanh chóng, chính xác và mạnh mẽ trong nhiều ứng dụng khác nhau. Điều quan trọng là, điều này làm giảm khả năng các sản phẩm "nói" sai, ngay cả khi được triển khai cho người dùng trên quy mô lớn. Do đó, AI có thể mở ra các lợi ích trong các môi trường nhạy cảm, chẳng hạn như giáo dục, nơi mà nó không thể được sử dụng một cách tự tin.
Phiên bản cải tiến của điểm cuối Kiểm duyệt được thiết kế để nhanh chóng, chính xác và mạnh mẽ trên nhiều loại ứng dụng, bao gồm chatbots hỗ trợ bởi AI, hệ thống nhắn tin và các trang web mạng xã hội.
Điều quan trọng, OpenAI cho biết nó làm giảm đáng kể khả năng một mô hình AI "nói" điều sai. Điều đó có nghĩa là AI có thể được sử dụng trong các cài đặt nhạy cảm hơn, như các ứng dụng giáo dục, nơi mọi người có thể đã đặt trước về việc triển khai công nghệ này.
điều đáng nói là công cụ này miễn phí khi được sử dụng với nội dung được tạo bởi API OpenAI. Ngoài việc kiểm duyệt bot, bạn cũng có thể chặn nội dung có hại không phải do API OpenAI mà do con người tạo ra. Nền tảng nhắn tin ẩn danh NGL, cung cấp nền tảng cho những người trẻ tuổi chia sẻ cảm xúc và ý kiến của họ, sử dụng công cụ OpenAI để phát hiện lời nói căm thù và quấy rối. NGL cho biết công cụ này có khả năng duy nhất để khái quát về tiếng lóng mới nhất, cho phép nó phù hợp với sự phát triển của ngôn ngữ được thanh thiếu niên sử dụng chẳng hạn.
Cũng cần đề cập đến rằng trong trường hợp lưu lượng truy cập không phải API, điểm cuối kiểm duyệt phải trả phí.
Là một phần trong cam kết của OpenAI trong việc làm cho hệ sinh thái AI an toàn hơn, chúng tôi cung cấp điểm cuối này để cho phép kiểm duyệt miễn phí tất cả nội dung được tạo bởi API OpenAI. Ví dụ: Inworld, một ứng dụng khách API OpenAI, sử dụng điểm cuối kiểm duyệt để giúp các nhân vật dựa trên AI ảo của nó "duy trì tập lệnh". Bằng cách tận dụng công nghệ OpenAI, Inworld có thể tập trung vào sản phẩm cốt lõi của mình: tạo ra những nhân vật đáng nhớ.
OpenAI đã nói rằng các nhà phát triển đã có thể bắt đầu sử dụng nó bằng cách tham khảo tài liệu của nó. Nó cũng xuất bản một tài liệu nêu chi tiết quá trình đào tạo và hiệu suất của mình, cùng với một bộ dữ liệu đánh giá mà nó cho biết sẽ truyền cảm hứng cho các nghiên cứu sâu hơn trong lĩnh vực kiểm duyệt do AI hỗ trợ.
Cuối cùng nếu bạn muốn biết thêm về nó, bạn có thể kiểm tra các chi tiết trong liên kết sau.