OpenAI Gunakan GPT-4 untuk Bangun Sistem Moderasi Konten

MODERASI konten menjadi tantangan yang sulit di dunia internet selama beberapa dekade. Ini adalah isu yang rumit dan subjektif. Sulit dihadapi oleh siapa pun, mengingat variasi dalam menilai konten yang diperbolehkan pada platform tertentu.

OpenAI, pencipta ChatGPT, percaya bahwa teknologi mereka dapat membantu dan telah menjalani uji coba kemampuan moderasi konten menggunakan model GPT-4.

Baca Juga:

Sam Altman Ancam OpenAI akan Tinggalkan Uni Eropa

Laman Engadget menuliskan, Rabu (16/8), pendekatan itu melibatkan pemanfaatan model multimodal besar untuk menciptakan sistem moderasi konten yang dapat diubah sesuai skala, konsistensi, dan kebutuhan.

OpenAI mengungkapkan dalam posting di blognya bahwa GPT-4 tidak hanya dapat membantu dalam pengambilan keputusan moderasi konten. Namun juga dalam mengembangkan kebijakan dan menyesuaikan perubahan kebijakan secara cepat.

Mereka mengklaim teknologi itu mampu mengurangi waktu siklus dari bulan menjadi hanya beberapa jam. Model itu dianggap mampu memahami beragam peraturan dan nuansa dalam kebijakan konten. Juga dapat menyesuaikan diri dengan pembaruan apa pun, menghasilkan pelabelan konten yang lebih konsisten.

Tim dari OpenAI, termasuk Lilian Weng, Vik Goel, dan Andrea Vallone, menyatakan keyakinan bahwa pendekatan ini membawa pandangan positif pada masa depan platform digital.

Teknologi AI dapat membantu dalam memoderasi lalu lintas online sesuai dengan kebijakan platform, meringankan beban besar moderator manusia. Mereka mengungkapkan bahwa siapa pun yang memiliki akses ke API OpenAI dapat menerapkan metode ini untuk mengembangkan sistem moderasi berbasis AI mereka sendiri.

OpenAI juga mengklaim bahwa alat moderasi GPT-4 dapat membantu perusahaan melaksanakan pekerjaan yang biasanya memerlukan waktu enam bulan dalam waktu hanya satu hari.

Baca Juga:

OpenAI Rilis ChatGPT Plus Berlangganan

Diketahui bahwa meninjau konten yang bersifat traumatis secara manual memiliki dampak signifikan pada kesejahteraan mental moderator manusia, terutama saat mereka berhadapan dengan materi grafis.

Banyak perusahaan, termasuk Meta, menggunakan AI untuk membantu para moderator. Namun OpenAI berpendapat bahwa sejauh ini, bantuannya terbatas pada model pembelajaran mesin vertikal spesifik yang lebih kecil.

Dengan meminimalkan peran manusia dalam beberapa tahap. Maka proses moderasi yang bisa diatasi oleh model bahasa. Kemudian sumber daya manusia dapat difokuskan pada kasus kompleks yang lebih memerlukan pemahaman mendalam.

Namun, OpenAI menekankan bahwa peran manusia tetap penting dalam proses ini. Andrea Vallone, anggota tim kebijakan OpenAI, mengatakan bahwa tim mereka terus melakukan tinjauan manusia untuk memvalidasi beberapa penilaian model.

Model bahasa, seperti halnya aplikasi AI lainnya, rentan terhadap bias yang tidak diinginkan yang mungkin muncul selama pelatihan. Oleh karena itu, perlu pemantauan, validasi, dan penyempurnaan yang cermat untuk menjaga hasil yang dihasilkan oleh model ini. (waf)

Baca Juga:

OpenAI Kembangkan Kustomisasi Instruksi untuk ChatGPT