Pembuat ChatGPT OpenAI merilis alat pendeteksi konten buatan AI yang “tidak sepenuhnya andal” | Kecerdasan Buatan (AI)

OpenAI, lab penelitian di balik program AI ChatGPT, telah merilis alat yang dirancang untuk mendeteksi apakah teks ditulis oleh kecerdasan buatan, tetapi memperingatkan bahwa itu belum sepenuhnya dapat diandalkan — belum.

Dalam posting blog hari Selasa, OpenAI ditautkan ke alat klasifikasi baru yang telah dilatih untuk membedakan antara teks yang ditulis oleh manusia dan teks yang ditulis oleh berbagai AI, bukan hanya ChatGPT.

Peneliti AI terbuka mengatakan bahwa meskipun “tidak mungkin untuk mengenali semua teks yang ditulis oleh AI secara andal”, pengklasifikasi yang baik dapat mendeteksi tanda-tanda bahwa teks ditulis oleh AI. Alat ini dapat berguna dalam kasus di mana AI digunakan untuk “ketidakjujuran akademik” dan ketika chatbot AI diposisikan sebagai manusia, kata mereka.

Namun, mereka mengakui bahwa pengklasifikasi “tidak sepenuhnya dapat diandalkan” dan mengidentifikasi dengan benar hanya 26% teks berbahasa Inggris yang ditulis oleh AI. Itu juga salah menandai teks yang ditulis manusia karena kemungkinan ditulis oleh alat AI 9% dari waktu.

“Keandalan classifier kami biasanya meningkat seiring bertambahnya panjang teks masukan. Dibandingkan dengan pengklasifikasi kami yang dirilis sebelumnya, pengklasifikasi baru ini secara signifikan lebih andal pada teks dari sistem AI yang lebih baru.”

Sejak ChatGPT tersedia untuk umum, telah memicu gelombang kekhawatiran di antara lembaga pendidikan di seluruh dunia bahwa hal itu dapat menyebabkan kecurangan dalam ujian atau penilaian.

Dosen di Inggris sedang didesak untuk meninjau cara kursus mereka dinilai, sementara beberapa universitas telah melarang teknologi sepenuhnya dan kembali ke pena dan kertas Ujian untuk mencegah siswa menggunakan AI.

satu kata seorang dosen di Universitas Deakin Australia Kira-kira satu dari lima penilaian yang mereka nilai selama musim panas Australia telah menggunakan bantuan AI.

SEBUAH seri jurnal ilmiah juga telah melarang penggunaan ChatGPT dalam teks untuk makalah.

OpenAI mengatakan alat klasifikasi memiliki beberapa keterbatasan, termasuk tidak dapat diandalkannya teks di bawah 1.000 karakter, serta salah mengidentifikasi beberapa teks tulisan manusia sebagai tulisan AI. Para peneliti juga mengatakan itu hanya boleh digunakan untuk teks bahasa Inggris, karena kinerjanya “jauh lebih buruk” dalam bahasa lain dan tidak dapat diandalkan saat meninjau kode.

“Itu tidak boleh digunakan sebagai alat pengambilan keputusan utama, melainkan sebagai tambahan untuk metode lain untuk menentukan sumber teks,” kata OpenAI.

OpenAI sekarang telah meminta institusi pendidikan untuk berbagi pengalaman mereka menggunakan ChatGPT di kelas.

Sementara sebagian besar merespons dengan larangan AI, beberapa telah menerima gelombang AI. itu tiga universitas utama di Australia Selatan Bulan lalu mereka memperbarui kebijakan mereka untuk mengizinkan AI seperti ChatGPT digunakan selama diungkapkan.