OpenAI bile ChatGPT intihalini tespit etmeye çalışmaktan vazgeçti
Çılgınca popüler yapay zeka (AI) sohbet robotu ChatGPT’nin yaratıcısı OpenAI, insanlar yerine yapay zeka tarafından oluşturulan içeriği tespit etmek için geliştirdiği aracı kapattı. AI Classifier olarak adlandırılan araç, “düşük doğruluk oranı” nedeniyle piyasaya sürüldükten sadece altı ay sonra kapatıldı. OpenAI dedi.
ChatGPT ve rakip hizmetlerin popülaritesi hızla arttığından, kontrolsüz yapay zeka kullanımının sonuçları konusunda endişe duyan çeşitli gruplardan ortak bir tepki geldi. Bir kere, eğitimciler, öğrencilerin ChatGPT’yi yazılarını ve ödevlerini yazıp kendilerininmiş gibi dağıtmak için kullanma potansiyelinden özellikle rahatsız oldular.
OpenAI’nin AI Sınıflandırıcısı, bu ve diğer grupların korkularını yatıştırma girişimiydi. Fikir, bir metnin bir insan tarafından mı yoksa bir yapay zeka sohbet robotu tarafından mı yazıldığını belirleyebilmek ve insanlara hem öğrencileri adil bir şekilde değerlendirmek hem de dezenformasyonla mücadele etmek için bir araç vermekti.
Yine de en başından beri, OpenAI kendi aracına pek güvenmiyor gibi görünüyordu. OpenAI, aracı duyuran bir blog yazısında, “sınıflandırıcımızın tamamen güvenilir olmadığını” beyan etti ve yapay zeka tarafından yazılmış metinleri bir “meydan okuma setinden” yalnızca %26 oranında doğru bir şekilde tanımladığını belirtti.
Aracı bırakma kararı çok fazla takdir edilmedi ve OpenAI web sitesinde özel bir gönderi yayınlamadı. Bunun yerine şirketin sahip olduğu gönderiyi güncelledi AI Sınıflandırıcısını ortaya çıkardığı ve “AI sınıflandırıcısının, düşük doğruluk oranı nedeniyle artık mevcut olmadığını” belirtti.
Güncelleme şöyle devam etti: “Geri bildirimleri dahil etmek için çalışıyoruz ve şu anda metin için daha etkili kaynak teknikleri araştırıyoruz ve kullanıcıların işitsel veya görsel içeriğin yapay zeka tarafından üretilip üretilmediğini anlamasını sağlayan mekanizmalar geliştirip dağıtma taahhüdünde bulunduk.”
Daha iyi araçlara ihtiyaç var
AI Sınıflandırıcı, AI tarafından hazırlanmış içeriği tespit etmek için geliştirilen tek araç değildir; OpenAI’nin kararına rağmen GPTZero var ve çalışmaya devam edecek.
AI yazısını tanımlamaya yönelik geçmiş girişimler, muhteşem bir şekilde geri tepti. Örneğin, Mayıs 2023’te bir profesör, öğrencilerinin ödevlerindeki intihalleri tespit etmek için ChatGPT’ye kaydolduktan sonra yanlışlıkla tüm sınıfta başarısız oldu. Söylemeye gerek yok, ChatGPT fena halde yanlış anladı, profesör de öyle.
OpenAI bile kendi chatbot’u tarafından yaratılan intihali doğru bir şekilde algılayamadığını kabul ettiğinde bu endişe nedenidir. Yapay zeka sohbet robotlarının yıkıcı potansiyeline ilişkin endişelerin arttığı bir zamanda geliyor ve bu alandaki gelişimin geçici olarak askıya alınması çağrısında bulunuyor. AI’nın bazılarının tahmin ettiği kadar etkisi varsa, dünyanın OpenAI’nin başarısız AI Sınıflandırıcısından daha güçlü araçlara ihtiyacı olacak.
Editörlerin Önerileri
