Yapay zekâ destekli sohbet botları, özellikle OpenAI’ın ChatGPT’si, iş süreçlerini kökten değiştirecek teknolojiler olarak büyük ilgi görüyor. Hatta bazıları bu araçların insanların işlerini ellerinden alabileceğinden endişe ediyor. Birçok çalışan da günlük işlerini kolaylaştırmak için yapay zekâya yöneliyor. Ancak Purdue Üniversitesi’nden yeni bir araştırma, ChatGPT’nin programlama sorularına verdiği cevaplarda dikkat çekici bir hata oranı olduğunu ortaya koyuyor.
Araştırmacılar, popüler programlama forumu Stack Overflow’dan aldıkları 517 soruyu ChatGPT’ye yönelttiler. Sonuçlar oldukça çarpıcı: Yapay zekâ sohbet botu, soruların %52’sine yanlış cevap verdi. Dahası, cevapların %77’si detaylı ve ikna edici bir üslupla yazılmıştı. Çalışmaya katılan geliştiriciler, ChatGPT’nin cevaplarının %39’undaki hataları fark edemedi. Bu da, görünüşte doğru fakat aslında hatalı olan cevapların oluşturabileceği riskleri gözler önüne seriyor.
Elbette bu çalışma sadece tek bir senaryoyu ele alıyor ve her sohbet botu farklı amaçlara hizmet etmek üzere tasarlanıyor. Yapay zekâ şirketleri, botlarının doğruluk oranını artırmak için sürekli çalışıyorlar. Yine de bu araştırma, yapay zekâ araçlarına körü körüne güvenmememiz gerektiği ve her zaman eleştirel düşünceyi elden bırakmamamız gerektiği konusunda önemli bir uyarı niteliğinde.
Hata!
Yorumunuz Çok Kısa, Yorum yapabilmek için en az En az 10 karakter gerekli